Suena a un problema de recalentamiento, probablemente de la grafica. Si nos das más informacion, que procesador, RAM, etc tienes podremos ayudarte mejor.

Conviene que compruebes las temperaturas del micro con un programa con el speedfan. Las de la grafica es posible que puedas verlas desde el panerl de control de nVidia.

Salu2