Lo suyo sería intentar dar con el problema por eliminación:

Prueba lo de quitar el overclock o desactivar esas cosas en la BIOS.

Pasa un memtest, y sino salen errores descartaría que el problema tuviera que ver la memoria.