Klingt nach einem Problem der Grafikkarte, vermutlich Hitzeproblem.
Ist der Kühlkörper richtig sauber und der Lüfter? Dreht sich der Lüfter? Welche Temperatur hat die Graka im Betrieb? (mit zb Everest auslesen)
Hast du einen weiteren PCI E Slot zum umstecken am Board? Hast du genug Strom an der Graka, direkt vom Strang nicht über einen Y Verteiler?
Neusten Treiber drauf? den alten vorher vernüftig deinstalliert?
und und und ^^