Ripeto, sei sicuro che stai salendo in sincrono? Ossia il rapporto FSB\RAM è 1:1? Di default questo è a 3:4, ossia con un Fsb di 200 Mhz (default) le Ram lavorano a 266 Mhz, salendo a 260 Mhz di Fsb (ossia 3,9 Ghz di frequenza del processore, 260 x 15 (moltiplicatore, fisso)), le Ram lavorano a 346 Mhz e probabilmente non reggono, invece se setti il rapporto ad 1:1 saresti con le Ram a 266 Mhz, pienamente in specifica, visto che ci starebbero a default con un Fsb di 200 Mhz e rapporto 3:4.
Seconda cosa, prova ad alzare il voltaggio di alimentazione della Ram, portandolo da 1,8 a 1,85 o 1,9. Rilassa i timing delle Ram lasciando quelli di default a 200 Mhz, poi vedi se riesci a diminuirli, ma solo dopo che l'OC è stabile e soddisfacente, così elimini una variabile.
In ultimo hai fissato le frequenze di lavoro di PCI e PCI-EXPRESS? Devono essere rispettivamente a 33.33 Mhz e 100.00 Mhz; se non le fissi anche queste sono legate al FSB, ossia elevando quest'ultimo fai innalzare anche la frequenza di funzionamento di Pci e Pci-Express, cosa che NON VA' FATTA.
In ultimo, dopo tutte queste provi e questi controlli, lancia OCCT, vedi se ti passa il test e controlla le temperature massime raggiunte.