L'instabilità generale è sintomo di guaio grave: se le ram hanno passato il test potrebbe essere la scheda madre, anche a causa di qualche settaggio male impostato.
Entra nel bios e imposta tutti i valori fondamentali a mano: fsb 333, fsb strap to northbridge 333, ram ddr2-800, parametri di latenza ram 5-5-5-18 (le dominator reggono latenze più basse, ma prova a metterle così, sono le latenze standard), pci express frequency 100, voltaggio ram 1,8 V.
Sono tutti valori standard, servono a escludere che la scheda madre imposti qualche valore eccessivo che possa causare i tuoi problemi.