Io farei un prova impostando XMP, abbassare manualmente il VCCIO a 1.20V e il VCCSA a 1.25V(sparare alto in modo insensato crea instabilità, soprattutto su schede madri come la tua che non sono proprio eccezionali), command rate su 2T, e il Dram voltage a 1.40.
Comunque temo che qui il limite fisico sia la scheda madre e ci sia poco o nulla da fare.