tra la 7800GS e la 6800Gt che hai detto tu, a livello prestazionale la 7800 è nettamente superiore, altrimenti c'è la Radeon x850xt che è seconda nella classifica delle schede AGP.
Cmq dato che le AGP oramai costano troppo, io ti consiglierei di passare al PCI-ex cambiando la mobo visto che hai processore recente (un socket 939), e puntare su una 7800GT o 7800GTX o x1800xt o x1800XL, in modo da avere ulteriore possibilità di upgrade in fututo.
Per il processore una leggera cloccatina e stai a posto.
cmq dimmi il tuo budget e poi ne riparliamo