Scheda video per AI locale

[master1986]

Buongiorno a tutti, vorrei prendere una scheda video per utilizzare modelli AI con ollama, anche per coding... Sia per interrogarli in locale con prompt da python ecc utilizzando l output in applicazioni web.

Data la crisi in atto e i periodi che peggioreranno quale modello mi consigliate nel mio caso. La scheda dovrebbe affiancare un ryzen 7950x con 32gb di RAM ddr5....

 

[Kelion]

Buongiorno a tutti, vorrei prendere una scheda video per utilizzare modelli AI con ollama, anche per coding... Sia per interrogarli in locale con prompt da python ecc utilizzando l output in applicazioni web.

Data la crisi in atto e i periodi che peggioreranno quale modello mi consigliate nel mio caso. La scheda dovrebbe affiancare un ryzen 7950x con 32gb di RAM ddr5....

Ciao. Scheda NVidia con tanta VRAM quindi costo alto

 

[crimescene]

Buongiorno a tutti, vorrei prendere una scheda video per utilizzare modelli AI con ollama, anche per coding... Sia per interrogarli in locale con prompt da python ecc utilizzando l output in applicazioni web.

Data la crisi in atto e i periodi che peggioreranno quale modello mi consigliate nel mio caso. La scheda dovrebbe affiancare un ryzen 7950x con 32gb di RAM ddr5....

La meno cara possibile è la 5070 ti

altriemntio la 5080

E chiaramente se hai un budgeto che lo permette la 5090 (se la trovi a prezzi umani)

 

[mr_loco]

Buongiorno a tutti, vorrei prendere una scheda video per utilizzare modelli AI con ollama, anche per coding... Sia per interrogarli in locale con prompt da python ecc utilizzando l output in applicazioni web.

Data la crisi in atto e i periodi che peggioreranno quale modello mi consigliate nel mio caso. La scheda dovrebbe affiancare un ryzen 7950x con 32gb di RAM ddr5....

cosa dovresti farci di preciso con l'IA?

 

[master1986]

La meno cara possibile è la 5070 ti

altriemntio la 5080

E chiaramente se hai un budgeto che lo permette la 5090 (se la trovi a prezzi umani)

dici che i prezzi aumenteranno?

 

[master1986]

cosa dovresti farci di preciso con l'IA?

Ciao, fare coding usando vscode, vorrei usare qualche modello , e creare far interagire script python per creare testi analizzando dei dati... senza usare api di gemini o openai... Il 7950x mi da già risultati discreti (senza gpu), utilizzo un modello tipo qwen3 e mi va bene. ovviamente se avcessi la gpu sarebbe molto veloce anche perchè se dovessi generare testi analizzando dei dati numerici ci vorrebbe molto piu tempo.

PS: dato che lavoro molto con il notebook non converrebbe comprare una notebook dotato di gpu? almeno sfrutto quello per due ragioni, senza dover spendere oltre 1000 euro solo per una gpu.

 

[mr_loco]

Ciao, fare coding usando vscode, vorrei usare qualche modello , e creare far interagire script python per creare testi analizzando dei dati... senza usare api di gemini o openai... Il 7950x mi da già risultati discreti (senza gpu), utilizzo un modello tipo qwen3 e mi va bene. ovviamente se avcessi la gpu sarebbe molto veloce anche perchè se dovessi generare testi analizzando dei dati numerici ci vorrebbe molto piu tempo.

vai per una 5060Ti da 16Gb, ovviamente salendo di fascia i tempi si riducono su grossi progetti, ma se devi interrogare l'IA solo per aiutarti con il coding, il problema più grosso e farci stare dentro la VRAM il modello, io uso qwen3 e gemma3 4b su una RTX2060 da 6gb

PS: dato che lavoro molto con il notebook non converrebbe comprare una notebook dotato di gpu? almeno sfrutto quello per due ragioni, senza dover spendere oltre 1000 euro solo per una gpu.

li dipende molto da te e se vuoi investire, io ho direttamente un "vecchio" pc con proxmox dedicato con ollama, docker e progetti di github che provo quando non posso metterli in un container (per chi mi conosce: il mini pc con proxmox è dedicato solo a NAS e media center, più qualche cavolata per l'uso domestico), da li posso accedere con qualsiasi macchina nella rete (notebook, pc e anche tablet)
tieni anche conto che prenderà risorse dal sistema principale se vai per un singolo notebook e le gpu dei notebook sono limitati come VRAM rispetto ai modelli desktop, una 5060 mobile ha 8Gb

 

[Tony_x]

PS: dato che lavoro molto con il notebook non converrebbe comprare una notebook dotato di gpu? almeno sfrutto quello per due ragioni, senza dover spendere oltre 1000 euro solo per una gpu.

i notebook nel tuo budget hanno schede video da solo 8gb quindi non credo che ci stiano dentro molti modelli AI...

una 5060 mobile ha 8Gb

e anche la rtx5070 mobile ha solo 8gb