Aiuto per Build PC - Studente di Machine Learning

[mich1803]

Salve a tutti, sono nuovo qui, sono uno studente di Machine Learning e sto cercando di buildare il mio primo pc. Finora ho sempre vissuto tranquillamente con i laptop ma penso di aver bisogno di un PC serio ora che sto cominciando a lavorare a diversi progetti. Premetto che ovviamente non deve essere un PC che deve trainare il prossimo GPT6 ma che se la cava con machine learning di base, MLP semplici su grandi quantità di dati e delle modeste CNN, roba da ricerca e sviluppo in azienda o ricerca scientifica in università.

Quello di cui ho bisogno è:
- Tanta durabilità, buone prestazioni ora e possibilità di upgrade in futuro.
- Una buona scheda video NVIDIA (necessariamente, ho bisogno lavorare in CUDA), con almeno 16 di VRAM
- Almeno 2TB di SSD NVME e 8TB di HD
- Almeno 32GB di RAM
- Budget tra i 2000 ed i 3000

Per ora avevo pensato ad un core del genere:
GPU -> 4070ti SUPER 16gb
CPU -> AMD Ryzen 7 7800X3D (socket AM5 cosi posso usarlo per più generazioni)
Scheda Madre -> B650 (ATX)
RAM -> 32gb (2x16gb che potrebbero diventare 64 = 4x16)
Poi mi servirebe un buon cooling all in one ed un bel case ventilato.
(https://pcpartpicker.com/list/QbQggn)

Voi che ne pensate? Come posso poi muovermi per comprare i pezzi ed assemblarli?

P.S. Da piccolo seguivo il mondo dei PC assemblati ma ultimamente no, quindi non sono molto aggiornato.

 

[mr_loco]

GPU -> 4070ti SUPER 16gb

scheda vecchia, VRAM lenta rispetto alle gpu di generazione 5000, che montano la GDDR7 (raddoppio di banda)

CPU -> AMD Ryzen 7 7800X3D (socket AM5 cosi posso usarlo per più generazioni)

cpu da gaming

RAM -> 32gb (2x16gb che potrebbero diventare 64 = 4x16)

le cpu consumer hanno solamente il dual channel (32x2)

Voi che ne pensate? Come posso poi muovermi per comprare i pezzi ed assemblarli?

ti butto giù qualcosa

 

[mr_loco]

CPU: AMD Ryzen 9 9900X 4.4 GHz 12-Core Processor (€387.47 @ Amazon Italia)
CPU Cooler: Thermalright Frozen Edge 69 CFM Liquid CPU Cooler (€62.00) alternativa
Motherboard: Asus TUF GAMING B850-PLUS WIFI ATX AM5 Motherboard (€261.99 @ Amazon Italia) scende spesso a 232€
Memory: Silicon Power XPOWER Zenith Gaming 64 GB (2 x 32 GB) DDR5-6000 CL30 Memory (€182.99 @ Amazon Italia)
Storage: SK Hynix Platinum P41 1 TB M.2-2280 PCIe 4.0 X4 NVME Solid State Drive (€89.00) costano un botto attualmente
Video Card: PNY Triple Fan GeForce RTX 5070 Ti 16 GB Video Card (€863.99 @ Amazon Italia) ora a 829€
Case: be quiet! Shadow Base 800 ATX Mid Tower Case (€150.82 @ Amazon Italia)
Power Supply: be quiet! Straight Power 12 750 W 80+ Platinum Certified Fully Modular ATX Power Supply (€149.22 @ Amazon Italia)
Total: €2147.48

rimane un ampio budget per poterci mettere una 5080, personalmente salirei con l'alimentatore su un 1200w se intendi fare un sistema multi gpu
mentre per l'hard disk da 8Tb per cosa sarà dedicato? se vai a lavorarci sopra, andrà a limitare le prestazioni dell'intero sistema

 

[mich1803]

CPU: AMD Ryzen 9 9900X 4.4 GHz 12-Core Processor (€387.47 @ Amazon Italia)
CPU Cooler: Thermalright Frozen Edge 69 CFM Liquid CPU Cooler (€62.00) alternativa
Motherboard: Asus TUF GAMING B850-PLUS WIFI ATX AM5 Motherboard (€261.99 @ Amazon Italia) scende spesso a 232€
Memory: Silicon Power XPOWER Zenith Gaming 64 GB (2 x 32 GB) DDR5-6000 CL30 Memory (€182.99 @ Amazon Italia)
Storage: SK Hynix Platinum P41 1 TB M.2-2280 PCIe 4.0 X4 NVME Solid State Drive (€89.00) costano un botto attualmente
Video Card: PNY Triple Fan GeForce RTX 5070 Ti 16 GB Video Card (€863.99 @ Amazon Italia) ora a 829€
Case: be quiet! Shadow Base 800 ATX Mid Tower Case (€150.82 @ Amazon Italia)
Power Supply: be quiet! Straight Power 12 750 W 80+ Platinum Certified Fully Modular ATX Power Supply (€149.22 @ Amazon Italia)
Total: €2147.48

rimane un ampio budget per poterci mettere una 5080, personalmente salirei con l'alimentatore su un 1200w se intendi fare un sistema multi gpu
mentre per l'hard disk da 8Tb per cosa sarà dedicato? se vai a lavorarci sopra, andrà a limitare le prestazioni dell'intero sistema

Grazie mille, non penso di voler andare per un opzione multi GPU quindi l'alimentazione dovrebbe andare bene.
Cosa guadagnerei ad aggiungere la 5080?
L'hard disk da 8TB lo userei per immagazzinare cose personali come archivi foto e video (si è una workstation ma sarà anche il mio principale PC quindi mi serve un po di spazio per quella roba, e metterle sull'SSD mi sembra uno spreco) o vecchi progetti, ha senso oppure mi conviene andare avanti con external storage?

 

[BAT]

mi conviene andare avanti con external storage?

prendi un NAS, è più sicuro

 

[mr_loco]

Cosa guadagnerei ad aggiungere la 5080?

tutto, molti più tensor core e core dedicati all'IA, banda della VRAM maggiore, molta più potenza di base

L'hard disk da 8TB lo userei per immagazzinare cose personali come archivi foto e video (si è una workstation ma sarà anche il mio principale PC quindi mi serve un po di spazio per quella roba, e metterle sull'SSD mi sembra uno spreco) o vecchi progetti, ha senso oppure mi conviene andare avanti con external storage?

puoi prendere qualcosa di più piccolo e salvare poi il tutto su supporto esterno, meglio NAS come ha consigliato @BAT, se vuoi accederci da fuori

 

[BrutPitt]

Grazie mille, non penso di voler andare per un opzione multi GPU quindi l'alimentazione dovrebbe andare bene.
Cosa guadagnerei ad aggiungere la 5080?
L'hard disk da 8TB lo userei per immagazzinare cose personali come archivi foto e video (si è una workstation ma sarà anche il mio principale PC quindi mi serve un po di spazio per quella roba, e metterle sull'SSD mi sembra uno spreco) o vecchi progetti, ha senso oppure mi conviene andare avanti con external storage?

Ovviamente che sia HDD da 8TB, NAS, o External Storage ... hai pensato anche a come fare/mantenere un backup dei dati (almeno della roba importante).
Perche' anche i migliori HDD/SDD possono smettere di funzionare da un momento all'altro (anche dopo breve tempo).
(se non ci avevi ancora pensato, una parte del budget lo destinerei a quello)

 

[monticelli]

Vedo solo ora, e probabilmente arrivo in ritardo, provo comunque a dare il mio contributo.
Che sistema operativo userai? Il buon senso vorrebbe Linux, e allora e' particolarmente azzeccato il suggerimento dell'AMD 9900x, che va bene con questo OS:

AMD Ryzen 9 9950X & Ryzen 9 9900X Deliver Excellent Linux Performance Review - Phoronix

www.phoronix.com

Sulle altre componenti mi sembra ti abbiano già detto tutto.

* begin proposta_indecente_da_non_prendere_troppo_sul_serio:
se sei uno studente in vista della laurea (se sei all'inizio lascia perdere quanto sto per scrivere) considera la possibilità di tenere il vecchio laptop per le cose correnti (foto, video, etc.) e acquistare un edge device come l'Nvidia Jetson Orin AGX per il deep learning: siamo a circa 2300 euro a cui devi aggiungere un SSD, avresti a disposizione 275 Tops (contro i quasi 1000 di una GPU gaming come la 5070) pero' con 64 GB di Vram che ti permettono din entrare nel territorio della classificazione di immagini (le CNN a cui accennavi) e modelli multimodali che girano in quasi real time:

Metti in conto la possibilità che, parlando di queste cose al tuo prof, ti chieda se sei impazzito o ti lanci dietro qualcosa ;-)
Ci sarebbe anche il nuovissimo Thor https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-thor/ che unisce la potenza di una GPU gaming, fino a 128 GB di Vram (qui cominciano a girare LLM seri) e consumi da edge device, pero' temo siamo fuori dal tuo budget, con un prezzo tra i 3 e i 4 k.
Al di la' di tutto, consiglio di cominciare a guardare anche a queste soluzioni, più focalizzate sull'AI delle GPU da gaming, che nascono per tutt'altra cosa. I miei personalissimi 5 cent è che il futuro degli acceleratori HW per l'AI sarà costituito da questi device, e sempre meno dalle GPU gaming, che potranno più ragionevolmente essere utilizzate per gli sparatutto.
* end proposta_indecente_da_non_prendere_troppo_sul_serio

 

[mich1803]

Vedo solo ora, e probabilmente arrivo in ritardo, provo comunque a dare il mio contributo.
Che sistema operativo userai? Il buon senso vorrebbe Linux, e allora e' particolarmente azzeccato il suggerimento dell'AMD 9900x, che va bene con questo OS:

AMD Ryzen 9 9950X & Ryzen 9 9900X Deliver Excellent Linux Performance Review - Phoronix

www.phoronix.com

Sulle altre componenti mi sembra ti abbiano già detto tutto.

* begin proposta_indecente_da_non_prendere_troppo_sul_serio:
se sei uno studente in vista della laurea (se sei all'inizio lascia perdere quanto sto per scrivere) considera la possibilità di tenere il vecchio laptop per le cose correnti (foto, video, etc.) e acquistare un edge device come l'Nvidia Jetson Orin AGX per il deep learning: siamo a circa 2300 euro a cui devi aggiungere un SSD, avresti a disposizione 275 Tops (contro i quasi 1000 di una GPU gaming come la 5070) pero' con 64 GB di Vram che ti permettono din entrare nel territorio della classificazione di immagini (le CNN a cui accennavi) e modelli multimodali che girano in quasi real time:

Metti in conto la possibilità che, parlando di queste cose al tuo prof, ti chieda se sei impazzito o ti lanci dietro qualcosa ;-)
Ci sarebbe anche il nuovissimo Thor https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-thor/ che unisce la potenza di una GPU gaming, fino a 128 GB di Vram (qui cominciano a girare LLM seri) e consumi da edge device, pero' temo siamo fuori dal tuo budget, con un prezzo tra i 3 e i 4 k.
Al di la' di tutto, consiglio di cominciare a guardare anche a queste soluzioni, più focalizzate sull'AI delle GPU da gaming, che nascono per tutt'altra cosa. I miei personalissimi 5 cent è che il futuro degli acceleratori HW per l'AI sarà costituito da questi device, e sempre meno dalle GPU gaming, che potranno più ragionevolmente essere utilizzate per gli sparatutto.
* end proposta_indecente_da_non_prendere_troppo_sul_serio

Ciao, mi sono appena laureato in triennale quindi avrei anche potuto tenere in cosiderazione un edge device, ma al momento ho bisogno più di un general purpose che in più mi da la possibilità di allenare modelli proprietari. Anche perchè il laptop che ho ora mi sta abbanando anche nelle task più semplici. Magari più avanti posso pensare di integrare anche un edge, ma non penso sia la scelta giusta per ora, comunque grazie.

tutto, molti più tensor core e core dedicati all'IA, banda della VRAM maggiore, molta più potenza di base

Se volessi pensare invece a 24gb di VRAM invece che 16, cosa mi consiglieresti? (Anche alzando il budget)

 

[mr_loco]

Se volessi pensare invece a 24gb di VRAM invece che 16, cosa mi consiglieresti? (Anche alzando il budget)

nulla, i 24gb di VRAM si trovano solo sulle quadro di fascia alta o sulla serie 90 di gpu (dai 1800€ di una 4090 a 2500€ per la 5090), puoi aspettare fine anno per l'uscita delle super e andare su una 5080 super che "dovrebbe" montare 24Gb invece di 16Gb

 

[BAT]

Se volessi pensare invece a 24gb di VRAM invece che 16, cosa mi consiglieresti?

quel quantitativo l'avranno le versioni Super delle RTX 5070-Ti e RTX 5080 altrimenti ad oggi puoi solo comprare una RTX 5090, ossia una tra Asus ROG Astral, MSI Suprim / MSI Vanguard oppure PNY OC
tutte con 32 GB di VRAM
a dirla tutta le 5090 sono le uniche schede video realmente sfruttabili per Machine-Learning e compiti di intelligenza artificiale, hanno solo il difettuccio di costare un po'

 

[monticelli]

Ciao, mi sono appena laureato in triennale quindi avrei anche potuto tenere in cosiderazione un edge
device, ma al momento ho bisogno più di un general purpose che in più mi da la possibilità di allenare modelli proprietari. Anche perchè il laptop che ho ora mi sta abbanando anche nelle task più semplici. Magari più avanti posso pensare di integrare anche un edge, ma non penso sia la scelta giusta per ora, comunque grazie.

Ciao, capisco, era una provocazione ;-)
Sono scelte che vanno bene per chi lavora in modo specifico su modelli deep learning real-time e per la robotica autonoma, che non puo' basarsi sulla tecnologia cloud.
Se puoi/vuoi, considera l'uso di Linux sul notebook: lato deep learning è molto meglio. Lato applicazioni "standard" non lo so, dipende se necessiti di usare SW che girano solo sotto Windows.