Deep Learning - Assemblaggio Cluster x8 1080

JagerM

Nuovo Utente
3
0
Salve a tutti,

In ufficio mi trovo a lavorare in ambito Deep Learning ed ho 8 1080 in altrettanti pc risalenti al paleolitico, circa. Ormai le '80 non reggono tanto il passo dei nuovi lavori ma allo stesso tempo non vorrei dismetterle totalmente. Vorrei quindi tirare su un "piccolo" cluster usando tutte ed 8 le schede insieme, parallelizzando tutto grazie a Tensorflow (e quindi, per i non addetti, non mi serve SLI, per capirci).
Il mio dubbio riguarda quindi l'accrocco da tirar su per spendere il meno possibile visto che le schede, che si spera siano la cosa più costosa, le ho già.
Non mi è assolutamente ben chiaro lo splitting del PCI-Express e non so neanche se si possa fare ma nella mia testa, non so per quale sentito dire, un 5x16 equivale, ad esempio a 2 4x16. Poiché le 1080 credo non vadano a saturare neanche un 3x8, è intuibile che vorrei prendere un 7900x (24 linee pci 5.0) e una x670 e tirare avanti a splittare il PCI dal 5x16 fino ad arrivare esattamente ad 8 3x8.

Quanto c'è di sbagliato in ciò che ho detto? Qualuno di più competente potrebbe istruirmi? Contando che tra 7900x, mobo e alimentatore il costo totale sarebbe poco superiore ai 1000€, qualora non fosse possible il discorso dello splitting, potreste consigliarmi il classico processore server+scheda madre per gestire il tutto, restando sullo stesso budget?

Vi ringrazio infinitamente.
 

Attuscili

Utente Èlite
4,380
1,548
CPU
Ryzen 5700X3D
Dissipatore
Enermax Aquafusion ADV 240
Scheda Madre
Asus Prime x570 PRO
HDD
980 PRO + 970 PRO + Sabrent + Crucial MX500 + Silicon Power
RAM
G Skill 2 x 16 3600 Trident Z Neo CL 16
GPU
ASUS Dual GeForce RTX 3060 Ti MINI
Audio
Realtek S1220A 8-Channel High Definition Audio con Crystal Sound 3 + casse Lonpoo LP42X
Monitor
LG 27GL850 UltraGear
PSU
Seasonic Prime Ultra Platinum 650
Case
Be Quiet! Pure Base 600 Arancione
Periferiche
Logitech MX518, Xbox one pad, Logitech Attack 3
Net
Wireless 30 mega
OS
Windows 11 PRO
ciao, allora per ciò che devi fare tu secondo me hai 2 strade. o prendere sull'usato 4 pc meno vecchi del tuo, sempre a secondo quanto vecchi possano essere per far funzionare 2 1080 e montare le schede, cosa che io cmq eviterei direttamente, oppure un altra soluzione.
Dato che nessuna scheda desktop hai nella migliore delle ipotesi 3 slot per schede video perchè la questione di splitter e riser la eviterei, se la somma da spendere è sui 1000, direi una scheda worstation con threaadrippe, magari versioni più vecchie per risparmiare. giusto per esempio dalla più economica ma con meno porte Asrock x399 o ASUS Pro WS WRX80E-SAGE SE WIFI abbinata magari a una fascia bassissima, tipo Threadripper 1900X ma spenderei un pelo in piu.
 

mr_loco

quello cattivo
Utente Èlite
29,566
12,053
se vuoi tante linea PCIe, bisogna andare sui threadripper, saresti comunque limitato dalla banda di ogni scheda, anche volendo utilizzare schede madri per il mining, che dispongono di tanti slot PCIe, sarebbero tutte a 1x
 

BrutPitt

Utente Attivo
1,166
1,262
Non mi è assolutamente ben chiaro lo splitting del PCI-Express e non so neanche se si possa fare ma nella mia testa, non so per quale sentito dire, un 5x16 equivale, ad esempio a 2 4x16. Poiché le 1080 credo non vadano a saturare neanche un 3x8, è intuibile che vorrei prendere un 7900x (24 linee pci 5.0) e una x670 e tirare avanti a splittare il PCI dal 5x16 fino ad arrivare esattamente ad 8 3x8.
Non puoi splittare la banda, ma solo le linee.
Nel senso che se prendi una mainboard con 24 linee PCIe 5.0, avrai sempre 24 linee che funzionano come PCIe 3.0 (con le 1080).
(e non 48 che funzionano in PCIe 4.0 o 96 in PCIe 3.0)

Per cio' che riguarda gli slot PCIe, esistono in commercio anche riser che "dividono" le linee dello slot x16 in 2 PCIe da 8x, o in 4 da 4x.
(qualcosa del genere: https://www.amazon.com/iStarUSA-PCIe-x16-Riser-Card/dp/B00BMFSL9E)

Quanto c'è di sbagliato in ciò che ho detto? Qualuno di più competente potrebbe istruirmi? Contando che tra 7900x, mobo e alimentatore il costo totale sarebbe poco superiore ai 1000€, qualora non fosse possible il discorso dello splitting, potreste consigliarmi il classico processore server+scheda madre per gestire il tutto, restando sullo stesso budget?

Per quello che riguarda le mainboard:
Diverse sono quelle, consumer, che hanno (sulla carta) 4 slot PCIe x16.
(solo sulla carta, in quanto se utilizzati tutti assieme, solitamente diventano: 8x 8x 4x 4x... o 16x 16x 8x 8x se opti per il Threadripper)
Ad iniziare dalla Prime Z790-P (per dirne una), anche se la vicinanza (per via dello spazio) ti obbliga in alcuni casi comunqe ad usare dei riser per utilizzarli tutti e 4.

Altrimenti bisogna andare su piattaforme "server" (eg CPU EPYC), come questa ASRock:
Che ha 7 slot PCIe 4.0 16x reali!
(ma si sfora di gran lunga il budget)

Aggiungo...
Bisogna poi capire quanta banda richiedano le tue applicazioni (o l'utilizzo che intenderai farne), per capire se effettivamente (come credo) ti bastino anche (solo) slot PCIe 4x (4 linee) per poter elaborare egregiamente.
(dato che il grosso del lavoro dovrebbe essere sul calcolo e non sul trasferimento dati, leggasi: banda)
Ed eventualmente capire quanto sia il calo di prestazioni se usate in PCIe 1x, perche' in questa circostanze il risparmio economico per mettere in piedi una pittaforma e' notevole (potendo avvalersi di cio' che il mercato offre per il mining)
 
Ultima modifica:

Entra

oppure Accedi utilizzando
Discord Ufficiale Entra ora!