SMILE FM MOLDOVA Hincesti – Leova
Antrenarea modelelor masive de Inteligență Artificială (LLM-uri, rețele neuronale generative) și rularea simulărilor climatice sau moleculare necesită infrastructure formate din zeci de mii de procesoare grafice (GPU-uri) ce lucrează în paralel. La acest nivel, provocările majore nu țin doar de cipul în sine, ci de fizica semnalului, disiparea căldurii și viteza de transfer a datelor.
1. Răcirea lichidă prin imersie totală scufundă plăcile de bază în ulei dielectric
Sistemele clasice de răcire cu aer devin ineficiente când un singur rack de supercomputer consumă peste 40–100 kW de energie. Pentru a preveni supraîncălzirea, centrele de date folosesc răcirea prin imersie: serverele sunt scufundate direct în bazine umplute cu un lichid sintetic dielectric (fără conductivitate electrică). Lichidul preia căldura directly de la componente și o evacuează printr-un schimbător de căldură exterior.
2. Memoria HBM este stivuită vertical pe siliciu prin interconexiuni microscopice (TSV)
Pentru a alimenta un procesor AI cu date fără să apară blocaje (gâturi de sticlă), se folosește memorie de mare lățime de bandă (HBM – High Bandwidth Memory). În loc să fie așezate pe placă lângă cip, cipulețele de memorie sunt stivuite vertical unele peste altele și conectate prin mii de canale microscopice din cupru numite TSV (Through-Silicon Vias), care trec direct prin plăcile de siliciu.
3. Interconexiunea NVLink trimite terabiți de date prin comutare directă direct între GPU-uri
Conectarea GPU-urilor prin magistrala clasică PCIe creează întârzieri mari în antrenarea rețelelor neuronale. Tehnologiile dedicate (cum este Nvidia NVLink) conectează procesoarele AI într-o rețea directă, cu rată de transfer de terabiți pe secundă. Această magistrală le permite GPU-urilor să citească și să scrie direct în memoria celorlalte procesoare din rețea fără a mai trece prin procesorul central (CPU).
4. Fotonica pe siliciu (Silicon Photonics) înlocuiește firele de cupru cu fascicule laser
Transmisia semnalelor electrice prin fire din cupru la frecvențe mari generează căldură și pierderi masive de semnal peste distanțe de câțiva metri. Supercomputerele moderne încep să înlocuiască conexiunile electrice dintre rack-uri cu sisteme optice integrate: emițătoare și receptoare microscopice laser fabricate direct pe cipul de siliciu, care transmit datele prin impulsuri luminoase ultra-rapide.
5. Arhitectura Wafer-Scale Engine construiește un procesor din întregul disc de siliciu
În loc să taie placa de siliciu (wafer-ul) în sute de cipuri individuale, compania Cerebras folosește întreaga placă de 30 cm pentru a crea un singur procesor uriaș (WSE – Wafer Scale Engine). Acest cip de mărimea unei farfurii conține aproape un trilion de tranzistoare și circuite de interconectare interne ultra-rapide, eliminând întârzierile create de conexiunile dintre cipurile separate.
6. Cipurile folosesc formate de reprezentare numerică redusă (FP8 și INT8) pentru accelerație
Antrenarea și rularea modelelor de AI nu necesită o precizie matematică extremă (cum ar fi formate pe 32 sau 64 de biți folosite în fizica nucleară). Hardware-ul modern folosește formate reduse precum FP8 (Floating Point 8-bit) sau BF16. Prin reducerea numărului de biți folosiți pentru reprezentarea fiecărui număr, cipurile pot efectua de 4 până la 8 ori mai multe operații matematice pe secundă cu același consum de energie.
7. Comutatoarele de rețea InfiniBand previn pierderea pachetelor prin control de flux acustic
Într-un supercomputer cu 100.000 de GPU-uri, dacă un singur pachet de date este pierdut pe rețea, antrenarea întregului model de AI se poate bloca. Spre deosebire de rețelele Ethernet standard, arhitectura de rețea InfiniBand folosește un control de flux strict la nivel de hardware: un nod nu trimite date până când nu este sigur că primitorul are spațiu liber în memorie, eliminând complet pierderile de pachete.
8. Alimentarea cu energie la nivel de rack se face la 48V sau 380V DC pentru a reduce curentul
Trecerea unor curenți electrici mari prin șinele de cupru ale serverelor la tensiunea standard de 12 volți generează pierderi uriașe prin efect Joule (căldură). Supercomputerele moderne folosesc distribuție de energie în curent continuu la 48 volți sau chiar 380 volți DC. Tensiunea mai mare reduce intensitatea curentului necesar, permițând utilizarea unor cabluri mai subțiri și reducând pierderile de energie prin căldură.
9. Nivelarea stocării folosește NVMe over Fabrics (NVMe-oF) pentru acces la nanosecundă
Seturile de date folosite pentru AI (terabiți sau petabiți de text și imagini) nu pot încăpea în memoria RAM sau HBM. Pentru a citi datele fără întreruperi, supercomputerele folosesc rețele de stocare NVMe-oF. Această tehnologie permite procesoarelor să acceseze unitățile SSD solide aflate în alt rack la fel de rapid ca și cum ar fi conectate direct pe placa lor de bază, folosind latențe mici de ordinul nanosecundelor.
10. Procesoarele Tensor Core execută înmulțiri masive de matrice într-un singur ciclu de ceas
Nucleele clasice de CPU calculează o operație matematică pe rundă. Procesoarele moderne pentru AI conțin unități specializate numite Tensor Cores. Acestea sunt proiectate să execute înmulțiri de matrice (operația matematică de bază din spatele rețelelor neuronale) direct în hardware, procesând grilaje întregi de numere într-un singur pas de ceas.
