Atunci când companiile intenționează să construiască un server destinat inteligenței artificiale, atenția se îndreaptă aproape în mod exclusiv spre modelele de GPU-uri, memoria video și numărul de acceleratoare ce pot fi montate într-o singură unitate. Totuși, infrastructura pentru inteligență artificială nu începe efectiv odată cu acceleratorul grafic, ci cu traseul pe care datele îl parcurg pentru a ajunge la acesta, un flux esențial susținut recent în mediul enterprise prin soluțiile integrate de la TRUSTA, brandul de stocare dedicat centrelor de date al ADATA, care combină unitățile SSD PCIe Gen5 T7P5 în formatele U.2, E1.S și E3.S cu performanta memorie DDR5 R-DIMM.
GPU-ul nu lucrează singur
Un model AI poate ocupa de la câțiva gigabytes până la sute de gigabytes, iar seturile de date aferente cresc rapid. Înainte ca procesarea să înceapă, informațiile trebuie citite din stocare și mutate prin memoria principală. Aplicațiile folosesc același traseu pentru încărcarea modelelor, realizarea calculelor pe loturi, accesarea bazelor de date vectoriale și salvarea punctelor de control. În regim de inferență, serverele gestionează numeroase cereri simultane, iar un sistem de stocare lent poate bloca acceleratoarele scumpe în așteptarea datelor.
Viteza maximă nu spune întreaga poveste
Dacă în utilizarea obișnuită viteza secvențială este etalonul principal, mediul enterprise pentru inteligență artificială are cerințe mult mai complexe. Încărcarea modelelor uriașe beneficiază de rate secvențiale mari, însă bazele de date vectoriale și fișierele multiple cer performanțe ridicate la accesul aleatoriu, latențe scăzute și comportament stabil în regim continuu. O unitate de stocare destinată serverelor trebuie să ofere predictibilitate, protecție avansată a datelor și rezistență în fața unor sarcini de lucru care se modifică constant de la o oră la alta.
TRUSTA T7P5 în formatele U.2, E1.S și E3.S
Gama de SSD-uri enterprise TRUSTA T7P5 folosește interfața PCIe Gen5 x4 și memorie 3D eTLC, fiind disponibilă în variantele U.2, E1.S (cu grosimi de 9,5 mm, 15 mm și 25 mm) și E3.S. Toate aceste modele au viteze secvențiale maxime de 13.500 MB/s la citire și 10.300 MB/s la scriere. Performanțele pentru operațiuni 4K random ating până la 3,2 milioane IOPS la citire și 470.000 IOPS la scriere, în timp ce capacitățile oferite sunt de 1,6 TB, 1,92 TB, 3,2 TB, 3,84 TB, 6,4 TB și 7,68 TB. De asemenea, produsele includ o anduranță de 1 DWPD, suport NVMe 2.0 și OCP 2.0, funcție de Power-Loss Protection și opțiuni multi-namespace.
Memoria DDR5 R-DIMM completează traseul datelor
Plasată între SSD și memoria GPU, memoria principală a serverului previne blocajele atunci când modelele sau seturile de date depășesc memoria acceleratoarelor. O cantitate insuficientă de DRAM provoacă transferuri frecvente între nivelurile de stocare, crescând latența. Modulele TRUSTA DDR5 R-DIMM aduc viteze de până la 6.400 MT/s și capacități de până la 128 GB, utilizând un registru integrat pentru stabilitatea semnalului și tehnologie ECC pentru corectarea erorilor, elemente vitale pentru rularea continuă a aplicațiilor complexe.
- Unități SSD: TRUSTA T7P5 U.2, T7P5 E1.S și T7P5 E3.S cu interfață PCIe Gen5 x4.
- Performanță stocare: Până la 13.500 MB/s la citire, 10.300 MB/s la scriere și 3,2 milioane IOPS 4K random.
- Capacități SSD: 1,6 TB, 1,92 TB, 3,2 TB, 3,84 TB, 6,4 TB și 7,68 TB.
- Memorie server: Module TRUSTA DDR5 R-DIMM cu viteze de până la 6.400 MT/s și capacități de până la 128 GB.
- Tehnologii incluse: Suport NVMe 2.0, OCP 2.0, Power-Loss Protection, multi-namespace și ECC.
În perioada următoare, pe măsură ce cerințele pentru antrenarea și inferența inteligenței artificiale vor continua să crească, organizațiile vor trebui să acorde o atenție sporită dimensionării corecte a întregului sistem, echilibrând bugetele între acceleratoarele grafice, soluțiile de stocare enterprise de mare viteză și memoria RAM a serverelor pentru a elimina orice blocaj în fluxul de date.
Adaugă la Agregator.ro
