S rýchlym nárastom aplikácií AI na čele s modelmi ako ChatGPT prudko vzrástol dopyt po výpočtovom výkone. Na splnenie rastúcich výpočtových požiadaviek éry AI spoločnosť H3C Group pod záštitou Tsinghua Unigroup nedávno na summite NAVIGATE Leader Summit 2023 predstavila 11 nových produktov zo série H3C UniServer G6 a HPE Gen11. Tieto nové serverové produkty vytvárajú komplexnú maticu pre AI naprieč rôznymi scenármi, poskytujú výkonnú základnú platformu na spracovanie rozsiahlych údajov a modelových algoritmov a zabezpečujú dostatočnú zásobu výpočtových zdrojov AI.
Rôznorodá matica produktov na riešenie rôznych výpočtových potrieb AI
Ako líder v oblasti inteligentných počítačov sa H3C Group už mnoho rokov intenzívne angažuje v oblasti AI. V roku 2022 dosiahla spoločnosť H3C najvyššiu mieru rastu na čínskom trhu zrýchlených výpočtov a celkovo získala 132 svetových prvenstiev v medzinárodne uznávanom benchmarku AI MLPerf, čo dokazuje svoje silné technické znalosti a schopnosti.
Využitím pokročilej výpočtovej architektúry a možností inteligentného riadenia výpočtového výkonu postavených na základoch inteligentného výpočtového systému vyvinula spoločnosť H3C vlajkovú loď inteligentnej výpočtovej techniky H3C UniServer R5500 G6, špeciálne navrhnutú pre tréning veľkých modelov. Predstavili tiež H3C UniServer R5300 G6, hybridný výpočtový engine vhodný pre rozsiahle inferencie/tréningové scenáre. Tieto produkty ďalej spĺňajú rôzne výpočtové požiadavky v rôznych scenároch AI a poskytujú komplexné pokrytie výpočtovej techniky AI.
Inteligentná počítačová vlajková loď navrhnutá pre tréning modelov vo veľkom meradle
H3C UniServer R5500 G6 kombinuje silu, nízku spotrebu energie a inteligenciu. V porovnaní s predchádzajúcou generáciou ponúka trojnásobný výpočtový výkon, čím sa skracuje čas potrebný na trénovanie o 70 % pre tréningové scenáre veľkých modelov GPT-4. Je použiteľný pre rôzne obchodné scenáre AI, ako sú rozsiahle školenia, rozpoznávanie reči, klasifikácia obrázkov a strojový preklad.
Sila: R5500 G6 podporuje až 96 CPU jadier, čím poskytuje 150% zvýšenie výkonu jadra. Je vybavený novým 8-GPU modulom NVIDIA HGX H800, ktorý poskytuje 32 PFLOPS výpočtového výkonu, čo má za následok 9-násobné zlepšenie rýchlosti trénovania AI vo veľkom modeli a 30-násobné zlepšenie výkonu odvodenia AI vo veľkom meradle. Okrem toho s podporou sietí PCIe 5.0 a 400G môžu používatelia nasadiť výkonnejšie výpočtové klastre AI, čím sa urýchli prijatie a aplikácia AI v podnikoch.
Inteligencia: R5500 G6 podporuje dve konfigurácie topológie, inteligentne sa prispôsobuje rôznym aplikačným scenárom AI a urýchľuje hlboké učenie a vedecké výpočtové aplikácie, čím výrazne zlepšuje využitie zdrojov GPU. Vďaka funkcii viacinštancie GPU modulu H800 možno jeden H800 rozdeliť na 7 inštancií GPU s možnosťou až 56 inštancií GPU, pričom každá má nezávislé výpočtové a pamäťové zdroje. To výrazne zvyšuje flexibilitu zdrojov AI.
Nízka uhlíková stopa: R5500 G6 plne podporuje kvapalinové chladenie, vrátane kvapalinového chladenia pre CPU aj GPU. S PUE (účinnosť využitia energie) pod 1,1 umožňuje „cool computing“ v horúčave výpočtového náporu.
Stojí za zmienku, že R5500 G6 bol pri svojom uvedení na trh uznaný ako jeden z „10 najlepších vysokovýkonných serverov roku 2023“ v hodnotení výkonu za rok 2023.
Hybridný výpočtový engine pre flexibilné prispôsobovanie tréningových a inferenčných požiadaviek
H3C UniServer R5300 G6 ako server novej generácie AI ponúka v porovnaní so svojím predchodcom výrazné vylepšenia v špecifikáciách CPU a GPU. Môže sa pochváliť vynikajúcim výkonom, inteligentnou topológiou a integrovanými výpočtovými a úložnými schopnosťami, vďaka čomu je vhodný na tréning modelu hlbokého učenia, vyvodzovanie hlbokého učenia a ďalšie aplikačné scenáre AI, flexibilne zodpovedajúc potrebám školenia a vyvodzovania výpočtovej techniky.
Vynikajúci výkon: R5300 G6 je kompatibilný s najnovšou generáciou podnikových GPU NVIDIA a poskytuje 4,85-násobné zvýšenie výkonu v porovnaní s predchádzajúcou generáciou. Podporuje rôzne typy akceleračných kariet AI, ako sú GPU, DPU a NPU, aby splnili heterogénne požiadavky na výpočtový výkon AI v rôznych scenároch, čím posilní éru inteligencie.
Inteligentná topológia: R5300 G6 ponúka päť nastavení topológie GPU, vrátane HPC, paralelnej AI, sériovej AI, 4-kartového priameho prístupu a 8-kartového priameho prístupu. Táto bezprecedentná flexibilita výrazne zvyšuje prispôsobivosť rôznym scenárom používateľských aplikácií, inteligentne alokuje zdroje a poháňa efektívnu prevádzku výpočtového výkonu.
Integrovaná výpočtová technika a úložisko: R5300 G6 flexibilne využíva akceleračné karty AI a inteligentné NIC, pričom kombinuje možnosti školenia a odvodzovania. Podporuje až 10 GPU s dvojitou šírkou a 24 slotov pre pevné disky LFF (Large Form Factor), čo umožňuje simultánne školenie a odvodzovanie na jednom serveri a poskytuje nákladovo efektívny výpočtový engine pre vývojové a testovacie prostredia. S úložnou kapacitou až 400 TB plne spĺňa požiadavky na úložný priestor dát AI.
S prudkým rozmachom AI sa výpočtový výkon neustále mení a spochybňuje. Uvedenie serverov umelej inteligencie novej generácie predstavuje ďalší míľnik v záväzku skupiny H3C k technológii „inherentnej inteligencie“ a jej nepretržitému smerovaniu k vývoju inteligentnej výpočtovej techniky.
Pri pohľade do budúcnosti, riadená stratégiou „Cloud-Native Intelligence“, sa H3C Group drží konceptu „starostlivého pragmatizmu, ktorý dáva éru inteligenciu“. Budú pokračovať v kultivácii úrodnej pôdy inteligentnej výpočtovej techniky, skúmať scenáre aplikácií umelej inteligencie na vysokej úrovni a urýchliť príchod inteligentného sveta s adaptabilným výpočtovým výkonom pripraveným na budúcnosť.
Čas odoslania: Júl-04-2023
