Blackwell in naprej: Prihodnost pospeševanja strojne opreme za umetno inteligenco

Blackwell podjetja NVIDIA je najnovejša GPU arhitektura podjetja, ki je nasledila arhitekturi Hopper (H100) iz leta 2022 in Ampere (A100) iz leta 2020 nvidianews.nvidia.com cudocompute.com. Poimenovana je po matematiku Davidu Blackwellu, v skladu s tradicijo podjetja NVIDIA, da časti pionirje računalništva cudocompute.com. GPU-ji Blackwell predstavljajo velik preskok v zmogljivosti in funkcionalnosti, zasnovani za podporo naraščajočih zahtev umetne inteligence (UI) na veliki skali. Generalni direktor podjetja NVIDIA, Jensen Huang, je Blackwell označil za “motor, ki poganja novo industrijsko revolucijo” umetne inteligence nvidianews.nvidia.com. V tem poročilu predstavljamo celovit pregled tehnologije Blackwell, inovacij v primerjavi s prejšnjimi generacijami ter pomen te arhitekture za široko uporabo UI za učenje in inferenco. Prav tako raziskujemo primere uporabe v različnih panogah – od velikih jezikovnih modelov do robotike in zdravstva – ter Blackwell primerjamo s konkurenčnimi pospeševalniki UI podjetij AMD, Intel, Google in vodilnih zagonskih podjetij. Na koncu obravnavamo trende prihodnosti pri strojni pospešitvi UI ter tržne učinke te nove generacije čipov za umetno inteligenco.

Tehnični pregled arhitekture Blackwell

GPU-ji Blackwell so izdelani v procesu TSMC 4N+, na enem čipu pa vsebujejo neverjetnih 208 milijard tranzistorjev nvidia.com. To je skoraj 2,5× več kot Hopper H100 (~80 milijard) in pomeni, da je Blackwell najkompleksnejši čip na svetu doslej cudocompute.com nvidianews.nvidia.com. Da bi to dosegli, je NVIDIA uporabila veččipovno arhitekturo: dva GPU čipa na robu retikularne omejitve sta nameščena na enem modulu in povezana s hitrim čip-čip vmesnikom, ki deluje pri 10 terabajtih na sekundo nvidia.com cudocompute.com. V praksi oba čipa delujeta kot enoten GPU, kar omogoča Blackwellu znatno povečanje števila jeder in spominske kapacitete, pri čemer ostaja znotraj proizvodnih omejitev. Vsak čip Blackwell je povezan s štirimi skladi naslednje generacije pomnilnika HBM3e (skupno 8 skladov na modul GPU), kar omogoča do 192 GB HBM-pomnilnika na najzmogljivejših modelih cudocompute.com. Skupna pasovna širina pomnilnika znaša ~8 TB/s na enoto GPU (oba čipa skupaj), kar je 5× več kot pri Hopperju cudocompute.com. Ta ogromna kapaciteta in prepustnost omogočata Blackwellu, da shrani UI modele do ~740 milijard parametrov v pomnilniku – približno 6× več kot je omogočal Hopper cudocompute.com.

Poleg same velikosti Blackwell uvaja šest prelomnih tehnologij v svoji arhitekturi nvidianews.nvidia.com nvidianews.nvidia.com:

GPU superčip nove generacije: Kot že omenjeno, je Blackwell prvi NVIDIA GPU, zgrajen kot dvočipovni “superčip”. Ta zasnova omogoča neprimerljivo paralelizacijo in gostoto izračunov v enem pospeševalniku. En Blackwell GPU ponuja 5× AI zmogljivosti H100 (petkratni Hopper), zahvaljujoč večjim zmogljivostim in novim jedrom cudocompute.com cudocompute.com. Podpira na modulu bistveno več pomnilnika kot prejšnje generacije (skoraj 200 GB na GPU), kar je ključnega pomena za današnje ogromne modele.
Druga generacija Transformer pogona: Blackwell vključuje izboljšano Transformer jedro (TE) za pospeševanje izračunov UI, še posebej za modele temelječe na Transformerjih, kot so veliki jezikovni modeli (LLM). Novi TE uvaja podporo za 4-bitno plavajočo vejico (FP4) in napredne tehnike “mikrotensorskega skaliranja” za ohranjanje natančnosti pri teh zelo nizkih natančnostih nvidia.com nvidianews.nvidia.com. V praksi to pomeni, da lahko Blackwell z uporabo 4-bitnih uteži/aktivacij pri pravilni uporabi podvoji prepustnost in velikost modela za inferenco UI (z minimalno izgubo natančnosti). Blackwellova Tensor jedra prinašajo okoli 1,5× več AI FLOPS kot prej in vključujejo specializirano strojno opremo za dvakrat hitrejšo obdelavo Transformer attention layerjev, ki so ozko grlo pri LLM-jih nvidia.com. V kombinaciji z NVIDIA programsko opremo (TensorRT-LLM prevajalnik in NeMo knjižnice) to pomeni do 25× nižjo zakasnitev in porabo energije za LLM inferenco v primerjavi s Hopperjem nvidianews.nvidia.com nvidianews.nvidia.com. Pravzaprav lahko Blackwell v realnem času izvaja modele z bilijonom parametrov – kar je bilo za prejšnje GPU-je nedosegljivo nvidianews.nvidia.com.
Peta generacija NVLink medpovezave: Za razširljivost preko enega gigantskega GPU-ja Blackwell uvaja NVLink 5, najnovejšo hitro medpovezavo NVIDIA za več-GPU povezljivost. NVLink 5 omogoča 1,8 TB/s dvosmerne pasovne širine na GPU, kar je ogromen skok, ki omogoča povezavo do 576 GPU-jev v enem grozdu s hitro “all-to-all” komunikacijo nvidia.com nvidianews.nvidia.com. Za primerjavo, Hopperjev NVLink je omogočal ~18 GPU-jev na strežnik; Blackwellovi novi NVLink Switch čipi omogočajo vzpostavitev NVL72 domene 72 GPU-jev, ki se obnašajo kot en velik pospeševalnik nvidia.com nvidia.com. NVLink Switch zagotavlja skupaj 130 TB/s pasovne širine v 72-GPU podsistemu nvidia.com. To je ključno za treniranje večbilijonskih UI modelov, kjer mora usklajeno delovati več deset ali sto GPU-jev, brez ozkih grl v komunikaciji. Novi NVLink podpira tudi NVIDIA SHARP protokol za pospeševanje kolektivnih operacij (kot je all-reduce) v strojni opremi s FP8 natančnostjo, kar še poveča učinkovitost več-GPU sistemov nvidia.com cudocompute.com.
Motor za Zanesljivost, Dosegljivost, Servisabilnost (RAS): Ker bodo Blackwell sistemi pogosto poganjali zelo velike UI naloge tedne ali mesece brez prekinitve, je NVIDIA vgradila strojno podporo za zanesljivost. Vsak GPU vključuje namenski RAS pogon, ki spremlja na tisoče parametrov zaradi zgodnjega odkrivanja napak ali zmanjšanja učinkovitosti nvidia.com nvidia.com. Ta pogon uporablja AI-podprto napovedno analitiko za napovedovanje potencialnih težav in lahko proaktivno opozori na komponente, ki jih je treba zamenjati, s čimer se zmanjša tveganje nenadne nedosegljivosti sistema. Zagotavlja podrobno diagnostiko in usklajuje vzdrževanje – ključne funkcionalnosti, saj infrastruktura UI prehaja v “tovarne UI” s tisoči GPU-jev v podatkovnih centrih nvidia.com nvidia.com.
Varno izvajanje umetne inteligence: Blackwell je prvi GPU z vgrajenimi zmogljivostmi zaupnega računalništva. Implementira zaščiteno okolje izvajanja z enkripcijo in izolacijo pomnilnika (TEE-I/O), tako da je mogoče varno in zaupno obdelovati občutljive podatke in modele neposredno v GPU pomnilniku nvidia.com. Pomembno je, da Blackwellova enkripcija povzroča zanemarljiv padec zmogljivosti in omogoča skoraj enako prepustnost kot običajni način nvidia.com. To bodo cenile panoge, občutljive na zasebnost, kot so zdravstvo in finance, ki lahko zdaj izvajajo UI naloge na skupni infrastrukturi in hkrati zagotavljajo zaupnost podatkov nvidianews.nvidia.com. Od varnih analiz medicinskih slik do večstrankarskega učenja na zasebnih podatkih, Blackwell omogoča nove primere uporabe s premostitvijo varnostnih ovir.
Dekomprimacija in pospešek podatkov: Da bi zadostil “lakoti” svojih izračunskih jeder, Blackwell dodaja dekompresijski pogon, ki razbremeni naloge dekompresije podatkov na GPU strojno opremo nvidia.com nvidia.com. Sodobne analitične verige pogosto stiskajo podatkovne zbirke (npr. z LZ4, Snappy), da izboljšajo shranjevanje in I/O – Blackwell lahko te podatke dekomprimira transparentno ter v realnem času, brez ozkega grla na CPU-ju. Poleg tega lahko Blackwell, v paru z NVIDIA Grace CPU, neposredno dostopa do sistemskega pomnilnika z 900 GB/s preko NVLink-C2C, kar omogoča hitro pretočnost ogromnih podatkovnih zbirk nvidia.com nvidia.com. Skupaj te funkcije pospešujejo podatkovno intenzivne naloge, kot so ETL, SQL analitika in priporočilni sistemi. NVIDIA pričakuje, da se bo v naslednjih letih več deset milijard dolarjev izdatkov za obdelavo podatkov preusmerilo v strojno pospešene pristope preko GPU-jev nvidianews.nvidia.com.

Primerjalni testi zmogljivosti: Navedenim inovacijam se Blackwell zahvaljuje za generacijski preskok v zmogljivosti. Pri isti natančnosti en sam visokozmogljiv GPU Blackwell (B100 model) ponuja približno 5× pretočnosti učenja UI kot H100 (Hopper) in kar 25× pretočnosti starejšega Ampere A100 cudocompute.com nvidianews.nvidia.com. Na primer, Blackwell lahko doseže do 20 petaFLOPS AI izračunov pri FP8/FP6 natančnosti, v primerjavi s ~8 PFLOPS za H100 cudocompute.com. Še bolj impresivno je, da pri FP4 doseže 40 PFLOPS, petkrat Hopperjeve FP8 zmogljivosti cudocompute.com. V praksi to pomeni, da naloge kot je GPT-3 (175B parametrov) v inferenci, ki so na H100 trajale nekaj sekund, na Blackwellu tečejo v delčku sekunde. NVIDIA je razkrila, da Blackwell omogoča realnočasovno inferenco na modelih do 10× večjih kot je bilo prej mogoče nvidianews.nvidia.com. Prvi industrijski primerjalni testi to potrjujejo – v MLPerf inferenčnih testih so sistemi z novimi Blackwell GPU-ji presegli vse tekmece, medtem ko so celo najnovejši AMD MI300 pospeševalniki dosegli zgolj ravni Nvidia H100/H200 pri manjših LLM-jih spectrum.ieee.org. V enem Llama-70B testu so Blackwell rešitve dosegle 30× večjo prepustnost kot enako število H100, ob tem pa drastično znižale porabo energije nvidianews.nvidia.com.

Vredno je omeniti, da so dejanske izboljšave odvisne od optimizacije programske opreme. NVIDIA-jev celovit pristop – od knjižnic CUDA do novega prevajalnika TensorRT-LLM – omogoča aplikacijam enostaven dostop do Blackwellovih funkcij. Na primer, samodejno prilagajanje natančnosti v Transformer Engine omogoča uporabnikom, da izkoristijo pohitritev FP4 z minimalnimi spremembami kode nvidia.com. Tako tesna integracija med strojno in programsko opremo je pomembna prednost za NVIDIA. Nasprotno pa se konkurenca pogosto spopada z nezrelostjo programske opreme; industrijski analitiki poudarjajo, da čeprav AMD-jeva strojna oprema MI300 “dohiteva” Nvidio, njen programski ekosistem še vedno zaostaja za CUDO po enostavnosti uporabe in optimizaciji research.aimultiple.com research.aimultiple.com.

Inovacije v primerjavi s Hopper in Ampere

Blackwell prinaša več ključnih arhitekturnih napredkov v primerjavi s preteklimi GPU-generacijami podjetja NVIDIA:

Oblika Multi-Chip Module (MCM): Hopper (H100) in Ampere (A100) sta bila monolitna GPU-ja na enem čipu. Blackwell je prvi NVIDIA-jev preizkus z MCM-GPU, kar dejansko pomeni dva GPU-ja v enem izdelku. To omogoči dramatično višji proračun tranzistorjev (208 milijard proti 80 milijard) in pomnilniško zmogljivost (do 192 GB proti 80 GB) cudocompute.com cudocompute.com. Konkurenca, kot je AMD, je MCM-GPU-je uvedla v seriji MI200/MI300, vendar NVIDIA z Blackwellom združuje oba čipa v enoten GPU naslovni prostor cudocompute.com, kar programerjem olajša uporabo. Pristop MCM izboljša tudi izkoristek proizvodnje (manjši čipi so lažji za izdelavo) in skalabilnost za prihodnje dizajne.
Izboljšana Tensor jedra in FP4-natančnost: Medtem ko je Ampere uvedel Tensor jedra, Hopper pa dodal podporo FP8 prek prve generacije Transformer Engine, Blackwell še stopnjuje igro s prvovrstno podporo za 4-bitno natančnost nvidia.com. Dodaja “Ultra” Tensor jedra, ki obvladajo FP4 matrične operacije in nove mikro-skalirne algoritme za ohranjanje točnosti pri 4-bit nvidia.com. To je pomembno, ker lahko številne AI-inferenčne naloge prenašajo nižjo natančnost, zato lahko FP4 efektivno podvoji prepustnost proti FP8. Blackwellova Tensor jedra so bolj prilagojena na redkost (sparsity) in vzorce pozornosti, značilne za Transformerje, medtem ko sta imela Ampere/Hopper bolj splošne zasnove. Rezultat je velik skok v zmogljivosti prav pri Transformer modelih (2× hitrejša pozornost pri Blackwell) nvidia.com.
Pomnilnik in povezljivost: Blackwell uporablja pomnilnik HBM3e z višjo zmogljivostjo in pasovno širino. Hopperjev H100 je imel 80 GB HBM (3 TB/s); Blackwell B100 ima do približno 192 GB HBM in okoli 8 TB/s cudocompute.com. Poleg tega Blackwellov NVLink 5 močno izboljša povezovanje več GPU-jev, kot je bilo opisano zgoraj. Hopper je lahko neposredno povezal le 8 GPU-jev v enem vozlišču (s približno 0,6 TB/s povezavami na vsak GPU); Blackwell pa lahko poveže 72 ali več GPU-jev z bistveno večjo pasovno širino nvidia.com nvidianews.nvidia.com. To odgovarja na zahteve skaliranja pri sodobnem porazdeljenem učenju na ducate GPU-jev, saj zmanjša komunikacijske stroške.
Zaupno računalništvo in RAS: Prejšnje arhitekture so imele le omejeno varnost (npr. Hopper je uvedel šifrirano izolacijo VM za GPU-partenje v več primerih). Blackwell je prvi z popolnoma zaupnimi izračuni na ravni GPU, kjer so podatki ves čas uporabe šifrirani nvidia.com. Prav tako je prvi GPU podjetja NVIDIA z namenskim RAS-jedrom za prediktivno vzdrževanje nvidia.com. Te funkcionalnosti kažejo na zrelost GPU-tehnologije za poslanstveno kritična podjetja in oblačne implementacije, kjer sta čas delovanja in zasebnost podatkov tako pomembna kot surova hitrost. Ampere in Hopper nista imela tako robustnih vgrajenih telemetrij in šifriranja za AI delovne obremenitve.
Novi procesorski motorji za podatke: Blackwellova dekompresijska strojna oprema je nova – prejšnji GPU-ji so nalaganje podatkov prepustili CPU-jem ali DPU-jem. S pospeševanjem nalog, kot so razčlenjevanje JSON ali dekodiranje stisnjenih podatkov neposredno na GPU, lahko Blackwell pospeši podatkovne cevovode od začetka do konca, ne le računanja za nevronske mreže nvidia.com. To odraža širitev vloge GPU-jev: iz pospeševalnika za strojno učenje v splošni stroj za procesiranje podatkov za analitiko in ETL. Gre za odziv na trende v industriji, kjer se AI in velika podatkovna analitika vse bolj prepletata.

Povzetek: izboljšave Blackwella v primerjavi s Hopper/Ampere se kažejo v petih ključnih dimenzijah: (1) Računska moč (več TFLOPS zaradi večjega obsega in FP4), (2) Pomnilnik (večja zmogljivost/pasovna širina), (3) Povezljivost (NVLink grozdi), (4) Zanesljivost/varnost (RAS motor, šifriranje) in (5) Upravljanje podatkov (motorji za kompresijo). Te izboljšave naredijo Blackwell bistveno bolje opremljenega za reševanje velikopoteznih AI problemov kot njegovi predhodniki.

Odgovor na zahteve velikopoteznega AI učenja in inferenc

Mejni današnji AI modeli – naj bodo to večmilijardni jezikovni modeli, kompleksni vision transformerji ali priporočilni sistemi, ki obdelujejo petabajte podatkov – zahtevajo ogromno računalniške in pomnilniške kapacitete. Blackwell je bil zasnovan prav za reševanje teh izzivov:

Neprimerljiva velikost modelov: Kot smo omenili, lahko en sam Blackwell GPU v pomnilnik spravi modele v rangu 0,5–0,7 bilijona parametrov cudocompute.com. In če to ni dovolj, se Blackwellove rešitve razširijo na stotine GPU-jev s hitrimi povezavami, kar omogoča učenje modelov z desetimi bilijoni parametrov z razporejanjem parametrov čez GPU-je nvidianews.nvidia.com nvidia.com. Na primer, NVIDIA DGX SuperPOD na podlagi Blackwella lahko poveže 576 GPU-jev ter ponudi približno 1,4 eksaflopov AI zmogljivosti in 30 TB združenega HBM pomnilnika nvidianews.nvidia.com nvidianews.nvidia.com. Takšna zmogljivost omogoča raziskovanje GPT-4 in kasnejših modelov, kjer je velikost modela lahko v večbilijonskem razponu. Skratka, Blackwell surovo rešuje problem obsega – večji čipi ter več njih povezanih brez šivov.
Višja prepustnost, nižja latenca: Pri AI inferencah, še posebej za interaktivne aplikacije (klepetalniki, obdelava vizije v realnem času ipd.), sta latenca in strošek ključna. Blackwellove optimizacije transformerjev in FP4 natančnost neposredno ciljajo učinkovitost inferenc in dosežejo do 25× manjšo latenco in energijo na poizvedbo za LLM v primerjavi s prejšnjo generacijo nvidianews.nvidia.com. V praksi to pomeni, da bi lahko poizvedbo na modelu z bilijonom parametrov, ki je prej potrebovala velik grozd GPU-jev, Blackwell postregel hitreje, ceneje in z manjšim virom. Podjetja kot so OpenAI in Meta načrtujejo uporabo Blackwella za podatkovno obsežno serviranje LLM uporabnikom, kjer je vsak prihranek pri strošku na inferenco pomemben nvidianews.nvidia.com nvidianews.nvidia.com.
Učinkovitost učenja in strošek: Izuriti sodoben model lahko stane desetine milijonov dolarjev samo za računske vire. Blackwell skuša to znižati z hitrejšim časom učenja in boljšim izkoristkom vozlišč. Kombinacija več FLOPS in boljšega omreženja pomeni, da lahko določen grozd GPU-jev Blackwell isti model izuči v bistveno krajšem času (ali pa, nasprotno, doseže večjo točnost v istem času). NVIDIA trdi, da je mogoče velike LLM naučiti na Blackwellu z do 25× manj energije kot na Hopperju nvidianews.nvidia.com. Temu botrujejo ne le izboljšave čipa, ampak tudi razvoj programske opreme (npr. prevajalniki kompatibilni z Blackwellom in sheme mešane natančnosti). Hitrejši cikli učenja omogočajo raziskovalcem hitrejše iteracije modelov – velik pospešek za razvoj AI.
Pomnilniška kapaciteta za velike sklope in podatkovne skupke: Razširjen pomnilnik Blackwella je prednost tako za učenje kot inferenco. Pri učenju omogoča večje velikosti paketov (batch sizes) ali sekvenc, kar izboljša učinkovitost in kakovost modela. Pri inferenci lahko shrani cele modele ali dolge kontekste (pomembno za LLM, ki potrebujejo dolge pozive) na eni GPU, brez počasnega preklapljanja v CPU-pomnilnik. Poleg tega lahko Blackwell z navezavo na Grace CPU (900 GB/s) dodatne podatke preprosto prenese v CPU pomnilnik nvidia.com. To v praksi ustvari hierarhijo pomnilnika s skupnim GPU+CPU prostorom – sploh koristno pri ogromnih priporočilnih zbirkah ali analizah grafov, kjer podatki presegajo pomnilnik samih GPU-jev.
Vedno zanesljivo delovanje: V poslovnem in oblačnem okolju AI-tovorne obremenitve pogosto tečejo kot storitve brez prekinitev. Blackwellove zanesljivostne funkcije (RAS motor) pomenijo, da lahko dolgotrajni procesi potekajo z minimalnimi prekinitvami, saj lahko sistem samodejno zazna napake pomnilnika, težave s povezavami ali toplotne anomalije ter o tem opozori operaterje nvidia.com nvidia.com. To rešuje praktično potrebo: podjetja, ki AI vpeljujejo neposredno v produkcijo (npr. poganjajo priporočila v živo ali robotske sisteme), potrebujejo strojno opremo, ki je enako zanesljiva kot tradicionalna IT-infrastruktura. Blackwell se približa temu cilju z vpeljavo zanesljivostnih rešitev, ki smo jih prej videvali le pri najpomembnejših strežniških CPU-jih.

Povzetek: Blackwell neposredno cilja na potrebe “AI tovarn” – množičnih AI-infrastruktur, ki poganjajo vse od raziskovalnih laboratorijev do oblačnih AI-storitev nvidianews.nvidia.com. Ponuja obseg, hitrost, učinkovitost in zanesljivost, ki jih potrebujemo v času eksponentne rasti AI modelov in podatkovnih zbirk.

Primeri uporabe in aplikacije v različnih industrijah
NVIDIA Blackwell ni namenjen samo podiranju rekordov – zasnovan je tako, da odklepa nove aplikacije umetne inteligence v širokem spektru področij. Oglejmo si, kako bodo Blackwellovi GPU-ji vplivali na ključne domene:

Generativna umetna inteligenca in veliki jezikovni modeli (LLM)

Porast generativne umetne inteligence (GPT-3, GPT-4 itd.) je glavni razlog za razvoj Blackwella. Blackwellovi GPU-ji blestijo tako pri treniranju kot izvajanju velikih jezikovnih modelov:

Treniranje orjaških modelov: Raziskovalni laboratoriji in podjetja, kot so OpenAI, Google DeepMind ter Meta, trenirajo vse večje LLM-je. Blackwell omogoča izvedbo treniranj, ki so bila prej praktično neizvedljiva. Zaradi razširljivosti več GPU-jev in hitrejšega pretoka podatkov je mogoče trenirati modele s trilijoni parametrov ali pa več kot 100-milijardne modele v bistveno krajšem času. CEO podjetja Meta je celo poudaril, da “se veselijo uporabe NVIDIA Blackwella za treniranje svojih odprtokodnih modelov Llama in za izgradnjo naslednje generacije Meta AI” nvidianews.nvidia.com. Hitrejši cikel iteracij pomeni več eksperimentiranja in morebitne preboje v sposobnostih modelov. Blackwellov Transformer Engine je posebej optimiziran za transformer mreže, kar zagotavlja boljši izkoristek strojne opreme in nižje stroške za doseganje želene natančnosti.
Povečevanje LLM inferenčnih storitev: Izvajanje storitve, ki temelji na LLM (na primer klepetalni robot za milijone uporabnikov), je izjemno računsko zahtevno. Blackwell bistveno zmanjša potrebno strojno opremo za isto obremenitev. Jensen Huang je izjavil, da Blackwell “omogoča organizacijam izvajanje generativne AI v realnem času na trilijonskih modelih z do 25× nižjimi stroški” kot prej nvidianews.nvidia.com. To omogoča ponudnikom v oblaku, da cenovno dostopno ponudijo GPT-storitve svojim strankam. Prav tako odpira vrata aplikacijam v realnem času – npr. asistentom, ki lahko v trenutku preiščejo ogromne dokumente ali odgovorijo na zelo zapletena vprašanja, prav zaradi nizke latence Blackwella. CEO Googla Sundar Pichai je izpostavil, kako bo Google uporabljal Blackwellove GPU-je v Google Cloud in Google DeepMind za “pospeševanje prihodnjih odkritij” in učinkovitejše delovanje svojih AI produktov nvidianews.nvidia.com.
MoE (Mixture-of-Experts) modeli: Blackwellova arhitektura (ogromni pomnilnik + hiter vmesnik) je posebej primerna za MoE modele, ki dinamično usmerjajo vhodne podatke na različne podsisteme. Ti modeli lahko dosežejo trilijone parametrov, vendar zahtevajo hitrosno komunikacijo med eksperti (ki so pogosto razpršeni po več GPU-jev). NVLink Switch in velik pomnilnik GPU zagotavljata učinkovitost MoE-jev ter omogočata nov val razpršenih ekspertnih modelov, ki jih je starejša strojna oprema omejevala s pasovno širino nvidia.com cudocompute.com.

Robotika in avtonomna vozila

Strojna oprema za umetno inteligenco postaja ključen del robotike – tako za usposabljanje robotov v simulaciji kot za poganjanje umetne inteligence v samih robotih/vozilih:

Raziskave in simulacije v robotiki: Učenje nadzora robotskih sistemov (npr. za drone, industrijske robote) pogosto poteka v obsežnih simulacijskih okoljih in uporablja učenje okrepitve, kar intenzivno obremeni GPU-je. Blackwell lahko pospeši simulacije fizike (Omniverse, Isaac Sim itd.) in treniranje nadzornih mrež. NVIDIA je poročala, da sistemi z Grace+Blackwell dosegajo do 22× hitrejše simulacije dinamike v primerjavi z rešitvami na osnovi procesorjev cudocompute.com. To pomeni hitrejši razvoj načrtovanja gibanja robotov, boljšo digitalno dvojčico za tovarne in ugodnejši trening zahtevnih robotskih nalog. Raziskovalci lahko na enem Blackwellovem vozlišču izvajajo bogatejše simulacije (z večjo natančnostjo ali številom agentov), kar posledično pomeni bolje usposobljene robote.
Avtonomna vozila (AV) – platforma Drive Thor: NVIDIA-jev avtomobilski računalnik za AI, DRIVE Thor, bo temeljil na arhitekturi Blackwell GPU nvidianews.nvidia.com. Platforma je namenjena novi generaciji vozil, robotaksijev in tovornjakov brez voznika. Blackwellove prednosti pri transformerskih mrežah in AI inferenci so v skladu z novimi trendi pri AV – denimo uporabi percepcijskih transformerskih modelov ali velikih jezikovnih modelov za asistente v potniški kabini. DRIVE Thor z Blackwellom omogoča do 20× večjo zmogljivost glede na trenutno platformo Orin (s temeljem na Ampere) in hkrati združi obdelavo vizije, radarja, lidarja ter tudi zabavne AI-sisteme v enem računalniku medium.com. Vodilni proizvajalci in podjetja s področja AV (BYD, XPENG, Volvo, Nuro, Waabi in drugi) so že napovedali uporabo platforme DRIVE Thor za vozila, ki prihajajo po letu 2025 nvidianews.nvidia.com nvidianews.nvidia.com. To bo omogočilo avtonomijo na ravni 4, naprednejše asistenčne funkcije za voznika in celo generativno AI v vozilu (za glasovne asistente ali zabavo potnikov). Skratka, Blackwell v avtomobilu zagotovi AI moč za analizo neštetih vhodov s senzorjev v realnem času in odločanje med vožnjo z ustrezno varnostno rezervo.
Industrijski in zdravstveni roboti: Blackwell se uveljavlja tudi pri specializiranih robotih v zdravstvu in industriji. Na primer, na GTC 2025 v Tajvanu so razvijalci predstavili medicinske robote z umetno inteligenco, ki uporabljajo Blackwellove GPU-je za AI procese worldbusinessoutlook.com. Sem sodijo avtonomni mobilni roboti za bolnišnice in humanoidni asistenti, ki se lahko pogovarjajo s pacienti. Vsak robot uporablja Blackwellov GPU v povezavi z velikim jezikovnim modelom (“Llama 4”) in NVIDIA-jevo platformo za govor Riva za naravno komunikacijo z uporabniki worldbusinessoutlook.com. Blackwellov GPU zagotavlja potrebno moč za razumevanje govora, izvajanje LLM-ja za razumsko sklepanje ter nadzor gibov robota v realnem času. Poskusi v bolnišnicah so pokazali boljšo storitev pacientom in manjše obremenitve osebja zaradi teh AI robotov worldbusinessoutlook.com worldbusinessoutlook.com. V proizvodnji si lahko predstavljamo robotske sisteme na osnovi Blackwella, ki opravljajo napredno vizualno kontrolo ali pa koordinacijo množice skladiščnih robotov z AI algoritmi načrtovanja. Večja zmogljivost omogoča uvajanje bolj sofisticiranih AI modelov v robotiko, kar jih naredi pametnejše in bolj avtonomne.

Podatkovni centri, AI storitve in ponudniki v oblaku

Glede na svojo zmogljivost je Blackwell naravno doma v podatkovnih centrih, kjer bo poganjal tako javne oblačne storitve kot zasebno infrastrukturo za AI v podjetjih:

Oblačne AI instance: Vsi največji ponudniki v oblaku – Amazon AWS, Google Cloud, Microsoft Azure in Oracle – so napovedali Blackwellove infrastrukture na GPU nvidianews.nvidia.com. Startupi in podjetja bodo lahko najeli Blackwellove pospeševalnike po potrebi, za treniranje modelov ali izvajanje AI aplikacij. Ponudniki v oblaku celo sodelujejo neposredno z NVIDIA – AWS je razkril so-inženirski projekt “Project Ceiba” za integracijo superčipov Grace-Blackwell z AWS omrežno infrastrukturo za potrebe interne raziskave NVIDIA nvidianews.nvidia.com. Blackwell v oblaku omogoča manjšim AI podjetjem ali raziskovalnim skupinam dostop do vrhunske strojne opreme, ki je bila prej rezervirana le za največje igralce – kar v določeni meri demokratizira treniranje velikih modelov ali izvajanje obsežnih AI storitev.
Podjetja – “AI tovarne”: Mnoga podjetja postavljajo lastne podatkovne centre za AI (NVIDIA jih imenuje tudi AI tovarne) za razvoj in uvajanje modelov umetne inteligence v svojem poslovanju. Ob lansiranju Blackwella so na voljo referenčne rešitve, kot sta NVIDIA MGX strežniki in DGX SuperPOD, ki olajšajo postavitev Blackwellovih grozdov nvidianews.nvidia.com. Dell, HPE, Lenovo in Supermicro že ponujajo strežnike z Blackwellovimi HGX ploščami (8× B200 GPU na ploščo) nvidianews.nvidia.com nvidianews.nvidia.com. Tako grozdi lahko poganjajo vse od poslovne analitike do funkcij za stranke, temelječih na umetni inteligenci. Pomembno je tudi vprašanje energijske učinkovitosti: Blackwellove izboljšave pomenijo nižje stroške treninga in inferenc, zaradi česar je AI smiselno uporabiti v več poslovnih scenarijih. Jensen Huang poudarja, da je z Blackwellom industrija “prešla na GPU-pospešene AI tovarne” kot referenčno merilo za IT infrastrukturo podjetij research.aimultiple.com research.aimultiple.com. To se kaže v partnerstvih, kot je sodelovanje NVIDIA s farmacevtskim podjetjem Lilly pri uvajanju AI za odkrivanje zdravil na lastni infrastrukturi ali s podjetji kot je Foxconn za pametno proizvodnjo – vse na podlagi Blackwellovih sistemov research.aimultiple.com.
Analitika, HPC in znanost: Ne gre samo za nevronske mreže – Blackwell se uporablja tudi za pospeševanje klasičnega visokozmogljivega računalništva (HPC) in podatkovne analitike. Sporočilo za javnost izpostavlja primere, kot so inženirske simulacije, EDA (načrtovanje čipov) in celo raziskave kvantnega računalništva, ki imajo koristi od Blackwella nvidianews.nvidia.com. Programska podjetja Ansys, Cadence in Synopsys (ključna na področju simulacij in načrtovanja elektronike) optimizirajo svoja orodja za Blackwell GPU-je nvidianews.nvidia.com. Na primer, strukturna simulacija, za katero je bilo prej potrebnih več ur na procesorskih grozdih, teče bistveno hitreje na GPU-jih z Blackwellovo računsko močjo. Podobno v zdravstvu lahko “računalniško podprto odkrivanje zdravil” s pomočjo Blackwell GPU-jev precej hitreje preverja spojine in simulira interakcije med proteini nvidianews.nvidia.com. Vodilne medicinske ustanove in laboratoriji uporabljajo pospešeno genomiko in medicinsko slikanje na GPU-jih; Blackwell pa to nadgrajuje z velikim pomnilnikom (uporabno za genomske baze) in varnim računalništvom (ključnim za zasebnost pacientov) nvidianews.nvidia.com. Skratka, Blackwell v podatkovnem centru deluje kot univerzalni pospeševalnik – ne samo za AI modele, temveč za vse naloge, ki izkoriščajo vzporedno računanje, od velikih podatkov do znanstvenih raziskav.

Zdravstvo in biološke vede

Sektor zdravstva ima lahko izjemne koristi od umetne inteligence na osnovi Blackwella, saj pogosto obdeluje velike in občutljive zbirke podatkov:

Medicinsko slikanje in diagnostika: Nevronske mreže se uporabljajo za zaznavanje bolezni v slikovnih modalitetah, kot so MRI, CT in rentgen. Ti modeli (npr. odkrivanje tumorjev) pogosto zahtevajo zelo visoko ločljivost in velike 3D volumne. Blackwellova zmogljivost pomnilnika in procesorske moči omogoča analizo celotnih telesnih pregledov ali visoko resolucijskih patoloških rezin naenkrat, kar je bilo težko s manjšimi GPU-ji. Poleg tega funkcija zaupnega računalništva (confidential computing) pomeni, da lahko bolnišnice izvajajo te analize na deljenih oblačnih strežnikih brez tveganja uhajanja pacientovih podatkov nvidia.com nvidianews.nvidia.com. To lahko pospeši uvajanje AI diagnostičnih orodij tudi v bolnišnicah, ki si delijo oblačno instanco, saj lahko vsaka podatke ohranja šifrirane.
Genomika in odkrivanje zdravil: Genomski sekvencirni podatki in molekularne simulacije ustvarjajo ogromne količine podatkov. Blackwellova zmožnost raz-napetja podatkov in sinergija s pomnilnikom procesorjev Grace lahko pohitrijo genomike procese (npr. stiskanje podatkov v pomnilniku CPU in pretakanje na GPU za poravnavo ali določanje variant). NVIDIA je izpostavila, da podatkovne baze in Spark-analize dosegajo velike pospeške – recimo Blackwell z Grace-CPU-jem je dosegel 18× pospešek v obdelavi podatkovnih baz v primerjavi z zgolj CPU sistemi cudocompute.com cudocompute.com. Za farmacevtska podjetja, ki izvajajo virtualno testiranje milijard spojin, lahko Blackwell dramatično zmanjša čas izbora kandidatov, praktično kot superračunalnik za odkrivanje zdravil v škatli.
AI v kliničnih delovnih tokovih: Zgleden primer medicinskih robotov v pametni bolnišnici (Mackay Memorial na Tajvanu) prikazuje, kako Blackwell omogoča nove klinične aplikacije worldbusinessoutlook.com worldbusinessoutlook.com. Ti roboti uporabljajo lokalne Blackwellove GPU-je za prepoznavanje govora, iskanje medicinskih informacij in navigacijo po bolnišnici. V širšem smislu lahko bolnišnice uporabljajo Blackwellove strežnike kot centralizirane AI-hube – od napovedovanja poslabšanja stanja pacientov (prek velikih časovnih modelov na vitalnih znakih) do optimizacije delovanja (npr. upravljanje postelj s pomočjo okrepljenega učenja). Blackwellove funkcije RAS poskrbijo, da ti kritični sistemi delujejo zanesljivo 24/7, šifrirana območja pa ščitijo podatke pacientov, kadar se modeli učijo na občutljivih zdravstvenih zapisih. Kot je dejal eden izmed vodij bolnišnice, vpletenih v pilotski projekt robotov: »to partnerstvo izboljšuje kakovost storitev za paciente in optimizira interne procese« worldbusinessoutlook.com – izjava, ki bo verjetno pogosto slišana, ko bo AI postajal sestavni del zdravstvenih procesov.

Primerjava Blackwella z drugimi AI pospeševalniki

Medtem ko NVIDIA trenutno vodi na trgu AI pospeševalnikov, se Blackwell sooča s konkurenco alternativnih strojnih platform. Tukaj primerjamo Blackwell z glavnimi konkurenti:

AMD Instinct MI300 serija (in nasledniki)

AMD-jeva linija Instinct je glavni NVIDIA-jev konkurent med procesorji GPU v podatkovnih centrih za AI. Najnovejša pospeševalnika MI300X in MI300A (temeljita na AMD-jevi arhitekturi CDNA3) si z Blackwellom delita nekatere oblikovalske zamisli – predvsem čipletno zasnovo in HBM pomnilnik. MI300A je APU, ki združuje CPU in GPU v enem paketu (spominja na koncept NVIDIA Grace+Blackwell superčipa), medtem ko je MI300X le-GPU različica s 192 GB HBM3. Glede zmogljivosti je AMD trdil, da lahko MI300X na določenih sklepnih (inference) nalogah doseže ali preseže NVIDIA Hopper (H100) research.aimultiple.com research.aimultiple.com. Neodvisni rezultati MLPerf so pokazali, da je AMD-jev MI325 (različica MI300) dosegal rezultate primerljive s Nvidia H100 (»H200«) pri sklepni nalogi za jezikovni model Llama-70B spectrum.ieee.org. Vendar pa je Blackwell po trenutnih podatkih precej pred ostalimi pri najvišjih zmogljivostih – ena analiza je zapisala, da če merimo surovo zmogljivost (število tokenov/sekundo pri nizki zakasnitvi), je »NVIDIA Blackwell v svojem razredu« med pospeševalniki za 2024–2025 ai-stack.ai. Prvi podatki kažejo, da B100 močno prekaša MI300X (možno 2–3× pri pretoku transformerjev), čeprav ob višji porabi energije.

Prednost, ki jo AMD poudarja, je cenovna učinkovitost in odprtost. MI300 GPU-ji podpirajo alternativno programsko okolje, kot je ROCm, AMD pa aktivno sodeluje z odprtokodnimi AI-okviri (celo sodelujejo z Meta in Hugging Face za optimizacijo modelov za AMD-jev hardware research.aimultiple.com). Za nekatere ponudnike v oblaku in kupce na Kitajskem (ki se soočajo z omejitvami izvoza NVIDIA research.aimultiple.com) so AMD GPU-ji privlačna druga izbira. AMD-jev izziv pa je programsko okolje – CUDA in NVIDIA knjižnice imajo še vedno boljšo podporo. Zgovorno je bilo, da je nastala celo javna razprava, ko sta NVIDIA in AMD primerjali delovanje svojih GPU-jev: prava programska nastavitev je bistveno vplivala na rezultate in mnogi so ocenili, da je NVIDIA-jev programski paket bolj dovršen research.aimultiple.com research.aimultiple.com. Povzetek: serija AMD MI300 je konkurenčna z NVIDIA-jevo prejšnjo generacijo (Hopper), naslednja generacija AMD (MI350, ki bo neposredno konkurirala Blackwell/H200 research.aimultiple.com) pa bo skušala nadoknaditi razliko. V tem trenutku pa ima Blackwell še vedno zmogljivostno prednost na vrhu, še zlasti za največje modele in razporeditve v razsežnih grozdih.

Intel (Habana Gaudi in prihajajoči “Falcon Shores”)

Intelovi napori na področju AI-pospeševalnikov so dvojni: prevzeta linija Habana Gaudi za učenje AI in lastne GPU-arhitekture (Xe HPC). Gaudi2 pospeševalnik (predstavljen leta 2022) je ponujal alternativo NVIDIA A100 za učenje, z zmogljivostjo primerljivo na testih ResNet in BERT, a za nižjo ceno. Gaudi2 pa se je težko uveljavil zaradi programske podpore, in čeprav je bil napovedan Gaudi3, so Intelove napovedi prodaje skromne (~500 milijonov $ v 2024) research.aimultiple.com research.aimultiple.com. Intel je nedavno izvedel številne strateške spremembe – zelo oglaševani projekt Falcon Shores, sprva zamišljen kot hibridni CPU+GPU XPU za konkurenco Grace Hopperju, je doživel zamudo in prenovo. Intel je nato »de-XPUjal« Falcon Shores v GPU-le dizajn in ga načrtuje za leto 2025 hpcwire.com hpcwire.com. Obstajajo celo poročila, da bi Intel te vrhunske AI čipe morda celo ukinil ali jih povsem prilagodil posameznim nišam (npr. pospeševalniki za inferenco), kjer ima prednosti crn.com bloomberg.com.

Medtem je najbolj konkreten Intelov izdelek Ponte Vecchio / Max Series GPU, ki napaja superračunalnik Aurora. Ponte Vecchio je kompleksen, iz 47 gradnikov sestavljen GPU, ki je bil deležen letnih zamud, njegovi derivati (Rialto Bridge) pa so bili odpovedani. GPU-ji superračunalnika Aurora dosegajo dobre rezultate na FP64 za HPC, pri AI pa so zmogljivosti približno na ravni A100/H100 pri številnih nalogah. Največji izziv je pri Intelu bila izvedba in obseg – njihove arhitekture so v teoriji močne, toda izdelava čipov pravočasno in zanesljivimi gonilniki se je izkazala za zelo težko.

V neposredni primerjavi, Blackwell proti Intelu: Trenutno ni Intelovega izdelka, ki bi neposredno izzival Blackwellovo kombinacijo zmogljivosti treniranja in ekosistema. Videti je, da Intelova strategija prehaja k uporabi njihovih CPE (z AI razširitvami) in morda manjših Gaudi pospeševalnikov za sklepanja, namesto da bi se merili v največjih trenirnih grozdih. Kot je povzel eden od HPC analitikov, Intel očitno “prepušča trg AI treniranja GPU konkurenci” in se osredotoča na lažje priložnosti hpcwire.com. To pomeni, da bo Blackwell verjetno obvladoval segment vrhunskega treniranja brez Intelove konkurence do vsaj 2025/2026, ko/če bo Falcon Shores sploh lansiran. Tudi takrat govorice kažejo, da bo Falcon Shores ciljal na nišo (morda na zelo visoko porabo, 1500W zasnovo za specifične naloge) reddit.com wccftech.com, zato ni jasno, ali bo sploh resnično rival Blackwellu (DGX) pri splošni uporabi. Trenutno je Intel še vedno na oddaljenem tretjem mestu v pospeševanju AI, z močjo v CPE, ki je še vedno pomembna (npr. veliko AI sistemov uporablja gostiteljske Intel Xeon procesorje, Intel pa je vgradil AI ukaze v CPE za lažje obremenitve).

Google TPU-ji (Tensor Processing Units)

Google je ubralo drugačno pot z notranje razvitimi TPU-ji, specializiranimi ASIC čipi, prilagojenimi potrebam nevralnih omrežij (še posebej za Googlove lastne programske rešitve, kot je TensorFlow). Zadnja javno znana generacija je TPU v4, ki jih Google uporablja v svojih podatkovnih centrih in jih omogoča tudi v Google Cloud. TPUv4 “podi” (4096 čipov) naj bi dosegli ~1 eksaflop BF16 računanja in so uporabljeni pri treniranju velikih modelov, kot je PaLM. Čeprav so natančne specifikacije delno poslovna skrivnost, je TPUv4 približno primerljiv z zmogljivostmi NVIDIA A100/H100 generacije. Google je pred kratkim napovedal platformo naslednje generacije s kodnim imenom “Trillium” TPU v5 (v nekaterih poročilih tudi TPU v6, z Ironwood kot specifično izvedbo) research.aimultiple.com research.aimultiple.com. Čip Ironwood TPU naj bi nudil 4.614 TFLOPS AI moči (verjetno INT8 ali BF16) na čip in se skalira do superpodov s 9216 čipi za skupno 42,5 eksaflopa research.aimultiple.com. Novost je tudi 192 GB HBM na čip (enako kot pri Blackwell), 7,2 TB/s pomnilniškega prenosa (primerljivo ali boljše) in izboljšana medčipna povezljivost 1,2 Tbps research.aimultiple.com. Poleg tega se ponaša z dvakrat boljšo energetsko učinkovitostjo kot TPUv4. Vse te številke kažejo, da so Googlove najnovejše TPU enakega razreda kot Blackwell v mnogih pogledih.

Razlika pa je, da TPU-ji niso široko dostopni zunaj Googlove uporabe in njegovih uporabnikov oblaka. Odlikujejo jih naloge, kot so velike matrične množitve, in poganjajo Googlove produkte (iskanje, fotografije itd.), vendar so del bolj zaprtega ekosistema. Na primer, TPU je optimiziran za TensorFlow in JAX naloge na Google Cloud, medtem ko so NVIDIA grafične kartice uporabne praktično povsod z mnogimi okvirji. Če primerjamo Blackwell s TPU za obsežno AI uporabo: Blackwell ponuja večjo prilagodljivost (podpora širšemu naboru modelov, lastne operacije itd.), medtem ko TPU lahko ponudi boljšo učinkovitost pri tipičnih Google nalogah. Google bo verjetno še naprej interne potrebe pokrival s TPU-ji (zaradi stroškov), vendar pa, kar veliko pove, tudi Google načrtuje ponudbo Blackwell grafičnih procesorjev v Google Cloud poleg svojih TPU-jev nvidianews.nvidia.com. To kaže, da mnogi kupci raje uporabljajo NVIDIA ekosistem ali potrebujejo večjo vsestranskost. Skratka, Google TPU-ji so izjemni – z najnovejšimi lahko konkurirajo tudi Blackwell po surovih specifikacijah –, a ciljajo na ožji trg. Blackwell ohranja prednost pri splošni sprejetosti in podpori programski opremi, kar je tudi razlog, da celo Google sodeluje z NVIDIA (kot je povedal Pichai, imajo z NVIDIA “dolgotrajno partnerstvo” za infrastrukturno opremo) nvidianews.nvidia.com.

Cerebras (Wafer-Scale Engine)

Cerebras Systems se je odločil za edinstven pristop in izdelal Wafer-Scale Engine (WSE) – AI čip, ki je velik praktično toliko kot celoten silicijev rezin. Trenutni WSE-2 ima 2,6 bilijona (trillion) tranzistorjev in 850.000 preprostih računskih jeder na eni napravi research.aimultiple.com, kar prekaša vsako klasično čipovsko izvedbo po številu tranzistorjev. Prednost takega pristopa je, da vsa ta jedra delijo hitro on-wafer pomnilniško povezavo in komunikacijo, s čimer se izognejo potrebi po medčipnem mreženju. Cerebras lahko pri treniranju zelo velikih modelov včasih shrani celoten model na en rezin ter s tem odpravi kompleksnosti paralelne razdelitve. Vendar pa je vsako jedro dokaj enostavno, taktne frekvence pa so zmerne, zato surova prepustnost ne sledi neposredno številu tranzistorjev. V praksi je Cerebras CS-2 sistem (z enim WSE-2) pokazal, da lahko trenira modele, kot je GPT-3, bolj neposredno (brez potrebe po GPU-paralelizaciji med vozlišči), a cena na zmogljivost ni jasno premagala grafičnih kartic, razen v določenih primerih. Nedavno je Cerebras predstavil čip WSE-3 z še več tranzistorji (približno 4 bilijone tranzistorjev) research.aimultiple.com.

V primerjavi z Blackwellom: Cerebras WSE zna v pomnilnik shraniti zelo velike mreže, vendar Blackwellove gosto zapakirane računske enote in višje frekvence pomenijo, da lahko vsak Blackwell GPU izvede več operacij na sekundo za tipične naloge globokega učenja. Na primer: Blackwellovih 40 PFLOPS pri FP4 je težko dosegljivih za Cerebras, razen če so popolnoma izkoriščene funkcije redkosti (sparsity). Cerebras svoj izdelek promovira kot enostavnejšega za skaliranje (preprosto dodaš več “waferjev” za večje modele, povezane preko MemoryX in SwarmX), in res izstopa pri zelo velikih redkih modelih ali ko je ozko grlo pomnilnik. Vendar pa za večinsko gosto učenje (dense model training) še naprej grozdi GPU kartic (še posebej z Blackwell izboljšavami) še vedno dosežejo rezultate hitreje. Cerebras si je našel nišo v nekaterih raziskovalnih laboratorijih in je na voljo kot oblačna storitev s strani Cerebrasa, pri čemer cilja na stranke, ki se želijo izogniti kompleksnosti več-GPU programiranja. Vendar pa Blackwellova uvedba z ogromnim, združenim pomnilnikom ter hitrejšo povezavo najbrž zapira del vrzeli, na katero je ciljala Cerebrasova strategija glede velikosti in obsega modelov.

Graphcore IPU

Graphcore, britanski startup, je razvil Intelligence Processing Unit (IPU), osredotočen na drobno-zrnat paralelizem in visoko širino pomnilniškega vodila na računsko enoto. En IPU čip vsebuje veliko manjših jeder (1.472 v čipu GC200), vsako z lastnim lokalnim pomnilnikom, kar omogoča množično vzporedno izvajanje nevronskih mrež z nepravilnimi strukturami. Graphcore-ovi IPU-POD sistemi (npr. IPU-POD256 s 256 čipi) so pokazali dobre rezultate pri določenih nalogah, kot so redka nevronska omrežja in grafična nevronska omrežja. Graphcore pristop manj temelji na surovih TFLOPS, bolj pa na izvedbi modelov z kompleksnimi odvisnostmi (in ne le velikih matriknih množitev). Če primerjamo z NVIDIA: Graphcore navaja konkurenčno hitrost treniranja na nekaterih “vision” modelih in učinkovitost pri majhnih “batch” velikostih. Vendar pa so IPU-ji izgubili korak, ko so modeli postali veliki, gosti “transformerji”, saj zahtevajo več TFLOPS in pomnilnika. Najnovejši Bow IPU uporablja 3D zloženi pomnilnik, a vsak čip ima še vedno veliko manj pomnilnika (pribl. 900 MB na IPU) kot GPU, tako da za velike modele potrebuješ veliko IPU-jev in kompleksno razdelitev podatkov. NVIDIA Blackwell, z ogromnim pomnilnikom in namensko optimizacijo za transformatorje, to razliko še veča pri najpriljubljenejših modelih (LLM-ih ipd.). Graphcore se je zato usmeril v posebne trge (uspehi v financah in raziskovalnih institucijah research.aimultiple.com) ter poudarja možno boljšo energetsko učinkovitost pri srednje velikih modelih. Kljub temu pa Blackwellova učinkovitost in programerski zagon (PyTorch, ipd. skoraj vedno prioritizira optimizacijo za CUDA) postavljata Graphcore v slabši položaj za splošno rabo. Skratka, IPU Graphcore je inovativna arhitektura za nišne primere, toda Blackwell GPU ostaja osrednji “delovni konj” za širok nabor AI nalog.

Tenstorrent in drugi AI čipovski startupi

Val startupov skuša izzvati NVIDIA z inovativnimi arhitekturami, pogosto usmerjenimi v specifične niše, kot so energijska učinkovitost ali nizkocenovni sklepni sistemi (inference):

Tenstorrent: Soustanovitelj je znameniti čiparski arhitekt Jim Keller. Tenstorrent razvija AI čipe na osnovi fleksibilne “dataflow” arhitekture in uporablja RISC-V jedra. Njihov najnovejši čip, Wormhole, je mogoče dobiti tako v PCIe karticah kot strežnikih (npr. Tenstorrentov Galaxy sistem) za treniranje in sklepanje research.aimultiple.com. Tenstorrent poudarja modularno zasnovo in je celo licenciral svoje IP za uporabo v tujih SoC. Nedavno so zbrali pomemben kapital (več kot 200 milijonov dolarjev, tudi od Jeffa Bezosa) kot stavo na uspeh v boju z NVIDIA research.aimultiple.com. Njihova strategija je biti licenciran AI pospeševalnik, ki ga je mogoče vgraditi v različne sisteme (tudi avtomobilske ali robne naprave). Po zmogljivostih ni veliko javnih podatkov; verjetno so primerljivi s srednjerazredno NVIDIA opremo na modelih ResNet ali manjših Transformerjih, niso pa blizu Blackwellovega vrha. Njihova arhitektura bi lahko blestela v nizko-energijskih ali robnih podatkovnih centrih zaradi programabilnosti RISC-V in potencialno boljše učinkovitosti. Če se bodo še naprej razvijali, bi si Tenstorrent lahko izboril svoj prostor, a kratkoročno je Blackwell vodilni pri absolutnih zmogljivostih in ekosistemu.
Mythic, Groq, d-Matrix ipd.: Nekateri startupi ciljajo na pospeševanje sklepnih nalog (inference) s netradicionalnimi prijemi. Mythic uporablja analogno računanje v-pomnilniku za matrike z zelo nizko porabo energije. Groq (ustanovitelji so bivši Google sodelavci s področja TPU) je razvil procesor, ki navodila obdeluje v determinističnem cevovodu (“tensor streaming processor”) in s tem obeta zelo nizek odzivni čas in visoko zmogljivost za batch-1 obremenitve – Groq navaja prednosti pri realno-časovnih sklepnih nalogah. d-Matrix ustvarja čipe za pospeševanje sklepanja velikih jezikovnih modelov z digitalnim pristopom računstva v pomnilniku. Ti startupi ciljajo na del trga, kjer je NVIDIA predraga ali neučinkovita: na primer Mythic za ultra-nizko energijske robne naprave, Groq za najnujnejše realno-časovne sisteme, d-Matrix za stroškovno ugodno izvajanje LLM. Vendar pa se vsak spopada z izzivi integracije programske opreme in omejenega dosega. Groq vozlišče lahko preseže podizkoriščen GPU pri meni specifični realnočasovni nalogi, a Blackwellova velikost in zrelost programa pomenita varnejšo izbiro za večino podatkovnih centrov. Pomembno je poudariti, da NVIDIA sama agresivno vstopa v domeno sklepanja z optimizirano programsko opremo (npr. Triton Inference server) ter celo kombinacijo Grace Hopper za učinkovitejše sklepanja. To pomeni, da morajo startupi ostajati trdno pred konkurenco v svoji niši. Nobeden jih zaenkrat ne ogroža Blackwellove pozicije v vrhunskem treniranju, a vsi prispevajo k raznolikosti pospeševalnikov na trgu.
AWS Trainium in ostali: Poleg zgoraj omenjenih nekatere oblačne platforme razvijajo lastne AI čipe (AWS-ov Trainium za treniranje in Inferentia za sklepanje, Microsoftov domnevni čip Athena ipd.). Grozdi Trainium v2 so v uporabi interno pri AWS (npr. pri treniranju modelov podjetja Anthropic) research.aimultiple.com. Ti čipi želijo zmanjšati odvisnost od NVIDIA in optimizirati stroške za lastne računske potrebe (pogosto z nižjimi stroški). Čeprav niso “startupi”, so pomembni konkurenti, saj lahko NVIDIA odvzamejo del trga v oblaku. Sprejemanje Blackwella pri oblačnih ponudnikih dokazuje, da je NVIDIA še vedno zelo iskana, a dolgoročno bo konkurenca iz “in-house” silicija vplivala na cene in funkcije.

Sklep: NVIDIA Blackwell trenutno predstavlja vrhunec AI pospeševanja za leto 2025, a konkurenca je zelo živahna. AMD hitro dohiteva (zlasti pri sklepanju in z GPU z veliko pomnilnika), Google TPU-ji NVIDII konkurirajo v superračunalniških okoljih (čeprav le znotraj Googla), startupi/alternative pa nastopajo na področjih učinkovitosti in integracije. Kot je povzela Bloomberg analiza: “Za stranke, ki tekmujejo v treniranju AI sistemov… je zmogljivost Hopperja in Blackwella ključna”, a vprašanje ostaja, kako dolgo lahko NVIDIA ohranja prednost, saj tudi ostali zelo veliko vlagajo v AI čipe bloomberg.com. Do zdaj NVIDIA z agresivno časovnico (Blackwell le 2 leti za Hopperjem z velikanskimi izboljšavami) ohranja prednost pred konkurenco.

Prihodnji pogled: trendi v pospeševanju AI strojne opreme

Z Blackwellom, ki postavlja nove standarde, kaj sledi na področju AI strojne opreme? Na obzorju je vidnih več ključnih trendov:

Nadaljnji razvoj veččipovskih arhitektur in čipletov: Blackwell-ova dvočipna zasnova je verjetno šele začetek. Prihodnji pospeševalniki bodo morda vključevali še več čipletov – na primer, delitev funkcionalnosti na računske in pomnilniške bloke ali mešanje GPU jeder s specializiranimi AI jedri. AMD in Intel že raziskujeta 3D skladanje (npr. AMD-jev V-Cache na CPU-jih, možnost zlaganja HBM ali SRAM na GPU-jih). NVIDIA bi lahko uporabila 3D integracijo v prihodnjih arhitekturah za postavitev predpomnilnika ali logike nad računska jedra zaradi hitrosti in učinkovitosti. Novi standard UCIe za povezovanje čipletov bi lahko omogočil združevanje čipletov različnih proizvajalcev v enem paketu (predstavljajte si prihodnji modul z NVIDIA GPU čipletom in tretje-strankarskim AI pospeševalnikom ali prilagojenim IO čipletom skupaj). Uspeh Blackwell-ovega MCM zagotavlja, da je obdobje monolitnih velikanov mimo – čipletne zasnove bodo postale norma za visokozmogljive pospeševalnike zaradi skalabilnosti zmogljivosti.
Specializacija za AI delovne obremenitve: Z razširitvijo AI nalog lahko pričakujemo več specializiranih enot znotraj pospeševalnikov. Blackwell je dodal Transformer Engine. Prihodnje zasnove bodo morda vsebovale namensko strojno opremo za algoritme priporočanja (ki vključujejo redke pomnilniške poizvedbe), za grafne nevronske mreže ali za simulacije okrepitvenega učenja. Obstaja tudi zanimanje za analogno računalništvo za nevronske mreže (kot to poskuša Mythic), da bi močno zmanjšali porabo energije, čeprav se bo to najprej pojavilo v nišnih izdelkih. Pričakovati je tudi podporo novim numeričnim formatom – Blackwell-ov FP4 bodo morda sledile nove različice (npr. block floating point, stohastične zaokrožitvene tehnike) za še boljšo učinkovitost. V bistvu se bo koncept “tenzorskega jedra” razširil na širši nabor AI operacij.
Napredki pri povezavah – optične in druge: NVLink 5 je električen, toda ko GPU grozdi dosegajo eksa-računske zmogljivosti, lahko bakrene povezave naletijo na meje dosega in energije. Industrija raziskuje optične povezave za komunikacijo na nivoju regalov ali celo med čipi. NVIDIA-jevi prevzemi podjetij za mreženje (Mellanox, Cumulus ipd.) in projekti kot so Quantum InfiniBand stikala z vgrajenimi računi (SHARP) kažejo na poudarek na mrežni tehnologiji. V naslednjih letih bi lahko videli GPU-je z optičnim I/O za neposredno povezavo preko optičnih vlaken med strežniki, ali pa fotonične NVLink podobne vmesnike, ki ohranjajo visoko prepustnost na večjih razdaljah. To bi omogočilo še večje disagregirane grozde (potencialno tisoče pospeševalnikov), ki se vedejo kot eden, kar je uporabno za ogromne modele in distribuirano inferenco.
Energijska učinkovitost in trajnost: Z rastjo modelov in podatkovnih centrov se poraba energije povečuje. Blackwell GPU-ji so visoko porabni (verjetno 700 W+ za B100 SXM modul) in čeprav so učinkovitejši na računsko enoto kot predhodniki, skupna poraba infrastrukture AI raste. Prihodnja strojna oprema bo morala bistveno izboljšati zmogljivost na vat. Strategije vključujejo prehod na manjše proizvodne postopke (3nm, 2nm), uporabo novih tipov tranzistorjev (Gate-all-around FET), dinamično prilagajanje napetosti/frekvence AI obremenitvam in boljše hlajenje (NVIDIA je že uvedla potopno in tekočinsko hlajene konfiguracije za Blackwell HGX sisteme nvidia.com). Pričakujemo lahko tudi arhitekturne premike, kot je kombiniranje nižje natančnosti in analognega računalništva za dele omrežij zaradi zmanjšanja porabe. AI pospeševalniki za rob/IoT se bodo razširili – ti dajejo prednost nizki porabi, znanje podjetij kot so ARM, Qualcomm in Apple (nevronski motorji v pametnih telefonih) pa bo prešlo iz visoko zmogljivih naprav tudi na nižjo raven. NVIDIA lahko predstavi naslednika linije Jetson z arhitekturo, izpeljano iz Blackwella, optimizirano za robno inferenco v robotiki, kamerah in vozilih, s čimer bo del zmogljivosti podatkovnih centrov prišel tudi v nizko porabne naprave.
Računalništvo na robu v primerjavi z oblakom: Ker strojna oprema postaja zmogljivejša, bodo nekatere AI naloge, ki sedaj zahtevajo oblačno zaledje, preseljene na samo napravo. Na primer, bodo bodoča AR/VR očala ali domači roboti lahko vsebovali mini-pospeševalnike na ravni Blackwella za lokalno izvajanje kompleksnih AI (zaradi zakasnitve in zasebnosti). To lahko vodi do bolj federiranega AI računalniškega modela. Trend robnega računalništva pomeni, da je pospeševanje strojne opreme potrebno ne le v velikih strežnikih, temveč tudi v majhnih, prenosnih oblikah. Blackwellov vpliv lahko pričakujemo v zasnovah SoC (kot DRIVE Thor za avtomobile, morda podobno za drone ali industrijske krmilnike). Izziv je zagotavljanje visoke zmogljivosti v omejenih energetskih in toplotnih okvirih – s čimer se ukvarjajo startupi kot EdgeCortex in proizvajalci mobilnih čipov. Sčasoma bo razlika med “AI GPU” in splošnim SoC zabrisana, saj bodo praktično vse računalniške naprave vsebovale AI pospeševanje.
Integracija AI in tradicionalnega HPC: Prihodnost bo morda prinesla večjo integracijo med CPU in GPU (ali AI pospeševalniki). NVIDIIN Grace (CPU) + Blackwell (GPU) superčip je ena izmed smeri. AMD-jevi APU-ji so druga možnost. Intelova izvorna vizija Falcon Shores (x86 + Xe GPU) ima podoben cilj. Z izboljševanjem standardov za koherenco pomnilnika (kot je CXL za povezovanje pomnilnika med pospeševalniki in CPU-ji) bi lahko dobili sisteme, kjer imajo AI pospeševalniki enoten pomnilnik s CPU-ji in tako zmanjšajo stroške kopiranja podatkov. To je pomembno za delovne tokove, ki kombinirajo simulacijo in AI (npr. uporaba AI modela v simulacijskih zankah fizike). Na dolgi rok bodo morda nastale arhitekture “XPU”, ki združujejo različne vrste jeder – skalarna, vektorska, matrična – za pokrivanje vseh vidikov aplikacije. Zaenkrat je kombinacija Grace CPU in Blackwell GPU prek NVLink-ja vodilni primer tega trenda, saj nudi skoraj 1 TB/s koherence in omogoča gladko prepletanje CPU in GPU nalog nvidia.com. Prihodnji čipi bodo morda še tesneje integrirani (morda celo na istem jedru, če bo izvedljivo).

Bistvo: prihodnost AI strojne opreme bo usmerjena v preseganje meja zmogljivosti ob hkratnem poudarku na učinkovitosti in novih oblikah. Konkurenca bo spodbujala hitro inoviranje – NVIDIA ne bo mirovala, prav tako ne AMD, Intel, Google ali številni startupi. Videli bomo raznolikost pospeševalnikov, optimiziranih za različne obsege (oblak, rob) in namene (treniranje, inferenca, specializacija). Vendar pa glede na trenutno prednost NVIDIA z Blackwellom lahko pričakujemo, da bodo določali tempo, vsaj na kratki rok. Jensen Huang pogosto omenja “pospešeno računalništvo” kot veliko usmeritev NVIDIA nvidianews.nvidia.com, kar pomeni, da se bodo GPU-ji razvijali za pospeševanje poljubnih računskih nalog. Blackwell in njegovi nasledniki bodo tako vedno bolj univerzalni, saj bodo prevzemali naloge onkraj nevronskih mrež – od obdelave podatkov do potencialno AI poganjanih poizvedb v podatkovnih bazah – in bodo vedno bolj zabrisali mejo med AI čipi in splošnimi procesorji.

Vpliv na trg in posledice

Uvedba Blackwella ima globok vpliv na AI industrijo in trg:

Ponudniki storitev v oblaku: Hiperrskalni ponudniki (AWS, Azure, Google Cloud, Oracle) tekmujejo, kdo bo hitreje uvedel Blackwell GPU-je v svoje podatkovne centre, saj so zahteve strank po AI računski moči nenasitne. Vsak je napovedal dostopnost Blackwella v letih 2024–2025 nvidianews.nvidia.com. To bo verjetno še utrdilo NVIDIIN prevlado v deležu GPU-jev v oblaku, čeprav ponudniki razvijajo tudi lastne čipe. Na kratki rok bodo oblačne stranke imele korist od dostopa do zmogljivejših instanc – na primer, AWS uporabnik si lahko najame Blackwell in dobi hitrejše treniranje ali postreže več AI poizvedb za isti denar. To bi lahko znižalo stroške AI v oblaku (ali pa vsaj zvišalo zmogljivost za isto ceno) in omogočilo startupom podvige, ki so bili prej mogoči le v dobro financiranih laboratorijih. Po drugi strani bodo oblaki skrbno spremljali stroške; Blackwell GPU-ji so izjemno dragi (desettisoče dolarjev za posamezni primerek), zato bodo tudi cene temu primerne. Že sedaj je primanjkovalo oblačnih kapacitet H100 zaradi povpraševanja – Blackwellova priljubljenost (ter omejena zgodnja zaloga) lahko pomeni, da se bodo pomanjkanja ali razdeljevanja nadaljevala v 2025. Ponudniki, ki si zagotovijo velike zaloge Blackwellovih kartic (kot Oracle z zgodnjim dostopom ali AWS s skupnim razvojem nvidianews.nvidia.com), lahko pritegnejo več AI intenzivnih strank.
Podjetja in uvajanje AI: Za velika podjetja Blackwell sistemom znižuje prag za uvajanje naprednih AI rešitev. Panoge, kot so finance, telekomunikacije, trgovina in proizvodnja, tekmujejo, kdo bo hitreje vključil AI v delovanje in izdelke. Zaradi učinkovitosti Blackwella lahko podjetje dobi potrebno moč z manj vozlišči – če ste prej za to potrebovali sobo s 16 DGX strežniki, zadostujejo morda že 4 Blackwell sistemi za enako nalogo. To zmanjša ne le število naprav, ampak tudi porabo energije in prostor (pomembno za podjetja z okoljskimi cilji in stroški podatkovnih centrov). Pričakovati je val AI-modernizacijskih projektov, ko bo Blackwell na voljo: npr. banke bodo nadgrajevale platforme za modeliranje tveganja in odkrivanje prevar z Blackwell grozdi za napredne modele ali avtomobilska podjetja za pospešitev razvoja avtonomne vožnje (več avtomobilistov je že prešlo na Drive Thor). Podjetja bodo cenila tudi funkcije varnega računalništva na Blackwellu za skladnost s predpisi – npr. zdravstvena podjetja lahko ohranijo šifriranje podatkov od konca do konca, a še vedno uporabijo zmogljive GPU-je za analize nvidia.com.
AI zagonska podjetja in raziskovalni laboratoriji: Za AI zagonska podjetja (tako tista, ki gradijo nove modele, kot tista s storitvami na osnovi AI) lahko učinkovitost Blackwella pomeni prelomnico. Ponuja nekoliko izenačeno izhodišče v primerjavi z velikani, saj imajo startupi preko oblaka ali kolokacije dostop do iste kategorije strojne opreme (več AI oblaku namenjenih podjetij, kot so CoreWeave, Lambda itd., ponuja Blackwell že v 2024 nvidianews.nvidia.com). Tako lahko dobro financiran startup trenira sodoben model brez čakanja v vrstah ali kompromisov glede velikosti modela. To lahko prinese hitrejše inovacije in več konkurence v razvoju AI modelov. Po drugi strani pa lahko nastane še večja vrzel med tistimi, ki si najnovejšo opremo lahko privoščijo, in tistimi, ki si je ne. Ta trenutek so NVIDIA-jevi vrhunski GPU-ji dragi in so pogosto rezervirani za velike kupce – kar je povzročilo nezadovoljstvo nekaterih raziskovalcev v H100 ciklu. Če bo Blackwell podobno iskan, bodo nekateri laboratoriji še vedno težko prišli do njega. To lahko spodbuja rabo skupnostnih superračunalnikov (kot so akademski grozdi s Blackwellom, financirani iz javnih sredstev) ali več uporabo alternativnih čipov (npr. AMD, če bodo prej in ceneje na voljo). Splošno gledano pa bo široka dostopnost Blackwella do sredine 2025 močno pospešila AI raziskave in razvoj ter verjetno prinesla nove modele in zmožnosti, ki jih prej zaradi omejene računske moči ni bilo.
Konkurenca: Z vidika trga lansiranje Blackwella še utrjuje NVIDIINO vodilno vlogo v AI strojni opremi. Analitiki ocenjujejo, da NVIDIA drži okoli 80-90% tržnega deleža pospeševalnikov, Blackwellov časovni pristanek pa bo tekmecem še otežil preboj reddit.com. Najbližji konkurent je AMD – njihova strategija, da v prihodnjih letih z MI300 osvoji 15-20% trga, je odvisna od uspeha in pravočasnega prihoda. Če bo Blackwell z naskokom najboljši in povsod sprejet, nekateri kupci morda ne bodo preverjali alternativ, kar dodatno utrjuje NVIDIINO prevlado (podobno, kot je CUDA postala privzeta platforma). A velikost AI trga (bilijoni dolarjev priložnosti) omogoča prostor več igralcem. Ponudniki oblaka hkrati vlagajo v lastne čipe (Google TPU, AWS Trainium). Če se ti izkažejo, lahko dolgoročno omejijo rast NVIDIE v oblaku. Tu so še geopolitični dejavniki – kitajska podjetja zaradi izvoznih omejitev najzmogljivejših NVIDIA čipov ne morejo uvažati in zato pospešeno razvijajo lastne AI čipe (npr. Biren, Alibaba T-Head, Huawei Ascend). Domači čipi trenutno zaostajajo generacijo ali dve (običajno primerljivi z A100) research.aimultiple.com research.aimultiple.com, a so v razvoju in bi lahko ustvarili vzporedne ekosisteme. NVIDIA se odziva z nekoliko oslabelimi različicami (npr. H800 za Kitajsko). Tudi Blackwell bo po možnosti imel izvedenke z izvozno omejitvijo. To pomeni možno fragmentacijo AI strojne opreme po geografijah, a kratkoročno je NVIDIA prva izbira za večino sveta.
Stroški in ekonomika AI: Blackwellova zmogljivost bi lahko občutno znižala stroške na trening ali inferenco, kot oglašujejo. To lahko pospeši uporabo AI v občutljivih panogah. Na primer, do 25× večja učinkovitost inferenc lahko omogoči uporabo velikih jezikovnih modelov v potrošniških aplikacijah, kjer bi bil prej strošek na H100 prevelik. Predstavljamo si lahko AI funkcije v programski opremi (asistent v pisarniških aplikacijah, kodni copiloti) kot cenejše in zato bolj razširjene. Pojavile se bodo nove “AI-kot-storitev” ponudbe, ki izkoriščajo Blackwell – podjetja tržijo učenje ali gostovanje modelov na tej infrastrukturi (startup MosaicML – zdaj del Databricks – je to delal s starimi GPU-ji, Blackwell bo te storitve še okrepil). Pri tem pa bodo absolutni stroški vrhunskih GPU-jev visoki – podjetja bodo morda porabila enako, saj bodo s tem preprosto naredila še več AI. Dejansko tržna vrednost NVIDIE (bilijoni dolarjev) odraža pričakovanje, da bo povpraševanje po AI pospeševalcih skokovito naraščalo z razširitvijo AI. Blackwell le še potrjuje trend lakote po AI računski moči: več ponudbe odpira nove rabe, ki krepijo povpraševanje.
Zanka inovacij: Razširjena prisotnost Blackwella lahko vpliva na smernice raziskav. Raziskovalci si lahko privoščijo večje eksperimente ali algoritme z veliko zahtevami (veliki ensambl modeli, učenje z dolgimi zaporedji …), ki jih prej zaradi omejene strojne opreme niso mogli preizkusiti. To lahko omogoči preboje, ki so čakali le še na dovolj veliko računsko zmogljivost. Na primer: poskusi s 3D AI modeli v polni ločljivosti ali z zapletenimi multimodalnimi modeli (ki slišijo, vidijo …). Podobno je bilo v znanosti z visokozmogljivim računalništvom. V AI pa razpoložljivost zmogljivega računa odpira vrata popolnoma novim arhitekturam (morda celo onkraj Transformerjev), ki prej niso bile izvedljive.
Časovnica nove generacije: Učinek Blackwella bo odvisen tudi od trajanja njegove vladavine kot vodilnega čipa. NVIDIA večje arhitekture lansira približno na dve leti. Če bo tako še naprej, lahko pričakujemo naslednika (kodno ime najbrž na črko “C” – morda Curie ali kaj podobnega) v 2026/27. Zaenkrat bosta v 2025 in verjetno 2026 Blackwell in sorodniki hrbtenica večine najnaprednejših AI sistemov. Njegov uspeh bo določil poteze konkurence (npr. AMD lahko pospeši naslednjo generacijo, Intel pa se bo odločil za močno vlaganje ali morda nov zasuk).

Za zaključek, NVIDIA Blackwell ni le nov čip – je katalizator, ki pospešuje celoten AI ekosistem. Inženirjem in raziskovalcem omogoča več, podjetjem prinaša hitrejše vpoglede in pametnejše izdelke, konkurenco pa sili k napredku. Od mega podatkovnih centrov do avtonomnih naprav na robu – Blackwell in njegovi nasledniki bodo podlaga naslednjega vala AI inovacij in nas popeljali “onkraj Blackwella” v prihodnost pospešenega računalništva.

Viri: Informacije v tem poročilu so črpane iz uradnih objav in tehničnih pregledov podjetja NVIDIA o arhitekturi Blackwell nvidia.com nvidianews.nvidia.com, analiz strokovnjakov iz industrije in publikacij (IEEE Spectrum, HPCwire, Forbes) o primerjalnih merilih spectrum.ieee.org ai-stack.ai in sporočil za javnost NVIDIIni partnerjev o primerih uporabe v oblaku, avtomobilski industriji in zdravstvu nvidianews.nvidia.com worldbusinessoutlook.com. Ti viri vključujejo NVIDIIna napovedi na uvodnem nagovoru na GTC 2024 nvidianews.nvidia.com, tehnične bloge cudocompute.com cudocompute.com in neodvisne ocene nove strojne opreme za umetno inteligenco research.aimultiple.com bloomberg.com. Skupaj zagotavljajo celovit vpogled v zmogljivosti Blackwella in njegov kontekst v razvijajoči se krajini strojne opreme za umetno inteligenco.