Pokrajina trga čipov umetne inteligence: skrbno izberite svoje bitke

Zakaj je pomembno: Odvisno od tega, koga vprašate, je trg za polprevodnike z umetno inteligenco ocenjen nekje med nekaj milijardami in neskončnostjo dolarjev. Trdno smo v domeni visokih pričakovanj, ko gre za kategorijo, in določitev natančnejših ocen velikosti trga je ključnega pomena za veliko skupino ljudi, ki sprejema naložbene odločitve v prihodnjem letu.

Trenutno je svet fiksiran na prevladujoč položaj Nvidie na trgu, vendar je pomembno, da se o tem poglobimo nekoliko dlje. Nvidia je očitno vodilna na trgu čipov za usposabljanje, vendar to predstavlja le približno 10 % do 20 % povpraševanja po čipih AI. Obstaja precej večji trg za sklepne čipe, ki interpretirajo usposobljene modele in odgovarjajo na poizvedbe uporabnikov. Ta segment je veliko večji in nobena posamezna entiteta, niti Nvidia, nima ključavnice na tem trgu.

Poleg tega moramo razbiti trg. Uporabniki bodo potrebovali obdelavo sklepanja tako v okoljih roba kot v oblaku. Sklepanje v oblaku bo odvisno od povpraševanja podatkovnega centra. Skupni trg polprevodnikov za podatkovne centre danes znaša približno 50 milijard dolarjev (brez pomnilnika, ki je resda pomembna izjema). Ta sklepni trg ni samo velik, ampak tudi precej razdrobljen.

Opomba urednika:
Gostujoči avtor Jonathan Goldberg je ustanovitelj D2D Advisory, večnamenskega svetovalnega podjetja. Jonathan je razvil strategije rasti in zavezništva za podjetja v industriji mobilnih naprav, omrežij, iger in programske opreme.

Nvidia ima verjetno že velik delež tega, verjetno največji, glede na to, da se na grafičnih procesorjih izvaja precejšnja količina dela z umetno inteligenco. Tudi AMD cilja na ta trg, vendar močno zaostajajo za Nvidio. Poleg tega je to področje, kjer hiperskalerji uporabljajo veliko svojih lastniških čipov – če naštejemo le nekaj AWS na Inferentia in Google na TPU. Treba je omeniti, da se velik del tega dela še vedno izvaja na CPE-jih, zlasti pri pomanjkanju vrhunskih GPE-jev. Pričakuje se, da bo ta segment trga v bližnji prihodnosti ostal visoko konkurenčen. Tako kot AMD, je to trg, na katerem bodo vsi drugi proizvajalci procesorjev, grafičnih procesorjev in pospeševalnikov tekmovali z zdravo kombinacijo izdelkov.

To nas pripelje do druge pomembne priložnosti – sklepanje na robu. Izraz „rob” se pogosto zlorablja, vendar za naše namene tukaj v glavnem mislimo na katero koli napravo v rokah končnega uporabnika. Danes to zajema predvsem telefone in osebne računalnike, vendar se širi tudi v druge sektorje, kot so kamere, roboti, industrijski sistemi in avtomobili. Napovedovanje velikosti tega trga je zahtevno. Poleg razširitve obsega uporabe bo velik del silicija za te naprave verjetno združen v sistem na čipu (SoC), ki izvaja vse funkcije teh naprav.

IPhone služi kot odličen primer, saj je v svojem procesorju serije A namenil precejšnjo površino čipov jedrom umetne inteligence. Po nekaterih metrikah vsebina AI že zaseda 20 % čipov serije A, kar je precej, če priznamo, da mora preostalih 80 % izvajati vse druge funkcije na telefonu. Številna druga podjetja prav tako sprejemajo strategije umetne inteligence SoC.

Prevladujoče vprašanje na področju umetne inteligence je količina računalniške moči, ki je potrebna za izvajanje najnovejših velikih jezikovnih modelov (LLM), kot sta GPT in Stable Diffusion. Obstaja veliko zanimanje za izvajanje teh modelov na najmanjšem možnem računalniškem odtisu in odprtokodna skupnost je dosegla izjemen napredek v razmeroma kratkem obdobju.

Novi super čip Grace Hopper je pošast z 200 milijardami tranzistorjev

To pomeni, da bo trg Edge Inference verjetno ostal zelo razdrobljen. Pragmatičen pristop bi bil domnevati, da bodo za obstoječe kategorije, kot so telefoni in osebni računalniki, AI silicij dobavljala podjetja, ki že zagotavljajo čipe za te naprave, kot sta Qualcomm in Intel/AMD.

Kot smo že omenili, je trenutno zelo težko pridobiti zanesljive napovedi za velikost trga silicija z umetno inteligenco. Temu položaju ne pomaga dvoumnost okoli praktične uporabe LLM in drugih modelov za dejansko delo. Potem so tu vprašanja, kaj in kako šteti. Na primer, če hiperscaler kupi več sto tisoč procesorjev, ki bodo poganjali nevronske mreže in tradicionalne delovne obremenitve, ali če nekdo doda nekaj deset kvadratnih milimetrov blokov umetne inteligence v svoj SoC, kako naj to upoštevamo? Trenutno naša groba ocena kaže, da bo trg za silicij AI obsegal približno 15 % za usposabljanje, 45 % za sklepanje podatkovnega centra in 40 % za sklepanje robov.

To ima znatne posledice za vsakogar, ki razmišlja o vstopu na ta trg. V bližnji prihodnosti bo Nvidia ohranila svoj nadzor na trgu usposabljanja. Trg sklepanja podatkovnih centrov je videti privlačen, vendar že vključuje nešteto podjetij, vključno z velikani, kot so Nvidia, AMD in Intel, ter notranji silikon Roll-Your-Own strank. V robnem sklepanju bodo verjetno prevladovali obstoječi prodajalci tradicionalnega silicija, ki vsi veliko vlagajo v podporo transformatorjem in LLM-jem. Kakšne priložnosti torej obstajajo za nove udeležence? V bistvu lahko vidimo štiri možnosti:

• Dobavite IP ali čiplete enemu od prodajalcev SoC. Ta pristop ima prednost relativno nizkih kapitalskih zahtev; pustite, da vaša stranka izvaja plačila TSMC. Obstaja množica strank, ki želijo zgraditi sisteme na čipu. Medtem ko mnogi morda želijo vse urediti sami, se bodo mnogi verjetno odločili za pomoč, kjer je to potrebno.
• Zgradite veliko (res veliko) vojaško skrinjo in pojdite na trg podatkovnih centrov. To je zahtevno prizadevanje iz več razlogov, nenazadnje zato, ker je število strank omejeno, vendar so potencialne nagrade ogromne.
• Poiščite novo robno napravo, ki bi ji lahko koristila prilagojena rešitev. Preusmerite pozornost s telefonov in prenosnikov na kamere, robote, industrijske sisteme itd. Tudi ta pot ni lahka. Nekatere od teh naprav so izjemno poceni in zato ne morejo sprejeti čipov z visokimi ASP. Pred nekaj leti smo opazili številne predstavitve za podjetja, ki želijo narediti umetno inteligenco z nizko porabo energije na kamerah in dronih. Zelo malo jih je preživelo.
• Končno je tu še avtomobilizem, veliko upanje celotne industrije. Ta trg je še vedno zelo razdrobljen in nekoliko nejasen. Okno za vstop ni veliko, vendar je priložnost precejšnja.

Če povzamem, o trgu umetne inteligence se že v veliki meri govori. To ne pomeni, da je izgubljeno vse upanje za tiste, ki se podajo, vendar bodo morala biti podjetja zelo osredotočena in izjemno preudarna pri izbiri trgov in strank.