TechSpot praznuje 25. obletnico. TechSpot pomeni tehnično analizo in nasvet, ki mu lahko zaupate.
V kontekstu: Nedavni dotok objav prikazuje globalni trend novih ponudb, katerih cilj je uvajanje generativnih zmogljivosti AI v podjetja. Od tehnoloških velikanov, kot so IBM, Google, Salesforce, Microsoft, Amazon do Mete, se zdi, da vsako tehnološko podjetje izkorišča navdušenje, ki obdaja to transformativno novo tehnologijo.
Vse bolj je jasno, da večina organizacij želi sprejeti umetno inteligenco. Podjetja hitro prepoznavajo potencialne izboljšave produktivnosti, učinkovitosti in druge prednosti, ki jih lahko zagotovi umetna inteligenca. Vendar se velika težava pojavi, ko ta podjetja niso povsem prepričana, kako lahko začnejo uporabljati generativno umetno inteligenco. Strokovnjakov z globokim znanjem o tem, kako tehnologija deluje in kako jo je mogoče implementirati, je malo in, da ne omenjamo, zelo drago.
Ob zavedanju te nepovezanosti sta Dell Technologies in Nvidia sestavila ponudbo, imenovano Project Helix, posebej zasnovana za poenostavitev postopka začetka uporabe generativne umetne inteligence. Projekt Helix se osredotoča na ustvarjanje celovitih lokalnih generativnih rešitev umetne inteligence, ki podjetjem omogočajo gradnjo novih ali prilagoditev obstoječih temeljnih modelov generativne umetne inteligence z uporabo lastnih podatkov.
Ena od težav, ki se je pojavila v podjetjih, ki so začela uporabljati generativne storitve umetne inteligence, je tveganje notranjega uhajanja IP-ja. Pravzaprav je več podjetij, vključno s Samsungom in Appleom, uvedlo politike, ki svojim zaposlenim preprečujejo uporabo orodij, kot je ChatGPT, za delovne namene zaradi pomislekov v zvezi s to težavo.
Del razloga za to zaskrbljenost je, da so skoraj vse zgodnje iteracije generativne umetne inteligence lahko delovale samo v ogromnih podatkovnih centrih v oblaku, od katerih so mnogi zbirali podatke, vnesene v njihove takojšnje vnose. Vendar pa je bilo v neverjetno hitrem razvoju temeljnih modelov, ki podpirajo generativne aplikacije umetne inteligence, obravnavanih več teh pomislekov. Predvsem je zdaj na voljo široka paleta odprtokodnih modelov na tržnicah, kot je Hugging Face. Mnogi od teh odprtokodnih modelov lahko delujejo zelo učinkovito z bolj razumnimi računalniškimi zahtevami, kot so tiste v ustrezno opremljenem lokalnem podatkovnem centru. Poleg tega so nekatera velika tehnološka podjetja začela spreminjati pravila o tem, kje se lahko izvajajo njihovi modeli, in ustvarjajo manjše različice svojih modelov, optimizirane za uporabo na kraju samem.
Poleg tega smo videli več podjetij, vključno z Nvidio, ki so začela ponujati modele, posebej zasnovane za poslovne aplikacije. Nvidijin razvoj je zanimiv na več ravneh. Podjetje je močno povezano z generativno umetno inteligenco predvsem zaradi svoje strojne opreme. Čipi Nvidia GPU poganjajo veliko večino trenutnih generativnih aplikacij in storitev AI v oblaku. Na zadnji konferenci podjetja GTC v marcu so mnoge presenetili z razkritjem celotnega nabora generativne programske opreme, povezane z umetno inteligenco, vključno z modeli temeljev programske opreme, specifičnimi za industrijo, in razvojnimi orodji, osredotočenimi na podjetja, zlasti z ogrodji velikih jezikovnih modelov NeMo (LLM) in NeMo Zaščitne ograje za filtriranje neželenih tem. Ni presenetljivo, da so bili ti modeli optimizirani za delovanje na strojni opremi Nvidia.
Projekt Helix predstavlja skupna prizadevanja družb Dell in Nvidia za sestavljanje vrste strežniških sistemov Dell PowerEdge. Ti vključujejo Nvidia H100 GPE in Nvidijino linijo Bluefield DPU (enote za obdelavo podatkov, ki se uporabljajo za hitre medsebojne povezave med strežniki, ki jih zahtevajo delovne obremenitve z umetno inteligenco) in so priloženi programski opremi Nvidia Enterprise AI.
Poleg tega Dell ponuja več različnih možnosti shranjevanja iz svojih linij PowerScale in ECS Enterprise Object Storage, optimiziranih za delovne obremenitve AI. Rezultat je celovita rešitev, ki podjetjem omogoča, da začnejo graditi ali prilagajati generativne modele AI. Potencialne stranke lahko bodisi uporabijo eno od Nvidiinih možnosti osnovnega modela ali, če jim je ljubše, izberejo odprtokodni model Hugging Face (ali rešitev drugega ponudnika tehnologije) in začnejo postopek.
Priložena programska oprema Nvidia omogoča uvoz obstoječega korpusa podatkov organizacije – od dokumentov, klepetov s storitvami za stranke, objav v družabnih omrežjih in še veliko več – in nato uporabo tega bodisi za usposabljanje novega modela ali prilagajanje obstoječega. Ko je proces usposabljanja končan, so vključena tudi orodja, potrebna za izvajanje sklepanja in ustvarjanje novih aplikacij, ki izkoriščajo na novo usposobljen model. Dellov paket ponuja tudi načrt za pomoč podjetjem pri navigaciji v procesu ustvarjanja/prilagajanja teh modelov in gradnje teh orodij, skupaj z vrsto storitev tehnične podpore.
Najpomembneje pa je, da lahko Project Helix, ker to delo poteka interno, pomaga ublažiti težave z uhajanjem IP, ki zadevajo številna podjetja – tudi tista, ki so začela delati z generativnimi orodji AI.
Druga pomembna prednost projekta Helix je, da podjetjem omogoča, da izkoristijo generativno umetno inteligenco na bolj edinstven in prilagojen način. Medtem ko lahko orodja za splošno uporabo, ki so trenutno na voljo, nedvomno pomagajo pri določenih vrstah aplikacij in okolij, večina podjetij priznava, da je prava konkurenčna prednost generativne umetne inteligence v prilagajanju. Obstaja precejšnje zanimanje za vključitev lastnih podatkov podjetja v ta orodja, vendar je tudi veliko zmede o tem, kako točno to storiti.
Sestavljanje „enostavnega kompleta” za generativno umetno inteligenco ne pomeni, da se številne organizacije ne bodo soočile z izzivi pri izkoriščanju svojih podatkov in tehnologije za ustvarjanje rešitev, ki jih potrebujejo. Ključnega pomena je vedeti, da so koncepti v ozadju generativne umetne inteligence še zelo novi in da gre za izjemno zapleteno tehnologijo. Kljub temu se zdi, da je Project Helix z združevanjem potrebne strojne in programske opreme, ki je bila predhodno preizkušena za skupno delovanje, skupaj z informacijami o tem, kako krmariti po procesu, privlačna možnost za organizacije, ki si želijo – ali se počutijo konkurenčno prisiljene – potopiti v to razburljivo novo kraljestvo.
Bob O’Donnell je ustanovitelj in glavni analitik TECHnalysis Research, LLC, tehnološkega svetovalnega podjetja, ki nudi storitve strateškega svetovanja in tržnih raziskav tehnološki industriji in strokovni finančni skupnosti. Lahko ga spremljate na Twitterju @bobodtech