NVIDIA je upravo najavila niz malih jezičnih modela (SLM) koji povećavaju količinu i vrstu informacija koje digitalni asistenti mogu koristiti za poboljšanje svojih odgovora. To uključuje nove modele velikog konteksta koji pružaju relevantnije odgovore i nove multimodalne modele koji omogućuju slike kao ulazne podatke. Ovi modeli su sada dostupni kao dio NVIDIA ACE-a, paketa tehnologija digitalnih ljudi koji oživljava agente, asistente i avatare.
NVIDIA ACE predstavlja svoj prvi multimodalni SLM
Kako bi se unaprijedili odgovori digitalnih ljudi, oni moraju moći upiti više konteksta svijeta, baš kao što to čine ljudi. NVIDIA Nemovision-4B-Instruct model je mali multimodalni model koji omogućuje digitalnim ljudima razumijevanje vizualnih prikaza u stvarnom svijetu i na Windows radnoj površini za davanje relevantnih odgovora.
Ovaj model koristi najnoviji NVIDIA VILA i NVIDIA NeMo okvir i recepturu za destilaciju, rezanje i kvantizaciju kako bi bio dovoljno malen da bude učinkovit na širokom rasponu NVIDIA RTX grafičkih procesora, zadržavajući pritom preciznost koju razvojni programeri trebaju. Multimodalnost služi kao temelj za djelovanje radnih procesa i omogućuje digitalnim ljudima da rasuđuju i poduzimaju radnje s malo ili bez pomoći korisnika.
Rješavanje većih problema zahtijeva jezične modele velikog konteksta
Nova obitelj SLM-ova velikog konteksta dizajnirana je za rukovanje velikim količinama ulaznih podataka. To omogućuje modelu razumijevanje težih upita. Obitelj modela Mistral-NeMo-Minitron-128k-Instruct ima verzije od 8B, 4B i 2B parametara za one koji žele optimizirati između brzine, korištenja memorije i preciznosti na NVIDIA RTX AI računalima. Ovi modeli velikog konteksta mogu obraditi velike skupove podataka u jednom prolazu, što može smanjiti potrebu za segmentacijom i ponovnim sastavljanjem te pružiti veću preciznost.
Samo jedno pitanje. O kakvim to “digitalnim ljudima” se govori u tekstu? Ili je to samo još jedna nespretnost Google translatora?
Ima jedna vrlo interesantna stvar: ako nekom LLM agentu date zadatak da vam napiše ne preveliku skriptu (kompjuterski kod) gotovo nikad nećete dobiti potpuno funkcionalnu skriptu. Štaviše, vrlo često u takvoj skripti možete naći greške u sintaksi što je prosto neverovatno – AI koja je u stanju da se uspešno nosi sa filozofskim pitanjima nije u stanju da napiše nešto u programskom jeziku gde su pravila strogo definisana!?!
Kad se napravi poređenje sposobnosti AI po oblastima izgleda kao da je sposobnost pisanja kompjuterskih programa bar tri nivoa ispod svih ostalih sposobnosti.
Teško neko da će da me ubedi kako je to slučajno, greška u proceni…
Razgovori sa AI mi liče, ko seks sa Kajom Kalas.
(pretpostavljeni-naravno)
#
Niko ti neće dati alat oslobađanja, nego alat dubljeg ropstva.