Američki tehnološki gigant Nvidia napravio je jedan od najvećih strateških zaokreta u svojoj istoriji i time praktično priznao da je era „jednog čipa za sve“ u svetu veštačke inteligencije završena. Kompanija je uložila oko $20 milijardi u saradnju sa firmom Groq, specijalizovanom za razvoj naprednih AI procesora, čime menja dosadašnja pravila igre u industriji.
Kako navodi VentureBeat, Nvidia je ovim potezom priznala da klasični GPU čipovi više ne mogu optimalno da pokriju sve potrebe savremene AI tehnologije, naročito kada je reč o tzv. „inference“ fazi – trenutku kada modeli u realnom vremenu generišu odgovore korisnicima. Upravo ta faza postaje ključna za četbotove, glasovne asistente i aplikacije koje zahtevaju minimalnu latenciju.
Stručnjaci objašnjavaju da se obrada veštačke inteligencije danas jasno deli na dve etape. Prva, poznata kao „prefill“, obuhvata obradu velikih količina podataka i konteksta, dok druga, „decode“ faza, podrazumeva munjevito generisanje odgovora. Nvidia će se fokusirati na prvu fazu kroz novu generaciju svojih čipova, dok će Groq tehnologija biti zadužena za ultra-brzu inferenciju.
Groq razvija specijalizovane AI procesore sa drugačijom arhitekturom od klasičnih GPU-ova, što omogućava znatno manju potrošnju energije i veću brzinu rada. Zbog toga se smatraju idealnim rešenjem za masovnu primenu veštačke inteligencije u realnom vremenu.
Deo inženjerskog tima Groq-a pridružiće se Nvidiji, a njihova tehnologija biće integrisana u Nvidia softverski ekosistem, uključujući CUDA platformu. Analitičari procenjuju da će tržište AI inference-a uskoro vredeti više od samog treniranja AI modela, što ovaj potez čini jednim od najvažnijih u savremenoj tehnološkoj industriji.
IZVOR: B92, FOTO: UNSPLASH
