Tim istraživača je uspeo da „probije“ kod OpenAI i Google AI modela, otkrivajući tajne skrivene u tehnologiji koja je u usponu.
Novo istraživanje, koje su sproveli istraživači nekoliko univerziteta, zajedno sa stručnjacima kompanija Google DeepMind i OpenAI, otkriva da su OpenAI i Google AI modeli „probijeni“ i otkriveno je nešto što do sada nije bilo poznato.
Naučnici iz pomenutih institucija su uspeli da lansiraju napad na OpenAI i Google AI servise, što je dovelo do otkrivanja značajnog dela skrivenih transformer modela.
Tim nije želeo da objavi javno svoja otkrića, ali su istakli nekoliko zanimljivih detalja:
„Za manje od $20, naš napad izdvaja kompletnu projekcionu matricu OpenAI-jevih jezičkih modela“, navode istraživači u svom radu.
„Time potvrđujemo, po prvi put, da ovi modeli imaju skrivene dimenzije 1024 i 2048. Takođe dobijamo tačnu veličinu skrivene dimenzije gpt-3.5-turbo modela i procenjujemo da bi to koštalo ispod $2.000 u upitima za oporavak cele projekcione matrice“.
Slično je otkriveno i za Google AI model, gde je takođe moguće rekonstruisati bitne aspekte modela.
IZVOR: B92, FOTO: UNSPLASH