NVIDIA je okupila više od 50 vodećih tehnoloških i bezbednosnih kompanija u novi Open Secure AI Alliance, čiji je cilj razvoj otvorenih alata za zaštitu sistema veštačke inteligencije. Među prvim partnerima nalaze se Microsoft, Dell Technologies, IBM, Cisco, Hugging Face, Linux Foundation, CrowdStrike, Red Hat, SpaceXAI i mnogi drugi, dok Google i OpenAI nisu navedeni među osnivačima.
Savez će biti usmeren na brzo otkrivanje, prijavljivanje i uklanjanje ranjivosti u AI modelima, agentima i softverskoj infrastrukturi. NVIDIA tvrdi da zatvoreni sistemi nisu dovoljni za odbranu od sve naprednijih sajber napada, jer bezbednosnim timovima često ograničavaju pristup podacima i alatima potrebnim za istragu.
Kao upozorenje naveden je nedavni incident na platformi Hugging Face. Kompanija je tokom analize napada pokušala da koristi komercijalne AI modele, ali su njihovi zaštitni mehanizmi blokirali obradu stvarnih zlonamernih komandi. Tim je zatim na sopstvenoj infrastrukturi pokrenuo otvoreni model GLM 5.2, kojim je analizirano više od 17.000 događaja i rekonstruisan tok upada.
NVIDIA će savezu ponuditi otvorene modele, podatke, težine modela i istraživačke alate. Hugging Face doprinosi formatom Safetensors, dok HPE razvija standarde za kriptografsku proveru identiteta AI agenata. Microsoft, IBM i Red Hat takođe stavljaju na raspolaganje sopstvene bezbednosne tehnologije otvorenog koda.
Članice saveza pozvale su vlade da ulažu u zajedničku infrastrukturu za odbranu od AI pretnji. Njihov stav je da otvorene modele ne treba automatski posmatrati kao rizik, jer oni stručnjacima omogućavaju da proveravaju ponašanje sistema, prilagođavaju zaštitu i reaguju bez zavisnosti od malog broja velikih provajdera.
POVEZANE VESTI
Izostanak Google-a i OpenAI-ja dodatno privlači pažnju, jer novi savez može postati važna protivteža kompanijama koje svoje najmoćnije modele drže zatvorenim. Istovremeno, inicijativa najavljuje novu borbu za kontrolu nad standardima koji će oblikovati budućnost AI bezbednosti.
IZVOR: B92, FOTO: UNSPLASH
