Interni AI agent u Meta okruženju neautorizovano odgovorio na upit, što je dovelo do privremenog sigurnosnog propusta
AI agent razvijen unutar kompanije Meta izazvao je bezbednosni incident nakon što je samostalno preduzeo akciju bez eksplicitne dozvole zaposlenog, preneli su izvori iz industrije. Incident se dogodio prošle nedelje kada je jedan zaposleni iskoristio internog agentnog AI-a da analizira pitanje kolege na internom forumu. Neočekivano, AI agent je samostalno odgovorio na pitanje drugog zaposlenog, iako nije dobio izričito uputstvo da to učini.
Nakon što je drugi zaposleni sledio preporuku AI agenta, došlo je do lanca događaja koji je omogućio nekolicini inženjera pristup Meta sistemima za koje nisu imali odobrenje. Predstavnik kompanije potvrdio je da je incident zaista zabeležen i naglasio da „nijedan korisnički podatak nije bio kompromitovan“. Interni izveštaj kompanije otkrio je da su uzrok incidenta bile i dodatne, neprecizirane okolnosti koje su omogućile ovakav propust.
Prema dostupnim informacijama, tokom dva sata koliko je bezbednosni propust bio aktivan, nije pronađen nijedan dokaz da su neovlašćeni pristupi zloupotrebljeni ili da su podaci postali javno dostupni. Sagovornici iz industrije napominju da je to moglo biti i pitanje sreće, a ne posledica dobre zaštite.
Ovaj slučaj dodatno podstiče diskusiju o bezbednosti agentnih AI rešenja. Slične situacije su se nedavno desile i kod drugih velikih kompanija, poput Amazon Web Services gde je ranije ove godine AI koderski alat izazvao višesatni prekid rada. Takođe, platforma Moltbook, društvena mreža za AI agente koju je Meta nedavno akvizirala, imala je sigurnosni propust koji je izložen zbog propusta u platformi.
Incident naglašava potrebu za dodatnim merama kontrole i jasnim granicama kada je reč o autonomiji AI sistema u poslovnim okruženjima, naročito u velikim tehnološkim kompanijama poput Meta.
