Nova bezbednosna opcija omogućava naprednu zaštitu korisnika od socijalno inženjerskih napada na AI modele
OpenAI je najavio uvođenje Lockdown Mode, opcione bezbednosne funkcije namenjene dodatnoj zaštiti korisnika od prompt injection napada. Ova funkcionalnost je predstavljena početkom juna 2026. godine kao deo šireg napora kompanije da poboljša sigurnost svojih generativnih AI sistema. Prompt injection predstavlja tehniku napada u kojoj napadač manipuliše promptovima ili unosima kako bi izveo neželjene ili potencijalno štetne radnje kroz AI model, što može uključivati zaobilaženje ograničenja ili preuzimanje kontrole nad izlaznim rezultatima.
Lockdown Mode je dizajniran kao dodatni sloj zaštite, ali iz OpenAI naglašavaju da većina korisnika neće morati da koristi ovu opciju. Ova funkcionalnost je prvenstveno namenjena organizacijama i korisnicima sa povećanim bezbednosnim zahtevima, kao i onima koji razvijaju ili implementiraju AI rešenja u osetljivim okruženjima. Aktiviranjem Lockdown Mode, korisnici mogu ograničiti određene funkcionalnosti modela i time značajno umanjiti rizik od prompt injection napada.
U kontekstu sve veće upotrebe velikih jezičkih modela (LLM – Large Language Model) u poslovnim procesima, prompt injection napadi predstavljaju ozbiljnu pretnju, posebno u scenarijima gde AI ima pristup poverljivim podacima ili može automatski izvršavati zadatke. OpenAI je istakao da je Lockdown Mode deo proaktivnog pristupa bezbednosti, ali i upozorio da nije zamena za osnovne mere zaštite i dobru praksu u radu sa AI sistemima.
Ova bezbednosna funkcija dostupna je kao opcioni mod i korisnici je mogu aktivirati prema sopstvenim potrebama. OpenAI preporučuje upotrebu Lockdown Mode-a u slučajevima kada korisnici rade sa posebno osetljivim podacima ili razvijaju aplikacije u kojima je bezbednost prioritet. Za većinu individualnih korisnika i standardnih scenarija upotrebe, kompanija smatra da standardni bezbednosni protokoli ostaju dovoljni.
Najava dolazi u trenutku kada industrija beleži rast brojnosti sofisticiranih napada na AI sisteme, a kompanije ulažu dodatne napore u razvoj mehanizama za zaštitu od novih pretnji. OpenAI nastavlja sa unapređivanjem sigurnosnih funkcija svojih proizvoda, ističući važnost saradnje sa korisnicima i zajednicom kako bi se pravovremeno odgovorilo na nove izazove.
