Nova bezbednosna opcija omogućava naprednu zaštitu korisnika od socijalno inženjerskih napada na AI modele

OpenAI je najavio uvođenje Lockdown Mode, opcione bezbednosne funkcije namenjene dodatnoj zaštiti korisnika od prompt injection napada. Ova funkcionalnost je predstavljena početkom juna 2026. godine kao deo šireg napora kompanije da poboljša sigurnost svojih generativnih AI sistema. Prompt injection predstavlja tehniku napada u kojoj napadač manipuliše promptovima ili unosima kako bi izveo neželjene ili potencijalno štetne radnje kroz AI model, što može uključivati zaobilaženje ograničenja ili preuzimanje kontrole nad izlaznim rezultatima.

Lockdown Mode je dizajniran kao dodatni sloj zaštite, ali iz OpenAI naglašavaju da većina korisnika neće morati da koristi ovu opciju. Ova funkcionalnost je prvenstveno namenjena organizacijama i korisnicima sa povećanim bezbednosnim zahtevima, kao i onima koji razvijaju ili implementiraju AI rešenja u osetljivim okruženjima. Aktiviranjem Lockdown Mode, korisnici mogu ograničiti određene funkcionalnosti modela i time značajno umanjiti rizik od prompt injection napada.

U kontekstu sve veće upotrebe velikih jezičkih modela (LLM – Large Language Model) u poslovnim procesima, prompt injection napadi predstavljaju ozbiljnu pretnju, posebno u scenarijima gde AI ima pristup poverljivim podacima ili može automatski izvršavati zadatke. OpenAI je istakao da je Lockdown Mode deo proaktivnog pristupa bezbednosti, ali i upozorio da nije zamena za osnovne mere zaštite i dobru praksu u radu sa AI sistemima.

Ova bezbednosna funkcija dostupna je kao opcioni mod i korisnici je mogu aktivirati prema sopstvenim potrebama. OpenAI preporučuje upotrebu Lockdown Mode-a u slučajevima kada korisnici rade sa posebno osetljivim podacima ili razvijaju aplikacije u kojima je bezbednost prioritet. Za većinu individualnih korisnika i standardnih scenarija upotrebe, kompanija smatra da standardni bezbednosni protokoli ostaju dovoljni.

Najava dolazi u trenutku kada industrija beleži rast brojnosti sofisticiranih napada na AI sisteme, a kompanije ulažu dodatne napore u razvoj mehanizama za zaštitu od novih pretnji. OpenAI nastavlja sa unapređivanjem sigurnosnih funkcija svojih proizvoda, ističući važnost saradnje sa korisnicima i zajednicom kako bi se pravovremeno odgovorilo na nove izazove.

Novi ‘super-antigen’ razvijen uz pomoć AI može doneti dugoročnu zaštitu od različitih bolesti koje prenose ljudi

Univerzitet u Kembridžu objavio je da je uspešno testirao vakcinu čiji je antigen dizajniran korišćenjem veštačke inteligencije. Ova inovacija, poznata kao ‘super-antigen’, ima potencijal da obezbedi dugoročnu zaštitu protiv širokog spektra bolesti koje se prenose među ljudima. Testiranje je sprovedeno u okviru istraživačkog projekta čiji je cilj bio da se ispita kako AI može doprineti razvoju efikasnijih vakcina.

Prema izjavama iz akademske zajednice, korišćenje veštačke inteligencije omogućilo je identifikaciju i optimizaciju antigena koji izazivaju snažan imuni odgovor. Ovaj pristup može značajno ubrzati proces razvoja novih vakcina, jer AI može analizirati i predvideti koje strukture antigena imaju najveći potencijal za zaštitu protiv različitih patogena.

Testovi sprovedeni na Univerzitetu u Kembridžu pokazali su da AI-dizajnirani antigen može da pokrene jak imuni odgovor kod ispitanika, a naučnici veruju da bi ovaj metod mogao biti primenjen i na druge zarazne bolesti. U fokusu je razvoj vakcina koje bi imale širu primenu i dugotrajniju zaštitu u poređenju sa tradicionalnim vakcinama.

Ova inovacija dolazi u trenutku kada se globalna zdravstvena zajednica sve više oslanja na napredne tehnologije, uključujući AI, u borbi protiv pandemija i drugih pretnji po javno zdravlje. Iako su rezultati testiranja obećavajući, istraživači ističu da je potrebno dodatno ispitivanje pre šire primene ovakvih vakcina. Projekat Univerziteta u Kembridžu predstavlja značajan korak napred u primeni veštačke inteligencije u medicinskim istraživanjima, posebno u oblasti imunologije i razvoja vakcina.

Kompanija najavila usklađenost sa izvršnom naredbom američke vlade, naglašavajući važnost bezbednosti naprednih AI sistema

OpenAI, vodeća kompanija u oblasti veštačke inteligencije, saopštila je da će omogućiti američkim regulatorima da pregledaju njihove napredne AI modele pre nego što budu javno dostupni. Ova odluka dolazi nakon što je američka administracija izdala novu izvršnu naredbu, čiji je cilj uvođenje nadzora nad naprednim AI sistemima radi obezbeđivanja njihove sigurnosti. OpenAI je potvrdio svoju spremnost da se povinuje ovim smernicama i omogući relevantnim institucijama uvid u mogućnosti svojih modela pre objave.

Izvršna naredba, na koju je uticao pritisak iz samog tehnološkog sektora, usmerena je na povećanje transparentnosti i bezbednosti AI rešenja. Iako je u određenoj meri izmenjena tokom procesa donošenja, administracija ističe da je ključna za praćenje potencijalnih rizika koje donose LLM (Large Language Model) sistemi i slične napredne AI tehnologije. OpenAI je, prema izjavama iz kompanije, među prvima koji su javno najavili saradnju sa američkom vladom u ovom domenu.

Regulatori će imati mogućnost da procene sposobnosti novih AI modela, analiziraju potencijalne bezbednosne izazove i donesu preporuke pre nego što proizvod bude dostupan krajnjim korisnicima. Ovaj pristup treba da doprinese smanjenju rizika od zloupotrebe AI sistema i unapredi poverenje javnosti u razvoj i primenu veštačke inteligencije.

Iako detalji o samom procesu evaluacije nisu objavljeni, OpenAI je naglasio da je spreman da podeli podatke o performansama i funkcionalnostima svojih modela sa nadležnim institucijama. Očekuje se da će ovakav model saradnje poslužiti kao primer i drugim kompanijama iz sektora veštačke inteligencije, pogotovo u segmentu transparentnosti i odgovornosti prema širem društvu.

Odluka OpenAI-a signalizira rastući uticaj regulatornih tela na razvoj naprednih tehnologija, kao i spremnost industrije da radi na smanjenju rizika i povećanju sigurnosti korisnika. Dalji razvoj ove prakse pratiće i druge kompanije iz AI sektora, u skladu sa smernicama koje postavlja američka vlada.