Connect with us

IT

OpenAI uvodi Lockdown Mode radi zaštite od prompt injection napada

Nova bezbednosna opcija omogućava naprednu zaštitu korisnika od socijalno inženjerskih napada na AI modele

Published

on

Foto Izvor: Pixabay / Tumisu

Nova bezbednosna opcija omogućava naprednu zaštitu korisnika od socijalno inženjerskih napada na AI modele

OpenAI je najavio uvođenje Lockdown Mode, opcione bezbednosne funkcije namenjene dodatnoj zaštiti korisnika od prompt injection napada. Ova funkcionalnost je predstavljena početkom juna 2026. godine kao deo šireg napora kompanije da poboljša sigurnost svojih generativnih AI sistema. Prompt injection predstavlja tehniku napada u kojoj napadač manipuliše promptovima ili unosima kako bi izveo neželjene ili potencijalno štetne radnje kroz AI model, što može uključivati zaobilaženje ograničenja ili preuzimanje kontrole nad izlaznim rezultatima.

Lockdown Mode je dizajniran kao dodatni sloj zaštite, ali iz OpenAI naglašavaju da većina korisnika neće morati da koristi ovu opciju. Ova funkcionalnost je prvenstveno namenjena organizacijama i korisnicima sa povećanim bezbednosnim zahtevima, kao i onima koji razvijaju ili implementiraju AI rešenja u osetljivim okruženjima. Aktiviranjem Lockdown Mode, korisnici mogu ograničiti određene funkcionalnosti modela i time značajno umanjiti rizik od prompt injection napada.

U kontekstu sve veće upotrebe velikih jezičkih modela (LLM – Large Language Model) u poslovnim procesima, prompt injection napadi predstavljaju ozbiljnu pretnju, posebno u scenarijima gde AI ima pristup poverljivim podacima ili može automatski izvršavati zadatke. OpenAI je istakao da je Lockdown Mode deo proaktivnog pristupa bezbednosti, ali i upozorio da nije zamena za osnovne mere zaštite i dobru praksu u radu sa AI sistemima.

Ova bezbednosna funkcija dostupna je kao opcioni mod i korisnici je mogu aktivirati prema sopstvenim potrebama. OpenAI preporučuje upotrebu Lockdown Mode-a u slučajevima kada korisnici rade sa posebno osetljivim podacima ili razvijaju aplikacije u kojima je bezbednost prioritet. Za većinu individualnih korisnika i standardnih scenarija upotrebe, kompanija smatra da standardni bezbednosni protokoli ostaju dovoljni.

Najava dolazi u trenutku kada industrija beleži rast brojnosti sofisticiranih napada na AI sisteme, a kompanije ulažu dodatne napore u razvoj mehanizama za zaštitu od novih pretnji. OpenAI nastavlja sa unapređivanjem sigurnosnih funkcija svojih proizvoda, ističući važnost saradnje sa korisnicima i zajednicom kako bi se pravovremeno odgovorilo na nove izazove.

Pročitaj još
Click to comment

Leave a Reply

Your email address will not be published. Required fields are marked *

IT

Univerzitet u Kembridžu uspešno testirao vakcinu sa antigenom dizajniranim pomoću veštačke inteligencije

Novi ‘super-antigen’ razvijen uz pomoć AI može doneti dugoročnu zaštitu od različitih bolesti koje prenose ljudi

Published

on

By

Novi ‘super-antigen’ razvijen uz pomoć AI može doneti dugoročnu zaštitu od različitih bolesti koje prenose ljudi

Univerzitet u Kembridžu objavio je da je uspešno testirao vakcinu čiji je antigen dizajniran korišćenjem veštačke inteligencije. Ova inovacija, poznata kao ‘super-antigen’, ima potencijal da obezbedi dugoročnu zaštitu protiv širokog spektra bolesti koje se prenose među ljudima. Testiranje je sprovedeno u okviru istraživačkog projekta čiji je cilj bio da se ispita kako AI može doprineti razvoju efikasnijih vakcina.

Prema izjavama iz akademske zajednice, korišćenje veštačke inteligencije omogućilo je identifikaciju i optimizaciju antigena koji izazivaju snažan imuni odgovor. Ovaj pristup može značajno ubrzati proces razvoja novih vakcina, jer AI može analizirati i predvideti koje strukture antigena imaju najveći potencijal za zaštitu protiv različitih patogena.

Testovi sprovedeni na Univerzitetu u Kembridžu pokazali su da AI-dizajnirani antigen može da pokrene jak imuni odgovor kod ispitanika, a naučnici veruju da bi ovaj metod mogao biti primenjen i na druge zarazne bolesti. U fokusu je razvoj vakcina koje bi imale širu primenu i dugotrajniju zaštitu u poređenju sa tradicionalnim vakcinama.

Ova inovacija dolazi u trenutku kada se globalna zdravstvena zajednica sve više oslanja na napredne tehnologije, uključujući AI, u borbi protiv pandemija i drugih pretnji po javno zdravlje. Iako su rezultati testiranja obećavajući, istraživači ističu da je potrebno dodatno ispitivanje pre šire primene ovakvih vakcina. Projekat Univerziteta u Kembridžu predstavlja značajan korak napred u primeni veštačke inteligencije u medicinskim istraživanjima, posebno u oblasti imunologije i razvoja vakcina.

Pročitaj još

IT

OpenAI omogućava američkim regulatorima pregled AI modela pre zvaničnog objavljivanja

Kompanija najavila usklađenost sa izvršnom naredbom američke vlade, naglašavajući važnost bezbednosti naprednih AI sistema

Published

on

By

Kompanija najavila usklađenost sa izvršnom naredbom američke vlade, naglašavajući važnost bezbednosti naprednih AI sistema

OpenAI, vodeća kompanija u oblasti veštačke inteligencije, saopštila je da će omogućiti američkim regulatorima da pregledaju njihove napredne AI modele pre nego što budu javno dostupni. Ova odluka dolazi nakon što je američka administracija izdala novu izvršnu naredbu, čiji je cilj uvođenje nadzora nad naprednim AI sistemima radi obezbeđivanja njihove sigurnosti. OpenAI je potvrdio svoju spremnost da se povinuje ovim smernicama i omogući relevantnim institucijama uvid u mogućnosti svojih modela pre objave.

Izvršna naredba, na koju je uticao pritisak iz samog tehnološkog sektora, usmerena je na povećanje transparentnosti i bezbednosti AI rešenja. Iako je u određenoj meri izmenjena tokom procesa donošenja, administracija ističe da je ključna za praćenje potencijalnih rizika koje donose LLM (Large Language Model) sistemi i slične napredne AI tehnologije. OpenAI je, prema izjavama iz kompanije, među prvima koji su javno najavili saradnju sa američkom vladom u ovom domenu.

Regulatori će imati mogućnost da procene sposobnosti novih AI modela, analiziraju potencijalne bezbednosne izazove i donesu preporuke pre nego što proizvod bude dostupan krajnjim korisnicima. Ovaj pristup treba da doprinese smanjenju rizika od zloupotrebe AI sistema i unapredi poverenje javnosti u razvoj i primenu veštačke inteligencije.

Iako detalji o samom procesu evaluacije nisu objavljeni, OpenAI je naglasio da je spreman da podeli podatke o performansama i funkcionalnostima svojih modela sa nadležnim institucijama. Očekuje se da će ovakav model saradnje poslužiti kao primer i drugim kompanijama iz sektora veštačke inteligencije, pogotovo u segmentu transparentnosti i odgovornosti prema širem društvu.

Odluka OpenAI-a signalizira rastući uticaj regulatornih tela na razvoj naprednih tehnologija, kao i spremnost industrije da radi na smanjenju rizika i povećanju sigurnosti korisnika. Dalji razvoj ove prakse pratiće i druge kompanije iz AI sektora, u skladu sa smernicama koje postavlja američka vlada.

Pročitaj još

IT

NVIDIA RTX Spark čip najavljuje potencijalnu transformaciju Windows PC tržišta

Nova AI arhitektura sa Arm CPU jezgrima, snažnom GPU i jedinstvenom RAM memorijom donosi novi pravac za Windows računare

Published

on

By

Nova AI arhitektura sa Arm CPU jezgrima, snažnom GPU i jedinstvenom RAM memorijom donosi novi pravac za Windows računare

NVIDIA je najavila RTX Spark, novi AI čip koji bi mogao značajno uticati na performanse i arhitekturu Windows PC računara u budućnosti. Ova najava dolazi u trenutku kada industrija traži inovativna rešenja za unapređenje brzine, energetske efikasnosti i veštačke inteligencije na desktop i laptop uređajima. Kompanija je tokom predstavljanja istakla da RTX Spark integriše Arm CPU jezgra, naprednu GPU arhitekturu i značajnu količinu objedinjene RAM memorije, što podseća na pristup koji je Apple uspešno primenio sa svojim Silicon čipovima.

Iako još uvek nisu poznate sve tehničke specifikacije, kao ni cene i datumi izlaska prvih uređaja sa ovim čipom, RTX Spark je već privukao pažnju stručne javnosti zbog potencijalno visokog nivoa performansi i efikasnosti koje bi mogao doneti Windows ekosistemu. Integracija Arm CPU jezgara sa moćnom grafikom i objedinjena memorija, prema industrijskim izvorima, mogu omogućiti bolje iskustvo u primeni AI alata i zahtevnih aplikacija, uz optimizovanu potrošnju energije.

Očekuje se da će RTX Spark značajno unaprediti multitasking i obradu podataka na Windows računarima, posebno u oblastima kao što su generativna veštačka inteligencija, obrada slike i video materijala i naučna simulacija. NVIDIA je ranije ostvarila uspeh u AI segmentu zahvaljujući svojim GPU rešenjima, a sada cilja da proširi uticaj na celokupnu PC industriju primenom ovakve integrisane arhitekture.

Do objavljivanja detaljnijih informacija, ostaje da se vidi kako će proizvođači hardvera i softverski ekosistem odgovoriti na ovaj potez i da li će RTX Spark zaista doneti Windows računarima onaj “Apple Silicon trenutak” koji mnogi u industriji priželjkuju. Dodatne informacije o performansama, cenama i dostupnosti očekuju se u narednim mesecima.

Pročitaj još

U Trendu