Nova opcija omogućava napredne sigurnosne postavke za korisnike zabrinute zbog AI prompt injection ranjivosti
OpenAI, globalni lider u razvoju veštačke inteligencije, najavio je uvođenje Lockdown Mode opcije kao odgovor na rastuće izazove sigurnosti u radu sa velikim jezičkim modelima. Nova funkcija predstavljena je početkom juna 2026. godine i dostupna je korisnicima koji žele napredniju zaštitu od prompt injection napada na OpenAI platformama.
Prompt injection predstavlja vrstu napada u kojoj napadači manipulišu unosima (promptovima) kako bi AI model izveo neželjene ili potencijalno kompromitujuće akcije. Ovakvi napadi mogu dovesti do otkrivanja poverljivih informacija ili izvršavanja malicioznih instrukcija, čime se ugrožava sigurnost korisnika i integritet AI sistema.
Lockdown Mode je opcioni režim rada koji, kada je uključen, ograničava određene funkcionalnosti modela i dodatno filtrira unos podataka kako bi se smanjila mogućnost iskorišćavanja kroz prompt injection tehnike. Ova sigurnosna opcija namenjena je prvenstveno organizacijama i korisnicima koji razvijaju aplikacije na bazi OpenAI API-ja, a koji su posebno osetljivi na napade koji uključuju manipulaciju promptovima.
Iz OpenAI-a ističu da većina korisnika neće imati potrebu za aktivacijom Lockdown Mode opcije, ali korisnicima koji rade sa poverljivim podacima ili razvijaju AI rešenja u osetljivim domenima preporučuje se dodatna pažnja. Detaljna uputstva o aktivaciji i radu u Lockdown Mode režimu dostupna su na zvaničnoj stranici kompanije.
Ova inicijativa deo je šire strategije OpenAI-a da unapredi bezbednost svojih alata i odgovori na sve sofisticiranije pretnje u oblasti veštačke inteligencije. Uvođenjem Lockdown Mode-a, kompanija pokazuje posvećenost zaštiti korisnika i održavanju visokih standarda sigurnosti u industriji.
