Kompanija pauzira lansiranje erotskog AI modela zbog zabrinutosti za maloletnike i greške u verifikaciji uzrasta korisnika
Američka kompanija OpenAI odložila je razvoj i objavu svog planiranog četbota za odrasle, nakon što su zaposleni i investitori izrazili zabrinutost zbog potencijalnog uticaja seksualizovanih AI sadržaja na društvo. Prema zvaničnim informacijama, projekat je pauziran na neodređeno vreme jer postoji značajan rizik od stvaranja nezdravih emocionalnih veza korisnika sa AI rešenjima ovog tipa. Pored toga, kompanija ističe da postoji bojazan da bi maloletnici mogli da dobiju pristup neprimerenom sadržaju, što bi dovelo do povećanih pravnih i reputacionih rizika za OpenAI.
Tehničke prepreke dodatno komplikuju razvoj: model je trebalo da bude obučen za eksplicitni sadržaj uz strogo uklanjanje svega što je nezakonito, ali se pokazalo da pouzdano prepoznavanje granica takvog sadržaja ostaje nerešeno. Kompanija je razvila sistem za verifikaciju uzrasta korisnika, ali tehnologija i dalje greši u više od 10 odsto slučajeva, povećavajući mogućnost da maloletnici pristupe zabranjenom sadržaju.
OpenAI se zbog toga odlučio da se fokusira na svoja glavna produktivna rešenja, kao što su aplikacije koje integrišu postojeći četbot ChatGPT, pretraživač i alat za kodiranje Kodeks. Projekti koji trenutno nisu prioritet, uključujući četbot za odrasle i alat Sora za generisanje video-sadržaja iz teksta, stavljen su na čekanje dok se ne reše ključna tehnička i etička pitanja.
Kompanija je ranije pokušala da definiše jasne granice i trenira AI model za razlikovanje problematičnih situacija, ali izazovi u detekciji eksplicitnog sadržaja ostaju značajni. Takođe, OpenAI je prekinuo razvoj i drugih eksperimentalnih projekata, kao što je Sora alat razvijan za saradnju sa Diznijem, u okviru strategije fokusiranja na stabilne i komercijalno održive proizvode.
Zbog trenutnih tehničkih ograničenja i regulatornih izazova, kompanija nije iznela novi datum za potencijalno lansiranje četbota za odrasle. Investitori i deo zaposlenih izražavaju zabrinutost zbog mogućih posledica po reputaciju i pravnu sigurnost firme, a dalji razvoj ovog proizvoda zavisiće od napretka u verifikaciji uzrasta i preciznijoj AI detekciji sadržaja.
Source: https://www.bizsrbija.rs/vesti/nista-ni-od-erotika-ba-openai-odlozio-svoj-cetbot-za-odrasle