Dogovor omogućava Ministarstvu odbrane SAD neograničen pristup Google AI modelima za zakonite vladine zadatke, bez prava veta kompanije
Google i Ministarstvo odbrane Sjedinjenih Američkih Država potpisali su poverljiv ugovor kojim se Pentagonu omogućava neograničen pristup Google-ovim AI modelima za bilo koju zakonitu vladinu svrhu. Ovaj dogovor, čiji su detalji poverljivi, potvrđen je iz više izvora iz industrije, a navodi se da kompanija neće imati pravo da odobri ili blokira kako američka vlada koristi ovu tehnologiju.
Prema informacijama iz kompanije, dogovor s Pentagon-om precizira da Google-ova veštačka inteligencija ne bi trebalo da se koristi za masovni nadzor građana u Sjedinjenim Državama niti za autonomno naoružanje bez odgovarajuće ljudske kontrole i nadzora. Ipak, kako se ističe, Google nema mogućnost da kontroliše način na koji Ministarstvo odbrane primenjuje njihove modele, što izaziva zabrinutost kod zaposlenih i šire javnosti oko potencijalnih zloupotreba.
Portparol Google-a naveo je za medije da kompanija smatra da je omogućavanje API pristupa komercijalnim AI modelima, uz industrijske standarde i uslove, odgovoran način za podršku nacionalnoj bezbednosti. Takođe je naglašeno da stav kompanije ostaje protiv primene AI za masovni nadzor i autonomno oružje bez adekvatnog ljudskog nadzora. Uprkos tim stavovima, dogovor ne daje Google-u nikakvu kontrolu nad konkretnim načinima upotrebe.
Vest o ovom ugovoru izazvala je reakcije i unutar same kompanije. Više od 560 zaposlenih u Google-u potpisalo je otvoreno pismo u kojem traže od izvršnog direktora Sundara Pichaija da odbije saradnju sa američkom vladom na razvoju i upotrebi AI tehnologije za vojne i poverljive operacije. Zaposleni su izrazili zabrinutost zbog nedovoljne transparentnosti i potencijalnih etičkih posledica, naročito u domenu nadzora i autonomnog oružja.
Ovaj ugovor dolazi u trenutku kada raste interesovanje javnosti i regulatora za etičke aspekte primene veštačke inteligencije u državnim i vojnim strukturama. S obzirom na izuzetno brz razvoj AI tehnologija i njihovu potencijalnu ulogu u nacionalnoj bezbednosti, očekuje se da će slični ugovori i dalje biti predmet pažnje i debate među tehnološkim kompanijama, zaposlenima i donosiocima odluka.