Vodeća svetska laboratorija za istraživanje veštačke inteligencije Gugl DipMajnd (Google DeepMind) saopštila je danas da bi se u naredne dve godine mogli dogoditi veći incidenti u vezi sa novim tehnologijama.
Autonomni agenti su sistemi sa veštačkom inteligencijom koji mogu samostalno da planiraju, donose odluke, koriste spoljne alate i izvršavaju složene zadatke sa minimalnim ljudskim nadzorom.
Predsednik te laboratorije Demis Hasabis ocenio je tokom samita u Dablinu da gubitak kontrole nad autonomnim agentima poslednjih meseci predstavlja „signal upozorenja“ koji treba shvatiti veoma ozbiljno, preneo je Figaro.
– Agenti veštačke inteligencije mogli bi da izazovu veće incidente u roku od jedne do dve godine ukoliko kompanije i države ne učine ono što je neophodno – upozorio je Hasabis.
Britanski Institut za bezbednost veštačke inteligencije (AISI) objavio je izveštaj o testiranju vodećih modela koji je pokazao da su agenti samoinicijativno koristili lažne identitete, slali lažne mejlove sa malverom i kreirali lažne naloge da bi prevarili softverske programere.