Ekspert za odbrambene sisteme Robin Pettit upozorava na dizajnerske slabosti i uticaj ljudske procene u primeni mašinskog učenja
Tehnološki sektor beleži sve veći uticaj naprednih računarskih i mašinskih sistema na globalno odlučivanje, ali i rastuće izazove u pogledu pouzdanosti i preciznosti. Robin Pettit, inženjer sa bogatim iskustvom u odbrambenim sistemima, vazduhoplovstvu i naprednim računarskim tehnologijama, ukazuje da su ljudska procena i tehnička stručnost nerazdvojni u razvoju i upotrebi savremenih rešenja.
Pettit je karijeru gradio u vodećim istraživačkim laboratorijama i kroz konsultantski rad sa razvojnim agencijama, stičući jedinstvenu perspektivu o tehnološkim granicama. Njegovo iskustvo u projektovanju i testiranju sistema za navođenje i radar omogućilo mu je da identifikuje nedostatke koji ostaju nevidljivi užim stručnjacima. On posebno ističe da složeni sistemi često pokazuju slabosti tek pri ekstremnim opterećenjima ili izmenjenim uslovima rada, što predstavlja rizik za korisnike i donosioce odluka.
U kontekstu mašinskog učenja, Pettit ukazuje da modeli koji dominiraju današnjim tržištem nisu razvijeni sa jasnim razgraničenjem između fikcije i činjenica. Ovaj nedostatak temeljnog dizajna, prema njegovoj oceni, dovodi do širenja dezinformacija, koje se kasnije pokušavaju korigovati naknadnim intervencijama, bez potpunog rešavanja problema. “Modeli na koje se danas oslanjamo pravljeni su bez osnovnih distinkcija. To se manifestuje kroz dezinformacije koje naknadno pokušavamo da ispravimo, ali problem ostaje nerešen”, navodi Pettit.
On smatra da ljudsko ponašanje igra ključnu ulogu u tome kako se ovakve tehnologije koriste i kakva im se poverenja pridaje. “Stvarna slabost nije samo u tehnologiji, već i u načinu na koji je ljudi dizajniraju, tumače i koriste često bez svesti o njenim ograničenjima”, ističe Pettit. Prema njegovim rečima, modeli koji funkcionišu kao prediktivni sistemi u verbalnoj produkciji mogu ponavljati često pominjane mitove kao visokoverovatne odgovore, dok precizne informacije, koje su manje zastupljene u podacima za treniranje, ostaju zanemarene.
Pettit, zahvaljujući svom konsultantskom angažmanu, često je pozivan da proceni rizike novih tehnologija, naročito u trenucima kada investitori, preduzetnici i velike institucije preispituju svoje strateške odluke. On naglašava da je odluka o poverenju tehnologiji uvek refleksija ljudske procene, a ne samostalne vrednosti sistema.
Ovakvi nalazi ukazuju na potrebu za unapređenjem dizajna i jasnijom podelom odgovornosti između ljudi i mašina u poslovnim i odbrambenim sektorima. Eksperti smatraju da će budući razvoj inteligentnih sistema zahtevati još veću pažnju prema pitanjima transparentnosti, verifikacije i dugoročne pouzdanosti, kao i stalno preispitivanje njihove upotrebe u kontekstu ljudske odgovornosti.
Source: https://www.ibtimes.com/robin-pettit-weight-judgment-age-intelligent-machines-3800568
