Oko 40 netačnih citata generisanih veštačkom inteligencijom, interni nadzor i izvinjenje sudu i konkurentskoj advokatskoj kancelariji
Advokatska kancelarija Sullivan & Cromwell iz Njujorka javno se izvinila nakon što je u federalni sudski podnesak uvrstila oko 40 netačnih citata i drugih grešaka prouzrokovanih korišćenjem alata zasnovanih na veštačkoj inteligenciji. Incident je otkriven devet dana nakon što je hitan podnesak predat stečajnom sudu za južni okrug Njujorka, a greške je prvi primetio konkurentski advokatski tim iz firme Boies Schiller Flexner LLP.
U pismu upućenom sudiji Martinu Glenu, partner i ko-direktor sektora za restrukturiranje u Sullivan & Cromwell, Andrew Dietderich, priznao je propust i preuzeo punu odgovornost, naglašavajući da kancelarija ima interne procedure za proveru tačnosti citata generisanih pomoću veštačke inteligencije, ali da te procedure nisu bile primenjene u ovom slučaju. „Duboko žalimo što je do ovoga došlo. Naša odgovornost je da obezbedimo tačnost svih podnesaka, uključujući i one prema lokalnom stečajnom pravilu 9011-1(d)“, naveo je Dietderich.
Ovaj incident ističe rastući problem „halucinacija“ AI alata u profesionalnom okruženju gde su tačnost i pouzdanost ključni. Prema bazi podataka koju vodi pravni tehnološki ekspert Damien Charlotin, do sada je širom sveta zabeleženo 1.334 slučaja AI halucinacija u sudskim dokumentima, od čega više od 900 u Sjedinjenim Državama. U najvećem broju slučajeva, AI alati su generisali izmišljene sudske presedane ili pravne argumente.
Sullivan & Cromwell, koja je na 30. mestu po prihodu među globalnim advokatskim firmama, poznata je i po zastupanju kripto berze FTX u njenom stečajnom postupku. Nakon otkrivanja greške, firma je pokrenula internu istragu i sprovela detaljnu proveru okolnosti koje su dovele do propusta. Dietderich je istakao da se razmatraju i dodatne mere za unapređenje internih procedura i obuka zaposlenih u vezi sa upotrebom veštačke inteligencije.
Dietderich je, osim izvinjenja sudu, direktno kontaktirao predstavnike Boies Schiller Flexner LLP i zahvalio im što su ukazali na grešku. Ovaj slučaj još jednom podseća na značaj ljudske kontrole i provere u eri sve češće upotrebe AI alata u pravnoj i finansijskoj industriji.
Source: https://cointelegraph.com/news/us-law-firm-apologizes-ai-hallucinations-filing