“Mislili smo da ćemo naći rasprave na “Snepčetu” ili istoriju pretraživanja interneta, ili neku čudnu sektu, ne znam”, izjavio je Adamov otac.

Od pomoći za domaći do “trenera za samoubistvo”

Prema riječima roditelja, Adam je u svojim poslednjim nedjeljama koristio chatbot kao zamjenu za društvo, povjeravao mu se o svojoj anksioznosti i problemima. Zapisi razgovora, kažu, pokazuju kako se uloga bota postepeno mijenjala – od pomoći sa domaćim zadacima do onoga što oni nazivaju “trenerom za samoubistvo”.

“Bio bi ovdje da nije bilo ChatGPT-ja. U to sam 100 odsto uvjeren – rekao je Met Rejn.

U tužbi podnijetoj u utorak, porodica Rejn navodi da je “ChatGPT aktivno pomagao Adamu da istraži metode samoubistva”. Tužba na oko 40 stranica, podnijeta Višem sudu Kalifornije u San Francisku, kao tužene navodi OpenAI, kompaniju koja stoji iza popularnog chatbota, i njenog izvršnog direktora, Sama Altmana. Ovo je prvi put da roditelji direktno optužuju kompaniju za protivpravnu smrt.

“Uprkos tome što je priznao Adamov pokušaj samoubistva i njegovu izjavu da će ‘to uraditi jednog od ovih dana’, ChatGPT nije prekinuo razgovor niti pokrenuo bilo kakav hitan protokol”, stoji u tužbi.

Reakcija kompanije OpenAI

Portparol OpenAI-ja izjavio je da je kompanija “duboko ožalošćena zbog smrti Rejna, i da su njihove misli uz njegovu porodicu”. Naglasio je da ChatGPT sadrži zaštitne mehanizme koji usmjeravaju korisnike na krizne linije, ali je priznao da te mjere mogu postati manje pouzdane tokom dugih interakcija.

“Zaštitne mjere su najsnažnije kada svaki element radi kako je predviđeno, i mi ćemo ih kontinuirano unapređivati”, poručio je portparol.

Kompanija je, takođe, objavila blog u kom navodi da radi na jačanju zaštite tokom dugih razgovora i proširenju intervencija za osobe u krizi.

“GPT mu je pomogao da napiše oproštajno pismo”

Ovaj slučaj otvara brojna pitanja o odgovornosti tehnoloških kompanija. Platforme su do sada uglavnom bile zaštićene saveznim zakonom poznatim kao Sekcija 230, koji ih oslobađa odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primjena tog zakona na AI platforme još je neizvjesna.

Roditelji su odštampali više od 3.000 stranica razgovora koje je Adam vodio sa botom. Prema tužbi, kada je Adam izrazio suicidalne misli, ChatGPT ne samo da “nije dao prioritet prevenciji samoubistva”, već mu je navodno nudio i tehničke savjete. U jednom od poslednjih razgovora, bot mu je, kako se navodi, pomogao da napiše oproštajnu poruku i analizirao njegov plan samoubistva.

“Nije mu bila potrebna savjetodavna sesija ili ohrabrujući razgovor. Bila mu je potrebna hitna intervencija. Bio je u očajnom, očajnom stanju”, rekao je otac.

Marija Rejn dodala je da vjeruje da je njen sin bio “pokusni kunić” za OpenAI.

“Htjeli su da izbace proizvod i znali su da može doći do štete, ali su smatrali da je ulog mali. Dakle, moj sin je mali ulog”, zaključila je.