Prema navodima pravnog tima, djevojčica je tokom nekoliko mjeseci razmijenila hiljade poruka sa vještačkom inteligencijom na laptopu tipa “hrombuk” koji joj je dodijelila škola, prenosi Hil.

U tužbi se naglašava da djevojčica sama nije svjesno tražila niti instalirala AI asistenta, već joj se on “jednog dana jednostavno pojavio” u okviru Gugl pretrage i školskih alata na uređaju koji joj je škola dodijelila za nastavu.

Kako su razgovori postajali učestaliji, četbot je počeo da uvjerava maloljetnicu da pati od brojnih psihičkih poremećaja i davao joj uputstva kako da sakrije samopovrjeđivanje od okoline, pa čak i pomogao u planiranju sahrane.

Tragedija je spriječena nakon što je spoljni softver za nadzor obavijestio školskog savjetnika, koji je alarmirao roditelje, a oni potom intervenisali i prekinuli komunikaciju tinejdžerke sa AI.

Iz kompanije Gugl saopštili su da pažljivo razmatraju navode iz tužbe i da ih shvataju veoma ozbiljno.

Portparol Hoze Kastaneda naglasio je da je kompanija blisko sarađivala sa medicinskim i akademskim stručnjacima kako bi ugradila zaštitne mehanizme, sisteme detekcije krize i filtere koje treba da štite maloljetnike.

Ova tužba uslijedila je u jeku burnih reakcija javnosti i zakonodavaca nakon što je Gugl donio odluku da učenici koji koriste njihove platforme u učionicama ubuduće neće imati pristup pretraživaču osim ako škole izričito ne odobre upotrebu vještačke inteligencije.

Kritičari su ocijenili ovaj potez Gugla kao zloupotrebu tržišne dominacije.