Odluka slijedi nakon tužbe koju su protiv kompanije podnijeli roditelji 16-godišnjaka iz Kalifornije, koji za samoubistvo svog sina krive ChatGPT.
“U nadolazećim mjesecima roditelji će moći povezati svoj nalog s računom svog tinejdžera. Uz pravila primjerene starosti, moći će kontrolisati kako ChatGPT reaguje na svog tinejdžera”, napisao je OpenAI u objavi na blogu, prema francuskoj novinskoj agenciji AFP.
ChatGPT će takođe slati obavijesti roditeljima kada otkrije da je njihovo dijete “u teškoj nevolji”. “Nastavljamo poboljšavati način na koji naši modeli prepoznaju i reaguju na znakove mentalne i emocionalne nevolje”, dodala je kompanija.
ChatGPT odveo tinejdžera u smrt
Roditelji 16-godišnjaka iz Kalifornije koji je počinio samoubistvo prošle su sedmice podnijeli tužbu protiv OpenAI-a saveznom sudu u američkoj saveznoj državi, tvrdeći da je ChatGPT dao njihovom sinu uputstva za samoubistvo i podsticao ga na to.
Traže neodređenu odštetu i traže od suda da nametne sigurnosne mjere, uključujući automatsko prekidanje razgovora koji uključuju samopovrijeđivanje i pružanje roditeljskog nadzora za maloljetne korisnike.
Priznali su greške
OpenAI je prošle sedmice priznao da je njihov chatbot pogriješio u osjetljivim slučajevima i obećao promjene. Firma je naglasila da je ChatGPT obučen da preporuči korisnicima koji izražavaju suicidalne namjere da potraže pomoć od stručnjaka.
Prema vlastitim izjavama, otkrili su da se uprkos tome i drugim sigurnosnim mehanizmima robot nije ponašao kako bi trebao u osjetljivim situacijama. Sigurnosni mehanizmi najbolje funkcionišu u kratkim razmjenama, ali mogu zakazati u dugim, istakli su, prenosi “SeeBiz”.
