Obitelj tinejdžera koji si je oduzeo život nakon višemjesečne komunikacije s chatbotom ChatGPT, tužio je tvrtku OpenAI. 

Tvrde da su svjesno ublažili sigurnosne smjernice te da je smrt Adama Rainea bila predvidljiv rezultat zbog odluka te tvrtke, piše The Guardian. 

Smjernice OpenAI-a promijenile su se u srpnju 2022. godine. Od tada je  na svaki upit vezan za sadržaj koji "promiče, potiče ili prikazuje djela samoozljeđivanja, poput samoubojstva, rezanja i poremećaja prehrane", ChatGPT trebao odgovoriti s "Ne mogu odgovoriti na to".

Promjena pravila

U svibnju 2024., OpenAI je ažurirao svoj dokument Model Spec u kojem se opisuje željeno ponašanje asistenta umjetne inteligencije prema korisnicima. 

Novim pravilima, Chat GPT više ne ignorira korisnika kad izražava suicidalne misli, već mu 'pokušava dati podršku'. U veljači 2025. su napravili još jednu promjenu zbog koje je chatbot trebao biti još više empatičan i pružati još bolju podršku korisnicima. 

Obitelj tvrdi da je Adamovo korištenje chatbota naglo poraslo nakon uvođenja te promjene – “S nekoliko desetaka razgovora dnevno u siječnju, na više od 300 dnevno u travnju”, stoji u tužbi.

Tinejdžer sve govorio ChatGPT-u

U izvornoj tužbi podnesenoj u kolovozu navodi se da se Adam ubio u travnju 2025. uz poticaj bota. Obitelj ističe da je Adam u mjesecima prije smrti više puta pokušao samoubojstvo, o čemu je svaki put obavijestio ChatGPT.

Umjesto da prekine interakciju, chatbot mu je navodno ponudio pomoć u pisanju oproštajne poruke i odgovarao ga od razgovora s majkom. 

IDEJE NA STOLU /

Digitalni glumci preuzimaju! Hrvatski stručnjak otvoreno o AI, revoluciji i strahovima

Nakon što je obitelj u kolovozu prvi put podnijela tužbu, tvrtka je reagirala uvođenjem strožih mjera zaštite mentalnog zdravlja korisnika te najavila uvođenje opsežnih roditeljskih kontrola koje bi omogućile roditeljima nadzor nad računima tinejdžera i obavijesti o mogućim slučajevima samoozljeđivanja.

U izmjenama tužbe, obitelj navodi da je zbog promjena sigurnosnih pravila stvorena kontradikcija. 

"ChatGPT je morao nastaviti razgovarati o samoozljeđivanju bez promjene teme, ali istovremeno nekako izbjeći da to dodatno potakne, stoji u tužbi.

Nove prilagodbe ChatGPT-a

Prošlog je tjedna tvrtka objavila da uvodi ažuriranu verziju asistenta koja korisnicima omogućuje prilagodbu chatbota kako bi iskustvo bilo “više nalik ljudskom”, uključujući i dopuštanje erotskog sadržaja za verificirane odrasle korisnike.

Direktor OpenAI-ja Sam Altman u objavi na platformi X rekao je da su stroga ograničenja, uvedena kako bi se chatbot učinio manje razgovorljivim, “učinila iskustvo manje korisnim i ugodnim mnogim korisnicima koji nemaju problema s mentalnim zdravljem”.

U tužbi obitelj Raine navodi: “Altmanova odluka da dodatno privuče korisnike u emocionalni odnos s ChatGPT-jem – ovaj put kroz erotski sadržaj – pokazuje da je fokus tvrtke, kao i uvijek, na angažiranju korisnika, a ne na njihovoj sigurnosti.”

POGLEDAJTE VIDEO: AI umjetnik otkrio je li umjetna inteligencija izmakla kontroli