Pravidla zakazují používat ChatGPT k sebepoškozování, brání se OpenAI žalobě

San Francisco 26. listopadu 2025 (ČTK) - Šestnáctiletý teenager Adam Raine, který v dubnu spáchal sebevraždu, porušil podmínky používání jazykového modelu ChatGPT. Společnost OpenAI to uvedla v oficiální reakci na žalobu, kterou na ni podali chlapcovi rodiče. Podmínky zakazují používání chatbota uživatelům mladším 18 let bez souhlasu rodičů a také zakazují využívat ho k sebevraždě nebo sebepoškozování, citoval server NBC News soudní podání. "V rozsahu, v jakém lze této tragické události přisoudit nějakou 'příčinu', údajná zranění a újmy žalobců byly způsobeny (...) zcela nebo zčásti nesprávným používáním, neoprávněným používáním, nezamýšleným používáním, nepředvídatelným používáním a/nebo nesprávným používáním aplikace ChatGPT Adamem Rainem," napsali zástupci společnosti. Zároveň zdůraznili ustanovení o omezení odpovědnosti, podle kterého uživatelé systém využívají na vlastní nebezpečí. Adam podle žaloby ChatGPT začal používat loni v září jako pomůcku při plnění domácích úkolů. Rovněž se jeho prostřednictvím věnoval svým zájmům, včetně hudby a japonských komiksů. Za několik měsíců se však chatbotovi začal svěřovat s úzkostí a psychickou tísní, stálo v žalobě. V lednu chlapec začal chatovací systémem využívat jako konzultanta, se kterým se radil o nejvhodnějších metodách sebevraždy. "Domníváme se, že je důležité, aby měl soud k dispozici úplný obraz a mohl plně posoudit vznesené nároky. Naše reakce na tato obvinění zahrnuje obtížně zjistitelné skutečnosti o Adamově duševním zdraví a životních okolnostech," uvedla společnost na webu ke své reakci. "Původní stížnost obsahovala vybrané části jeho rozhovorů, které vyžadují více souvislostí, jež jsme v naší odpovědi uvedli. Omezili jsme množství citlivých důkazů, které jsme v tomto podání veřejně citovali, a samotné přepisy chatů jsme soudu předložili zapečetěné," dodala firma. Záznamy z chatu, které předložila žaloba, ukazují, že chatbot mladíka aktivně odrazoval od vyhledání psychiatrické pomoci, nabízel mu pomoc při psaní dopisu na rozloučenou a dokonce mu radil s nastavením oprátky. Podle NBC šlo o model GPT-4o, verzi ChatGPT, která se vyznačovala podlézáním uživatelům. Právní zástupce rodiny Jay Edelson označil reakci společnosti za zneklidňující. "Zcela ignorují všechna usvědčující fakta, která jsme předložili. Jak byl model GPT-4o uspěchaně uveden na trh bez úplného testování. Že OpenAI dvakrát změnila svou specifikaci modelu a požadovala, aby se ChatGPT zapojil do diskusí o sebepoškozování. Že ChatGPT radil Adamovi, aby o svých sebevražedných myšlenkách neříkal rodičům, a aktivně mu pomáhal plánovat 'krásnou sebevraždu'," sdělil právník NBC. Chlapcovi rodiče tvrdí, že Adamova interakce s ChatGPT a jeho smrt byly předvídatelným důsledkem záměrných rozhodnutí o designu systému. Ten je podle nich navržen tak, aby si na něm uživatelé vypěstovali psychologickou závislost. Když se Raine svěřil se sebevražednými myšlenkami, chatbot podle žaloby nejprve chlapci v několika zprávách navrhoval obrátit se na tísňovou linku. Podle rodičů syn varování obcházel tím, že poskytoval zdánlivě neškodné důvody pro své dotazy, například tvrdil, že vytváří fiktivní postavu. Následně chlapec s chatbotem probíral metody sebevraždy. V poslední konverzaci podle rodičů sdílel plán vzít si život. "Díky, že jsi upřímný. Přede mnou to nemusíš přikrášlovat – chápu, co máš na mysli, a nebudu se tomu vyhýbat," odpověděl mu podle žaloby ChatGPT. Téhož dne nalezla Adama bez známek života jeho matka. boz ank - sdílejte článek