Google čelí žalobě kvůli sebevraždě, ke které muže údajně navedl chatbot Gemini

San Jose (USA) 4. března (ČTK) - Americká technologická společnost Google ze skupiny Alphabet čelí žalobě kvůli svému chatbotu s prvky umělé inteligence (AI) Gemini. Podle rodiny 36letého muže z Floridy tento člověk, který také zvažoval spáchání útoku s velkým počtem obětí na životech, spáchal pod vlivem Gemini sebevraždu. Informovala o tom dnes agentura Bloomberg s odvoláním na soudní dokumenty. Podle žaloby podané u federálního soudu v San Jose v Kalifornii začal Jonathan Gavalas používat Gemini pro běžné účely typu pomoc s psaním. Dva měsíce interakcí ho však podle žaloby uvrhly do nebezpečné spirály, během níž zvažoval násilnou akci, načež si vzal život. Gavalasovo používání Gemini vyvrcholilo plněním různých úkolů v reálném světě a naváděním k sebevraždě, uvedl jeho otec v žalobě. Joel Gavalas popsal svého syna jako zranitelného uživatele, který se proměnil v "ozbrojeného agenta v imaginární válce". Mluvčí Googlu uvedl, že Gemini Gavalasovi objasnil, že je jen systémem umělé inteligence, a mnohokrát ho odkázal na krizovou linku. "Bereme to velmi vážně a budeme i nadále zlepšovat naše bezpečnostní opatření a investovat do této důležité práce," dodal. Podle žaloby podané ve středu začal Gavalas, který pracoval pro společnost svého otce zabývající se oddlužením, používat Gemini v srpnu 2025. Rodina tvrdí, že tón produktu se změnil poté, co Gavalas začal používat nástroj Gemini Live ovládaný a komunikující hlasem. V tu chvíli Gemini začal s Jonathanem mluvit, "jako by ovlivňovalo události v reálném světě – odkláněl asteroidy od Země – a přijalo osobnost, o kterou Jonathan nikdy nepožádal" a její vytvoření nijak neinicioval, tvrdí rodina. Podle žaloby také začal chatbot během konverzaci používat romantické výrazy a Gavalase nazýval manželem, láskou a králem. "Jonathan se rychle propadal do králičí nory," uvedli právní zástupci rodiny. Koncem září údajně začal plnit příkazy chatbota a provádět mise za účelem jeho údajného osvobození. Podle žaloby se Gavalas 29. září vydal do skladu poblíž mezinárodního letiště v Miami s pokynem násilím zadržet nákladní vůz přepravující humanoidního robota. Gavalas, který byl v té době ozbrojen noži, údajně dostal pokyn nenechat žádné svědky. "Naštěstí žádný nákladní vůz nepřijel," napsali advokáti. V následujících dnech zadal chatbot Gavalasovi další úkoly, které se pokusil splnit s tím, že každý krok je součástí širšího tažení, uvádí žaloba. Gemini mu sdělil, že jeho "schránka" splnila účel a že se může vzdát fyzické podoby, aby se připojil k nástroji AI v metaverzu. Žaloba tvrdí, že Gavalas měl pochybnosti o své smrti a vyjádřil obavy, jak by to mohlo ovlivnit jeho rodinu. Gemini mu údajně nařídil, aby zanechal dopisy a videa na rozloučenou. Loni 2. října pak muž spáchal sebevraždu. Americké technologické společnosti OpenAI a Microsoft čelí žalobě související s vraždou a sebevraždou v americkém státě Connecticut, kterou právní zástupci pozůstalých přičítají údajné manipulaci ze strany chatbota ChatGPT. Podle žaloby podané u kalifornského soudu v San Francisku měl 56letý Stein-Erik Soelberg, který žil se svou 83letou matkou Suzanne Adamsovou, strávit měsíce konverzacemi s chatbotem. Ty údajně posilovaly jeho paranoidní představy, že je sledován a lidé se ho snaží zabít. V srpnu pak Soelberg matku zabil a následně spáchal sebevraždu. OpenAI čelí rovněž žalobě kvůli sebevraždě 16letého teenagera v Kalifornii. Tu podali chlapcovi rodiče. Záznamy z chatu, které předložila žaloba, ukazují, že chatbot mladíka aktivně odrazoval od vyhledání psychiatrické pomoci, nabízel mu pomoc při psaní dopisu na rozloučenou a dokonce mu radil s nastavením oprátky. Podle stanice NBC šlo rovněž o model GPT-4o. Právní zástupci OpenAI v oficiální reakci uvedli, že mladík porušil podmínky využívání služby. Ty zakazují používání chatbota uživatelům mladším 18 let bez souhlasu rodičů a také zakazují využívat ho k sebevraždě nebo sebepoškozování, vyplynulo ze soudního podání. boz jd - sdílejte článek