OpenAI obhajovala použití ChatGPT, protože čelí žalobě, která tvrdí, že jeho chatbot přivedl letos na jaře 16letého kalifornského chlapce k sebevraždě.
Tvůrce ChatGPT vyjádřil své sympatie rodině Adama Rainea, ale tvrdil, že na jeho straně došlo k „zneužití, neoprávněnému použití, nezamýšlenému použití, nepředvídatelnému použití a/nebo nesprávnému použití ChatGPT“, podle citací z právního spisu společnosti, o kterém informovala americká zpravodajská stanice NBC.
Adam nejprve použil ChatGPT k diskusi o školní práci, zálibách a aktuálních událostech, než sdílel negativní emoce a sebevražedné myšlenky v rámci soudního procesu. Jeho rodina vyjádřila šok z toho, jak Adam „nahradil prakticky všechna lidská přátelství a rady společníkem AI“.
OpenAI nezveřejnila své právní podání, ale 25. listopadu vydala prostřednictvím svého blogu sympatičtější prohlášení, ve kterém zdůraznila potřebu sdílení kontextu kolem chatování teenagera.
„Naše odpověď na tato obvinění zahrnuje obtížná fakta o Adamově duševním zdraví a životních okolnostech. Původní stížnost obsahovala selektivní části jeho chatů, které vyžadují více kontextu, který jsme poskytli v naší odpovědi. Omezili jsme množství citlivých důkazů, které jsme v tomto podání veřejně citovali, a samotné přepisy chatu jsme předali soudu pod pečetí,“ uvedl OpenAI na svém blogu.
Vzhledem k tomu, že žaloba byla podána v srpnu tohoto roku, OpenAI zavedla zvýšenou ochranu pro dospívající. Společnost také sdílela své plány na implementaci ověřování věku a propojení účtů ChatGPT dětí s účty jejich opatrovníků. Existují však obavy, protože OpenAI uznalo, že ochrany ChatGPT by mohly selhat, když uživatelé tlačili na delší chatovací relace.
Po měsících chatování s chatbotem OpenAI zemřel letos v dubnu 16letý Adam Raine sebevraždou. Jeho rodina tvrdila, že ChatGPT jednal jako jeho „sebevražedný trenér“ a že dospívající zemřel při používání nastavení navrženého chatbotem.
Ve své žalobě proti OpenAI a vedení společnosti rodiče Matthew a Maria Raine tvrdili, že ChatGPT pomohla jejich synovi prozkoumat sebevražedné metody, napsala návrh sebevražedného dopisu, poskytla mu zpětnou vazbu na různé metody sebevraždy a sebepoškozování a netlačila silně na zoufalého teenagera, aby hledal podporu, i když chtěl, aby někdo zasáhl.
„Vzor byl konzistentní: Adam se zeptal na metodu, ChatGPT by poskytl podrobné informace a někdy přidal povrchní zdroje krizových situací, pak Adam zkoumal hlouběji a ChatGPT by pokračoval v zapojení,“ uvedla žaloba a dodala: „ChatGPT zmínil sebevraždu 1275krát – šestkrát častěji než Adam sám – a zároveň poskytoval stále konkrétnější technické pokyny“.
Rodina Raineových jmenovala v žalobě generálního ředitele OpenAI Sama Altmana a tvrdila, že Altman „vědomě urychlil veřejné spuštění GPT-4o a přitom záměrně obcházel kritické bezpečnostní protokoly“.
Rodina Raine popsala Adama jako „most s velkým srdcem“ mezi jeho sourozenci, mezi jeho zájmy patří basketbal, Muay Thai, japonské anime a manga a videohry.
Nadace jeho rodiny zvyšuje povědomí o tom, že se dospívající stávají závislými na AI společníkech, a vyzývá k lepší ochraně.
Se vstupy z NBC News
Publikováno – 27. listopadu 2025 13:28 IST
