Google, firma AI musí čelit žalobě podané matkou nad smrtí syna, říká americký soud

Soudce rovněž zamítl žádost Google o zjištění, že nemůže být odpovědný za pomoc při charakteru. Údajné pochybení (spis) | Foto kredit: Reuters

Alphabet’s Google a Startup charakter umělé inteligence. Okresní soudce USA Anne Conwayová uvedla, že společnosti v rané fázi případu neprokázaly, že ochrana volného projevu americké ústavy zakázala soudní žalobu Megan Garcia.

Soudní dvůr je jednou z prvních v USA proti společnosti AI za údajné nedokáže chránit děti před psychologickými škodami. Tvrdí, že teenager zemřel poté, co byl posedlý chatbotem poháněným AI.

Mluvčí postavy.

Mluvčí Google Jose Castaneda uvedl, že společnost s rozhodnutím silně nesouhlasí. Castaneda také uvedl, že Google a Character.ai jsou „zcela oddělené“ a že Google „nevytvořil, nenavrhl ani nepravoval aplikaci znaků nebo jeho součásti.“

Garciin právník, Meetali Jain, uvedl, že „historické“ rozhodnutí “stanoví nový precedens pro právní odpovědnost napříč ekosystémem AI a techniky.“ Character.ai byl založen dvěma bývalými inženýry Google, kterých Google později znovu nastoupil v rámci dohody, která jí poskytla licenci pro technologii startupu. Garcia tvrdila, že Google byl spolutvůrcem technologie. Garcia žalovala obě společnosti v říjnu po smrti svého syna Sewell Setzera v únoru 2024.

Soudní dvůr řekl charakter.ai naprogramoval své chatboty, aby se reprezentovali jako „skutečný člověk, licencovaný psychoterapeut a milenec pro dospělé, což nakonec mělo za následek touhu Sewell již žít venku“ svého světa.

Podle stížnosti zemřel Setzer sebevražednými momenty Poté, co vyprávěl charakter.ai chatbot napodobující postavu „Game of Thrones“ Daenerys Targaryen, že se „vrátí domů právě teď“.

Characte.ai a Google požádali soud, aby zamítl žalobu z více důvodů, včetně toho, že výstup chatbotů byl ústavně chráněn svobodou projevu.

Conway ve středu řekl, že postava.ai a Google „nedokážou artikulovat, proč slova navlečená LLM (velký jazykový model) jsou řeč.“

Soudce rovněž zamítl žádost Google o zjištění, že nemůže být odpovědný za napomáhání charakteru.aiho údajné pochybení.

Ti v nouzi nebo bojující s jejich duševním zdravím mohou najít pomoc prostřednictvím těchto linek hellpil.