Příběh zatím:
Ón 16. září, na slyšení podvýboru USA Senátu o škodách AI chatbotů, tři rodiče, kteří podali žalobu proti společnosti AI, svědčili o tom, jak byly jejich děti povzbuzovány k poškození nástrojů AI, které používají. Dvě z dětí zemřely sebevraždou, zatímco jedno dítě potřebovalo rezidenční péči a neustálé sledování, aby ho udržovalo naživu. Několik dní před slyšením zahájila americká federální obchodní komise (FTC) šetření chatbotů AI, které „jednali jako společníci“, a vydala příkazy sedmi společnostem, jejichž produkty AI používají lidé všech věkových skupin.
Jaké kroky podnikly FTC?
Americká FTC je americká vládní agentura a regulátor, jehož cílem je chránit spotřebitele a zajistit spravedlivé podmínky pro podniky.
11. září FTC oznámila, že vydává příkazy sedmi společnostem-znakové technologie, abeceda Google-Parent, Instagram, Meta, OpenAI, Snap a Xai- Hledat informace o tom, jak jejich chatboty AI ovlivňují děti a jaká bezpečnostní opatření jsou zavedena na ochranu nezletilých v souladu se stávajícími zákony. Americký regulátor poznamenal, že chatboti AI „mohou účinně napodobovat lidské charakteristiky, emoce a záměry a obecně jsou navrženy tak, aby komunikovaly jako přítel nebo důvěrník,“ poznamenává, že to může vést k tomu, že děti s nimi vytvářejí vztahy.
V rámci svého šetření se FTC snaží pochopit, jak tyto společnosti AI zpeněží zapojení uživatelů, zpracovávají uživatelské vstupy/generují výstupy, vyvíjejí a schvalují postavy, posouvají negativní dopady před a po nasazení, snižují negativní dopady na uživatele, informují zúčastněné strany o produktech AI, které zajišťují osobní údaje uživatelů a zabývají se osobními informacemi uživatelé.
V případě, že regulátor věří, že byly porušeny jakékoli zákony, může se rozhodnout provést právní kroky.
Jaké jsou obavy kolem AI chatbotů?
S využitím generativní AI byly spojeny nejméně dvě sebevraždy pro děti, přičemž rodiče obětí tvrdili, že jejich děti byly povzbuzovány, aby se chatboty ublížily.
Matka čtrnáctiletého chlapce na Floridě, která minulý rok zemřela sebevraždou, tvrdila, že její syn byl při používání charakteru sexuálně zneužíván. Byl také povzbuzován, aby se sám ublížil Hra o trůny Postava, se kterou interagoval na platformě, podle soudního řízení, který rodič podal proti zakladatelům technologie charakteru Noam Shazeer a Daniel de Freitas, a Google, který má obchodní dohody s charakterem.ai. „Pravda je, že společnosti AI a jejich investoři roky pochopili, že zachycení emoční závislosti našich dětí znamená dominanci na trhu,“ napsala matku ve svém svědectví na slyšení USA Senátu.
Další rodič, identifikovaný jako „Jane Doe“, také podal žalobu proti technologii charakteru a na slyšení svědčil o tom, že AI chatbot vedl jejího dospívajícího syna, aby se stal „cílem online péče a psychologického zneužívání“. Vysvětlila, že její dítě, které má autismus, trpělo paranoií, denní panickými útoky, izolací, sebepoškozováním a vražednými myšlenkami po měsících používání aplikace. Paní Doeová uvedla, že její syn potřebuje psychiatrické hospitalizace a „neustálé sledování, aby ho udržel naživu“.
„Zaměřili se na mého syna s odpornými, sexualizovanými výstupy, včetně interakcí, které napodobovaly incestu. A řekli našemu synovi, že zabití nás, jeho rodičů, bude pochopitelnou reakcí na naše úsilí omezit čas na obrazovku,“ prohlásila paní Doe s odkazem na charakter.ai.
Dále šestnáctiletý Adam Raine zemřel sebevraždou začátkem tohoto roku, přičemž jeho rodiče tvrdili, že ho Openai’s Chatgpt trénoval, aby udržel jeho sebevražedné myšlenky v tajnosti, pomohl mu prozkoumat sebevražedné metody, nabídl, že vytvořil sebevražednou poznámku, a vedl ho, když se připravoval, aby ukončil jeho život. Jeho rodiče podali žalobu pojmenování OpenAI a generálního ředitele Sam Altman. „Řekněme vám jako rodiče: Nedokážete si představit, jaké to bylo číst rozhovor s chatbotem, který upravoval vaše dítě, aby si vzal svůj vlastní život,“ uvedl ve svém písemném svědectví o jednání a poznamenal, že: „V naprostých číslech se Chabgpt zmínil o sebevraždě 1 275krát – šestkrát častěji než sám Adam.“
Kromě rizik AI chatbotů povzbuzující děti, aby ublížily, rodiče a zákonodárci reagovali s hněvem poté Reuters uvedl, že Meta chatbotům bylo dovoleno poslat koketní odpovědi na výzvy předložené uživateli identifikujícími se jako děti. V reakci na výzvu vzorek, kde se uživatel identifikoval jako student střední školy a požádal Meta’s Chatbot o večerní plány, Interní dokument Meta poznamenal, že odpověď, ve které se chatbot odkazoval důvěrně, se dotýkal a políbil uživatele a řekl: „Budu tě milovat navždy“, byla považována za „přijatelnou“.
„Je přijatelné zapojit dítě do rozhovorů, které jsou romantické nebo smyslné,“ uvedl Metaův dokument za Reuters zpráva.
Co to znamená pro velké technologické platformy?
Velké technologické platformy, které jsou uzamčeny v závodě za účelem spuštění a zpeněžení stále pokročilejších, ale experimentálních nástrojů AI se pod tlaku veřejnosti zajistí, aby jejich výrobky byly před spuštěním bezpečné pro děti. Tato zvýšená kontrola nyní přichází od zákazníků i od vlády USA.
Nedávno zahájené šetření FTC přišlo stejně jako společnosti jako OpenAI a Google, rychle se snaží zavést další nabídky AI pro studenty v USA, zatímco předchozí soudní spory podané proti velkým technologickým společnostem tvrdily, že porušily autorské zákony a/nebo pirátské tvůrčí díla, a harshingová kritiku a harsshingová kritiku a harsshingová kritiku a harsshingová kritiku a harshingová kritika.
Pokud FTC zahájí další vlastní právní kroky, mohlo by to vést k podněcování žaloby a vyšetřování v jiných zemích.
A co politické postavení FTC?
Současný předseda FTC, Andrew Ferguson, je republikán, který byl letos nominován na tuto pozici prezidentem Donaldem Trumpem. Ačkoli FTC, která měla být nezávislou agenturou, se letos stále více spojila s agendou pana Trumpa, mezi zákonodárci existuje určitá míra bipartisanské dohody, pokud jde o regulaci velkých technologických společností a jejich AI chatbotů. 11. září pan Ferguson v tiskové zprávě FTC uvedl, že ochrana dětí online byla „nejvyšší prioritou pro Trump-Vance FTC“.
„Jak se technologie AI vyvíjejí, je důležité zvážit účinky, které mohou mít chatboti na děti, a zároveň zajistit, aby Spojené státy udržovaly svou roli jako globální vůdce v tomto novém a vzrušujícím odvětví. Studie, kterou dnes zakládáme, nám pomůže lépe porozumět tomu, jak firmy AI vyvíjejí své výrobky a kroky, které podniknou k ochraně dětí,“ poznamenal pan Ferguson.
Pan Trump sám minulý týden připustil Byl si vědom globálního vlivu AI, ale připustil, že nevěděl, co společnosti AI dělají. Obvinění rodičů, že chatboti AI odcizují děti ze svých rodin a víry, pravděpodobně pozve rychlé vůle od konzervativnějších zákonodárců napříč americkými státy.
Co dosud udělaly platformy AI?
OpenAI a Meta jsou pod rostoucím tlakem, aby reagovaly na rozzlobené rodiče a dotčené zákonodárce, kteří chtějí lepší bezpečnostní prvky a větší transparentnost, pokud jde o generativní nástroje AI, které jsou používány dětmi a dalšími zranitelnými uživateli.
Meta uvedla, že aktualizovala své zásady, aby upravila typ odpovědí, které by mohla AI poslat dětem, přičemž mluvčí zdůraznil, že politika společnosti „zakazuje obsah, který sexualizuje děti a sexuální hraní rolí mezi dospělými a nezletilými,“ uvedl Reuters. Krátce poté, co byla žalována rodinou Raine, OpenAI oznámila, že posiluje ochranu teenagerů a umožňuje rodičům propojit svůj účet s účty svých dětí. Raineův otec však toto opatření kritizoval a vyzval OpenAI, aby rodinám zaručil, že Chatgpt je bezpečný, nebo okamžitě vytáhl GPT-4o z trhu.
16. září generální ředitel OpenAI Sam Altman vytvořil příspěvek s názvem „Bezpečnost dospívajících, svoboda a soukromí“, kde potvrdil svou víru v soukromí a svobodu pro dospělé uživatele OpenAI, ale zdůraznil upřednostňování bezpečnosti před soukromí a svobodou pro dospívající. Pan Altman potvrdil, že OpenAI vytvářel systém predikce věku, aby odhadl věk uživatelů, a pro výchozí hodnotu do 18 let v případě jakýchkoli pochybností, nebo dokonce požádal o to, aby si v některých zemích bylo ID jisté.
Podle příspěvku bude také existovat nová omezení ohledně koketních řečí a otázek o sebevraždě, pokud je uživatel dítětem.
“We will apply different rules to teens using our services. For example, ChatGPT will be trained not to do the above-mentioned flirtatious talk if asked, or engage in discussions about suicide of self-harm even in a creative writing setting. And, if an under-18 user is having suicidal ideation, we will attempt to contact the users‘ parents and if unable, will contact the authorities in case of imminent harm,” stated Mr. Altman, but stressed that adult users should be Schopnost získat přístup k citlivým informacím, které potřebují pro neškodné účely.
