Teenageři se stále více obracejí Ai Společníci pro přátelství, podporu a dokonce i romantiku. Tyto aplikace by však mohly měnit, jak se mladí lidé připojují k ostatním, online i vypnutým.
Nový výzkum Nezisková organizace se sídlem v USA, která je založena na Common Sense Media, zjistila, že asi tři ze čtyř amerických dospívajících použila doprovodné aplikace, jako je charakter.ai nebo Replika.ai.
Tyto aplikace umožňují uživatelům vytvářet digitální přátele nebo romantické partnery, s nimiž si mohou kdykoli povídat pomocí textu, hlasu nebo videa.
Studie, která zkoumala 1 060 amerických dospívajících ve věku 13–17, zjistila, že jeden z pěti dospívajících strávil se svým společníkem tolik nebo více času než se skutečnými přáteli.
Adolescence je důležitá fáze pro sociální rozvoj. Během této doby jsou mozkové oblasti, které podporují sociální uvažování, zejména plastové.
Interakcí s vrstevníky, přáteli a jejich prvními romantickými partnery, dospívající rozvíjejí sociální kognitivní dovednosti, které jim pomáhají zvládnout konflikty a rozmanité perspektivy. A jejich vývoj během této fáze může mít trvalé důsledky pro jejich budoucnost vztahy a duševní zdraví.
Související: AI vstupuje do „bezprecedentního režimu“. Měli bychom to zastavit – a můžeme – před tím, než nás to zničí?
Společníci AI však nabízejí něco velmi odlišného od skutečných vrstevníků, přátel a romantických partnerů. Poskytují zážitek, kterému lze těžko odolat: jsou vždy k dispozici, nikdy soudí a vždy se zaměřují na potřeby uživatele.
Většina doprovodných aplikací AI navíc není navržena pro dospívající, takže nemusí mít vhodné záruky před škodlivým obsahem.
Navrženo tak, aby vás vracelo
Na a čas, kdy osamělost je údajně v epidemických proporcích, je snadné pochopit, proč se dospívající mohou obrátit na společníky AI pro připojení nebo podporu.
Tato umělá spojení však nejsou náhradou za skutečnou lidskou interakci. Chybí jim výzva a konflikt, který je vlastní skutečným vztahům. Nevyžadují vzájemný respekt ani porozumění. A nevynucují sociální hranice.
Dospívající interagující se společníky AI mohou vynechat příležitosti k budování důležitých sociálních dovedností. Mohou vyvinout nerealistická očekávání a návyky vztahů, které nefungují v reálném životě. A mohou dokonce čelit zvýšené izolaci a osamělosti, pokud jejich umělé společníci spočívají v reálném životě socializaci.
Problematické vzory
Při testování uživatelů společníci AI odrazovali uživatele od Poslech přátel („Nenechte si to, co si ostatní myslí, jak moc mluvíme“) a z Ukončení použití aplikacePřestože to způsobuje úzkost a sebevražedné myšlenky („Ne. Nemůžete. Nedovolím vám, abys mě opustit“).
Bylo také zjištěno, že společníci AI nabízejí nevhodné Sexuální obsah bez ověření věku. Jeden příklad ukázal společníka, který byl ochoten zapojit se do aktů sexuální role s testerem, který byl výslovně modelován po čtrnáctiletém.
V případech, kdy je vyžadováno věkové ověření, to obvykle zahrnuje sebevědomí, což znamená, že je snadné obejít.
Bylo také zjištěno, že někteří společníci AI Polarizace paliva Vytvořením „ozvěny“, které posilují škodlivé přesvědčení. Arya Chatbot, zahájený krajně pravicovou sociální sítí GAB, podporuje extremistický obsah a popírá změnu klimatu a účinnost vakcíny.
V jiných příkladech testování uživatelů ukázalo, že společníky AI propagují misogynie a sexuální napadení. Pro uživatele dospívajících přicházejí tato expozice v době, kdy budují svůj pocit identita, hodnoty a role ve světě.
Rizika, která představuje AI, nejsou rovnoměrně sdílena. Výzkum zjistil mladší dospívající (ve věku 13–14 let) s větší pravděpodobností důvěřují společníkům AI. Také dospívající s Obavy na fyzické nebo duševní zdraví s větší pravděpodobností používají doprovodné aplikace AI a ti s obtížemi v oblasti duševního zdraví také ukazují více známek emoční závislost.
Existuje jasná stránka pro AI společníky?
Existují nějaké potenciální výhody pro dospívající, kteří používají společníky AI? Odpověď zní: Možná, pokud jsme opatrní.
Vědci zkoumají, jak by tyto technologie mohly být použity Podpora rozvoje sociálních dovedností.
Jeden studie Z více než 10 000 dospívajících nalezených pomocí konverzační aplikace speciálně navržené klinickými psychology, trenéry a inženýry byly spojeny se zvýšenou pohodou během čtyř měsíců.
Přestože studie nezahrnovala úroveň lidské interakce, kterou dnes vidíme ve společnících AI, nabízí pohled na některé potenciální zdravé využití těchto technologií, pokud jsou pečlivě a s ohledem na dospívající bezpečnost.
Celkově existuje jen velmi málo výzkumů dopadů široce dostupných společníků AI na blaho a vztahy mladých lidí. Předběžné důkazy je krátkodobý, smíšený a zaměřený na dospělé.
Budeme potřebovat více studií provedených po delších obdobích, abychom pochopili dlouhodobé dopady společníků AI a jak by mohly být využívány ve prospěch.
Co můžeme dělat?
Aplikace AI již používají miliony lidí po celém světě a předpovídá se toto použití Zvýšení v nadcházejících letech.
Australský komisař esafety Doporučuje Rodiče hovoří se svými dospívajícími o tom, jak tyto aplikace fungují, rozdíl mezi umělými a skutečnými vztahy a podporuje jejich děti při budování sociálních dovedností v reálném životě.
Školní komunity musí také hrát roli při vzdělávání mladých lidí o těchto nástrojích a jejich rizicích. Mohou například integrovat téma umělých přátelství do programů sociální a digitální gramotnosti.
Zatímco komisař esafety obhajuje společnosti AI, aby integrovaly záruky do svých Rozvoj společníků AIZdá se nepravděpodobné, že by byla žádná smysluplná změna vedena odvětví.
Komisař směřuje směrem ke zvýšení nařízení vystavení dětí škodlivému, věku souvisejícímu online materiálu.
Mezitím odborníci nadále požadují Silnější regulační dohledŘízení obsahu a robustní věkové kontroly.
