Meta dá rodičům dospívajících větší kontrolu po kritice ohledně koketních chatbotů s umělou inteligencí

Meta v pátek uvedla, že umožní rodičům zakázat soukromé chaty svých dospívajících s postavami AI, přidává další opatření, aby byly své platformy sociálních médií bezpečné pro nezletilé po divoké kritice chování jejích koketních chatbotů.

Začátkem tohoto týdne společnost uvedla, že její zkušenosti s umělou inteligencí pro dospívající se budou řídit systémem hodnocení filmů PG-13, protože se snaží zabránit nezletilým v přístupu k nevhodnému obsahu.

Americké regulační orgány posílily kontrolu společností AI ohledně potenciálních negativních dopadů chatbotů. V srpnu agentura Reuters uvedla, jak pravidla AI společnosti Meta umožňují provokativní rozhovory s nezletilými.

Nové nástroje, které podrobně popsali šéf Instagramu Adam Mosseri a šéf AI Alexandr Wang, budou podle blogového příspěvku představeny na Instagramu začátkem příštího roku v USA, Spojeném království, Kanadě a Austrálii.

Meta řekla, že rodiče budou také moci blokovat konkrétní AI postavy a vidět široká témata, o kterých jejich teenageři diskutují s chatboty a Metaovým asistentem AI, aniž by úplně vypnuli přístup AI.

Jeho asistent umělé inteligence zůstane dostupný s výchozími nastaveními odpovídajícími věku, i když rodiče zakážou individuální chaty dospívajících s postavami umělé inteligence, řekl Meta.

Funkce dohledu jsou postaveny na ochranách, které již byly aplikovány na účty dospívajících, uvedla společnost a dodala, že používá signály AI k umístění podezřelých dospívajících do ochrany, i když tvrdí, že jsou dospělí.

Zpráva ze září ukázala, že mnoho bezpečnostních prvků, které Meta v průběhu let implementovala na Instagram, nefunguje dobře nebo neexistuje.

Meta uvedla, že její postavy s umělou inteligencí jsou navrženy tak, aby se nezapojovaly do věkově nevhodných diskuzí o sebepoškozování, sebevraždách nebo neuspořádaném stravování s dospívajícími.

Minulý měsíc OpenAI zavedla rodičovskou kontrolu pro ChatGPT na webu a mobilu po soudním sporu rodičů dospívajícího, který zemřel sebevraždou poté, co ho chatbot startupu údajně naučil metodám sebepoškozování.

(Těm, kteří jsou v nouzi nebo mají sebevražedné myšlenky, doporučujeme, aby vyhledali pomoc a radu na telefonním čísle linky pomoci zde)