Když je algoritmus umělé inteligence označen jako „ženský“, lidé ho s větší pravděpodobností zneužijí
Lidé častěji využívají partnerky s umělou inteligencí než muže, což ukazuje, že diskriminace na základě pohlaví má dopad i mimo lidské interakce.
Nedávná studie, publikovaná 2. listopadu v časopise iSciencezkoumali, jak se lidé lišili ve své ochotě spolupracovat, když lidé nebo AI partneři dostali ženské, nebinární, mužské a žádné genderové štítky.
Výzkumníci požádali účastníky, aby si zahráli známý myšlenkový experiment nazvaný „Vězeňovo dilema,“ hra, ve které se dva hráči rozhodnou buď spolupracovat, nebo pracovat nezávisle. Pokud spolupracují, oba dosáhnou nejlepšího výsledku.
Ale pokud se jeden rozhodne spolupracovat a druhý ne, hráč, který nespolupracoval, získá lepší skóre, což jednomu nabídne pobídku k „vykořisťování“ druhého. Pokud se oba rozhodnou nespolupracovat, mají oba hráči nízké skóre.
Lidé měli o 10 % vyšší pravděpodobnost, že zneužijí partnera AI než člověka, ukázala studie. Ukázalo se také, že účastníci s větší pravděpodobností spolupracovali se ženami, nebinárními a negender partnery než muži, protože očekávali, že bude spolupracovat i druhý hráč.
Lidé s menší pravděpodobností spolupracovali s mužskými partnery, protože jim nevěřili, že si zvolí spolupráci, studie zjistila – zejména účastnice žen, které častěji spolupracovaly s jinými „ženskými“ agenty než agenty identifikovanými muži, což je efekt známý jako „homofilie“.
„Pozorované předsudky v interakcích lidí s agenty AI pravděpodobně ovlivní jejich design, například s cílem maximalizovat zapojení lidí a vybudovat důvěru v jejich interakce s automatizovanými systémy,“ uvedli vědci ve studii. „Návrháři těchto systémů si musí být vědomi nevítaných předsudků v lidských interakcích a aktivně pracovat na jejich zmírnění při navrhování interaktivních agentů AI.“
Rizika antropomorfizujících agentů AI
Když účastníci nespolupracovali, bylo to z jednoho ze dvou důvodů. Nejprve očekávali, že druhý hráč nebude spolupracovat, a nechtěli nižší skóre. Druhou možností je, že si mysleli, že druhá osoba bude spolupracovat, a tak jít sólo by snížilo jejich riziko nižšího skóre – na cenu druhého hráče. Tuto druhou možnost vědci definovali jako vykořisťování.
Účastníci s větší pravděpodobností „vykořisťovali“ své partnery, když měli ženské, nebinární nebo negenderové označení než mužské. Pokud byla jejich partnerem umělá inteligence, pravděpodobnost zneužití se zvýšila. Muži častěji využívali své partnerky a častěji spolupracovali s lidskými partnery než AI. Ženy spolupracovaly častěji než muži a nedělaly rozdíly mezi člověkem nebo umělou inteligencí.
Studie neměla dostatek účastníků, kteří by se identifikovali jako jiné pohlaví než žena nebo muž, aby mohli vyvodit závěry o tom, jak jiná pohlaví interagují s genderovanými lidmi a partnery AI.
Podle studie je stále více nástrojů AI antropomorfizováno (s ohledem na lidské vlastnosti, jako je pohlaví a jména), aby lidé povzbudili, aby jim důvěřovali a zapojili se do nich.
Antropomorfizace umělé inteligence bez uvážení toho, jak diskriminace na základě pohlaví ovlivňuje interakce lidí, by však mohla posílit stávající předsudky a diskriminaci ještě zhoršit.
Zatímco mnoho dnešních systémů umělé inteligence jsou online chatboty, v blízké budoucnosti by lidé mohli běžně sdílet cestu s autonomně řízenými auty nebo nechat umělou inteligenci spravovat jejich pracovní plány. To znamená, že možná budeme muset spolupracovat s umělou inteligencí stejným způsobem, jakým se od nás v současnosti očekává, že budeme spolupracovat s ostatními lidmi, takže povědomí o genderové zaujatosti umělé inteligence je ještě kritičtější.
„Přestože projevování diskriminačních postojů vůči genderově podmíněným agentům umělé inteligence nemusí samo o sobě představovat velkou etickou výzvu, může podporovat škodlivé návyky a zhoršovat existující diskriminaci na základě pohlaví v našich společnostech,“ dodali vědci.
„Pochopením základních vzorců zaujatosti a vnímání uživatelů mohou návrháři pracovat na vytvoření efektivních a důvěryhodných systémů umělé inteligence, které budou schopny uspokojit potřeby jejich uživatelů a zároveň podporovat a zachovávat pozitivní společenské hodnoty, jako je spravedlnost a spravedlnost.“
