Technologická reportérka Karen Hao začala informovat o umělé inteligenci v roce 2018, tedy ještě před představením ChatGPT, a je jednou z mála novinářů, kteří získali přístup do vnitřního světa tvůrce chatbota, OpenAI. V její knize Říše AIHao nastiňuje vzestup kontroverzní společnosti.
Ve svém výzkumu Hao hovořila s lídry OpenAI, vědci a základními pracovníky po celém světě, kteří utvářejí vývoj AI. Zkoumá jeho potenciál pro vědecké objevy a jeho dopady na životní prostředí, stejně jako rozdělující snahu vytvořit stroj, který by mohl konkurovat lidské inteligenci prostřednictvím umělé obecné inteligence (AGI).
Scientific American mluvila s Hao o jejích hlubokých zprávách o AI, o potenciálním místě Sam Altmanové v budoucnosti AI ao způsobech, jak by tato technologie mohla i nadále měnit svět.
O podpoře vědecké žurnalistiky
Pokud se vám tento článek líbí, zvažte podporu naší oceňované žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a nápadech, které formují náš dnešní svět.
(Následuje upravený přepis rozhovoru.)
Jak realistický je cíl umělé obecné inteligence (AGI)?
Neexistuje žádný vědecký konsensus ohledně toho, co je to inteligence, takže AI a AGI jsou ze své podstaty nevyvázané koncepty. To je užitečné pro zmírnění humbuku Silicon Valley, když se říká, že AGI je za rohem, a je to také užitečné pro pochopení toho, že nedostatek předurčení ohledně toho, co AI je a co by měla dělat, ponechává dostatek prostoru pro každého.
Tvrdíte, že bychom měli uvažovat o umělé inteligenci z hlediska impérií a kolonialismu. Můžete vysvětlit proč?
Říkám společnostem, jako je OpenAI, impéria jak kvůli samotné velikosti, ve které působí, tak kvůli kontrolnímu vlivu, který si vyvinuly – a také kvůli taktice, jak nashromáždily obrovské množství ekonomické a politické moci. Shromažďují tuto moc prostřednictvím vyvlastnění většiny zbytku světa.
Současný průmysl AI má také obrovskou ideologickou složku. Toto hledání umělé obecné inteligence je myšlenka založená na víře. Není to vědecká myšlenka. Je to tato kvazináboženská představa, že pokud budeme pokračovat konkrétní cestou vývoje umělé inteligence, nějakým způsobem se objeví druh boha umělé inteligence, který vyřeší všechny problémy lidstva. Kolonialismus je spojením kapitalismu a ideologie, takže mezi starými říšemi a říšemi umělé inteligence existuje jen mnoho paralel.
Existuje také paralela v tom, jak oba způsobují ničení životního prostředí. Které environmentální dopady AI jsou nejvíce znepokojivé?
Existuje tolik protínajících se krizí, že se cesta vývoje odvětví umělé inteligence zhoršuje. Jedním z nich je samozřejmě energetická krize. Sam Altman oznámil, že chce vidět Kapacita datového centra 250 gigawattů položen do roku 2033 právě pro jeho společnost. New York City (spotřebuje) v průměru 5,5 gigawattu (za den). Altman odhadl, že by to stálo kolem 10 bilionů dolarů — kde ty peníze vezme? Kdo ví.
Ale pokud by k tomu došlo, primárním zdrojem energie by byla fosilní paliva. Business Insider měl začátkem tohoto roku vyšetřování, které to zjistilo veřejné služby „torpédují“ své cíle v oblasti obnovitelné energie za účelem uspokojení poptávky datových center. Takže jsme svědky toho, jak se prodlužuje životnost elektráren na zemní plyn a uhelných elektráren. To není jen pumpování emisí do atmosféry; je to také pumpování znečištění ovzduší do komunit.
Otázka tedy zní: Jak dlouho se budeme zabývat skutečnými škodami a budeme čekat na spekulativní možnost, že možná na konci cesty bude všechno v pořádku? Bylo tam a průzkum na začátku tohoto roku který zjistil, že (zhruba) 75 procent dlouholetých výzkumníků AI, kteří nejsou v kapse průmyslu, si nemyslí, že jsme na cestě k umělá obecná inteligence. Neměli bychom používat malou možnost na vzdáleném horizontu, která není ani vědecky podložená, abychom ospravedlnili mimořádný a nevratný soubor škod, ke kterým právě nyní dochází.
Myslíte si, že Sam Altman lhal o schopnostech OpenAI, nebo jen propadl vlastnímu marketingu?
Je to skvělá otázka. Věc, která je na OpenAI komplexní a která mě při hlášení nejvíce překvapila, je, že existují kvazináboženská hnutí, která se vyvinula kolem myšlenek jako „AGI by mohla vyřešit všechny problémy lidstva“ nebo „AGI by mohla zabít každého“. Je opravdu těžké zjistit, zda je sám Altman věřící, nebo zda právě zjistil, že je politicky důvtipný, aby tyto názory využil.
Hodně jste informovali o dělnících, kteří pomáhali uskutečnit tuto revoluci AI. co jsi našel?
Cestoval jsem do Keni, abych se setkal s pracovníky, které OpenAI nasmlouvala, a také s pracovníky, kteří byli najati zbytkem průmyslu AI. OpenAI po nich chtěla, aby pomohli vytvořit filtr moderování obsahu pro modely GPT společnosti. V té době se pokoušeli rozšířit své úsilí o komercializaci a uvědomili si, že pokud vložíte modely generování textu, které dokážou generovat cokoli, do rukou milionů lidí, přijdete s problémem, protože by to mohlo skončit chrlením rasistických, toxických nenávistných projevů na uživatele a stala by se z toho obrovská PR krize.
Pro pracovníky to znamenalo, že se museli prokousat nejhorším obsahem na internetu a také obsahem, kde OpenAI podněcovala své vlastní modely umělé inteligence, aby si představily nejhorší obsah na internetu, aby těmto pracovníkům poskytly rozmanitější a komplexnější sadu příkladů. Tito pracovníci utrpěli stejná psychická traumata, která trpěli moderátoři obsahu v éře sociálních médií.
Mluvil jsem také s pracovníky, kteří byli v jiné části dodavatelského řetězce lidské práce, při posilování učení z lidské zpětné vazby. To je věc, kterou přijalo mnoho společností, kde desítky tisíc pracovníků musí učit model, co je dobrá odpověď, když uživatel chatuje s chatbotem.
Jedna žena, se kterou jsem mluvil, Winnie, pracovala pro tuto platformu s názvem Remotasks, což je backend pro Scale AI, jednoho z hlavních dodavatelů posilování učení z lidské zpětné vazby. Obsah, se kterým pracovala, nebyl nutně traumatický sám o sobě, ale podmínky, za kterých pracovala, byly hluboce vykořisťující: nikdy nevěděla, pro koho pracuje, a také nikdy nevěděla, kdy úkoly přijdou. Když jsem s ní mluvil, čekala už měsíce na úkol, a když tyto úkoly dorazily, pracovala 22 hodin v kuse denně, aby se pokusila vydělat co nejvíce peněz, aby nakonec uživila své děti.
To je mízou průmyslu AI, a přesto tito pracovníci nevidí absolutně žádnou ekonomickou hodnotu, kterou pro tyto společnosti vytvářejí.
Někteří lidé se obávají, že AI by mohla překonat lidskou inteligenci a ovládnout svět. Je to riziko, kterého se bojíte?
Nevěřím, že umělá inteligence nakonec vyvine nějakou vlastní agenturu, a nemyslím si, že by stálo za to zapojit se do projektu, který se pokouší vyvinout agentní systémy, které lidem odebírají agenturu.
Co vidím jako mnohem nadějnější vizi budoucnosti umělé inteligence, je návrat zpět k vývoji modelů umělé inteligence a systémů umělé inteligence, které lidi podporují, nikoli nahrazují. A jedna z věcí, ve kterých jsem opravdu býčí, jsou specializované modely umělé inteligence pro řešení konkrétních problémů, které musíme jako společnost překonat.
Jedním z příkladů, které často uvádím, je AlphaFold od DeepMind, což je také specializovaný nástroj pro hluboké učení, který byl trénován na relativně skromném počtu počítačových čipů, aby přesně předpovídal struktury skládající proteiny ze sekvence aminokyselin. (jeho vývojáři) získal Nobelovu cenu (v) chemii loni. Myslím si, že toto jsou typy systémů umělé inteligence, do jejichž budování bychom měli vkládat naši energii, čas a talent.
Jsou nějaké jiné knihy na toto téma, které jste při psaní této knihy četli nebo se vám v poslední době líbily, a můžete mi je doporučit?
Doporučil bych Rebeccu Solnit’s Naděje ve tměkterou jsem četl po vydání mé knihy. Možná to spolu přímo nesouvisí, ale velmi to tak souvisí. Solnit argumentuje lidskou agenturou – vyzývá lidi, aby si pamatovali, že budoucnost spoluvytváříme prostřednictvím našeho individuálního a kolektivního jednání. To je také největší poselství, které chci, aby si lidé z mé knihy odnesli. Říše umělé inteligence nejsou nevyhnutelné – a alternativní cesta vpřed je v našich rukou.
