Trumpův rozkaz blokovat „probuzený“ AI ve vládě povzbuzuje technické giganty, aby cenzurovali své chatboty

Technologické společnosti, které chtějí prodat svou technologii umělé inteligence Federální vláda se nyní musí potýkat s novou regulační překážkou: dokazování jejich chatbotů není „probuzeno“.

Americký prezident Donald Trump zametá nový plán, který bude čelit Číně při dosahování „globální dominance“ v AI, slibuje snížit předpisy a upevnit americké hodnoty do nástrojů AI, které se stále více používají v práci a domovu.

Jeden ze tří výkonných příkazů pana Trumpa podepsal ve středu – ten „prevenci probuzení AI ve federální vládě“ – znamená však poprvé, kdy se americká vláda výslovně pokusila formovat ideologické chování AI.

Několik předních poskytovatelů jazykových modelů AI zaměřených na pořadí-produkty, jako jsou Google Gemini a Copilot Microsoft-dosud mlčely o směrnici Trump proti borzům, která stále čelí období studie, než se dostane do oficiálních pravidel pro zadávání veřejných zakázek.

Zatímco technologický průmysl do značné míry přivítal širší plány pana Trumpa, proti-bdělé řádové řády nutí toto odvětví skočit do kulturní válečné bitvy-nebo se snažit, aby se mu tiše vyhýbalo.

„V současné době to bude mít obrovský vliv na toto odvětví,“ zejména proto, že technologické společnosti již kapitulují další směrnice o správě Trump, uvedl obhájce občanských práv Alejandra Montoya-Boyer, vedoucí ředitel střediska pro občanská práva a technologie vedení.

Tento krok také nutí technologický průmysl, aby opustil roky práce v boji proti všudypřítomným formám rasových a genderových zaujatosti, které se ukázaly, že studie a příklady v reálném světě se ukázaly být pečeny do AI systémů.

„Za prvé, neexistuje nic takového, jako by se probudil AI,“ řekl Montoya-Boyer. „Existuje technologie AI, která diskriminuje a pak existuje technologie AI, která ve skutečnosti funguje pro všechny lidi.“

Formování chování modelů velkých jazyků AI je náročné kvůli způsobu, jakým jsou postaveny, a přirozené náhodnosti toho, co produkují. Byli vyškoleni na většinu toho, co je na internetu, odrážející zkreslení všech lidí, kteří zveřejnili komentář, upravili vstup na Wikipedii nebo sdílené obrázky online.

„Pro technologické společnosti to bude nesmírně obtížné dodržovat,“ řekl bývalý úředník Biden Jim Secreto, který byl zástupcem náčelníka štábu amerického ministra obchodu Gina Raimondo, architekta mnoha iniciativ AI BIDEN. „Velké jazykové modely odrážejí data, na nichž jsou vyškoleny, včetně všech rozporů a zkreslení v lidském jazyce.“ Techní pracovníci mají také slovo v tom, jak jsou navrženi, z globální pracovní síly anotátorů, kteří kontrolují své reakce na inženýry Silicon Valley, kteří vytvářejí pokyny, jak komunikují s lidmi.

Řád pana Trumpa se zaměřuje na tyto „shora dolů“ úsilí v technologických společnostech začlenit to, co nazývá „destruktivní“ ideologií rozmanitosti, spravedlnosti a začlenění do modelů AI, včetně „konceptů, jako je kritická rasová teorie, transgenderismus, bezvědomí, průsečík a systémový rasismus“.

Směrnice vyzvala srovnání s těžšími úsilími v Číně o zajištění toho, aby generativní nástroje AI odrážely základní hodnoty vládnoucí komunistické strany. Secreto uvedl, že příkaz se podobá čínské hraní knize „využívat sílu státu k vyřazení toho, co považuje za znechucený pohledy.“

Tato metoda je jiná, přičemž Čína se spoléhá na přímé regulaci auditováním modelů AI, schválí je dříve, než budou nasazeny, a vyžaduje, aby odfiltrovali zakázaný obsah, jako je krvavé zákroky na náměstí pro protesty pro demokracii v roce 1989.

Objednávka pana Trumpa nevyžaduje žádné takové filtry a spoléhá se na technologické společnosti, aby místo toho ukázaly, že jejich technologie je ideologicky neutrální odhalením některých interních politik, které řídí chatboty.

„Trumpova administrativa je měkčí, ale stále donucovací trasa pomocí federálních smluv jako pákového efektu,“ řekl Secreto. „To vytváří silný tlak pro společnosti na autocenzuru, aby zůstaly v dobrých milostech vlády a udržovaly peníze plynoucí.“

Vyzývání řádu k „hledání pravdy“ AI odráží jazyk prezidentova jednorázového spojence a poradce Elona Muska, který z něj učinil poslání chatbota Grok, kterou provedl jeho společnost Xai.

Ale to, zda Grok nebo jeho soupeři budou upřednostňováni v rámci nové politiky, je však třeba vidět.

Navzdory „rétoricky nasměrovanému“ úvodu, který stanoví problémy Trumpovy administrativy s DEI, by skutečný jazyk směrnic Řádu neměl být pro technologické společnosti obtížný, řekl Neil Chilson, republikánský bývalý hlavní technolog pro Federální obchodní komisi.

„Nezakazuje ani ideologickou agendu,“ jen to, že byly zveřejněny jakékoli úmyslné metody pro vedení modelu, řekl Chilson, vedoucí politiky AI v neziskovém hojném institutu. „Což je docela lehký dotek, upřímně řečeno.“

Chilson porovnává srovnání s čínskými způsoby Cruders cenzury AI.

„V tomto pořadí není nic, co by říká, že společnosti musí produkovat nebo nemohou produkovat určité typy výstupu,“ řekl. „Říká se, že vývojáři nebudou úmyslně kódovat partyzánské nebo ideologické úsudky.“ Díky svým nástrojům AI již se ve federální vládě objevily technologické společnosti opatrně. OpenAI ve čtvrtek uvedl, že čeká na podrobnější pokyny, ale věří, že jeho práce, aby se chatovací cíl již stal technologií v souladu se směrnicí pana Trumpa.

Microsoft, hlavní dodavatel online služeb vládě, odmítl komentovat.

Musk’s Xai, prostřednictvím mluvčí Katie Miller, bývalá úředník Trump, poukázal na komentář společnosti, která ocenila oznámení pana Trumpa AI, ale nezabývala se pořadí zadávání veřejných zakázek. Xai nedávno oznámila, že byla zadána americká obranná smlouva za až 200 milionů dolarů, jen několik dní poté, co Grok veřejně zveřejnil barage antisemitského komentáře, který ocenil Adolfa Hitlera.

Antropic, Google, Meta a Palantir neodpověděli na e -mailové žádosti o komentář ve čtvrtek.

Myšlenky za příkazem se na podcasty a sociálních médií vybudovaly více než rok, na základě nejlepších poradce AI pana Trumpa David Sacks a dalších vlivných rizikových kapitalistů Silicon Valley, z nichž mnozí v loňském roce schválili Trumpovu prezidentskou kampaň. Jejich IRE se soustředila na vydání nástroje pro generování obrázků AI Google 2024, který vytvořil historicky nepřesné obrázky, než se technický gigant sundal a opravil produkt.

Google později vysvětlil, že chyby – včetně generování portrétů černých, asijských a indiánských mužů, když požádaly o ukázat americké zakladatelské otce – Byly výsledkem nadměrné kompenzace technologie, která byla ponechána na svých vlastních zařízeních náchylná k upřednostňování lehčích pleti kvůli všudypřítomné zaujatosti v systémech.

Spojenci Trump tvrdili, že inženýři Google tvrdě zakódovali svou vlastní sociální agendu do produktu.

„Je to 100% úmyslné,“ řekl v prosinci prominentního rizikového kapitalisty a Trump poradce Marc Andreessen na podcastu. „Takto získáte na Googlu Black George Washington. V systému je přepsání, který v podstatě říká, doslova, každý musí být černý.“ Boom. Jsou tu jednotky, velké sady lidí, v těchto společnostech, které tyto politiky určují a zapíše je a kódují je do těchto systémů. “

Sacks připisoval konzervativního stratéga, který bojoval proti DEI iniciativám na vysokých školách a na pracovištích za pomoc při navrhování objednávky.

„Když se mě zeptali, jak definovat,“ řekl jsem, že je jen jedna osoba, kterou má zavolat: Chris Rufo. A teď je to zákon: Federální vláda nebude kupovat Wokeai, „napsal Sacks na X.

Rufo odpověděl, že pomáhal „identifikovat dei ideologie v rámci provozních ústav těchto systémů“.

Publikováno – 25. července 2025 09:10 IS