Microsoft říká, že poskytl AI izraelské armádě na válku, ale popírá použití k poškození lidí v Gaze

Celkově izraelské invaze a rozsáhlé bombové kampaně v Gaze a Libanonu vyústily v úmrtí více než 50 000 lidí, z nichž mnoho žen a dětí (spis) | Foto kredit: Reuters

Společnost Microsoft ve čtvrtek uznala, že během války v Gaze prodal izraelskou armádu pokročilé umělé inteligence a cloud computingové služby a pomohl ve snaze najít a zachránit izraelské rukojmí. Společnost však také uvedla, že dosud nezjistila žádné důkazy o tom, že by jeho platforma Azure a technologie AI byly použity k cílení nebo poškození lidí v Gaze.

Zdá se, že nepodepsaný blogový příspěvek na firemní webové stránce společnosti Microsoft je prvním veřejným uznáním jejího hlubokého zapojení do války, která začala poté, co Hamas zabil asi 1200 lidí v Izraeli a vedl k úmrtí desítek tisíc v Gaze.

Přichází téměř tři měsíce po vyšetřování Associated Press odhalil dříve nehlášené podrobnosti o úzkém partnerství amerického technologického gigantu s izraelským ministerstvem obranyS vojenským použitím komerčních produktů AI prudce stoupající téměř 200krát po smrtícím 7. říjnu 2023 útočí Hamas. AP uvedl, že izraelská armáda používá Azure k přepisu, překládání a zpracování inteligence shromážděné prostřednictvím hromadného dohledu, který pak může být křížově zkontrolován izraelskými interními systémy cílení na Izraele a naopak.

Partnerství odráží rostoucí pohon technologických společností na prodej svých výrobků z umělé inteligence militantům pro širokou škálu využití, včetně Izraele, Ukrajiny a Spojených států. Skupiny pro lidská práva však vyvolaly obavy, že systémy AI, které mohou být vadné a náchylné k chybám, se používají k tomu, aby se rozhodovaly o tom, kdo nebo na co se zaměřit, což má za následek úmrtí nevinných lidí.

Společnost Microsoft ve čtvrtek uvedla, že obavy zaměstnanců a zprávy o médiích přiměly společnost, aby zahájila interní přezkum a najala externí firmu, aby provedla „další zjištění skutečností“. Prohlášení neidentifikovalo externí firmu ani neposkytlo kopii její zprávy.

Prohlášení se rovněž přímo nezabývalo několika otázkami o tom, jak přesně izraelská armáda používá své technologie, a společnost odmítla v pátek, aby se dále vyjádřila. Microsoft odmítl odpovědět na písemné otázky AP o tom, jak jeho modely AI pomohly překládat, třídit a analyzovat inteligenci používanou armádou k výběru cílů pro letecké údery.

Prohlášení společnosti uvedlo, že izraelské armádě poskytlo software, profesionální služby, cloudové úložiště Azure a služby Azure AI, včetně jazykového překladu, a spolupracovala s izraelskou vládou na ochraně svého národního kyberprostoru před vnějšími hrozbami. Společnost Microsoft uvedla, že také poskytla „zvláštní přístup k našim technologiím nad rámec našich obchodních dohod“ a „omezené nouzové podpory“ pro Izrael v rámci úsilí o pomoc zachránit více než 250 rukojmí, které přijal Hamas 7. října.

„Pomohli jsme tuto pomoc s významným dohledem a na omezeném základě, včetně schválení některých žádostí a odmítnutí druhých,“ řekl Microsoft. „Věříme, že společnost sledovala své zásady na základě zvažovaného a pečlivého základu, aby pomohla zachránit životy rukojmí a zároveň ctít soukromí a další práva civilistů v Gaze.“

Společnost neodpověděla, zda v rámci své vnitřní sondy sdělovala nebo konzultovala s izraelskou armádou, která najala s komunitou s cílem sdělovat nebo konzultovat. Rovněž neodpověděl na žádosti o další podrobnosti o zvláštní pomoci, kterou poskytl izraelské armádě, aby obnovil rukojmí nebo konkrétní kroky k ochraně práv a soukromí Palestinců.

Společnost ve svém prohlášení také připustila, že „nemá viditelnost toho, jak zákazníci používají náš software na svých vlastních serverech nebo jiných zařízeních“. Společnost dodala, že nemůže vědět, jak by mohly být její produkty použity prostřednictvím jiných komerčních poskytovatelů cloudů.

Kromě společnosti Microsoft má izraelská armáda rozsáhlé smlouvy na cloudové nebo AI služby s Google, Amazonem, Palantirem a několika dalšími hlavními americkými technologickými firmami.

Společnost Microsoft uvedla, že izraelská armáda, stejně jako každý jiný zákazník, byla povinna dodržovat politiku přijatelného využití společnosti a kodex chování AI, což zakazuje používání produktů k jakémukoli způsobu jakéhokoli způsobu zákona zakázáno. Společnost ve svém prohlášení uvedla, že zjistila, že izraelská armáda tyto podmínky porušila.

Emelia Probasco, vedoucí pracovníci Centra pro bezpečnost a vznikající technologii na Georgetown University, uvedla, že prohlášení je pozoruhodné, protože jen málo společností komerčních technologií tak jasně stanovilo standardy pro celosvětovou práci s mezinárodními vládami.

„Jsme v pozoruhodném okamžiku, kdy společnost, nikoli vláda, diktuje podmínky využití pro vládu, která se aktivně zapojuje do konfliktu,“ řekla. „Je to jako výrobce tanků, který říká zemi, že můžete použít pouze naše tanky z těchto konkrétních důvodů. To je nový svět.“

Izrael použil svou obrovskou zpravodajskou informaci k cílení islámských militantů a provádění nájezdů do Gazy, které se snažily zachránit rukojmí, přičemž civilisté se často chytili v křížové palbě. Například operace února 2024, která osvobodila dva izraelské rukojmí v Rafahu, vyústila v úmrtí 60 Palestinců. Nálet v červnu 2024 v uprchlickém táboře Nuseirat uvolnil čtyři izraelské rukojmí z zajetí Hamasu, ale vyústil v úmrtí nejméně 274 Palestinců.

Celkově izraelské invaze a rozsáhlé bombové kampaně v Gaze a Libanonu vyústily v smrt více než 50 000 lidí, z nichž mnoho žen a dětí.

Žádný Azure pro Apartheid, skupinu současných a bývalých zaměstnanců společnosti Microsoft, nevyžádal v pátek, aby společnost veřejně zveřejnila úplnou kopii vyšetřovací zprávy.

„Je zcela zřejmé, že jejich záměrem s tímto tvrzením není skutečně řešit obavy z jejich pracovníků, ale spíše učinit PR kaskadér, aby obíhal svůj obraz, který byl poskvrněn jejich vztahem s izraelskou armádou,“ řekl Hossam Nasr, bývalý pracovník Microsoft v říjnu, poté, co pomohl organizovat neautorizovanou vigilu za zabití společnosti GAZA.

Cindy Cohn, výkonná ředitelka Electronic Frontier Foundation, tleskala Microsoft v pátek za krok k transparentnosti. Řekla však, že prohlášení vyvolalo mnoho nezodpovězených otázek, včetně podrobností o tom, jak izraelská armáda používala izraelská armáda Microsoft a modely AI na vlastní vládní servery.

„Jsem rád, že je tu trochu transparentnosti,“ řekl Cohn, který dlouho vyzval americké technické giganty, aby byli otevřeni svým vojenským smluvům. „Ale je těžké se spojit s tím, co se vlastně děje na zemi.“