Vědci AI a političtí vůdci podepisují dopis volající po „červených liniích“ v politice AI

Více než 200 vědců, politici včetně vítězů Nobelovy ceny, vyzvali k dohodě, která reguluje riskantní případy použití AI. Spolu s více než 70 organizacemi podepsali tito lidé globální výzvu k iniciativě AI Red Lines k dosažení mezinárodního konsensu o „červených liniích“, které by AI neměla překročit.

Mezi osobnosti patří kanadský počítačový vědec Geoffrey Hinton, významný vědec s hlubokým učením s Google DeepMind Ian Goodfellow, průkopník AI Yoshua Bengio, spoluzakladatel OpenAI Wojciech Zaremba. Mezi další patřili autoři jako Stephen Fry, Yuval Noah Harari a bývalá prezidentka Irska Mary Robinson a bývalá prezidentka Kolumbie Juan Manuel Santos.

Součástí signatářů byli také laureáti Nobelovy ceny.

„Mezinárodní dohoda o jasných a ověřitelných červených liniích je nezbytná pro zabránění všeobecně nepřijatelným rizikům. Tyto červené linie by měly stavět a vymáhat stávající globální rámce a dobrovolné společnosti pro podniky, což zajišťuje, že všichni pokročilí poskytovatelé AI jsou odpovědní sdílené prahy.“, “Uvedl otevřený dopis.

Zatímco dopis výslovně nedal žádná doporučení, poskytl návrhy na předměty, které by měly mít omezení, jako je replikace systémů AI nebo používání AI k stavbě jaderných zbraní. Varovala také před rozsáhlým dopadem AI, jak předvídali odborníci-hromadné nezaměstnanosti, porušení lidských práv a dokonce i pandemie na biologické inženýrství.

Iniciativa vedená Cesia, budoucí společností a centrum UC Berkeley pro umělou inteligenci kompatibilní s lidmi, byla předložena na týdenním týdnu Valného shromáždění OSN v New Yorku. Setkání bylo, aby vlády vedly diskuse o politice AI a pokynech pro tento rok.

Zpráva Verge uvedl, že Stuart Russell, profesor informatiky v UC Berkeley, řekl, že sektor AI musí budovat technologie AI s ohledem na bezpečnost hned od začátku nebo „nestavět AGI, pokud nevědí, jak to zajistit.“

Maria Ressa, vítěze Nobelovy ceny míru, hovořila o iniciativě ve svých úvodních poznámkách na shromáždění a žádala velké technologické společnosti zapojené do AI, aby byly odpovědnější.