„Neexistuje žádné strčení, že Genie zpět do láhve“: Čtenáři věří, že je příliš pozdě na zastavení postupu AI
Mělo by lidstvo přitáhnout brzdy Umělá inteligence (Ai) Než to ohrožuje naše přežití? Vzhledem k tomu, že technologie pokračuje v transformaci průmyslových odvětví a každodenního života, je veřejné mínění ostře rozděleno do své budoucnosti, zejména jako vyhlídka na modely AI, které dokáže odpovídat inteligenci podobné člověku se stává proveditelnějším.
Co ale děláme, když AI překonává lidskou inteligenci? Odborníci nazývají tento okamžik jedinečnostHypotetická budoucí událost, kde technologie překračuje Umělá obecná inteligence (AGI) stát se superinteligentní entitou, která se může rekurzivně zlepšit a uniknout lidské kontrole.
Většina čtenářů v komentářích se domnívá, že jsme již zašli příliš daleko, abychom si dokonce přemýšleli o oddálení trajektorie směrem k superinteligentní AI. „Je příliš pozdě, díky bohu, že jsem starý a nebudu žít, abych viděl výsledky této katastrofy,“ Kate Sarginson napsal.
CeceMezitím odpověděl: „(I) si myslím, že každý ví, že nehopí, že Genie zpět do láhve.“
Jiní si mysleli, že obavy z AI byly přehnané. Někteří porovnávali výhrady AI s veřejnými obavami z minulých technologických posunů. „Pro každou novou a vznikající technologii jsou naysayers, kritici a často crackpoty. AI se neliší,“ Z pegg řekl.
Související: AI vstupuje do „bezprecedentního režimu“. Měli bychom to zastavit – a můžeme – před tím, než nás to zničí?
Tento pohled sdíleli někteří následovníci živé vědy Instagramu. „Věřili byste, že by mnozí položili stejnou otázku, když se poprvé objevila elektřina? napsal.
Jiní zdůraznili složitost problému. „Je to mezinárodní závod zbrojení a znalosti jsou tam venku. Neexistuje dobrý způsob, jak to zastavit. Ale musíme být opatrní, aby nás AI jednoduše vytlačila (miliony nebo miliardy agentů AI by mohly být pro lidi masivním rizikem vysídlení, i kdyby AI nepřekonala lidskou inteligenci nebo dosáhlo agi),“. 3jarediones3 napsal.
„Záruky jsou nezbytné, protože společnosti, jako je NVIDIA, se snaží nahradit veškerou svou pracovní sílu AI. Přesto výhody pro vědu, zdraví, výrobu potravin, změnu klimatu, technologie, efektivita a další klíčové cíle způsobené AI by mohly zmírnit část problému. Je to dvojitý okrajový meč s extrémně vysokým potenciálním vyplácením vyplácením, ale i pokračoval komentář.
Jeden komentář navrhl regulační přístupy spíše než zastavil AI. Isopropyl Navrhováno: „Uložte těžké zdanění na uzavřenou váhu LLM (velké jazykové modely), školení i odvození a žádné nároky na autorská práva na výstupy. Rovněž ukládají progresivní daň na větší modelovou školení, škálování s lehkým nasazením na spotřebitelský hardware, nikoli HPC (vysoce výkonná výpočet).“
Naproti tomu navrhovali, aby menší, specializované LLM mohou být řízeny samotnými spotřebiteli, mimo firemní kontrolu, aby „pomohli () větší veřejnost rozvíjet zdravější vztahy k AI“.
„To jsou některé dobré nápady. Posouzení pobídek od pronásledování AGI k tomu, aby to, co již máme použitelnější, by bylo skvělé, bylo skvělé,“ 3jarediones3 odpověděl.
Co si myslíš? Měl by vývoj AI posunout vpřed? Sdílejte svůj názor v komentářích níže.
