Nástroj Google usnadňuje podvádění AI, říkají učitelé

Před několika měsíci si středoškolský učitel angličtiny v Los Angeles Unified všiml něčeho jiného na testech svých studentů. Studenti, kteří se celý semestr trápili, najednou dostávali jedničky. Měl podezření, že někteří podvádějí, ale nemohl přijít na to, jak.

Dokud mu student neukázal nejnovější verzi Google Lens.

Google nedávno usnadnil používání vizuálního vyhledávacího nástroje v prohlížeči Chrome společnosti. Když uživatel klikne na ikonu skrytou na panelu nástrojů, objeví se pohyblivá bublina. Kdekoli je bublina umístěna, objeví se postranní panel s odpovědí umělé inteligence, popisem, vysvětlením nebo interpretací toho, co je uvnitř bubliny. Pro studenty poskytuje snadný způsob, jak podvádět digitální testy, aniž by museli zadávat výzvu nebo dokonce opustit stránku. Stačí jim kliknout.

„Nemohl jsem tomu uvěřit,“ řekl učitel Dustin Stevenson. „Ve věku umělé inteligence je dost těžké učit, a teď se v tom musíme orientovat?“

Držet krok s metodami podvádění studentů bylo pro učitele vždy hrou na kočku a myš. Někteří však nyní říkají, že nástroje umělé inteligence, zejména Lens, znemožnily prosazení akademické integrity ve třídě – s potenciálně škodlivými dlouhodobými dopady na učení studentů.

‚Strašný nápad’

Lens existuje téměř deset let. Je to technologie fotoaparátu, která skenuje QR kódy nebo identifikuje objekty na fotografiích. Ale jak se AI vyvíjela, její použití se rozšířilo a Google ji zpřístupnil uživatelům, zejména těm, kteří používají Chrome, prohlížeč Google.

Během uzavření škol COVID dala většina školních obvodů v Kalifornii studentům notebooky Chromebook, aby mohli pracovat na dálku. Ve skutečnosti to byly tisíce těch notebooků darované společností Google. Poté, co byly školy znovu otevřeny pro osobní výuku, školy Chromebooky nadále používaly a staly se tak nedílnou součástí výuky ve třídě.

Miliony 5,8 milionů kalifornských studentů K-12 používají Chromebooky, což z nich dělá zdaleka nejoblíbenější notebook ve školách.

Pro Williama Heuislera, středoškolského učitele etnických studií v Los Angeles, byla všudypřítomnost Chromebooků první červenou vlajkou.

„Po COVID-19 bylo jasné, že Chromebooky jsou v mé třídě hrozný nápad,“ řekl Heuisler. Studenti používali notebooky k hraní her během vyučování, sledování fotbalových zápasů a jinak se soustředili na cokoli kromě plánu lekce.

Pak přišla umělá inteligence se svým obrovským potenciálem zlepšit vzdělání – a usnadnit podvádění. Tehdy se Heuisler rozhodl ve své třídě zcela opustit technologii a vrátit se k základům: tužce a papíru. Testy, domácí úkoly a úkoly ve třídě jsou na papíře. Škola již zakazuje mobilní telefony.

Je to pro něj více práce, ale stojí to za to, řekl.

„Chceme, aby teenageři mysleli nezávisle, vyjadřovali své názory, učili se kriticky myslet,“ řekl Heuisler. „Ale když jim dáme nástroj, který jim umožní tyto dovednosti nerozvinout, nejsem si jistý, jestli jim skutečně pomáháme. Dokážete se v životě obejít tím, že nebudete vědět, jak psát, jak se vyjadřovat? Nevím, ale doufám, že ne.“

AI a kognitivní činnost

Heuisler není sám, podle výzkumu z Centra pro demokracii a technologie. V nedávném celostátním průzkumu organizace zjistila, že více než 70 % učitelů uvádí, že kvůli umělé inteligenci mají obavy, zda je práce studentů skutečně jejich vlastní. Téměř 75 % učitelů uvedlo, že se obávají, že se studenti neučí důležité dovednosti, jako je psaní, výzkum a čtení s porozuměním.

Dopad na učení studentů se podle nedávné studie Massachusettského technologického institutu zdá být skutečný. Studie, „Váš mozek na ChatGPT,“ zjistili, že studenti, kteří používají AI pro pomoc při psaní esejů, vykazovali výrazně menší kognitivní aktivitu než ti, kteří to neudělali, a často si nepamatovali detaily z esejí, které právě napsali. Samotné eseje byly také horší kvality, s omezenými nápady, větnou strukturou a slovní zásobou ve srovnání s eseji napsanými studenty, kteří na AI nespoléhali.

Nicméně asi 85 % učitelů a studentů používá AI ve třídě, zjistilo Centrum pro demokracii a technologie. Učitelé toho využívají organizovat plány hodin a hodnotit písemkya studenti jej používají k provádění věcí, jako je výzkum a brainstorming.

Nedostatek konzistentních pravidel

Pravidla související s jeho používáním se však značně liší. Kalifornské ministerstvo školství nabízí rozsáhlé vedení o tom, jak mohou učitelé používat AI ve třídě, ale žádné přísné požadavky – a to ani ohledně studentů, kteří používají AI k podvádění. Jedno video nabádá učitele, aby netrestali studenty, kteří byli přistiženi při psaní eseje pomocí umělé inteligence. Místo toho video vybízí učitele, aby vymýšleli esejové úkoly, které nelze snadno napsat na stroji, nebo aby požadovali, aby studenti poskytli své poznámky a citovali umělou inteligenci stejně, jako by citovali jakýkoli jiný zdroj eseje.

I ve školách mají učitelé různá pravidla umělé inteligence. Někteří nabádají studenty, aby umělou inteligenci začlenili do své práce, jiní ji přímo zakazují. A nedávný průzkum společnosti RAND Výzkumná organizace zjistila, že pouze 34 % učitelů uvedlo, že jejich škola nebo okres má konzistentní zásady týkající se umělé inteligence a podvádění, a 80 % studentů uvedlo, že jejich učitelé neposkytli návod, jak používat umělou inteligenci pro školní úkoly.

Tento zmatek je jádrem problému, řekl Alix Gallagher, ředitel Policy Analysis for California Education, který studoval používání umělé inteligence ve školách. Protože existuje jen málo jasných pravidel o používání umělé inteligence, studenti a učitelé mívají „výrazně“ odlišné názory o tom, co znamená podvádění, podle nedávné zprávy vzdělávací neziskové organizace Project Tomorrow.

„Protože dospělí nemají jasno, není vlastně divu, že děti nemají jasno,“ řekl Gallagher. „Je odpovědností dospělých, aby to napravili, a pokud se dospělí nedostanou na stejnou stránku, ztíží to dětem, které ve skutečnosti chtějí dělat „správnou“ věc.“

Okresy musí poskytovat vysoce kvalitní školení pro učitele a konzistentní zásady pro používání umělé inteligence ve třídě, aby každý věděl, jaká jsou pravidla a učitelé věděli, jak se v nové technologii orientovat, řekla.

Neudržitelný?

Ve vládní třídě Hillary Freemanové na střední škole v Piemontu poblíž Oaklandu je umělá inteligence téměř zakázána. Pokud studenti používají AI k psaní práce, dostanou nulu. Umožňuje studentům používat umělou inteligenci pouze ke shrnutí složitých konceptů, psaní praktických otázek pro sebehodnocení nebo když to Freeman výslovně povolí pro konkrétní úkol.

Oceňuje, že umělá inteligence může být někdy užitečná, ale obává se, že pro studenty je příliš snadné ji používat jako berličku.

„Uvažování, logika, řešení problémů, psaní – to jsou dovednosti, které studenti potřebují,“ řekl Freeman. „Obávám se, že budeme mít generaci s obrovskými kognitivními mezerami v dovednostech kritického myšlení. … Opravdu mě to znepokojuje. Chci, aby jejich budoucnost byla jasná.“

Další překážkou je podle ní detekce toho, jak studenti používají AI. Znamená to trávit čas prohledáváním historie verzí prací studentů nebo používáním AI plagiátorů, které jsou někdy nepřesné a pravděpodobněji vlajky studentů angličtiny.

„Je to obrovský ‚přírůstek‘ k mé práci a nezdá se mi to udržitelné,“ řekl Freeman.

Digitální gramotnost a akademická integrita

Google zatím neplánuje odstranit Lens ze svých prohlížečů Chrome, a to ani na školních noteboocích, i když nadále testuje různé úrovně přístupnosti. V reakci na zpětnou vazbu od uživatelů nedávno pozastavila tlačítko zkratky Lens „nápověda k domácímu úkolu“.

Tento technologický gigant vyzývá studenty a učitele, aby se dozvěděli více o pozitivním a etickém využití umělé inteligence a o tom, jak může zlepšit učení. Za posledních několik let také investovala více než 40 milionů dolarů do AI gramotnosti pro studenty a učitele.

„Studenti nám řekli, že oceňují nástroje, které jim pomáhají učit se a rozumět věcem vizuálně, takže jsme spustili testy, které nabízejí jednodušší způsob přístupu k Lens při procházení,“ řekl mluvčí Google Craig Ewer. „Pokračujeme v úzké spolupráci s pedagogy a partnery, abychom zlepšili užitečnost našich nástrojů, které podporují proces učení.“

Školní administrátoři mají také možnost zakázat Lens na okresních Chromeboocích.

Los Angeles Unified se rozhodl ponechat Lens na svých studentských laptopech, alespoň prozatím, protože tento nástroj má spoustu pozitivních využití, která by studenti měli mít příležitost prozkoumat technologii, řekl okresní mluvčí.

Okres však zavedl určité mantinely: tento nástroj je k dispozici pouze studentům, kteří dokončili lekci o digitální gramotnosti, a studenti a učitelé musí dodržovat akademickou integritu okresu a pravidla odpovědného používání technologií. Tato pravidla zahrnují zákaz plagiátorství a podvádění.

„Jak se nové digitální nástroje vyvíjejí, neustále vyhodnocujeme, jak jsou v našich školách používány. Pokud některé technologie nebo funkce mohou představovat obavy, pečlivě analyzujeme rizika, přínosy a celkový dopad na vzdělávací prostředí,“ řekl mluvčí okresu.

Toto není první výzva okresu s technologií AI. V roce 2024 superintendant Alberto Carvalho odhalil téměř 3 miliony dolarů chatbot jménem Ed, jen aby ji o tři měsíce později odložil, když společnost propustila polovinu zaměstnanců.

Stevenson mezitím řekl, že Lens zmizel z Chromebooků jeho studentů minulý týden poté, co upozornil okres, že jej někteří studenti používají k podvádění.

„Je to povzbudivé, ale také to odhaluje, jak nahodilé bylo zavedení umělé inteligence,“ řekl Stevenson. „Učitelé a ředitelé škol tráví nespočet hodin zvažováním každého detailu studijního zážitku, pak to Google zcela podkope jediným kliknutím. Takhle by vzdělávání nemělo fungovat.“