Ministerstvo školství (DfE) by mohlo brzy využít umělou inteligenci k návrhu odpovědí až na 80 procent své externí korespondence.
Plány zveřejněné v prosinci úřadem vlády, ministerstvem vědy, inovací a technologií a vládní digitální službou odhalují podrobnosti o DfE. „nástroj pro vytváření korespondence“.
Plány říkají, že systém může zkrátit dobu potřebnou k vypracování odpovědi na externí korespondenci z 30 na pouhou jednu minutu.
„Vytvoří příležitosti k upřednostnění složitější a vysoce prioritní práce“ a na oplátku „snad posílí reputaci oddělení, pokud jde o odpovědi na externí dotazy“.
Oddělení sdělilo Školní týden tento nástroj pomůže od začátku tohoto roku podporovat některé typy veřejné korespondence. Není jasné, zda bude sloužit k zodpovězení formálních stížností.
Ale aktivista za digitální bezpečnost varoval, že tento nástroj nemůže replikovat „nezbytné nuance a citlivost pro odpověď lidské bytosti“, zatímco Unie veřejných a komerčních služeb naléhala na vládu, aby chránila pracovní místa zaměstnanců.
Nástroj bude využívat Open Azure AI společnosti Microsoft, kterou lze použít k zápisu první odpovědi na externí dotazy.
Zaměstnanci musí zkontrolovat text
Umělá inteligence vyhledává příslušné dokumenty a informace před vypracováním návrhu odpovědi ve formátu šablony e-mailu.
Před zkopírováním a vložením musí zaměstnanec zkontrolovat text a může jej upravit.
Model Azure poskytuje „extra zabezpečení“ ve srovnání s jinými velkými jazykovými modely, uvádějí plány, zatímco open source LLM – které skenují internet spíše než nahrané dokumenty – nebyly schváleny.
Další fáze jakéhokoli zavádění bude zahrnovat nahrání asi 400 dokumentů do systému.
Vláda říká, že očekává, že tento nástroj by nakonec mohl vyřešit 80 procent měsíčních dotazů DfE.
Posouzení dopadu dokončené v listopadu 2023 nevyvolalo žádné obavy ohledně návrhu nástroje, ale DfE uvedla, že existují rizika halucinací – zavádějící nebo nepravdivé informace prezentované jako fakt – které by mohly ovlivnit přesnost.
Model byl vyvinut tak, aby pouze čerpal informace ze zadaných dat, což by mělo zmírnit nebezpečí takových halucinací.
Pokud se dotaz nevztahuje k tématům v datech modelu, zobrazí se jako výchozí zpráva, že není k dispozici.
DfE mlčí kvůli škrtům zaměstnanců
DfE na dotaz neodpověděla Školní týden zda by zavedení modelu vedlo ke snížení počtu zaměstnanců.
Umělá inteligence však „má moc změnit způsob, jakým žijeme a pracujeme, a jako mnoho organizací využíváme AI a technologie napříč vládou ke zlepšení efektivity“.
Současné využívání umělé inteligence k podpoře odpovědí na veřejné dotazy „vedlo ke zvýšení efektivity, rychlejší době odezvy a lepší alokaci zdrojů“.
Plány říkají, že tento model „vytvoří příležitosti k upřednostnění složitější a vysoce prioritní práce“ a „naopak, doufejme, zlepší reputaci oddělení, pokud jde o odpovědi na externí dotazy“.
Ale Fran Heathcoate, generální tajemník Svazu veřejných a komerčních služeb, který zastupuje státní úředníky, řekl, že jakékoli použití AI „musí zlepšit životy pracovníků a veřejné služby“.
„Vyzýváme vládní ministerstva a nezávislé orgány, aby chránily zaměstnance a veřejnost před možnými škodami, zajistily odpovědnost a posílily práva odborů ve vztahu k AI.“
„Kdo získá nejvíce? Možná zjistíme, že jde o společnosti s umělou inteligencí
Jen Persson, ředitelka Defend Digital Me, zpochybnila, zda plány „skutečně řeší problém“.
„Myšlenka, že textové generátory dokážou myslet, které zahrnuje nezbytné nuance a citlivost k odpovědi lidské bytosti, je často nesprávná – čas a úsilí se při vytváření korespondence zřídka sníží.“
Persson řekl, že jsou zde „otázky, které je třeba zvážit ohledně odpovědnosti, důvěrnosti, stability a bezpečnosti“.
„Mám podezření, že jakmile uvidíme nezávislý výzkum, zjistíme, že je celkově pociťován jako užitečný, ale pokud jde o to, kdo získá nejvíce, můžeme zjistit, že jsou to společnosti AI, spíše než rozpočty, naši státní zaměstnanci nebo veřejný zájem.“
Umělá inteligence se již používá v celé řadě vládních ministerstev, podle zprávy poslanecké sněmovny.
DfE také experimentuje s nástrojem umělé inteligence, který pomáhá učitelům sdružováním vládních dokumentů, jako jsou učební osnovy a plány hodin, s nástrojem Ofsted, který testuje nástroje umělé inteligence, aby předpověděl, které školy mohou klesat ve výkonu.
