Soudci po celém světě řeší rostoucí problém: právní briefy, které byly generovány s pomocí umělé inteligence a předloženy s chybami, jako jsou citace případů, které podle právníků a soudních dokumentů neexistují.
Tento trend slouží jako varovný příběh pro lidi, kteří se učí používat nástroje AI v práci. Mnoho zaměstnavatelů chce najmout pracovníky, kteří mohou tuto technologii využívat k tomu, aby pomáhali s úkoly, jako je provádění výzkumu a vypracovávání zpráv. Když učitelé, účetní a marketingoví profesionálové začínají spolupracovat s chatboty a asistenty AI, aby generovali nápady a zlepšovali produktivitu, zjišťují také, že programy mohou dělat chyby.
Francouzský datový vědec a právník Damien Charlotin za posledních šest měsíců katalogizoval nejméně 490 soudních podání, která obsahovala „halucinace“, což jsou odpovědi umělé inteligence, které obsahují nepravdivé nebo zavádějící informace. Tempo se zrychluje, protože stále více lidí používá AI, řekl.
„Dokonce i sofistikovanější hráč s tím může mít problém,“ řekl Charlotin. „Umělá inteligence může být přínosem. Je to úžasné, ale jsou tu také úskalí.“
Charlotin, vedoucí výzkumný pracovník na HEC Paris, obchodní škole nacházející se nedaleko hlavního města Francie, vytvořil databázi ke sledování případů, ve kterých soudce rozhodl, že generativní umělá inteligence produkovala halucinační obsah, jako je vymyšlená judikatura a falešné citace. Většina rozhodnutí pochází z amerických případů, ve kterých se žalobci zastupovali bez právního zástupce, řekl. Zatímco většina soudců upozorňovala na chyby, někteří ukládali pokuty.
Ale i významné společnosti předložily problematické právní dokumenty. Federální soudce v Coloradu rozhodl, že právník společnosti MyPillow Inc. podal návrh obsahující téměř 30 vadných citací jako součást případu pomluvy proti společnosti a zakladateli Michaelu Lindellovi.
Právní profese není jediná, kdo zápasí s nedostatky AI. Přehledy AI, které se zobrazují v horní části stránek s výsledky vyhledávání na webu, často obsahují chyby.
A nástroje AI také vyvolávají obavy o soukromí. Pracovníci ve všech odvětvích musí být opatrní ohledně podrobností, které nahrávají nebo vkládají do výzev, aby zajistili, že ochrání důvěrné informace zaměstnavatelů a klientů.
Právníci a odborníci na pracovišti sdílejí své zkušenosti s chybami AI a popisují nebezpečí, kterým je třeba se vyhnout.
Nevěřte AI, že za vás udělá velká rozhodnutí. Někteří uživatelé AI považují nástroj za stážistu, kterému zadáváte úkoly a jehož dokončenou práci očekáváte, že zkontrolujete.
„Přemýšlejte o AI jako o rozšíření vašeho pracovního postupu,“ řekla Maria Flynn, generální ředitelka Jobs for the Future, neziskové organizace zaměřené na rozvoj pracovní síly. Může fungovat jako asistent pro úkoly, jako je sepsání e-mailu nebo prozkoumání cestovního itineráře, ale nepovažujte to za náhradu, která zvládne veškerou práci, řekla.
Při přípravě na schůzku Flynn experimentoval s vlastním nástrojem umělé inteligence a požádal jej, aby navrhl otázky k diskuzi na základě článku, který sdílela s týmem.
„Některé otázky, které navrhl, nebyly pro naši organizaci tím správným kontextem, takže jsem jí mohla poskytnout určitou zpětnou vazbu… a vrátila se s pěti velmi promyšlenými otázkami,“ řekla.
Flynn také našel problémy ve výstupu nástroje AI, který je stále v pilotní fázi. Jednou ji požádala, aby shromáždila informace o práci, kterou její organizace vykonala v různých státech. Ale nástroj AI považoval dokončenou práci a návrhy financování za totéž.
„V tom případě náš nástroj AI nebyl schopen identifikovat rozdíl mezi něčím, co bylo navrženo, a něčím, co bylo dokončeno,“ řekl Flynn.
Naštěstí měla institucionální znalosti, aby rozpoznala chyby. „Pokud jste v organizaci nový, zeptejte se kolegů, zda se jim výsledky zdají přesné,“ navrhl Flynn.
I když umělá inteligence může pomoci s brainstormingem, spoléhat se na to, že poskytne faktické informace, je riskantní. Udělejte si čas na kontrolu přesnosti toho, co AI generuje, i když je lákavé tento krok přeskočit.
„Lidé se domnívají, protože to zní tak věrohodně, že je to správné a pohodlné,“ řekl Justin Daniels, právník a akcionář advokátní kanceláře Baker Donelson sídlící v Atlantě. „Musím se vrátit a zkontrolovat všechny citace, nebo když se podívám na smlouvu, kterou AI shrnula, musím se vrátit a přečíst si, co smlouva říká, je to trochu nepohodlné a časově náročné, ale to je to, co musíte udělat. I když si myslíte, že to umělá inteligence může nahradit, nemůže.“
Může být lákavé používat AI k nahrávání a pořizování poznámek během schůzek. Některé nástroje generují užitečná shrnutí a nastiňují akční kroky na základě toho, co bylo řečeno.
Ale mnoho jurisdikcí vyžaduje souhlas účastníků před nahráváním konverzací. Než použijete umělou inteligenci k pořizování poznámek, zastavte se a zvažte, zda by konverzace měla zůstat privilegovaná a důvěrná, řekla Danielle Kaysová, partnerka z Chicaga z právnické firmy Fisher Phillips.
Poraďte se s kolegy z právního oddělení nebo oddělení lidských zdrojů, než nasadíte zapisovatele do vysoce rizikových situací, jako jsou vyšetřování, kontroly výkonu nebo diskuse o právní strategii, navrhla.
„Lidé tvrdí, že s používáním umělé inteligence by měly existovat různé úrovně souhlasu, a to je něco, co se prosazuje soudy,“ řekl Kays. „To je problém, který by podle mého názoru měly společnosti nadále sledovat, jak je vedeno soudní spory.“
Pokud používáte bezplatné nástroje umělé inteligence k sepsání poznámek nebo marketingové kampaně, nesdělujte jim identifikační informace nebo firemní tajemství. Jakmile tyto informace nahrajete, je možné, že je najdou další uživatelé používající stejný nástroj.
Je to proto, že když se jiní lidé ptají na nástroj AI, prohledá dostupné informace, včetně podrobností, které jste odhalili, při vytváření odpovědi, řekl Flynn. „Nerozlišuje, zda je něco veřejné nebo soukromé,“ dodala.
Pokud váš zaměstnavatel nenabízí školení AI, zkuste experimentovat s bezplatnými nástroji, jako je ChatGPT nebo Microsoft Copilot. Některé univerzity a technologické společnosti nabízejí kurzy, které vám mohou pomoci lépe porozumět tomu, jak AI funguje a jak může být užitečná.
Kurz, který učí lidi, jak vytvořit ty nejlepší výzvy AI, nebo praktické kurzy, které poskytují příležitosti k procvičování, jsou cenné, řekl Flynn.
Navzdory potenciálním problémům s nástroji může být učení, jak fungují, prospěšné v době, kdy jsou všudypřítomné.
„Největší potenciální úskalí při učení se používat AI je nenaučit se ji používat vůbec,“ řekl Flynn. „Všichni se budeme muset naučit plynně AI a podniknout první kroky k vybudování vaší znalosti, gramotnosti a pohodlí s tímto nástrojem bude kriticky důležité.“
Publikováno – 31. října 2025 11:08 IST
