Soudce Spojeného království varuje před rizikem spravedlnosti poté, co právníci citovali falešné případy generované AI u soudu

Advokáti citovali falešné případy vytvořené umělou inteligencí v soudním řízení v Anglii, řekl soudce a varoval, že právníci mohou být stíháni, pokud nezkontrolují přesnost svého výzkumu.

Soudce vrchního soudu Victoria Sharp řekl zneužití AI má „vážné důsledky pro správu spravedlnosti a důvěry veřejnosti v soudním systému“.

V posledním příkladu toho, jak se soudní systémy po celém světě potýkají s tím, jak zvládnout rostoucí přítomnost umělé inteligence U soudu u soudu v pátek v pátek ve dvou nedávných případech trestal právníky Sharp a kolega Jeremy Johnson.

Byli požádáni o rozhodnutí poté, co soudci nižších soudů vznesli obavy ohledně „podezření na použití právníků generativních nástrojů pro umělou inteligenci k předkládání písemných právních argumentů nebo svědků, které nejsou tehdy zkontrolovány,“ což vede k nepravdivým informacím před soudem.

V rozhodnutí napsané Sharp soudci uvedli, že v soudním řízení o 90 milionů liber (120 milionů USD) kvůli údajnému porušení dohody o financování týkající se Katarské národní banky, právník citoval 18 případů, které neexistovaly.

Klient v tomto případě, Hamad al-Haroun, se omluvil za neúmyslné zavádění soudu s nepravdivými informacemi vytvořenými veřejně dostupnými nástroji AI a řekl, že je zodpovědný, spíše než jeho právním zástupci Abid Hussainem.

Sharp však uvedl, že je „mimořádné, že se právník spoléhal na klienta o přesnost jejich právního výzkumu, spíše než naopak.“

Při druhém incidentu právník citoval pět falešných případů v nároku na bydlení nájemce proti londýnské čtvrti Haringey. Barrister Sarah Forey popřel pomocí AI, ale Sharp řekl, že „neposkytla soudu soudržné vysvětlení toho, co se stalo“.

Soudci odkázali právníky v obou případech svým odborným regulačním orgánům, ale nepřijali vážnější kroky.

Sharp řekl, že poskytuje falešný materiál, jako by byl pravý, mohl by být považován za pohrdání soudem nebo v „nejzávažnějších případech“, zvrátící průběh spravedlnosti, který ve vězení nese maximální trest života.

V rozsudku uvedla, že AI je „výkonná technologie“ a „užitečným nástrojem“ pro zákon.

„Umělá inteligence je nástroj, který s ní nese rizika i příležitosti,“ řekl soudce. „K jeho použití musí probíhat proto s vhodným stupněm dohledu a v rámci regulačního rámce, který zajišťuje dodržování zavedených profesních a etických standardů, pokud má být udržována důvěra veřejnosti ve správu spravedlnosti.“