Možná to není Ultron nebo Skynet, jak se někteří zpočátku obávali, ale nejnovější vlna technologie umělé inteligence se také neukázala jako dokonalý nástroj. Ve skutečnosti nám případ z obvodního soudu ve Wood County připomíná, že existují velké důvody, proč se na technologii nespoléhat.
Petici požadující soudní příkaz zamítl obvodní soudce JD Beane částečně proto, že podání obsahovalo nepřesné citace generované AI. Věřil, že protože je „prošpikován“ chybami, je nepravděpodobné, že uspěje.
„Soud dospěl k závěru, že tato stížnost byla vypracována, možná úplně, s pomocí velkého jazykového modelového programu umělé inteligence, který halucinoval významnou část judikatury a přenesl ji na papír,“ řekl. „Soud nemůže udělit soudní zákaz – mimořádný opravný prostředek – na základě stížnosti, která obsahuje vícenásobné citace na neexistující autoritu a několik citací na irelevantní autoritu.“
Mezi problémy s podáním byly případy, které se nepodařilo najít v evidenci nebo jejichž čísla odkazovala na jiné případy.
Beaneův příkaz však uvedl, že nebylo zjištěno, že by se žalobce „pokoušel úmyslně klamat touto stížností, ale (soud) nabádá k opatrnosti, když činí prohlášení v právním podání.
K její cti je třeba uvést, že žalobkyně uznala, že její unáhlené používání AI produkovalo chybné, irelevantní a neexistující citace. Ve skutečnosti svou situaci nazvala „opatrným příběhem“.
„…V tom má soudce pravdu – měla jsem být opatrnější a dvakrát zkontrolovat citace, které mi byly dány,“ řekla. „Každý by měl být při používání AI opatrný, ale je to nová hranice.“
Přesně. Tato nová technologie může být užitečná, ale lidé na ni nesmí slepě spoléhat. Ve skutečnosti existuje dobrý důvod být podezřívavý k obsahu, který produkuje.
Tento „varovný příběh“ je pro nás všechny důležitým připomenutím, abychom nejen opatrně našlapovali s použitím AI a VŽDY si to ověřovali, jak žalobkyně uznala, že by měla, ale abychom si dávali pozor, jako byl Beane, před tím, co čtete nebo sledujete, a dávali pozor na známky toho, že něco bylo generováno počítačem, který byl příliš dychtivý potěšit.
