Domare bötfäller advokater för att ha använt falsk AI-genererad juridisk forskning

En amerikansk domare har starkt kritiserat två advokatbyråer för att ha inkluderat falsk juridisk information genererad av AI i en rättslig inlämning, och kallar det för ett stort avsteg från juridiskt ansvar.

Domare Michael Wilner, baserad i Kalifornien, bötfällde företagen med $31,000 efter att ha upptäckt att sammanfattningen var fylld med “falska, felaktiga och vilseledande juridiska hänvisningar och citat”, vilket först rapporterades av WIRED.

”Ingen rimligt kompetent advokat bör outsourca forskning och skrivande till AI”, skrev Wilner i sitt beslut och varnade för att han var nära att inkludera de falska fallen i en domstolsorder.

”Jag läste deras inlaga, blev övertygad (eller åtminstone intresserad) av de auktoriteter de citerade och såg upp besluten för att lära mig mer om dem – bara för att upptäcka att de inte existerade”, sa han, som rapporterades av WIRED. ”Det är skrämmande”, tillade han.

Situationen uppstod under en civilrättslig stämning mot State Farm. En advokat använde AI-verktyg för att utforma en juridisk disposition. Det dokumentet, som innehöll falsk forskning, överlämnades till den större advokatbyrån K&L Gates, som inkluderade det i en officiell inlämning.

“Ingen advokat eller personalmedlem på något av företagen tycks ha granskat eller på annat sätt kontrollerat den forskningen innan de lämnade in skrivelsen”, noterade Wilner, som rapporterats av WIRED.

Efter att ha upptäckt att minst två av de citerade fallen var helt påhittade, bad domare Wilner K&L Gates om förtydligande. När de lämnade in en ny version, visade det sig innehålla ännu fler falska citat. Domaren krävde en förklaring, vilket avslöjade svurna uttalanden om användning av AI-verktyg, enligt vad WIRED rapporterat.

Wilner drog slutsatsen: ”Den initiala, odiscloserade användningen av AI-produkter för att generera det första utkastet till stämningsansökan var helt fel […] Och att skicka det materialet till andra advokater utan att avslöja dess tvivelaktiga AI-ursprung satte realistiskt sett dessa professionella i fara”, enligt vad WIRED rapporterat.

Detta är inte första gången AI har orsakat problem i rättssalar. Faktum är att två advokater från Wyoming nyligen erkände att de använde falska AI-genererade fall i en stämningsansökan mot Walmart. En federal domare hotade att bestraffa dem också.

I detta scenario blir AI ”hallucinationer” – påhittad information genererad av AI-verktyg – ett växande problem i det rättsliga systemet.