- What: A law firm used AI to generate legal documents
- Impact: The AI generated false legal references
Ein af dýrustu lögmannsstofum heims hefur beðist afsökunar á því að hafa notað gervigreind til að búa til réttarskjöl í mikilvægu dómsmáli. Sullivan & Cromwell, sem rukkar viðskiptavini sína allt að 3.000 dali, eða allt að 370 þúsund krónur á klukkustund, hefur viðurkennt að hafa notað gervigreind til að skrifa gallaða greinargerð til dómstóls í New York, að því er kemur fram í frétt The Telegraph . Í bréfi til dómara kenndi lögmannsstofan „ofskynjunum“ (e. hallucinations) gervigreindar um skjal sem vísaði til uppgerðra dómsmála og lagalegra heimilda sem eru ekki til. Sullivan & Cromwell sagði að verklagsreglum um notkun gervigreindar hafi ekki verið fylgt þrátt fyrir strangar reglur og kröfur um þjálfun. Í bréfinu segir stofan að lögmenn hennar þurfi að ljúka tveimur skyldunámskeiðum áður en þeir fá aðgang að tilteknum gervigreindartólum. Stofan, sem hefur m.a. unnið fyrir Donald Trump, sagði að lögmönnum hennar sé kennt að „treysta engu og sannreyna allt“ sem kemur frá gervigreindinni. Þá sé ítrekað lögð áhersla á að varast hættuna á „ofskynjunum“ gervigreindar. „Við hörmum það innilega að þetta hafi gerst,“ sagði í bréfinu. Atvikið tengist máli er varðar Prince Global Holdings Limited, kambódískt samsteypufyrirtæki, en stofnandi þess, Chen Zhi, stendur nú frammi fyrir sakamálarannsókn vegna meintrar aðkomu að fjárfestingasvikum tengdum rafmyntum.