SAN ANTONIO – Kunstmatige intelligentie vindt steeds vaker zijn weg naar klaslokalen, telefoons en rechtszalen. Maar een recente zaak waarbij het San Antonio Independent School District betrokken was, benadrukt de risico’s van het vertrouwen op AI zonder het werk ervan te controleren.
Een advocaat uit Miami kreeg disciplinaire maatregelen nadat hij in een rechtszaak vier zaken had aangehaald die door kunstmatige intelligentie leken te zijn verzonnen.
De zaak betrof een leerling die naar een disciplinair alternatief onderwijsprogramma werd gestuurd nadat hij een klein mes naar school had gebracht. De moeder van de student klaagde SAISD aan, en haar advocaat ging later in beroep, waarbij ze acht verschillende zaken aanhaalde.
Vier van deze zaken trokken de aandacht van het 4e Hof van Beroep.
In zijn advies schreef rechter Lori Valenzuela dat de vier gevallen “hallucinaties leken te zijn die door AI waren gecreëerd.”
Mason Clark, universitair docent rechten aan de St. Mary’s University School of Law, zei dat advocaten steeds vaker AI gebruiken, maar dat fouten nog steeds vaak voorkomen.
“Helaas zien we meestal fouten als mij deze vraag wordt gesteld, wat zien we op juridisch gebied”, zei Clark.
Uit een recent onderzoek van de State Bar of Texas bleek dat het AI-gebruik onder advocaten in Texas meer dan verdubbelde, van 30% in 2024 naar 62% dit jaar.
De risico’s waren duidelijk in de SAISD-zaak.
Clark zei dat AI valse informatie overtuigend kan laten klinken.
“Je kunt iemand gemakkelijk voor de gek houden door het legaal te laten klinken, het goed te laten klinken, en het is eigenlijk volkomen waardeloos”, zei hij.
Het 4e Hof van Beroep heeft de zaak uiteindelijk niet afgewezen, maar heeft de advocaat en het advocatenkantoor gewaarschuwd over het gebruik van AI in toekomstige gerechtelijke dossiers.
Het probleem zou steeds belangrijker kunnen worden naarmate het gebruik van AI in de advocatuur blijft groeien.
Deze zomer heeft het Hooggerechtshof van Texas nieuwe regels uitgevaardigd over het gebruik van AI. De regels worden vanaf 1 oktober van kracht.
Lees ook: