AI-fouten zijn zeldzaam, maar wereldwijd worden advocaten steeds vaker gevraagd naar hun AI-gebruik. Ondanks zorgen daarover gebruikt 64 procent van de kantoren AI voor onderzoek. Generatieve AI, zoals ChatGPT, is goed met teksten maar kan ook - nog altijd - foutieve informatie geven. 'Feiten' moeten dus altijd grondig worden gecheckt.
Reuters wist in de VS maar liefst zeven gevallen te benoemen waarin advocaten zijn ondervraagd of een waarschuwing kregen vanwege het gebruik van AI in een zaak. Online advocaat DoNotPay werd er op de vingers getikt omdat het zichzelf aanprees als 'de eerste AI-advocaat ter wereld'.
AI-hallucinaties en de mogelijke schade daarvan
In een gesprek met ITPro benadrukte Adam Ryan van softwarebedrijf Litera dat advocaten nog altijd alert moeten zijn bij het gebruik van AI. Omdat de tools niet automatisch controleren of informatie accuraat is, is het voor gebruikers, vooral binnen de rechtspraak, van cruciaal belang om de herkomst van informatie te verifiëren.
LEES OOK: Welke AI-chatbots voor zakelijke inzichten kun je écht vertrouwen?
In juridische dossiers kunnen namelijk - nog altijd - verzinsels verschijnen, wat bekend staat als 'AI-hallucinaties'. AI-tools verbeteren inmiddels de nauwkeurigheid van gegevens via directe online bronverwijzingen, waardoor de verificatie eenvoudiger wordt. AI kán advocaten uitstekend ondersteunen, mits de verstrekte informatie grondig gecontroleerd wordt. Dat is bij Morgan & Morgan niet gebeurd en leidde tot het ontslag van de betrokken advocaten.
Uiteindelijk werden namens de tool niet-bestaande zaken aangehaald in een rechtszaak tegen Walmart. Als dergelijke fictieve zaken bij de rechter worden ingediend, kan dat leiden tot het ontslag van de verantwoordelijke advocaten. Daarom zijn de betrokken advocaten ontslagen.
AI steeds slimmer maar deskundige supervisie blijft nodig
Het Britse advocatenkantoor Linklaters heeft AI-chatbots flink aan de tand gevoeld met vijftig pittige vragen over tien rechtsgebieden, vergelijkbaar met vragen die aan een ervaren advocaat zouden worden gesteld. Hoewel AI steeds beter wordt in het geven van de juiste inhoud en citaten, benadrukt Linklaters dat de expertise van professionals daarbij - als in: mensen - noodzakelijk is. 'AI kan helpen met het maken van een eerste opzet of check, vooral bij bekende rechtsgebieden', is de mening van de onderzoekers.
LUISTER OOK: 'We moeten iets met AI' is een denkfout: dit is hoe je het wél goed aanpakt
Gebrek aan AI-kennis bij advocaten
Het echte probleem lijkt zich niet bij de AI zelf te bevinden, maar bij advocaten die gebruikmaken van AI zonder voldoende kennis van waar de technologie nog in tekortschiet. Volgens Harry Surden, hoogleraar aan de Universiteit van Colorado, ontstaat dit door een gebrek aan AI-kennis. Het antwoord ligt niet in het afwijzen van technologie, maar in het beter begrijpen van deze beperkingen van AI. Hij vertelde Reuters: ,,Advocaten hebben altijd al fouten gemaakt in hun documenten, ook vóór de introductie van AI. Dus dit is niks nieuws."
Advocaten maakten altijd al fouten in hun documenten, ook vóór AI
Harry Surden Rechtenprofessor Universiteit van Colorado
Vaak ligt de eigenlijke uitdaging bij advocaten die wel weten dat AI soms fouten maakt, zoals het eerder genoemde genereren van AI-hallucinaties, maar die moeite hebben om die fouten te herkennen. Het gaat er dus niet alleen om bewust te zijn dat AI niet perfect is, maar ook om als professional in staat te zijn fouten te identificeren en te corrigeren, ongeacht of deze door een computer of door een mens zijn veroorzaakt.
Bron: ITPro (Solomon Klappholz)
Meer BusinessWise? Onze Weekly!
Ontvang elke donderdag het beste van BusinessWise in je mailbox. Schrijf je hier gratis in:
