Een Australische advocaat is doorverwezen naar de tuchtrechter, nadat bleek dat hij ChatGPT had gebruikt om documenten in een immigratiezaak op te stellen. Het AI-platform leverde daarbij rechtszaakinformatie die niet bestond.
Op vrijdag bepaalde rechter Rania Skaros van de federale rechtbank dat de advocaat, wiens naam in de uitspraak was weggelaten, werd doorverwezen naar het kantoor van de NSW Legal Services Commissioner (OLSC) voor nader onderzoek.
De zaak kwam aan het licht tijdens een hoger beroep tegen een beslissing van de Administrative Appeals Tribunal. In oktober 2024 diende de advocaat een gewijzigde aanvraag en een overzicht van de argumenten in bij de rechtbank. Volgens de rechter bevatte beide documenten citaten van rechtszaken en vermeende citaten uit het besluit van de rechtbank die niet bestonden. Dit meldt de Australische krant The Guardian.
De advocaat gaf aan dat de fouten onbedoeld waren en dat hij diep betreurde wat er was gebeurd. Tijdens een hoorzitting op 25 november 2024 gaf de advocaat toe dat hij ChatGPT had gebruikt om de documenten op te stellen. Hij verklaarde dat het AI-systeem hem had geholpen bij het vinden van ‘Australische’ rechtszaken, maar dat deze in werkelijkheid niet bestonden. De rechtbank uitte bezorgdheid over het gebruik van ChatGPT en het gebrek aan zorgvuldigheid bij het controleren van de ingediende documenten.
Tijdsdruk
In een verklaring aan de rechtbank zei de advocaat dat hij door tijdsdruk en gezondheidsproblemen besloot AI te gebruiken. Het resultaat leek goed, en daarom had hij de vermeende rechtszaken en verwijzingen in zijn documenten verwerkt zonder de details te verifiëren.
De advocaat betuigde diepe schaamte voor het incident en heeft inmiddels stappen ondernomen om zijn kennis van AI te verbeteren. De raadsman van de immigratieminister benadrukte dat de advocaat onvoldoende zorg had betracht en dat misbruik van AI in juridische procedures moet worden aangepakt om herhaling te voorkomen. De minister stelde voor om dergelijke gevallen door te verwijzen naar de OLSC, zodat ze direct worden aangepakt.
De zaak is het tweede geval in Australië waarbij een advocaat wordt doorverwezen naar een toezichthoudend orgaan vanwege het gebruik van AI in rechtszaakinformatie, na een vergelijkbaar incident in Melbourne vorig jaar. De hoogste rechtbank van New South Wales heeft bovendien vorig jaar richtlijnen opgesteld over het gebruik van generatieve AI door advocaten.
