Heinrich Heine, de Duitse dichter uit de 19e eeuw wiens verzameld werk u natuurlijk ook nauwelijks kunt wegleggen, zou het gezegd hebben (bewijs hiervoor ontbreekt overigens): ‘Als de wereld vergaat, dan ga ik naar Holland. Daar gebeurt alles vijftig jaar later.’ Ik moest eraan denken rond het onderwerp van dit stukje: algoritmen in het recht.
Georg van Daal, advocaat te Den Haag
In de Verenigde Staten spelen zij een grote rol in de straftoemeting. In Frankrijk, waar sinds de Wet Lemaire van 7 oktober 2016 alle – u leest het goed: álle – gerechtelijke uitspraken openbaar moeten worden gemaakt, spelen algoritmisch geïnspireerde startups gretig in op de big data goudmijn die dit oplevert. In Nederland gebeurt vooralsnog weinig waarneembaars op deze specifieke gebieden.
Frankrijk kende sinds enige tijd een staatssecretaris voor ICT & Innovatie, nu onder Macron alleen nog van ICT. Uit de koker van de voorlaatste – Axelle Lemaire – komt de wetswijziging die verplicht alle vonnissen geanonimiseerd openbaar te maken. Dat zijn alleen civielrechtelijk al bijna drie miljoen vonnissen per jaar. De ‘jurigeeks’ zijn daar met allerlei startups meteen bovenop gesprongen, ook al is de inschatting dat het nog wel vijf jaar gaat duren voordat de wettelijke plicht ook helemaal realiteit is.
Hun programma’s, voorzien van specifieke algoritmen, grazen de nieuwe juridische weiden af. Het doel is gelijk aan de Franse term hiervoor: justice prédictive. Aan de hand van het slim doorakkeren van nu dus letterlijk alle vonnissen zouden wetmatigheden duidelijk worden, die nuttig zouden zijn voor het voorspellen van uitkomsten van nieuwe zaken, het bepalen van de kansen van bepaalde argumenten in bepaalde zaken, het ontwaren van de regionaal of zelfs per rechter verschillende uitkomsten in gelijksoortige zaken en wat niet. Daarmee zouden rechtzoekenden of advocaten hun voordeel kunnen doen.
Het gaat hier natuurlijk weer – zo hoor ik de oudere jongeren in de advocatuur zoals ik zelf al denken – om nerds die miskennen dat een vonnis slechts een imperfecte en subjectieve selectie uit de feiten is, met een doelgeredeneerde uitkomst, vooral bepaald door allerlei argumenten en factoren die in het vonnis nu juist níet naar voren komen. En dat is natuurlijk ook zo. Terwijl dit kennelijk géén beletsel is om civiel toch aan de slag te gaan, vind je in de Franse publicaties juist hierom weer wel aarzelingen om toepassingen van deze nieuwe voorspellende aanpak ook te zoeken in het strafrecht.
In de VS bestaan dergelijke aarzelingen niet. Daar heeft men al heel wat meer grenzen gepasseerd. In de VS is predictive justice een instrument dat rechters in het strafrecht toepassen, en in sommige staten zelfs móeten toepassen. Bij de straftoemeting wegen zij dan mee een algoritmisch gebaseerde inschatting, aan de hand van een x-aantal factoren over toekomstige risico’s op recidive. Hoe hoger de inschatting van iemands risico op toekomstige recidive, hoe hoger de straf voor een daad uit het verleden. In bepaalde gevallen hebben rechters op basis van dergelijke rapportages zelfs overeengekomen plea bargains het raam uitgegooid en veel zwaardere straffen opgelegd dan de District Attorney wilde.
Mensen zijn, kortom, veroordeeld omdat een computerprogramma meent te kunnen voorspellen wat ze in de toekomst zullen doen. Misschien heeft u de film Minority Report al eens gezien? De veelvuldige kritiek hierop in de Amerikaanse pers en rechtsgeleerde literatuur gaat gek genoeg niet vaak over de dogmatiek van deze insteek. Veel vaker gaat het over het gebrek aan transparantie en de vooroordelen. De rapporten zijn namelijk producten van private ondernemingen die zelf bepalen op basis van welke factoren en op basis van welke algoritmen – alles bedrijfsgeheimen, die niet worden geopenbaard – de risico’s worden bepaald. De rechters zien slechts de uitkomst, en het geheel is níet toetsbaar. Een ander bezwaar is dat deze rapportages een enorme raciale vooringenomenheid vertonen, die u verder zelf wel kunt invullen.
Is dit nou allemaal erg? Ja, die raciale vooringenomenheid is verschrikkelijk. Computerprogramma’s zijn echter een reflectie van hun bouwers en van wat de gebruikers daar verder instoppen, dus de schuldige is hier niet het programma. En nee, het gaat nog wel even duren voordat dit soort dingen in ons juridische marktje gaan spelen.
Maar wij passen hier en nu ook al imperfecte systemen toe. Bijvoorbeeld de natte vinger speelt juridisch overal nog een grote rol, zowel civiel- als strafrechtelijk. In het strafrecht leunen rechters verder bij toch ingrijpende beslissingen zwaar op rapporten van reclassering en psychiaters die niet-transparant tot stand komen, een hoog subjectief gehalte kennen en ook allerlei beweringen over de toekomst doen.
De zoekmachines die civilisten hier en nu gebruiken zijn evenzeer algoritmisch gebaseerd, en wie precies weet hoe het werkt mag het zeggen. De perfecte wereld bestaat niet, helaas. Met onstuitbare vernieuwingen wordt hij alleen maar anders imperfect.