​De discussie over artificiële intelligentie (AI) in justitie wordt vaak voorgesteld als een technische discussie. Welke systemen zijn beschikbaar? Hoe kunnen ze magistraten helpen? Kunnen zij sneller rechtspraak doorzoeken, documenten samenvatten, feiten chronologisch ordenen of zelfs bepaalde risico’s voorspellen? En vooral: hoe kunnen we ervoor zorgen dat de rechterlijke macht niet achteropraakt in een ontwikkeling die zich toch niet meer laat tegenhouden?

Die laatste vraag lijkt steeds vaker het uitgangspunt te zijn. Niet langer wordt vooral gevraagd of justitie artificiële intelligentie moet gebruiken, maar hoe zij dat het best kan doen. Dat lijkt pragmatisch. Maar precies daar ligt volgens Manuela Cadelli een fundamenteel probleem. In haar in 2025 verschenen boek Justice et IA : une enquête critique weigert zij de onvermijdelijkheid van die ontwikkeling als uitgangspunt te aanvaarden. Zij onderzoekt niet alleen wat AI kan, maar vooral wat er gebeurt wanneer een technologie met een eigen logica wordt binnengebracht in een instelling die eveneens een eigen logica, geschiedenis en verantwoordelijkheid heeft: de rechterlijke macht.

​Een rechter is geen machine die informatie verwerkt om vervolgens de meest waarschijnlijke uitkomst te produceren

Dat onderscheid is essentieel. Een rechter is geen machine die informatie verwerkt om vervolgens de meest waarschijnlijke uitkomst te produceren. Een rechter moet feiten beoordelen, rechtsregels interpreteren, argumenten wegen, onzekerheid aanvaarden en uiteindelijk een beslissing nemen waarvoor hij of zij persoonlijk en institutioneel verantwoordelijkheid draagt. Die beslissing moet bovendien worden gemotiveerd en moet tot stand komen binnen de waarborgen van het eerlijk proces. De vraag is dan niet alleen of artificiële intelligentie een rechter kan helpen om sneller tot een beslissing te komen. De veel fundamentelere vraag is of de wijze waarop AI tot resultaten komt verenigbaar is met de wijze waarop een rechter tot een juridisch oordeel behoort te komen.

Cadelli vertrekt in haar boek precies van die confrontatie. Zij onderzoekt de eigenschappen en werking van verschillende vormen van AI en plaatst die tegenover de kenmerken van het rechterlijke beslissingsproces. Haar centrale zorg betreft daarbij onder meer de opaciteit van algoritmische systemen en de mogelijkheid van vooringenomenheid. Een rechter kan immers worden geconfronteerd met een resultaat waarvan hij niet kan reconstrueren waarom het systeem precies tot dat resultaat is gekomen. Wanneer zo’n resultaat vervolgens een rol gaat spelen in het juridische oordeel, ontstaat een merkwaardige paradox: de menselijke beslissing moet uitlegbaar en controleerbaar zijn, terwijl het hulpmiddel waarop zij mede steunt dat mogelijk niet is.

Dat probleem wordt nog groter wanneer AI niet langer uitsluitend wordt gebruikt voor administratieve of technische taken, maar voor taken die de inhoudelijke beoordeling van een zaak kunnen beïnvloeden. Een transcriptie van een zitting is iets anders dan een systeem dat een dossier samenvat. Een samenvatting is op haar beurt iets anders dan een systeem dat relevante feiten selecteert, juridische argumenten identificeert of bepaalde risico’s voorspelt. Bij iedere stap verschuift de technologie dichter naar het hart van de rechterlijke beslissing.

Daarbij moeten we ook opletten voor een subtieler gevaar. Zelfs wanneer de rechter formeel de eindverantwoordelijkheid behoudt, betekent dat nog niet noodzakelijk dat de technologie geen invloed heeft op zijn oordeel. Een door AI gegenereerde samenvatting kan bepalen welke feiten als relevant worden gepresenteerd. Een zoekinstrument kan bepalen welke rechtspraak zichtbaar wordt. Een voorspelling kan een verwachting creëren over wat een uitkomst zou moeten zijn. Een tekstgenerator kan zelfs de formulering van een beslissing beïnvloeden. De menselijke beslissing blijft dan bestaan, maar de omgeving waarin die beslissing tot stand komt, verandert.

​Het klassieke beeld is dat de magistraat de technologie gebruikt als instrument. Maar naarmate AI steeds meer intellectuele taken overneemt, kan de verhouding verschuiven

Dat brengt ons bij een ongemakkelijke vraag: wie assisteert hier eigenlijk wie?

Het klassieke beeld is dat de magistraat de technologie gebruikt als instrument. Maar naarmate AI steeds meer intellectuele taken overneemt, kan de verhouding verschuiven. Het instrument selecteert, ordent, formuleert en suggereert. De gebruiker controleert vervolgens wat het instrument heeft geproduceerd. Dat lijkt op het eerste gezicht een vorm van menselijke controle. Maar menselijke controle veronderstelt natuurlijk dat de mens voldoende zicht heeft op wat het systeem doet, welke beperkingen het heeft en welke fouten het kan maken.

Precies daarom is AI-geletterdheid binnen justitie geen bijkomstigheid. Een magistraat hoeft geen informaticus te worden, maar moet wel begrijpen welke soort technologie hij gebruikt, welke gegevens worden verwerkt, welke risico’s eraan verbonden zijn en welke controle werkelijk mogelijk is. Transparantie mag daarbij niet worden verward met de eenvoudige mededeling dat een AI-systeem werd gebruikt. De wezenlijke vraag is wat het systeem met de informatie heeft gedaan en welke invloed dat resultaat vervolgens op het menselijke oordeel heeft gehad.

Ook de keuze van de technologie zelf verdient daarom aandacht. Wanneer magistraten voor hun professionele activiteiten commerciële AI-systemen gebruiken, rijzen vragen over gegevensbescherming, vertrouwelijkheid, auteursrecht, gegevensopslag en mogelijke toegang tot gegevens door derden. Het volstaat niet om te zeggen dat men geen persoonsgegevens in een systeem invoert wanneer niet duidelijk is welke informatie precies wordt verwerkt, hoe het systeem functioneert en welke waarborgen de gebruiker daadwerkelijk kan controleren.

De Europese AI Act erkent overigens zelf dat bepaalde toepassingen binnen de justitiële context bijzondere risico’s kunnen meebrengen. Dat is logisch. Rechtspraak gaat immers niet over abstracte datasets, maar over mensen wier vrijheid, vermogen, gezinsleven of maatschappelijke positie door een beslissing rechtstreeks kan worden geraakt. Juist daarom kan efficiëntie nooit het enige criterium zijn waarmee technologische innovatie binnen justitie wordt beoordeeld.

Dat betekent niet dat artificiële intelligentie geen plaats kan hebben binnen de rechterlijke macht. Integendeel. Er zijn toepassingen waarbij de technologie menselijke arbeid kan ondersteunen zonder het rechterlijke beslissingsproces wezenlijk over te nemen. Maar juist daarom moeten we onderscheid maken tussen verschillende toepassingen in plaats van over “AI en justitie” te spreken alsof het om één technologie en één risico gaat.

Laat daarover geen misverstand bestaan: ik ben ervan overtuigd dat justitie artificiële intelligentie moet omarmen. Doordacht ingezet, zal zij zowel de kwaliteit als de efficiëntie van het werk van justitie ten goede komen. Magistraten en hun medewerkers die minder tijd verliezen aan zoeken, ordenen en herschrijven, houden meer tijd over voor wat alleen zij kunnen doen en mogen doen: luisteren, afwegen, oordelen en beslissen. Een justitie die zich afzijdig houdt, beschermt de menselijke kern van de rechtspraak niet, maar laat de invulling ervan aan anderen over. Het risico is dus niet alleen dat justitie te snel gaat, het is evengoed dat zij de boot mist. De kritische vragen die Cadelli stelt, zijn daarom geen reden om stil te blijven staan, maar de voorwaarden om verantwoord vooruit te gaan.

​Welke elementen van de rechterlijke functie mogen we nooit uit handen geven omdat zij precies de menselijke kern van rechtspraak uitmaken?

De verdienste van Justice et IA : une enquête critique ligt precies daarin. Manuela Cadelli vraagt ons om een stap terug te zetten voordat we enthousiast vooruitlopen. Niet om technologie bij voorbaat af te wijzen, maar om eerst te begrijpen wat we dreigen te veranderen. Haar onderzoek stelt uiteindelijk een fundamentele vraag: welke elementen van de rechterlijke functie mogen we nooit uit handen geven omdat zij precies de menselijke kern van rechtspraak uitmaken?

Dat is geen vraag voor informatici alleen. Het is evenmin een vraag voor juristen alleen. Het is een vraag voor iedereen die belang hecht aan een onafhankelijke rechter, een eerlijk proces en een rechtsstaat waarin beslissingen niet alleen efficiënt, maar ook begrijpelijk, controleerbaar en verantwoord zijn. De echte uitdaging van AI en justitie is daarom misschien niet dat machines ooit rechter zouden worden. De veel interessantere vraag is of rechters, terwijl zij machines steeds vaker als hulpmiddel gebruiken, nog volledig kunnen blijven bepalen hoe zij hun rechterlijke functie uitoefenen. Wie, zoals ik, ervan overtuigd is dat de vraag niet langer is óf justitie AI gebruikt, maar hoe, moet dan ook durven vragen wie dat ‘hoe’ bepaalt.

Dat mag niet worden overgelaten aan de toevallige keuzes van individuele magistraten, aan de commerciële logica van technologiebedrijven of aan budgettaire beslissingen van de uitvoerende macht, die de informatica van justitie beheert maar niet de hoeder is van de rechterlijke onafhankelijkheid. Er is maar één instelling die de legitimiteit en de grondwettelijke positie heeft om dit proces te begeleiden en aan te sturen: de Hoge Raad voor de Justitie. Hij is verankerd in artikel 151 van de Grondwet, staat los van de uitvoerende macht en is samengesteld uit magistraten en niet-magistraten. Bovendien vertrouwt de Grondwet hem precies de hefbomen toe die hier nodig zijn: adviezen en voorstellen over de algemene werking van de rechterlijke orde en het algemeen toezicht op die werking. Van de Hoge Raad mag dan ook worden verwacht dat hij een visie ontwikkelt over welke toepassingen aanvaardbaar zijn en onder welke waarborgen, dat hij AI-geletterdheid langs die weg een vaste plaats geeft in de hele rechterlijke loopbaan, en dat hij de overheid en de wetgever gevraagd en ongevraagd adviseert voordat er voldongen feiten ontstaan.

Dat vraagt wel dat men binnen de Hoge Raad dringend wakker schiet. De technologie wacht niet op de instellingen. Intussen worden elders al keuzes gemaakt: sommige magistraten experimenteren op eigen houtje met commerciële toepassingen, en aankoop- en ontwikkelingsbeslissingen worden genomen buiten elk gedeeld kader. Wanneer de Hoge Raad nu geen richting geeft, zal die richting feitelijk worden bepaald door gewoonten, budgetten en leveranciers. Dan zal justitie de boot niet missen omdat zij AI heeft afgewezen, maar omdat zij heeft nagelaten zelf het roer in handen te nemen.

​​​​​Pierre Thiriar – Deze bijdrage vertolkt louter de opinie van de auteur in eigen naam.

​Andere artikels en opiniestukken van Pierre Thiriar lees je hier.