De media hadden weinig aandacht voor het cryptische persbericht van de ministerraad van 4 februari. De tekst was blijkbaar ook niet gemaakt om een breed publiek warm te maken voor de beslissing. “De ministerraad gaat (…) akkoord met de lancering van een overheidsopdracht met als doel het opzetten van een co-sourcing-raamcontract voor het Digitaal transformatieplan”. Wie hip Engels taalgebruik nodig heeft om plannen aan te kondigen heeft meestal niet echt de bedoeling om transparant te zijn.

De tekst gaat verder met een zin die bedoeld is als verduidelijking: “Het Digitaal Transformatieprogramma (DTP) is een geheel aan technische en functionele realisaties, op basis van een meerjarige roadmap. Dankzij het DTP kan Justitie, en meer in het bijzonder de Rechterlijke Orde, haar werkprocessen en informatiebeheer efficiënt, effectief en flexibel vertalen naar een interne werking en externe dienstverlening gebaseerd op toekomstgerichte digitale oplossingen”. Het persbericht eindigt met de mededeling dat de raamovereenkomst over vier jaar zal lopen en uit “twee percelen” bestaat: “perceel 1: governance, ICT-architectuur, Program, Project, Change en Communication Management; perceel 2: audit, risicobeheer”. Zo, dat weten we dan weer. Wie dit allemaal begrijpt kan het misschien maar meteen aan iedereen uitleggen (er is onderaan deze blog een mogelijkheid om te reageren, al valt veelal stilte te verwachten).

Op dezelfde dag besliste de ministerraad om tot lancering over te gaan van een overheidsopdracht “voor de ontwikkeling van een databank van vonnissen en arresten voor de rekening van de FOD Justitie”. Ook over dat project was de pers bijzonder zuinig met commentaar, al is het wat duidelijker wat daarmee wordt beoogd, met name het “kunnen beschikken over een centraal register of een databank van alle vonnissen en arresten van de Belgische justitie. Via dit systeem zou iedereen die dat wenst toegang moeten krijgen tot alle rechterlijke beslissingen, zij het in gepseudonimiseerde vorm”. Wie vanaf de zijlijn tracht wegwijs te geraken in het kluwen van de digitalisering van justitie zou misschien denken dat die databank al bestaat, of minstens in het verleden bestond (werd er tot voor kort niet gesproken over VAJA?), maar het kan ook maar perceptie geweest zijn. Het gebruik van pakweg het woord “gepseudonimiseerd” in een persbericht is allicht ook niet bedoeld om er een brede verspreiding aan te geven.

De perscommunicatie over de beslissingen zet in ieder geval niet echt aan tot maatschappelijk debat of collectieve reflectie, terwijl de digitalisering vele cruciale technische en ethische vragen oproepen. Welke rol is er nog voor de rechterlijke tussenkomst na het uitrollen van dat digitaal transformatieplan? In welke mate wordt het rechtspreken vervangen of gecontroleerd door Artificiële Intelligentie? Dat is geen vraag die door de IT’ers mag worden opgelost. Het is aan de wetgever en de rechterlijke macht om dat te verduidelijken.

Het jongste nummer van het Tijdschrift voor Filosofie (Louvain Jounal of Philosophy) is een onverwachte vindplaats voor zeer toegankelijke en verhelderende inzichten op dat vlak. Tussen artikels over Descartes, Spinoza en Nesmolow worden filosofische krijtlijnen uitgezet voor een artificiële rechter. Onderzoekster Ann-Katrien Oimann analyseert de rol van Artificiële Intelligentie bij justitie. AI dient om de “mens te ondersteunen bij het verwerken van inhoudelijke informatie” (bv. vinden van relevante rechtspraak, systemen om contracten op te stellen of te analyseren, enz..), “om meer inzicht in werkprocessen te verschaffen” (bv. over doorlooptijden, slaagkansen van rechtszaken) of nog om voorspelalgoritmes te ontwikkelen. Sommigen willen nog verder gaan en beslissingssystemen ontwikkelen zonder menselijke tussenkomst (robotrechters). Het artikel gaat over de ethische vraag hoever wij als samenleving daarin kunnen gaan. Het zou goed zijn dat de beslissingen van de ministerraad in dat kader ook worden toegelicht. Wat is het einddoel?

Ann-Katrien Oimann analyseert een aantal klassieke argumenten tegen besluitvorming door enkel Artificiële Intelligentie. De transparantie- en motiveringsplicht van rechterlijke uitspraken zijn volgens haar niet van dien aard dat ze noodzakelijkerwijze door mensen moeten worden verricht. Toch vindt ze dat de tussenkomst van de menselijke rechter onontbeerlijk is omdat Artificiële Intelligentie niet in staat is om het unieke vermogen van de mens (de rechter) om betekenis te geven aan een uitspraak te kunnen vervangen. AI is vooralsnog niet in staat om “de discretionaire bevoegdheid van de rechter te capteren”.

Er moet worden vermeden dat bij het aanwenden van AI uiteindelijk niet meer de rechter, maar de ontwikkelaar van het algoritme zal bepalen hoe een rechterlijke beslissing wordt genomen of hoe ze tot stand komt. Dat gevaar moet van in het begin vermeden worden met een stevig ethisch kader van iedere “roadmap” van digitalisering.

Hugo LAMON

***

Meer blogposts lezen van Hugo Lamon? Dat kan hier!