De Artificiële Rechter

1. een pakkende inleiding;

Inleiding

“Vanaf 1 februari 2022 vervangt Veilig Mailen de fax.”

Alhoewel de rechtspraak er niet de snelste in is, ontkomt geen enkel vakgebied de

technologische ontwikkeling. Digitalisering is een van deze ontwikkelingen en brengt veel
mogelijkheden met zich mee. Van deze mogelijkheden zijn AI systemen wel het meest
impactvol, met al talrijk toepassingen. Overal in marketing en apps, zoals spotify en netflix,
maar ook in taken met veel verantwoordelijkheid, zoals bankieren en de medische wereld, wordt
er veel gebruik van gemaakt. Deze innovatie kan met slimme software taken goedkoper, sneller
en rechtvaardiger maken. Ook binnen de overheid wordt hier al mee omgegaan in domeinen
zoals belastingheffing en het ministerie van onderwijs, de kans dat een leerplichtige leerling
voortijdig de school verlaat.1 Het is niet de vraag of de rechtgevende macht hier gebruik van
gaat maken, maar eerder wanneer en op welke manier.
Een toekomst waarin AI-systemen hun menselijke tegenpartij vervangen is vaak genoeg
geschetst, daarom zal op dit onderwerp nu niet ingegaan worden. Deze paper focust op de
nabije toekomst en de kansen die algoritmes geven aan de rechtspraak. Er zijn namelijk al
algoritmes die als erg nuttige instrumenten gebruikt kunnen worden, zonder dat de menselijke
rechter zijn plek op moet geven. Wat doen deze algoritmes, hoe kunnen ze een rol spelen in de
rechtspraak en waar moet daarbij op worden gelet? Deze vragen zullen centraal staan.

2. een korte beschrijving (van de relevante aspecten) van de nieuwe technologie;

Kort stukkie over ai → nice haha
- Wat kan een algoritme
https://www.rechtspraak.nl/SiteCollectionDocuments/rechtstreeks-2019-02.pdf

1 Big Data voor Fraude bestrijding - WRR blz 57. En Onderzoek Toezicht op het
gebruik van algoritmen door de overheid blz 9
Wat is de reden dat er juist nu zoveel aandacht gegeven wordt aan algoritmes? De ontwikkeling
van algoritmes is al een redelijke tijd bezig, er zijn immers neural networks bekend sinds de
jaren 1950.2 Echter zijn er een aantal redenen waarom algoritmes nu zoveel functionele waarde
hebben. Ten eerste zijn er meer gegevens beschikbaar dan ooit. Door de toenemende
digitalisatie wordt er steeds meer online gezet en steeds meer opgeslagen. Met meer data is
het makkelijker algoritmes te trainen om patronen te vinden, dit leidt tot meer inzichten. Ten
tweede is er meer rekencapaciteit en gegevensopslag waardoor er data-analyse algoritmes
meer patronen kunnen vinden in een bepaalde dataset, maar er ook grotere datasets gebruikt
kunnen worden bij het data-mining.3 Als laatste, en belangrijkste, is er meer mogelijk met de
gevonden patronen dan ooit tevoren. De ontwikkeling van algoritmes heeft niet stilgestaan sinds
1950. De oude “als dan” programma's zijn vervangen door algoritmes die zelf een oplossing
bedenken. Waar vroeger algoritmes werden gebruikt om omschrijvende verbanden te vinden, is
het nu mogelijk om algoritmes te gebruiken om toekomstige gevallen te voorspellen.4 Een
voorbeeld hiervan is het gebruik van Generative Adversarial Networks (2014, GAN), waardoor
data ook gebruikt kan worden om nieuwe voorbeelden te bedenken, zoals DeepFakes. Daarbij
komt een nieuwe toepassing van machine learning, genaamd deep learning, die het mogelijk
maakt om complexere verbanden te leren. Hierdoor kunnen er nog meer vraagstukken
aangepakt worden, waarbij een probleem uit meerdere stappen kan bestaan.5

Door de complexiteit van deep learning is ook de ondoorzichtigheid van algoritmes erg
toegenomen. Hier zijn bepaalde oplossing op bedacht, zoals XAI(ibm), oftewel explainable AI
die model agnostics gebruiken (zoals LIME)6, en het met machine learning proberen te creëren
van een expert system7 (een soort stappenplan). Deze methode zijn echter nog niet heel
succesvol waardoor AI-algoritme vaak worden beschreven als “black box”, een zwarte doos
waar je niet in kan kijken om te zien hoe het werkt.

2 bostrom, superintelligence 2014

3
https://pure.uvt.nl/ws/portalfiles/portal/11447494/artikel_Themis_Digitalisering_binnen_de_recht
spraak.pdf

4 https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2928293(blz 10 van
https://www.elgaronline.com/view/9781788978255.00005.xml )

5 https://www.uu.nl/sites/default/files/rebo-montaigne-algoritmes_en_grondrechten.pdf blz 144

6 Ribeiro et al., "Why should I trust you?" Explaining the Predictions of Any Classifier, KDD 2016
(https://www.kdd.org/kdd2016/papers/files/rfp0573-ribeiroA.pdf )
7 https://link.springer.com/chapter/10.1007%2F978-1-4615-2353-6_3
Artificial Intelligence
Al sinds de jaren 1950 zijn er simpele AI-systemen bekend, dus waarom wordt er juist nu zoveel
aandacht besteed aan algoritmes? Een verklaring hiervoor is dat er nu meer gegevens
beschikbaar zijn dan ooit. Door de toenemende digitalisering wordt er steeds meer online
opgeslagen. Hoe meer data beschikbaar is, hoe makkelijker en sneller het algoritme leert om
patronen te herkennen. Dit leidt tot meer inzichten. Daarnaast is er meer rekencapaciteit en
gegevensopslag waardoor data-analyserende algoritmes meer patronen kunnen vinden in
bepaalde datasets, en kunnen grotere datasets gebruikt worden bij het trainen. De belangrijkste
reden waarom er nu zoveel aandacht is voor AI, is dat met algoritmes meer mogelijk is dan ooit.
Sinds 1950 zijn simpele algoritmes die zelf oplossingen bedenken, uitgebreid door om te
kunnen leren en omgaan met onzekerheden. Waar AI-systemen vroeger werden gebruikt om
beschrijvende verbanden te vinden tussen symbolen, is het nu mogelijk om toekomstige
situaties te voorspellen en natuurlijke talen te lezen. Door Generative Adversarial Networks
(2014) kan data ook worden gebruikt om passende nieuwe voorbeelden te bedenken in een
dataset. Daarbij komt een nieuwe toepassing van machine learning - deep learning - waarmee
AI grotere en complexere vraagstukken kan aanpakken, door het herkennen van een patroon
die uit meerdere stappen bestaat.

Door de complexiteit van deep learning is de ondoorzichtigheid van algoritmes fors

toegenomen. Hier zijn bepaalde oplossingen op bedacht zoals XAI(ibm), ofwel explainable AI,
die belangrijke input bronnen laten zien bij keuzes, zoals LIME, of het proberen te trainen van
een opvolgbare beslisboom. Echter zijn deze methoden onvoldoende succesvol in het in kaart
brengen van de AI, waardoor een AI-algoritme vaak wordt beschreven als een “black box” - een
zwarte doos waarvan niet kan worden bepaald hoe deze precies werkt.

Artificial Intelligence
Al sinds de jaren 1950 zijn er neural networks bekend, dus waarom wordt er juist nu zoveel
aandacht besteed aan algoritmes? Een verklaring hiervoor is dat er nu meer gegevens
beschikbaar zijn dan ooit. Door de toenemende digitalisering wordt er steeds meer online
opgeslagen. Hoe meer data beschikbaar is, hoe makkelijker en sneller het algoritme leert om
patronen te herkennen. Dit leidt tot meer inzichten. Daarnaast is er meer rekencapaciteit en
gegevensopslag waardoor data-analyserende algoritmes meer patronen kunnen vinden in
bepaalde datasets, en kunnen grotere datasets gebruikt worden bij het trainen. De belangrijkste
reden waarom er nu zoveel aandacht is voor algoritmes, is dat er met de gevonden patronen
meer mogelijk is dan ooit tevoren. De ontwikkeling van algoritmes staat sinds 1950 niet meer
stil. De oude “als dan” programma’s (wat is dit?) zijn vervangen door algoritmes die zelf
oplossingen bedenken. Waar algoritmes vroeger werden gebruikt om omschrijvende
(beschrijvende?) verbanden te vinden, is het nu mogelijk om algoritmes te gebruiken om
toekomstige situaties te voorspellen. Een voorbeeld hiervan is het gebruik van Generative
Adversarial Networks (2014, GAN). Door toepassing hiervan kan data ook worden gebruikt om
nieuwe voorbeelden te bedenken die binnen een dataset passen. Daarbij komt een nieuwe
toepassing van machine learning - deep learning - die het mogelijk maakt voor AI om
complexere verbanden te leren. Hierdoor kan AI grotere en complexere vraagstukken
aanpakken, waarbij een probleem uit meerdere stappen kan bestaan.

Door de complexiteit van deep learning is de ondoorzichtigheid van algoritmes fors

toegenomen. Hier zijn bepaalde oplossingen op bedacht zoals XAI(ibm), ofwel explainable AI,
die model agnostics gebruiken, zoals LIME (wat is dat?), en het met machine learning proberen
te creëren van een expert system (wat is dit?). Echter zijn deze methoden onvoldoende
succesvol in het in kaart brengen van de AI, waardoor een AI-algoritme vaak wordt beschreven
als een “black box” - een zwarte doos waarvan niet kan worden bepaald hoe deze precies
werkt.
 - Waar kan het gebruikt voor worden
https://www.openrecht.nl/commentaar/53c007c1-78e3-45e1-be4f-3e1148229d61/#2AIinkortbestek

Iets langer stukkie over hoe we dit kunnen gebruiken tijdens een rechtszaak:

AI kan binnen de rechtspraak op functionele wijze worden toegepast. Hiervoor zijn drie pijlers te
onderscheiden. Ten eerste zullen algoritmes snel en slim stukken kunnen doorzoeken. Daarbij
zullen zij een voorspellende analyse van de rechtspraktijk kunnen geven. De inzichten die
voortkomen uit de AI kunnen het verwachte handelen of keuzes voorspellen, ofwel wat de
voordehandliggende uitspraak zal zijn. Ten derde kunnen algoritmen dienen ter ondersteuning
en beslissingen nemen.8

De eerste pijler kan worden toegepast om grote hoeveelheden documenten te doorzoeken met
behulp van natural language processing. Hierdoor kunnen tussen documenten met grote
omvang doorkijken om bewijsstukken te vinden, zoals abnormale contracten of onbetrouwbare
verwijzingenmoet hiervoor nog citaat zoeken waarin dit bewezen wordt maar het kan vast. Ook kunnen AI-algoritmes goed van
pas komen bij veel voorkomende casus binnen de rechtspraak. Zij kunnen oordelen aan de
rechter aanbieden die vergelijkbaar zijn met de voorliggende zaak, om de rechtvaardigheid te
bevorderen.9 Daarnaast kunnen algoritmes ook als waarschuwingssysteem worden gebruikt.
Het systeem zal aan de bel trekken als een rechter in een bepaalde zaak een verdacht
afwijkend oordeel van zaken met een vergelijkbare casus. VOETNOOT

Ook kunnen algoritmes worden gebruikt om de rechterlijke organisatie te analyseren en inzicht

te krijgen in of er aan de standaarden en kwaliteitseisen wordt voldaan. Dit is een middel om de
werkdruk te verlagen, en om expertise en ervaring doelgerichter in te kunnen zetten.10

De tweede pijler houdt in dat algoritmes goede voorspellingen maken, waardoor menselijke
rechters al vooraf inzichten hebben in de onderhavige zaak. VOETNOOT Dit biedt
ondersteuning en zorgt voor efficiëntere besluitvorming. Voorbeelden hiervan zijn
magontslag.nl, die met hoge nauwkeurigheid zegt of ontslag redelijk is, of Predictice, die kijkt
naar de kans op succes van een zaak. VOETNOOT

8 https://www.rechtspraak.nl/SiteCollectionDocuments/rechtstreeks-2019-02.pdf pagina 33 en
https://www.openrecht.nl/commentaar/53c007c1-78e3-45e1-be4f-3e1148229d61/
9 https://www.elgaronline.com/view/9781788978255.00005.xml blz 17
10 https://www.openrecht.nl/commentaar/53c007c1-78e3-45e1-be4f-3e1148229d61/#2AIinkortbestek 3.1
Als laatste kunnen algoritmes dienen om beslissingen te nemen. Denk hierbij aan algoritmes die
een verdachte analyseren. Voorbeelden hiervan zijn het Amerikaanse algoritme Hart en
Compas. De eerste bepaald of voorlopige hechtenis passend is, en de laatste kijkt naar wat de
kans is op recidive van een schuldige om daar vervolgens de straf op aan te passen.hierbij gwn de
namen opzoeken

Opmerking verdient dat dit alleen de reeds bekende toepassingen zijn van AI in de rechtspraak.
Door AI in de rechtspraak te blijven toepassen en te blijven testen ontstaat er meer inzicht in de
successen en limieten van de instrumentaliteit ervan. Algoritmes bleken al enorm succesvol op
andere gebieden, en het is dus een logische stap om te zetten. Echter brengt het ook
uitdagingen met zich mee aan zowel de praktische als de ethische kant.
-> willen we dit uitbreiden
→ ik zeg van wel, want dan kunnen we ten aanzien van die drie pijlers toelichten hoe ze worden gebruikt
en dan kunnen we bij het volgende punt uitwijden over de problematiek die daarbij komt kijken?
->waar staan die drie pijlers? Klinkt opzich goed
Deze:
Na zijn uitleg van AI bij de politie bespreekt Bex nog kort wat AI voor de rechtspraak kan
betekenen, en wat er nodig is om de rechtspraak met AI aan de slag te laten gaan. Hij noemt
drie pijlers, mogelijke functionaliteiten van AI binnen de rechtspraak:
• snel en slim stukken doorzoeken;
• (voorspellende) analyse van de rechtspraktijk;
• ondersteunen en beslissen.

Intelligent functions developed under circumstance, such as the identification of case

complexity, smart case-element profiling, automatic monitor of misconducts in court
hearings, accurate recommendation of related laws and similar cases for reference,
automatic generation and correction of judicial documents, warnings of decision-
making risk deviation have been applied at courts in different places, effectively
facilitating court decisions with higher quality and efficiency.
https://news.cgtn.com/news/2019-12-04/Supreme-People-s-Court-issues-white-paper-on-
Internet-Judiciary-M9D6Rxhzaw/index.html
3. een korte beschrijving van het juridische vraagstuk dat wordt opgeworpen;
https://www.openrecht.nl/commentaar/53c007c1-78e3-45e1-be4f-3e1148229d61/
→ dit is een commentaar dat dilemma’s en mogelijkheden goed weergeeft.

De (on)zekerheden van de toekomsthttps://ibestuur.nl/podium/ai-biedt-kansen-in-de-

rechtspraak

Het gebruik van artificial intelligence brengt ook uitdagingen met zich mee: hoe ga je
bijvoorbeeld op een ethisch doordachte manier om met gevoelige data? En hoe voorkom je dat
data verkeerd geïnterpreteerd wordt door menselijke bias? Om de verantwoorde inzet van AI te
garanderen zijn er een aantal spelregels waar we ons aan moeten houden:

Volg heldere ethische richtlijnen

De Europese Commissie heeft in april 2019 een rapport uitgebracht met daarin ethische
richtlijnen voor betrouwbare AI. Zij noemen in hun rapport vier ethische beginselen die
ontwikkelaars en gebruikers van AI altijd moeten naleven: respect voor de menselijke
autonomie, het voorkomen van schade, verantwoording en rechtvaardigheid. Elke organisatie
die AI-instrumenten inzet in hun processen, zou soortgelijke ethische richtlijnen moeten
nastreven. Zorg er ten slotte voor dat iedereen in de organisatie bekend is met deze richtlijnen.

Wees bewust van de menselijke bias

Machines en algoritmes hebben in principe geen vooroordelen. Data wordt pas informatie
wanneer iets of iemand er betekenis aan hangt. In de meeste gevallen is dit een menselijke
actor en people are flawed. De grootste uitdaging is de menselijke bias: de cognitieve
vertekening van de mens achter het AI-instrument. De data kan verkeerd geïnterpreteerd
worden door bijvoorbeeld een confimation bias – wanneer een resultaat wordt geaccepteerd
omdat daarmee een eerdere overtuiging wordt bevestigd – en de beslissing is daarmee
ongegrond. Wees je bewust van de menselijke bias en corrigeer waar nodig.

Zorg dat de beslissingen herleidbaar en uitlegbaar zijn

Zeker in de rechtspraak is dit van groot belang: maak het altijd mogelijk om uit te leggen hoe
bepaalde beslissingen zijn genomen. Wanneer een rechter een uitspraak doet met behulp van
AI-instrumenten en algoritmes, moet het denkproces herleidbaar zijn en moeten de relevante
argumenten en data kunnen worden aangedragen. Dat is een uitgangspunt van de werkwijze:
het algoritme mag lerend zijn, maar de mens houdt toezicht.

Maak de data écht anoniem

Het anonimiseren van bijvoorbeeld uitspraken zal met de komst van AI steeds complexer
worden. Het is niet meer voldoende om alleen de naam van een gedaagde of verdachte te
verwijderen. Door het netwerk van allerlei systemen en het kunnen combineren van een
uitspraak met heel veel andere open data is er gemakkelijk achter te komen om welke persoon
en welke zaak het gaat, zelfs als de namen zijn verwijderd. Voor een buitenstaander mag de
data in zo’n geval niet herleidbaar zijn, dat is in strijd met de privacywetgeving. De
anonimisering van de data moet daarom heel goed ingericht worden.

Creëer continue feedbackcycli in de AI-instrumenten

Het incorporeren van feedbackcycli is een van groot belang voor elke AI-oplossing. Zonder de
mogelijkheid om continu te verbeteren, zullen gebruikers nooit volledig op de technologie
vertrouwen en zonder het vertrouwen zal het AI-instrument nooit het ware potentieel bereiken.
Het AI-instrument moet daarom in staat zijn om visueel bewijs te leveren van de data en het
proces, zodat de gebruiker kan corrigeren en verbeteren.

Deze (vijf) spelregels maken het mogelijk om op een praktische en verantwoorde manier
gebruik te maken van artificial intelligence binnen de rechtspraak.

Ondanks het feit dat er binnen de rechtspraak al geëxperimenteerd wordt met de inzet van AI-
instrumenten, lijkt het alsof er nog steeds organisaties en medewerkers zijn die wat angstig
tegenover dit onderwerp staan. Wat houdt die organisaties tegen om de innovaties te gaan
beproeven?

Implicaties van big data voor de rechterlijke macht

→ we zouden ook eventueel specifiek op de legitimiteit van een algoritme in de rechtspraak in kunnen
gaan?
-> is goed→ ja en juridisch gezien. Of AI juridisch gezien een optie is, en hoe dit zou kunnen werken en
wat de problemen hiervan zijn.

Ik probeer anders dit iets meer in de inleiding te behandelen.

Het belangrijkste stuk is denk ik het vierde stuk

4. een analyse van de probleemstelling en suggestie voor de oplossing/nader onderzoek; en

Voordelen en Nadelen
- Efficiënt en Toegankelijk
- Rechtvaardig en onpartijdigheid(onomkoopbaar)
- Duidelijk en transparant
- Maatschappelijk en vernieuwend
 Ethische Uitdagingen
- Bias
- Wie maakt het
- Verantwoordelijkheid

5. een conclusie/aanbeveling.
Conclusie

Het gebruik van nieuwe technologie brengt kansen en risico's met zich mee. En hoewel er al
veel gedacht wordt aan een volledig autonome robot rechter(judge AI), zijn er ook nu al opties
waarmee we onze rechtgevende macht kunnen verrijken. De eerste stap is al gezet om te de
rechtspraak te digitaliseren is er een mogelijkheid om sneller, efficiënter en misschien
rechtvaardig te werken met behulp van big data algoritmes. Het gebruik van algoritmes kan een
groot goed zijn voor onze rechtsspraak. Het is wel belangrijk dat hierbij gekeken wordt naar
enerzijds de innovatie en anderzijds het in stand houden van onze huidige waardes en
standaarden, en dus moet er zowel door juristen als informatici samen stappen gezet worden
met dit in gedachte. We moeten hierbij niet alleen denken aan welke systemen er ingezet
worden maar ook dat er duidelijke richtlijnen zijn, dat het transparant en uitlegbaar blijft, en dat
het kan blijven verbeteren. Hierbij is het ook belangrijk enerzijds dat we veilig met informatie
omgaan zodat gevoelige gegevens niet vrij komen, en anderzijds er nog steeds kan worden
gelet op de mogelijk discriminerende biases die kunnen ontstaan. Maar als allereerst is het
belangrijk dat rechtbanken openstaan voor de technologische verandering die niet alleen het
werk van rechters kan veranderen, maar die van het rechtssysteem en de plaats die rechters
hierin hebben.11

11 https://www.elgaronline.com/view/9781788978255.00005.xml
Judges and technology, blz 3 chapter 1 Tania Sourdin
Er wordt verwacht dat je voor het schrijven van de paper onderzoek verricht, met name ten
aanzien van elementen 3 en 4.

De paper is een wetenschappelijk onderzoek en moet inhoudelijk onderbouwd zijn met

voetnoten. Verwijzingen naar bronnen dienen de Kluwer Leidraad voor juridische auteurs te
volgen. Woordenaantal Het maximaal aantal te gebruiken woorden is 1.200 (exclusief voetnoten
en voorblad.

In voetnoten mag alleen naar relevante bronnen worden verwezen. Overschrijding van dit
woordenaantal leidt tot puntenaftrek. Inleveren De paper dient uiterlijk maandag 8 november
2021 om 16:59 uur te worden ingeleverd via Blackboard (zie de knop in de kolom links). Per
tweetal hoef je de paper slechts één keer te uploaden. Vermeld op het voorblad van de paper in
ieder geval beide namen en studentnummers. Beoordeling Studenten krijgen als tweetal één
beoordeling voor de paper. De paper wordt beoordeeld op: (I) inhoud; (II) argumentatie; (III)
conclusie; en (IV) taalbeheersing. Zoals vermeld, dient de paper inhoudelijk onderbouwd te zijn
met eigen onderzoek, blijkend uit een grondig notenapparaat.

https://pure.uvt.nl/ws/portalfiles/portal/11447494/
artikel_Themis_Digitalisering_binnen_de_rechtspraak.pdf

https://www.rechtspraak.nl/SiteCollectionDocuments/rechtstreeks-2019-02.pdf