Het algoritme dat de reclassering gebruikt om de kans op herhaling bij verdachten en daders te voorspellen doet geen correcte voorspellingen en discrimineert mogelijk. Daarvoor waarschuwt de Inspectie van Justitie en Veiligheid donderdag. De reclassering is hier in 2020 ook al voor gewaarschuwd maar heeft niets met die waarschuwingen gedaan. In reactie op het onderzoek van de Inspectie laat de reclassering nu weten tijdelijk te stoppen met het gebruik van het algoritme en ‘verbetermaatregelen’ door te voeren.

De reclassering adviseert het OM en de rechter over de kans dat een verdachte of veroordeelde opnieuw de fout in gaat. Dit advies speelt een belangrijke rol in de beslissing om verdachten langer in voorarrest te houden, een gevangenisstraf op te leggen of gedetineerden juist vervroegd vrij te laten. De reclassering maakt hierbij sinds 2018 altijd gebruik van een algoritme, een zogeheten risicotaxatie-instrument, dat een voorspelling doet over de kans dat iemand weer een delict begaat. Jaarlijks gebruikt de reclassering het algoritme bij meer dan 40.000 zaken.

Maar bij de invoering van dit instrument, de OxRec, maakte de reclassering grote fouten, blijkt uit het onderzoek van de Inspectie. De reclassering verwisselde formules en gebruikte verkeerde getallen, waardoor het algoritme nooit goede voorspellingen heeft gedaan. Met name bij mensen met drugsproblematiek of ernstige psychische aandoeningen zoals een psychose is het herhalingsrisico hierdoor te laag ingeschat. Verdachten die in afwachting van hun proces al werden vastgezet, kregen juist een te hoog herhalingsrisico. Dit kan er mogelijk voor zorgen dat verdachten te snel in voorarrest worden geplaatst.

Daarbij werkt het algoritme mogelijk discriminerend. Het instrument bestaat uit twaalf vragen over onder meer iemands strafblad, opleidingsniveau, inkomen en de armoedescore van de wijk waarin degene woont. Daaruit komt dan een zogenoemde recidivescore. Arme verdachten of veroordeelden krijgen bijvoorbeeld automatisch een hoger herhalingsrisico. Maar dat mag niet. Twee vragen, over iemands inkomen en de armoedescore van de wijk, zijn verboden door het College van de Rechten van de Mens wegens discriminatie.

Daarnaast voldoet het instrument ook niet aan de privacywet AVG, aan de wettelijke vereisten voor AI-systemen en heeft de reclassering nog geen maatregelen getroffen om hieraan te voldoen, stelt de Inspectie.

Hoogleraar Juridische AI Gijs van Dijck was in 2020 al zeer kritisch op het gebruik van het instrument en waarschuwde voor etnisch profileren. Vervolgens heeft de Reclassering ‘geen stappen ondernomen om discriminatie door de algoritmes te voorkomen, te meten of te verminderen’, schrijft de Inspectie. Zo is er geen mensenrechtentoets en verplichte privacytoets uitgevoerd en is niet onderzocht of er sprake is van etnisch profileren.

Afgelopen december deed Investico samen met NOS op 3 en De Groene Amsterdammer onderzoek naar de toepassing van voorlopige hechtenis. Hieruit bleek onder meer dat Nederland relatief vaak en lang verdachten gevangen zet in afwachting van hun proces. Het advies van de reclassering speelt een belangrijke rol in het besluit van de rechter om een verdachte (langer) vast te houden, vertelden rechters tijdens ons onderzoek.

Op onze vraag in december waarom de reclassering het algoritme na de kritiek van hoogleraar Van Dijck nog gebruikt, antwoordde de reclassering dat het voorspellingsmodel slechts een deel is van de volledige beoordeling. De reclassering benadrukte afgelopen december nog dat het niet etnisch profileert, omdat ‘etniciteit of migratieachtergrond’ niet rechtstreeks in het model zijn opgenomen. Dat is opmerkelijk omdat de reclassering op dat moment al op de hoogte was gebracht van de bevindingen van de Inspectie.

Nu schrijft de reclassering in een reactie dat ze dachten ‘voldoende wetenschappelijke onderbouwing’ te hebben om de vragen over de buurt en inkomen wel te gebruiken. ‘De bevindingen van de Inspectie hebben ons doen inzien dat we dit toch nader moeten onderzoeken. We willen er zeker van zijn dat deze elementen niet een indirect discriminerend effect hebben. De uitkomsten hiervan nemen we mee in de verbetermaatregelen’, schrijft de reclassering.