Het College voor de Rechten van de Mens heeft opgeroepen tot een wettelijke verplichting voor de overheid om te melden wanneer ze algoritmes gebruikt bij de besluitvorming, en tevens om de werking van deze algoritmes in begrijpelijke taal uit te leggen. Het College stelt dat dit noodzakelijk is voor de bescherming van de rechten van burgers, gezien de groeiende invloed van algoritmes op overheidsbesluiten.
Algoritmes worden steeds vaker door de overheid gebruikt bij het nemen van beslissingen, bijvoorbeeld om te bepalen of iemand voldoet aan vergunningseisen of om het risico op overtredingen van burgers te voorspellen. Hoewel deze algoritmes zowel complex (zoals AI-toepassingen met zelflerend vermogen) als eenvoudig (zoals beslisbomen met toetscriteria) kunnen zijn, kunnen ze ook discrimineren. Dit gebeurt wanneer de voorwaarden en voorspellingen in het algoritme ontworpen zijn met vooroordelen over groepen mensen.
Bovendien, wanneer dergelijke beslissingen automatisch en op grote schaal worden genomen, wordt het effect van eventuele fouten of discriminatie in het algoritme exponentieel vergroot. Een andere uitdaging ligt in het feit dat burgers weliswaar bezwaar kunnen maken tegen een besluit, maar als zij niet weten dat het besluit deels is bepaald door een algoritme, is het moeilijk om zich tegen dat onderdeel te verweren. Dit geldt vooral wanneer het zonder technische kennis onduidelijk is hoe het algoritme heeft gewerkt, waardoor effectieve toegang tot het recht in de praktijk vaak moeilijk te realiseren is.
Het College stelt voor om overheden wettelijk te verplichten om het gebruik van algoritmes altijd te melden in besluitbrieven die burgers direct raken, en om het gebruik van het algoritme bovendien in begrijpelijke taal uit te leggen. In gevallen waarin het delen van informatie over hoe algoritmes werken risico’s kan opleveren – bijvoorbeeld wanneer algoritmes worden gebruikt voor fraudeopsporing – pleit het College voor een onafhankelijke beoordeling van het algoritme door een externe partij.
Het College stelt drie concrete maatregelen voor:
- Meld en verwijs naar het algoritmeregister: Het gebruik van algoritmes moet altijd gemeld worden in een besluit, waarbij een kenmerk van het gebruikte algoritme wordt opgenomen zodat het kan worden opgezocht in het algoritmeregister van de overheid.
- Leg het algoritme begrijpelijk uit in het besluit: De overheid moet uitleggen hoe het algoritme werkt zonder de burger te overladen met technische informatie.
- Neem de verplichting op transparantie op in de wet: De overheid moet nu al uitleggen waarom en hoe ze tot besluiten over burgers zijn gekomen. Het College stelt dat wanneer de overheid algoritmes gebruikt, het logisch is dat ook het algoritme wordt uitgelegd.
Deze maatregelen zouden, volgens het College, een cruciale stap zijn in het waarborgen van de rechten van burgers in een tijdperk waarin algoritmes een steeds grotere rol spelen in overheidsbeslissingen.
