De Algemene Rekenkamer wil meer controle op algoritmen die worden gebruikt door de overheid. Daarvoor heeft de Rekenkamer een toetsingskader gepresenteerd waar nadrukkelijk ook de ethische component in is opgenomen. Volgens de opstellers verdienen de vragen van bezorgde burgers over de toepassing van algoritmen meer aandacht dan ze nu krijgen van de overheid.
Volgens de Rekenkamer raakt het gebruik van algoritmen steeds meer de belangen van burgers en bedrijven. Op dit moment gaat het nog om eenvoudige algoritmes in processen voor bedrijfsvoering of dienstverlening, zoals het geautomatiseerd versturen van antwoordbrieven of een eerste selectie voor uitkeringen.
Zelflerend
Maar er zijn ook gevallen waarbij de rijksoverheid innovatieve algoritmes inzet, al dan niet met gebruik van artificiële intelligentie. Ministeries en uitvoeringsorganisaties als UWV en Sociale Verzekeringsbank hebben de onderzoekers tientallen algoritmes aangereikt. Volledig zelflerende algoritmes (die beleid uitvoeren zonder tussenkomst van een mens) heeft de Algemene Rekenkamer daar niet bij aangetroffen.
Zorgen
De Rekenkamer constateert dat er zorgen zijn in de samenleving bestaan zorgen over het gebruik van algoritmes. Bij algoritmes staat niet de burger, maar de overheid centraal. Er is bij de overheid oog voor de privacy van burgers, maar ethische aspecten krijgen weinig aandacht. Daartoe behoren dat algoritmes niet discrimineren, rekening houden met diversiteit van de bevolking en controleerbaar zijn door menselijke tussenkomst.
Begrijpen
Burgers moeten het gebruik en de werking van een algoritme kunnen begrijpen. Ook moeten zij weten waar zij terecht kunnen met vragen of bezwaren. Zorgen of twijfels over algoritmes verdienen serieuze aandacht. Een algoritme is niet risicoloos. Verkeerd gebruik van een dataverzameling kan een discriminerende werking hebben als deze vooroordelen bevat. Zo vonniste vorig jaar een rechter dat het door overheden voor uitkeringsdoelen gebruikte systeem Syri discriminerend werkt, waarop het gebruik werd stopgezet.
Leveranciers
De overheid kan bij de inzet van algoritmes afhankelijk worden van externe leveranciers (eigendomsrecht, verwerking persoonsgegevens). De overheid dient data voldoende te beveiligen (sabotage, spionage en criminaliteit voorkomen), beheer en onderhoud van algoritmes moeten op orde zijn.
