De Universiteit Utrecht werkt op dit moment aan BIAS, wat staat voor beraadslagingsinstrument voor algoritmische systemen. Dit is een toolkit die is bedoeld om de ethische afwegingen en het verantwoordingsproces rondom algoritmen te stroomlijnen en te formaliseren. BIAS wordt onder meer in samenwerking met verschillende gemeenten ontwikkeld.
Samenleving
Volgens de onderzoekers zijn algoritmen niet meer weg te denken uit onze samenleving, en ook in de publieke sector maken ze een opmars. “Er wordt steeds vaker voorspeld, gecategoriseerd, geprofileerd, en/of automatisch besloten. Dat biedt grote kansen, maar brengt ook grote vraagstukken met zich mee: welke waarden en normen worden er impliciet in het systeem gebouwd? Hebben die een bepaalde (politieke) houdbaarheidsdatum? Hoe ga je om met derde partijen die voor de publieke sector een algoritme ontwerpen? Wie is wanneer verantwoordelijk als het systeem (niet) naar behoren werkt?” Om handen en voeten te geven aan deze – en nog veel andere – vragen, ontwikkelt de Universiteit Utrecht BIAS.
Promotieonderzoek
Het ontwikkelen van BIAS is onderdeel van het promotieonderzoek van Maranke Wieringa naar ‘Algorithmic Accountability’ in Nederlandse gemeenten. Zij houdt zich bezig met de manier waarop gemeenten nadenken over het inzichtelijk maken van algoritmes en de verantwoording daarover.
