De gemeente Amsterdam heeft samen met de Vrije Universiteit (VU) en de Universiteit van Amsterdam (UvA) het Civic AI Lab (CAIL) geopend. Het college heeft ingestemd met een subsidie van 400.000 euro voor de komende vier jaar. De VU draagt 900.000 euro bij aan financiering en de UvA 1,5 miljoen euro. In het lab gaan vijf onderzoekers promoveren op de toepassing van Artificial Intelligence op het gebied van onderwijs, welzijn, omgeving, mobiliteit en gezondheid. Het lab maakt deel uit van het Innovation Center for Artificial Intelligence (ICAI) op het Science Park.
AI
AI-technologie speelt een steeds grotere rol in onze samenleving. Bedrijven zetten deze technologie bijvoorbeeld in om hun productieprocessen te verbeteren, om sollicitanten te selecteren en om gezondheidsdata te analyseren. In de coronacrisis helpt AI bij het zichtbaar maken van het verloop van de pandemie. Zo gebruikt het Amsterdam UMC een algoritme om de verspreiding van corona in Nederland in kaart te brengen.
Nadelen AI
Er kleven ook nadelen aan de inzet van AI. Beeldherkenningssystemen worden bijvoorbeeld getraind met foto’s van mensen met een lichte huidskleur, en herkennen daardoor mensen met een donkere huidskleur minder goed. Ook werken verzekeraars met rekenmodellen waarin postcodes worden aangemerkt waar meer risico is op inbraak. Deze modellen resulteren vervolgens in een hogere premie voor de inwoners van deze wijken. Dit vergroot de ongelijkheid in de stad.
Spanningsvelden
Met het Civic AI Lab wil de gemeente deze spanningsvelden onderzoeken, zodat AI in de toekomst gelijkheid en eerlijke kansen bevordert en de negatieve effecten van AI worden ondervangen. Wethouder Touria Meliani (Digitale Stad): “Het is de ambitie van de stad Amsterdam om leidend te zijn in het gebruik van Artificial Intelligence en de ethische toepassing daarvan. Technologie en AI brengen ons veel, maar kunnen er ook voor zorgen dat basisrechten als privacy, vrijheid van meningsuiting en rechtsgelijkheid onder druk komen te staan. Deze rechten wil de gemeente Amsterdam zo goed mogelijk beschermen. Het Civic AI Lab moet daaraan bijdragen.”
Algoritmen
Wethouder Victor Everhardt (Economische Zaken): “In het lab worden bijvoorbeeld algoritmen ontwikkeld die datastromen rondom geboorte- en jeugdgezondheidszorg op een verantwoorde manier samenbrengen, zodat we er voorspellende factoren uit kunnen halen. Ook worden er modellen ontwikkeld voor een goede en eerlijke verdeling van financiën over leerlingen en scholen. Ik zie Artificial Intelligence als dé wetenschap van de toekomst, maar er zitten ook risico’s aan. Daarom is het zo belangrijk dat in het lab ook ethische vraagstukken worden onderzocht.”
Promovendi
In het Civic AI Lab zullen vijf promovendi onderzoek doen naar AI-vraagstukken op de onderwerpen onderwijs, welzijn, omgeving, mobiliteit en gezondheid. Wetenschappelijk directeur Sennay Ghebreab (UvA): “Op deze vijf onderwerpen zal het lab AI-technologie ontwikkelen voor het zichtbaar maken van kansenongelijkheid in de samenleving door AI, én AI inzetten om het handelingsperspectief op kansenongelijkheid te vergoten.” Het lab dient verder als een informatiepunt voor bewoners en ondernemers met vragen over nieuwe technologieën en het ethisch en inclusief gebruik ervan. Het lab moet bewoners bewust maken van de kansen en risico’s van AI.
