Vanaf deze maand treden nieuwe bepalingen van de Artificial Intelligence Act (AI Act) van de Europese Unie in werking, specifiek gericht op AI-systemen die worden geclassificeerd als een “onaanvaardbaar risico”. Deze maatregelen zijn bedoeld om de fundamentele rechten te beschermen en ethische normen te waarborgen bij de ontwikkeling en inzet van AI-technologieën in de lidstaten.
Verboden AI-systemen
Volgens de AI Act is het verboden om systemen die als onaanvaardbaar risico worden beschouwd, aan te bieden of te gebruiken binnen de EU. De verboden systemen en toepassingen zijn onder andere:
- Sociale score-systemen: AI die individuen beoordeelt op basis van sociaal gedrag of persoonlijke kenmerken, met het risico op discriminerende uitkomsten.
- Predictieve politietechnologie: Systemen die zijn ontworpen om te beoordelen of te voorspellen of iemand strafbare feiten zal plegen, wat vragen oproept over vooringenomenheid en burgerrechten.
- Gezichtsherkenningsdatabases: Het creëren of uitbreiden van gezichtsherkenningsdatabases via datamining (data scraping) is strikt verboden.
- Manipulatieve technologieën: AI-systemen die zijn bedoeld om mensen te manipuleren of te misleiden, wat inbreuk maakt op de autonomie en vrijheid van keuze.
- Emotieherkenning in gevoelige contexten: Het gebruik van technologie voor emotieherkenning op de werkvloer en in onderwijsinstellingen is verboden vanwege zorgen over privacy en psychologisch welzijn.
- Biometrische identificatie op afstand voor wetshandhaving: Dit is in principe verboden, maar er gelden uitzonderingen onder strikte, gereguleerde omstandigheden.
Uitzonderingen
Ondanks deze beperkingen staan de regels bepaalde uitzonderingen toe, met name voor biometrische categorisatie. In specifieke gevallen mogen AI-systemen personen classificeren op basis van biometrische gegevens, mits strikte ethische en juridische richtlijnen worden nageleefd. Organisaties die AI-technologieën ontwikkelen of inzetten binnen de EU moeten voldoen aan deze nieuwe regelgeving. Niet-naleving kan leiden tot aanzienlijke boetes, wat het belang benadrukt van een sterke governance en ethisch toezicht bij AI-projecten. De invoering van deze regels maakt deel uit van de bredere EU-strategie om een veilige, transparante en rechtenrespecterende AI-omgeving te creëren.
