De Autoriteit Persoonsgegevens (AP) en de Rijksinspectie Digitale Infrastructuur (RDI) hebben aanbevolen dat samenwerking tussen toezichthouders essentieel is voor het toezicht op kunstmatige intelligentie (AI). In hun advies aan het kabinet benadrukken zij de noodzaak van duidelijkheid over welke instanties verantwoordelijk zullen zijn voor de verschillende aspecten van AI-toezicht, vooral omdat de eerste onderdelen van de nieuwe Europese AI-verordening begin 2025 van kracht worden.
De AP en de RDI benadrukken het belang van tijdige beschikbaarheid van voldoende budget en personeel voor alle betrokken toezichthouders, zodat zij tijdig kunnen beginnen met hun taken, zoals voorlichting en handhaving. Dit advies is opgesteld in samenwerking met 20 andere toezichthouders die mogelijk een rol zullen spelen in het toezicht op AI. Nederlandse toezichthouders bereiden zich al meer dan een jaar gezamenlijk voor op dit nieuwe AI-toezicht.
Vorige maand hebben Europese ministers ingestemd met de AI-verordening, de eerste uitgebreide wet over kunstmatige intelligentie ter wereld. De verordening stelt dat AI-systemen met een hoog risico alleen mogen worden aangeboden en gebruikt als ze voldoen aan strenge producteisen en een CE-markering krijgen, vergelijkbaar met de vereisten voor liften, mobiele telefoons en speelgoed.
De AP en de RDI adviseren dat het toezicht op AI in de verschillende sectoren zoveel mogelijk moet aansluiten bij het reguliere toezicht dat al bestaat. Zo zal de Nederlandse Voedsel- en Warenautoriteit (NVWA) bijvoorbeeld speelgoed blijven keuren, ook als er AI in verwerkt zit, en zal de Inspectie Gezondheidszorg en Jeugd (IGJ) toezicht houden op AI in medische apparaten.
Angeline van Dijk, inspecteur-generaal van de RDI, verklaarde dat samenwerking de sleutel is voor kennisconcentratie en coördinatie in uitvoering. Effectief toezicht met oog voor innovatie kan alleen ontstaan als betrokken toezichthouders samenwerken met de ontwikkelaars en gebruikers van risicovolle AI. Bedrijven en organisaties kunnen samen met de RDI verkennen of ze aan AI-regelgeving moeten voldoen en hoe ze dat kunnen realiseren. De inzet van de RDI bij de regulatory sandboxes, een soort broedplaatsen voor verantwoorde AI-toepassingen, is hiervan een uitstekend voorbeeld. Dit advies is daarbij een belangrijke mijlpaal.
Voor AI-toepassingen met een hoog risico waarvoor nu nog geen CE-markering verplicht is, moet het toezicht grotendeels bij de AP komen te liggen als aanvulling op het sectorale toezicht, stellen de toezichthouders. Dit geldt ongeacht de sector waarin die systemen worden ingezet, zoals onderwijs, migratie, werkgelegenheid of rechtshandhaving. De AP zou hier de zogeheten ‘markttoezichthouder’ moeten zijn.
AP-voorzitter Aleid Wolfsen verklaarde dat de markttoezichthouder erop zal toezien dat AI-systemen die op de markt worden gebracht, voldoen aan eisen op het gebied van bijvoorbeeld AI-training, transparantie en menselijke controle. Dit vereist veel specialistische kennis en kunde, en het is efficiënt als die gebundeld is. Belangrijk is ook dat de AP dan het overzicht heeft, aangezien bedrijven die dergelijke AI ontwikkelen dit vaak niet alleen voor één sector doen. Samenwerking met sectorale toezichthouders is cruciaal, want zij hebben goed zicht op AI-gebruik in bijvoorbeeld het onderwijs of door werkgevers. De AP gaat snel aan de slag om die samenwerking op te zetten.
De toezichthouders stellen twee uitzonderingen voor: wat betreft de financiële sector zullen de Autoriteit Financiële Markten (AFM) en De Nederlandsche Bank (DNB) het markttoezicht op zich nemen, en de Inspectie Leefomgeving en Transport (ILT) en de RDI voor de kritieke infrastructuur. Verder moet het markttoezicht op AI-systemen die worden gebruikt ten behoeve van de rechtspraak zodanig vorm krijgen dat de onafhankelijkheid van rechterlijke autoriteiten is gewaarborgd.
Het is belangrijk dat niet alleen in Nederland, maar ook in andere lidstaten snel toezichthouders worden aangewezen. Voor grensoverschrijdende en grote AI-systemen moet namelijk worden samengewerkt tussen toezichthouders uit de verschillende lidstaten en met het nieuwe Europese AI Office dat toezicht gaat houden op grote AI-modellen zoals ChatGPT.
Op korte termijn moeten een aantal zaken geregeld worden, zoals het benoemen van de grondrechtentoezichthouders, een rol die de toezichthouders voorzien voor het College voor de Rechten van de Mens (CRM) en de AP. Ook moeten de instanties die worden aangewezen om te beoordelen of AI-systemen aan Europese standaarden voldoen, snel worden aangewezen. De toezichthouders vragen het kabinet snel te besluiten deze toezichthouders aan te wijzen, zodat zij op tijd kunnen starten met voorlichting, handhaving en praktische voorbereiding op deze nieuwe taken. Het verbod op sommige vormen van AI zal waarschijnlijk al in januari 2025 van toepassing zijn. De toezichthouders stellen voor dat de AP verantwoordelijk wordt voor het toezicht op deze verboden.
