Vorige week presenteerde de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) een rapport waarin dit adviesorgaan onder meer waarschuwde dat Nederland onvoldoende is voorbereid op de impact die AI zal hebben op onze maatschappij. Tijdens de presentatie van dit rapport was een van de sprekers Michiel Steltman, directeur van de Stichting Digitale Infrastructuur Nederland (DINL). Hieronder volgt de tekst van zijn bij die gelegenheid gesproken column.
Mijn eerste kennismaking met AI was al begin jaren 80, in de collegebanken van de Tu Delft. Mijn hoogleraar Jaap van den Herik voorspelde toen dat de computer binnen enkele jaren de beste schaker zou verslaan. Zulke voorspellingen kwamen in die tijd nog niet zo snel uit als nu, pas in 1997 versloeg IBM’s Big Blue de toenmalige wereldkampioen Gary Kasparov.
Enkele jaren later kwam ik de technologie weer tegen. Als CTO van een hosting startup gebruikte ik rond de eeuwwisseling AI voor spam detectie, dat zorgt dat rare mails vanzelf in uw “ongewenste email” bakje worden geplaatst. Dat komt straks nog van pas bij detectie van ongewenste zaken op Internet, maar daar spreek ik graag met u een andere keer over.
Doorbraak
AI bestaat dus al een tijdje. Maar breekt nu pas echt door. Dat komt door de Cloud. Als je iets met AI wilt doen, dan kan dat vandaag de dag eigenlijk alleen met de AI diensten van Microsoft, Amazon, Google of IBM. In een paar uur en voor een paar centen klik je daar een systeem bij elkaar voor, bijvoorbeeld, gezichtsherkenning.
Context
AI staat dus niet op zich. Het komt pas tot z’n recht in een context, zegt de WRR in het rapport. Dat gaat om condities om AI toepassingen mogelijk te maken en om de risico’s te beheersen. Ik noemde net al een van die condities, de Cloud. En daarmee komt ook de hele kwestie van soevereiniteit en autonomie op tafel, want van wie is die Cloud, en waar staat die data, wat gebeurt daarmee, hoe zit dat met onze privacy.
Ecosysteem
En die Cloud, dat is geen los ding, die bestaat ook weer uit allerlei verbindingen, datacenters, masten, 5G met allemaal weer aparte bedrijven. Een geolied machientje, een ecosysteem. Voor ecosystemen geldt de wet van von Liebich, dat was een bioloog. Hij liet zien dat de kleinste groeifactor de gezondheid van dat geheel bepaalt. Een plant die te weinig zonlicht krijgt kan je nog zoveel water of mest geven, groeien doet die niet.
Je kunt al die context dus best aan de markt overlaten. Maar omdat je economische toekomst en er van af hangt moet je dan wel zeker weten dat die markt optimaal functioneert en dat alle wieltjes en radertjes even hard blijven draaien. En daar is nog best wat werk aan de winkel. Bijvoorbeeld, het blind stimuleren van AI zonder dat we beschikken over alternatieven voor de diensten van Big Tech maakt ons nog afhankelijker van die partijen. En de data waar we AI op loslaten willen we liefst dichtbij ons houden, maar de datacentra waarin die data staat willen we dan weer verbannen naar een ver land. En zo zijn er nog wel wat van die problemen op te lossen.
Risico’s
En dan zijn er de risico’s. De EU heeft zich er over gebogen en zegt let op bij inzet voor AI bij geautomatiseerde besluitvorming die impact heeft op de persoonlijke levenssfeer of de veiligheid. Een mooie, heldere afbakening. Voor de rest kan je gewoon AI gebruiken, geen probleem. Maar voor toepassingen met die risico’s kan je niet zeggen: nou, succes ermee, maar let op, hier zijn wat ethische regels, die moet je wel hanteren. En een boete uitdelen als het mis gaat, tenminste als je genoeg tijd en mensen hebt om uit te zoeken wat er mis ging.
Want wat heb je als burger aan een register of transparantie als je weet waarom je onterecht op een lijst bent gezet, terwijl wel je uitkering is stopgezet. Wat schiet je er mee op, als de overheid achteraf een standje en een boete krijgt, terwijl jij al uit je huis bent gezet. We moeten dus ook ex-ante reguleren, zorgen dat zulke dingen niet mis kunnen gaan.
Reguleringscontext
Hoe moet dat dan wel? Stef Blok gebruikte in zijn speech dat voorbeeld: de luchtvaart. Ik heb ooit mijn vliegbrevet gehaald en neem die lessen nog altijd mee. Ook daar zouden we het niet voldoende vinden als we alleen wat regels zouden maken waar KLM zich aan moet houden en boetes uitdelen als het mis gaat. Dat hebben we veel beter aangepakt. We hebben voor die systeemtechnologie, mobiliteit, een forse reguleringscontext ingericht. Met opleidingen, keuringen, certificeringen, normen, brevetten, rijbewijzen, wegen, de Rijksluchtvaartdienst, de luchtverkeersleiding. Met een compleet ministerie die dat regelt. Die context, dat stelsel, is niet iets wat we op termijn nog wel door schade en schande zullen leren. Dat moet op tijd klaar zijn om grote ongelukken te voorkomen.
WGS
En daarom moet ik u als politiek nu toch even streng gaan toespreken.
Het is toch raar, dat u de overheid nu al weer ruime bevoegdheden geeft die deze enorme risico’s in volle omvang in zich dragen, zonder dat er nog maar een begin met die contextualisering is gemaakt. Ik spreek over de WGS, beter bekend als de datakoppelwet.
Ik vind dat een beetje als een puber die net met z’n scooter grote brokken heeft gemaakt, zonder rijbewijs in een Ferrari zetten, en zeggen “nou deze keer beter oppassen he? En hier is een lijstje met ethische dingen waar je op moet letten.”
Regie
Daarmee kom ik dan op het punt van Regie. Wie gaat dat allemaal regelen? De gezondheid van dat digitale ecosysteem, die infra, die samenhang, die reguleringscontext? Juist, dat bent u ook. Ik heb met u te doen. Wij verzinnen als bedrijven en wetenschap die nieuwe technologie, en u zit met een berg nieuwe zorgen. Maar goed ik probeer te helpen.
Ik mocht in mei bij Mariette Hamer aanschuiven toen zij onderzocht hoe we de transitie herstel aan moeten pakken. Ik heb daar gepleit voor 2 van die regie instrumenten.
Digitale SER
Ten eerste een SER voor digitaliseringskwesties. Want er is hier een structurele spanning tussen economische belangen, de rechten en belangen van burgers, en de belangen van de samenleving als geheel. Een raad naar model van het SER met vertegenwoordigers uit bedrijfsleven, maatschappelijke organisaties en overheid zou adviezen kunnen geven aan de regering.
Model Financien
En precies datzelfde punt, die waardenspanning, die complexiteit, maakt dat je voor dit soort complexe kwesties ook stevige regie nodig hebt. Dit wordt zelfs een maatje te groot voor een onderraad die moet afstemmen met maar liefst 13 betrokken departementen, en een voorzitter die de klus er even bij moet doen. Daarom heb ik bij de informateur ook gepleit voor regie naar het model van financiën: elk departement doet zijn eigen financiën, maar er is ook een bewindspersoon met voldoende mandaat en tijd om die samenhang te bewaken, kaders te zetten en de noodzakelijke contexten op te tuigen.
Afsluiting
Als bedrijfsleven hebben we de gewoonte dat we in eigen kring roepen dat onze problemen moeten worden opgelost door iemand die niet in de zaal zit: dat is steevast de overheid. Maar deze keer mag ik hier in deze zaal in volle overtuiging roepen dat u als politiek en bestuur, ik veeg het voor het gemak even op 1 hoop, toch echt aan de bak moet met deze materie.
Ik wens u wijsheid en sterkte, en vooral ook daadkracht. Ik ben hier om u te helpen, in privaat publieke samenwerkingsverbanden, en ook samen met het ECP.
