The Hague Summit on Accountability in the Digital Age is een initiatief van I4ADA (Institute for Accountability in the Digital Age). Deze top van twee dagen staat in het teken van ‘accountablity’ en ‘hoe komen we aan goede regels voor AI en autonome systemen?’.
Er is lof voor de opzet van de Summit. “Vooral Frits Bussemaker, die deze top heeft georganiseerd, is een inspirator. Hij nodigt mensen uit, die vervolgens zelf een netwerk opbouwen” en “Het gezelschap, de panels, de ronde tafels, zie eens hoe divers de mensen en de opinies zijn!” zijn veelgehoorde opmerkingen.
Inclusiviteit
Cédric Wachholtz van UNESCO (Chief of Section for ICT in Education, Science and Culture) geeft wel meteen een waarschuwing: “We moeten altijd kijken wie er niet aan tafel zitten. Als we inclusiviteit nastreven onder het motto ‘Leave no one behind’, dan moet ook echt iedereen meedoen en gehoord worden. Leaving no one behind is een van de Sustainable Develeopment Goals, tenslotte.”
Overheden gebruiken AI
Een van de overheden die gebruikmaken van AI is de Gemeente Den Haag. Locoburgemeester Saskia Bruines vertelt dat Den Haag als Smart City een levend laboratorium is, waar ideeën worden geïmplementeerd. “Een bankje met een sensor, zodat we weten waar wandelaars op de boulevard van Scheveningen graag gaan zitten, sensors die het aantal vogels tellen en de realistisch uitziende huiskat-robot die een oudere gezelschap houdt.”
“Om deze zaken te laten werken, hebben we data nodig. De gemeente houdt zich strikt aan de privacy- en andere regelgeving én streeft naar maximale transparantie. We spelen een nieuwe rol in het leven van de burgers. Daarover moeten wij verantwoording afleggen, daarvoor zijn wij accountable.”, zegt Bruines.
Regulering van AI
Wachholtz (UNESCO) legt uit dat accountability gaat over ‘verantwoording afleggen over wat je doet en over wat je niet doet’. Het valt hem op dat de bedrijven zelf vragen om regulering van AI. “Regulering stimuleert de innovatie”, zegt Jaroslaw Ponder van ITU, en zonder (wereldwijde) standaarden en regels, “gaan we snel, maar komen we niet ver”.
Deze onderwerpen hebben een ethische dimensie. Nanjira Sambuli (WWW Foundation) analyseert: “Technologie wordt niet bedacht in een neutrale context en de investeerders in de tech-sector hebben een bepaalde intentie. Het internet is zelf niet ‘neutraal’, want het is duidelijk wie er niet van profiteren: bepaalde landen, gebieden. Bepaalde gemeenschappen hebben totaal geen invloed op wat er gebeurt. Diversiteit, inclusiviteit, Leaving no one behind. Dat moeten uitgangspunten zijn.”
John Higgens (Global Digital Foundation) zegt het ook: “De tech-reuzen waren niet uit op world domination. Dat ze zo groot zijn geworden, overvalt ze.” Kathalijne Buitenweg (Tweede Kamerlid) ziet dat de handelsakkoorden die in de wereld worden gesloten meer macht geven aan dit soort bedrijven dan aan regeringen. En kleine bedrijven worden opgekocht door de grotere, waardoor die steeds machtiger worden.
Strenge regels
Wachholtz (UNESCO) beschrijft dat de vooroordelen (bias) in de data versterkt worden als AI de data gebruikt voor een beslissing. De rechter die oordeelt over de vervroegde vrijlating van een gevangene (parole in de VS) is als mens misschien bevooroordeeld, maar wetenschappelijk onderzoek heeft aangetoond dat een AI-rechter bepaalde etnische groepen discrimineert. Dat betekent dat we strenge regels moeten hebben, om dit soort uitwassen te voorkomen. De maker van het AI-systeem moet het algoritme kunnen uitleggen (explainability), maar ook de dataverzameling moet transparant zijn (transparency).
Hoe maak je dan regels?
Volgens de Raad van Europa, bij monde van Clementina Barbaro (Committee on AI), vormen de mensenrechten een goed fundament van de regels: vrijheid van meningsuiting, respect voor het individu. Die regels zijn nodig, want AI “heeft geen idee van context, AI heeft zelf geen ethisch besef. We hebben mensen nodig om te begrijpen of de beslissing die AI neemt, de juiste is”, zegt Evert Haasdijk van Deloitte.
De dreigende misvatting is dat “de digitale wereld een aparte wereld is. In de digitale wereld gelden nog steeds de regels van menselijke waardigheid, mensenrechten, de wet”, aldus Peter Batt (Bondsministerie van Binnenlandse Zaken, Duitsland). “Er is één wereld.”
Waar zijn de regels voor nodig?
Professor Holger Hoos (Machine Learning, Universiteit Leiden): “AI is het geautomatiseerd nemen van beslissingen. De echte dreiging is dat mensen, met alle goede bedoelingen, een AI-systeem inzetten, terwijl ze geen idee hebben welke gevolgen dat heeft. Gevolgen die ze vervolgens niet begrijpen. AI-systemen moeten zodanig worden ontworpen dat ze te begrijpen zijn en dat ook de gevolgen begrijpelijk zijn.”
Daarom pleit de Raad van Europa certificering: hoe groter de impact van je systeem op de mensenrechten, des te meer je moet uitleggen waarom je dat AI-systeem wilt gebruiken. Stephen Ibaraki (REDDS) refereert aan de ‘contestability’: “Als AI een beslissing heeft genomen, moet je daar vragen over kunnen stellen, de beheersbaarheid van het systeem hangt daarvan af.”
Internationaal recht
Prof. Hoos ziet een oplossing: “We moeten AI zo bouwen dat AI zelf AI kan bouwen. Het gebrek aan AI-experts is dan opgelost. AI is veel nauwkeuriger dan een mens, en kan ons uitleggen wat de gevolgen zijn van AI. En het is contestable. AI geeft de tools om de AI-beslissingen te analyseren. De ethische beslissingen die een mens neemt, zijn echt minder precies en moeilijk te analyseren.”
Het internationaal recht is van toepassing op het internet. Staten kunnen ter verantwoording worden geroepen. Een staat gaat volgens Pavan Duggal (advocaat bij het Supreme Court van India) nog verder: “Rusland wil een eigen internet, het RUnet invoeren. Dat is ook een manier om alles als staat te reguleren en controleren. Dat is geen wereldwijde oplossing.”
Het einde van de zelfegulering
Bedrijven vragen regulering om te weten wat ze wel en niet mogen doen. Zelfregulering is niet voldoende gebleken. Niet alleen willen ze de aansprakelijkheid goed regelen (wie is er verantwoordelijk voor een incident met AI), maar ook willen de bedrijven weten of ze überhaupt op de goede weg zitten.
Alle stakeholders moeten hun inbreng hebben in de ontwikkeling van de regels (omni-stakeholderbenadering, Leave no one behind). Het idee van een impact assessment, de maker/gebruiker van AI aangeeft welke impact zijn systeem heeft, bijvoorbeeld op de samenleving (‘social impact’) en een certificering wordt positief ontvangen.
De handhaving en bestraffing van fouten moeten duidelijk worden belegd, bijvoorbeeld bij een overheidsinstantie. Nu hangt een beslissing af van de rechter, en de beslissingen kunnen heel verschillend zijn. De tijd van zelfregulering van de bedrijven is voorbij. Ze willen weten waar ze aan toe zijn. De internationale gemeenschap, de regio’s, de overheden moeten snel gehoor geven aan de roep om regels.
Leven en dood
Volgens Paul Timmer (Oxford University) is de gezondheidszorg een inspiratiebron, want “daar worden iedere dag ethische beslissingen genomen, beslissingen die gaan over leven en dood.” In verschillende sectoren worden regels opgesteld: regels voor het gebruik van data door politie en justitie, voor autonome systemen, voor de bescherming van persoonsgegevens.
“We hoeven niet vanaf nul te beginnen” zeggen velen, en de Raad van Europa ziet een raamwerk van eenvoudige principes en minimumregels dat aan de 47 lidstaten kan worden opgelegd. Dat is niet juridisch bindend. De Europese Richtlijn Databescherming (GDPR) is volgens de deelnemers aan de Summit een goed voorbeeld: de regels hebben de innovatie niet gehinderd, maar juist gestimuleerd.
