KPN maakt voor een breed scala aan toepassingen gebruik van AI. Naast technische aspecten spelen ook ethische overwegingen een belangrijke rol bij de vraag waar en hoe AI een rol kan spelen. Dit is het thema van de presentatie die Lienke Vet gaf tijdens Hyperautomation 2024. Mediapartner Rocking Robots sprak met haar over de uitdagingen van verantwoord inzetten van AI.
“Er wordt veel gesproken over de mogelijkheden en kansen van AI, maar het is ook belangrijk om de beperkingen van de technologie te begrijpen”, zegt Lienke Vet, AI Governance Lead bij KPN, “vooral als je dit op grote schaal doet, zoals bij geautomatiseerd beslissingen nemen.”
Zij is binnen haar organisatie verantwoordelijk voor het vaststellen van kaders voor het gebruik van AI. Dit wordt binnen KPN breed ingezet, nauw gekoppeld aan de strategie van KPN. Een focuspunt van KPN is de uitrol van glasvezel, waarbij modellen de optimale uitrol berekenen. Die modellen kunnen zelflerend zijn of meer gericht op optimalisatie.
AI zorgt er ook voor dat het netwerk optimaal functioneert, en het verbetert de klantenservice door gepersonaliseerd aanbiedingen te doen of service te verlenen op basis van eerdere storingen. En zoals bij ieder bedrijf wordt AI gebruikt voor interne bedrijfsprocessen.
Innovatie
Vet: “Het is belangrijk de balans te vinden tussen innovatie en ethiek. Daarvoor is een strategie nodig die eerst de waarde van AI bepaalt, vooral als antwoord op de vraag op welke manier je AI inricht. Onze aanpak begint op het hoogste niveau: de Raad van Bestuur heeft de kaders goedgekeurd omdat ze dit belangrijk vinden, dat is weer mandaat.”
“Door mijn nauwe contact met de AI-teams kan ik goed uitleggen waarom bepaalde ethische overwegingen belangrijk zijn, in combinatie met technische uitvoerbaarheid, zoals het verschil tussen een model dat werkt en een model dat blijft werken.”
“Want als een model niet werkt kan het proces daardoor in gevaar komen. Het is dus essentieel om robuuste modellen te hebben die compliant zijn en op een dusdanige manier gebouwd zijn dat ze blijven functioneren. Dit vereist een veel samenwerking en voortdurende dialoog met de teams die de modellen ontwikkelen. We zitten dicht op het vuur en ontwikkelen samen methodes om de risico’s en speelruimtes te identificeren en te beheren.”
Wetgeving
“In plaats van een proces volledig te stoppen bij het zien van een risico, onderzoeken we wat er wel mogelijk is en maken we duidelijke afspraken over de grenzen. Maar wanneer er significante risico’s zijn die onze medewerkers of klanten direct kunnen raken, dan moeten we stevig ingrijpen. Wetgeving is er niet voor niets; AI heeft een enorme impact en dat moet serieus genomen worden.”
“De discussies die we voeren zijn dus gericht op het zorgen voor een balans tussen innovatie en compliance, het minimaliseren van risico’s terwijl we toch vooruitgang boeken, en de vraag hoe we de meest kritieke aspecten van ons werk kunnen afstemmen met de bredere bedrijfsstrategie. Dit alles is er uiteindelijk op gericht om ervoor te zorgen dat we verantwoordelijk blijven handelen in het belang van onze klanten en werknemers.”
Haar interne doelgroep bestaat dan ook niet alleen uit technici, die de basisbeginselen van AI al begrijpen, maar een breder publiek binnen de organisatie. “Dit is een teken van een nieuwe volwassenheidsfase: we zijn overgegaan van het simpelweg implementeren van modellen naar het op schaal toepassen, wat een andere aanpak vereist. Dit is een positieve ontwikkeling, maar het brengt ook uitdagingen met zich mee, zoals het stellen van de juiste vragen aan leveranciers en het beoordelen van de toegevoegde waarde van AI ten opzichte van de mogelijke risico’s.”
Generatieve AI
Uiteraard heeft de opkomst van generatieve technologieën ook impact op haar werk. “Vroeger was er meer technische kennis nodig om een model te maken en te implementeren, maar tegenwoordig kan iedereen met een internetverbinding experimenten uitvoeren met AI. Dit democratiseert de technologie, wat goed is omdat AI uiteindelijk deel zal uitmaken van alle processen om ons heen.”
“Echter, dit brengt ook nieuwe risico’s met zich mee, zoals datalekken en de neiging van modellen om ’te hallucineren’, of vooroordelen te vertonen. Dit kan leiden tot stereotyperingen, wat een duidelijk risico van bias in AI-toepassingen illustreert. Het is belangrijk dat we deze risico’s herkennen en aanpakken in onze AI-strategieën en kaders.”
Bekwaam
De menselijke factor mag volgens haar niet onderschat worden. “AI is een krachtige technologie in deze snel evoluerende digitale wereld. Het gaat er niet alleen om dat mensen daarin technisch bekwaam zijn, maar vooral dat ze begrijpen wat AI is en hoe het werkt, zodat ze de technologie verantwoord kunnen gebruiken. Dit betekent dat iedereen in een organisatie moet begrijpen hoe AI beslissingen maakt of adviezen genereert, en kritisch moet kunnen nadenken over de uitkomsten ervan.”
“Op mijn wensenlijst staat dan ook dat iedereen binnen de organisatie getraind en opgeleid wordt in ‘AI-geletterdheid’. Dit hoeft echt niet te betekenen dat iedereen een technisch expert wordt, maar wel dat men zich bewust is van de werking en implicaties van AI. Wanneer iemand bijvoorbeeld interactie heeft met een AI-gestuurde chatbot, moet diegene kunnen overwegen: is deze informatie betrouwbaar? Op welke data is dit gebaseerd? Wat betekent dit voor mijn beslissing? Dit helpt niet alleen bij het maken van geïnformeerde beslissingen, maar stimuleert ook het kritisch denken over en het geven van feedback op AI-systemen.”
Security
Een ander belangrijk aspect is het veilig gebruik van AI. “Ik pleit voor het gebruik van veilige, alternatieve datasets die geen gevoelige informatie bevatten, wat ook een leerproces is voor de gebruikers. Ze leren hoe belangrijk het is om de juiste vragen te stellen en hoe ze input voor AI kunnen optimaliseren om betere en veiligere uitkomsten te genereren.”
“Door deze aanpak bevorderen we een cultuur waarin AI niet alleen wordt gezien als een tool voor efficiëntie, maar ook als een gebied waarop bewustzijn en begrip essentieel zijn voor veilig en effectief gebruik. Dit sluit aan bij het idee van AI-geletterdheid als een nieuwe vorm van basiskennis die net zo belangrijk is als het kunnen lezen en schrijven.”
