Toepassingen en mogelijke toepassingen van AI staan volop in de belangstelling. Maar daarbij gaat het vaak vooral om sexy, mediagenieke toepassingen, de gadgets. De waarde voor ondernemingen zit meer in de ‘saaie’ toepassingen, die technisch vaak complexer zijn. Rocking Robots sprak met Mark Bakker van H20 over zijn missie om dergelijke toepassingen beter bereikbaar te maken voor bedrijven.
Mark Bakker is als AI-strateeg verantwoordelijk voor de AI-operaties van H20 in de Benelux. De vragen die hij momenteel in de markt ziet over de inzet van AI hebben vaak te maken met hippe, nieuwe gadgets die veel aandacht krijgen. “Denk bijvoorbeeld aan Computer Vision, waarmee gezichten of kentekens herkend kunnen worden. Een ander voorbeeld zijn de chatbots, die inmiddels daadwerkelijk in staat zijn om een gesprek met een klant te voeren, zodat deze – bijvoorbeeld bij een grote bank – sneller geholpen kan worden.”
“Maar dat zijn inderdaad gadgets. Dergelijke innovatie wordt vooral ingezet omdat het senior management denkt: “Goh, wat leuk dat dit allemaal kan. Daar moeten we wat mee!” In praktijk hebben organisaties nog wel heel veel moeite om dergelijke investeringen terugverdiend te zien worden. Een ander aspect van AI is Data Science. Denk daarbij bijvoorbeeld aan een bank die op basis van de transacties van mijn pinpas kan voorspellen hoe loyaal ik als klant zal zijn in de komende tijd.”
Volwassen
“Dat aspect is saaier en minder sexy dan die gadgets, maar er kan wel makkelijker geld mee verdiend worden. Daardoor begint dat gebied van AI nu ook in rap tempo volwassen te worden.” H2O opereert vooral aan die Data Science-kant. “We zeggen altijd dat we AI gebruiken om AI te ontwikkelen. En dat doen we dan door het ontwikkelen van algoritmes.”
Een bottleneck bij de implementatie van AI is dat het technisch complex kan zijn. “Om algoritmes te kunnen ontwikkelen moet je nog steeds erg technisch zijn, waardoor maar weinig mensen het kunnen. Of er – zoals vaak beweerd wordt – nou echt een tekort aan data scientists is in Nederland weet ik niet – maar het is in ieder geval wel een heel specifieke, technische rol, die niet iedereen zomaar kan vervullen.”
Fraude detecteren
“En omdat het zo’n technische rol is, worden de data scientists binnen organisaties vaak in de hoek van IT neergezet, terwijl ze in de praktijk juist heel veel interactie met de business nodig hebben. Als je bijvoorbeeld een data scientist vraagt om in historische transactiebestanden op zoek te gaan naar patronen om fraude te kunnen detecteren, heeft hij wel iemand van de business nodig die hem vertelt welke transactie frauduleus was en welke niet.”
De interactie tussen de data scientist en de IT-afdeling gaat niet altijd goed. “De data scientist maakt vaak algoritmes die door IT onderhouden moeten worden, maar in de praktijk snapt de IT-afdeling vaak nauwelijks wat het algoritme doet, of hoe het is opgebouwd. En iets wat nu heel veel besproken wordt is de infecteerbaarheid van algoritmes. Hoe veilig zijn ze en kan de business user er wel op vertrouwen?”
Algoritmes
“Om die kloof tussen data scientists en de business, maar ook tussen de data scientists en IT te overbruggen, zie je dat er steeds meer geëist wordt dat algoritmes uitlegbaar zijn. Alleen als zij begrepen worden, wordt er immers op de algoritmes vertrouwd. En dus is dat vertrouwen ook nog een bottleneck bij de inzet van AI.”
Dat vertrouwen in algoritmes raakt natuurlijk ook aan de ethische aspecten rondom AI, waar met name veel aandacht voor is vanuit politiek en wetenschap. Daarom worden die ethische discussies ook binnen bedrijven gevoerd. “Bij één van onze klanten, een verzekeraar, zijn ze bezig met het voorspellen wanneer iemand met pensioen gaat. Dat mogen ze doen op de data, maar ze mogen de conclusies niet live in een klantinteractie gebruiken. Dat komt omdat de wetgeving zegt dat als je een algoritme gebruikt om conclusies te trekken die grote gevolgen kunnen hebben op iemands leven, zoals bijvoorbeeld het bepalen van een pensioenpremie, je in staat moet zijn om stap voor stap uit te leggen hoe je tot die conclusie gekomen bent.”
Magie
“En nu is het probleem daarbij dat de nieuwste technieken die worden toegepast bij het bouwen van algoritmes ervoor zorgen dat eigenlijk niemand meer precies begrijpt wat dat algoritme aan het doen is. De algoritmes zijn in staat om zulke kleine patronen te ontdekken in data, dat wij als mens eigenlijk niet in staat zijn om te bevatten dat dat een patroon is… En steeds meer zie je dat er dan weer nog nieuwere technieken toegepast worden om te proberen de magie uit het algoritme te trekken, en het toch weer uitlegbaar te maken, zodat het algoritme live toegepast kan worden.”
“En dat is precies waar we daar nu zitten. De Nederlandse Bank verbiedt het toepassen van sommige van hun algoritmes in een productie-omgeving, terwijl feitelijk eigenlijk niemand de kwaliteit ervan betwist. Het gaat nu echt om de uitlegbaarheid, en dat is weer niet het terrein van de data scientist die het algoritme ontwikkeld heeft.”
Democratiseren
AI democratiseren is volgens hem vooral het ontwikkelen van algoritmes simpeler maken, waardoor niet meer voor elke stap in het ontwikkelproces van een algoritme een programmeur nodig is. “En als meer mensen in staat zijn om algoritmes te ontwikkelen wordt het ook gemakkelijker om de benodigde kennis van de data bij de ontwikkeling te betrekken. De relevantie van de ontwikkelde algoritmes neemt hierdoor enorm toe. En er zijn binnen bedrijven nog voldoende processen aan te wijzen die met behulp van AI geautomatiseerd zouden kunnen worden. Wat dat betreft is er nog veel te winnen.”
