Consumenten hebben vertrouwen in artificial intelligence (AI) als het wordt ingezet om hun klantervaringen te transformeren, maar maken zich steeds meer zorgen over de toename van het gebruik van AI in andere disciplines. Dit is een van de bevindingen uit nieuw onderzoek van Pegasystems, dat werd gepresenteerd tijdens PegaWorld iNspire in Las Vegas.
Binnen gebieden waar het draait om klantervaring blijkt AI algemeen geaccepteerd te zijn. Volgens tweederde (67%) van de respondenten zou AI de klantenservice van de bedrijven waarmee ze communiceren, kunnen verbeteren. Meer dan de helft (54%) zegt dat organisaties die AI al gebruiken hun klanten waarschijnlijk meer voordelen bieden, dan de organisaties die dat nog niet doen. 47% zegt al gewend te zijn aan klantenservice op basis van AI-diensten. Tweederde (64%) verwacht dat de meeste grote afdelingen van organisaties binnen nu en de komende tien jaar zullen draaien op AI en automatisering.
Toch leeft er onder de consumenten op verschillende punten nog wantrouwen in AI:
- Voorkeur voor menselijk contact: Ondanks dat ze aangeven AI bij klantinteractie prima te vinden, communiceert 71% van de respondenten nog steeds liever met een mens dan met AI. Enkele voorbeelden: 1) 68% denkt dat een echte bankmedewerker objectiever beslist om een banklening wel of niet te vertrekken, dan een AI-oplossing. 2) 74% vertrouwt een diagnose van een menselijke arts eerder dan wanneer een AI-oplossing dit doet; ook als de AI-oplossing vaker gelijk heeft, maar zijn beslissing niet kan uitleggen. 3) 51% denkt dat een zelfrijdende (autonome) auto betere beslissingen kan nemen om een ongeluk te voorkomen dan een menselijke bestuurder. Toch vindt 65% dat AI in zo’n situatie een menselijke bestuurder niet mag overrulen.
- De opkomst van machines: Een sterke meerderheid (86%) denkt dat AI zichzelf kan evolueren naar immoreel gedrag; meer dan een kwart (27%) vindt dat dit al is gebeurd. Bijna de helft (48%) zegt dat het aannemelijk is dat generatieve AI op den duur bewust of zelfbewust zal worden. Bijna een derde (30%) maakt zich zorgen dat AI de mens te afhankelijk maakt. Dit is een lichte stijging ten opzichte van de 27% uit eerder onderzoek in 2019. Slechts 16% van de respondenten maakt zich helemaal geen zorgen over AI.
- Reality check: Uit de studie blijkt dat het algemeen bewustzijn ten aanzien van AI als hulpmiddel voor dagelijks gebruik is gegroeid. Zo zegt meer dan de helft van de respondenten zich te realiseren dat het merendeel van alle foto’s (55%) en video’s (55%) die ze zien, zijn gemaakt met behulp van deze technologie. Tegelijkertijd neemt ook de bezorgdheid toe omdat het steeds lastiger wordt om echt en nep van elkaar te onderscheiden en te bepalen wat door een mens en wat door AI is gegenereerd. Bij het voorleggen van een lang artikel geeft bijna tweederde (63%) aan niet te kunnen zeggen of het door AI of een mens was geschreven; bij het tonen van foto’s was dit 59% en bij video’s 58%. Meer dan de helft (56%) ervaart dit ook bij tv-reportages die ze hebben gezien.
“Het is logisch dat er een bepaalde mate van tegenstrijdige gevoelens ontstaat nu AI dankzij toepassingen als Midjourney en ChatGPT is doorgedrongen tot het grote publiek. Laten we niet vergeten dat veel mensen de voordelen van deze technologie al zien; een vraag stellen aan Alexa of Siri is voor de meesten niets nieuws meer,” aldus Dr. Rob Walker, general manager, 1:1 customer engagement bij Pega. ”Misschien is het daarom ook wel onvermijdelijk dat hoe meer aandacht er is voor deze technologie, hoe groter de angst is voor sciencefictionachtige ‘doemscenario’s’. Daarom is het voor organisaties zo belangrijk transparant te zijn over hun AI-systemen en wat ze leveren. Maar ook het uitvoeren van ethische bias-tests om te monitoren en te controleren hoe hun AI-systemen zich te allen tijde ‘gedragen’.
