Nieuw onderzoek van Kaspersky onderstreept een groeiend onbehagen onder directies over de stille infiltratie van generatieve kunstmatige intelligentie (GenAI) in hun organisaties. Bijna alle ondervraagde (95%) leidinggevenden zijn van mening dat GenAI regelmatig door werknemers wordt gebruikt, waarbij meer dan de helft van de Europese gevraagde (53%) aangeeft dat het nu zelfs binnen bepaalde afdelingen de boventoon voert.
In Nederland denkt zo’n 43 procent dat dit het geval is en 12 procent weet het niet zeker. De omvang is zodanig dat de meeste leidinggevenden (59%) hun bezorgdheid uiten over mogelijke veiligheidsrisico’s die gevoelige bedrijfsinformatie in gevaar kunnen brengen. Dit zou uiteindelijk kunnen leiden tot het verlies van controle over de kernfuncties van het bedrijf.
In Nederland wordt GenAI vooralsnog vooral gebruikt bij content creatie (49%) en om dagelijkse taken te automatiseren (48%), maar ook als zoekmachine of om informatie te duiden (35%).
Onbeheersbare groei
GenAI werd ooit beschouwd als een technologische nieuwigheid, maar heeft zich ontwikkeld tot een geduchte ondernemingskracht die in staat is om een enorm scala aan taken te automatiseren en uit te voeren. Het onderzoek suggereert echter dat de C-suite de controle over de implementatie, het toezicht en het doel van GenAI binnen hun organisaties al heeft verloren. Uit het onderzoek blijkt dat slechts 22% heeft gesproken over het opstellen van regels en voorschriften om het gebruik van GenAI te monitoren, ondanks dat 91% aangeeft meer inzicht nodig te hebben in hoe interne gegevens door werknemers worden gebruikt om zich te beschermen tegen kritieke beveiligingsrisico’s of datalekken.
Djurre Holtrop, Assistent professor aan Tilburg University op de afdeling Sociale Psychologie: “Dit onderzoek laat duidelijk zien dat het bedrijfsleven moeite heeft om de democratisering van AI bij te benen. Veel werknemers omarmen GenAI om de efficiëntie en kwaliteit van hun werk te verhogen. Het is belangrijk dat organisaties een visie ontwikkelen op de kansen en risico’s van deze technologie, en dat ze hun werknemers ondersteunen en opleiden om aan de verwachtingen te voldoen die uit deze visie voortkomen.”
Jornt van der Wiel, Senior Security Researcher bij Kaspersky: “Net als BYOD biedt GenAI enorme productiviteitsvoordelen voor bedrijven. En hoewel onze bevindingen aantonen dat directieleden de aanwezigheid ervan in hun organisaties duidelijk erkennen, blijft de omvang van het gebruik en het doel ervan in nevelen gehuld. En omdat de snelle evolutie van GenAI geen tekenen van afremmen vertoont, zal het steeds moeilijker worden om ze te controleren en te beveiligen in belangrijke bedrijfsfuncties zoals HR, Finance, Marketing of zelfs IT.”
Om effectief te functioneren, leert GenAI continu door middel van data invoer. Alle gegevens die door een werknemer in een applicatie worden ingevoerd, worden onmiddellijk buiten een organisatie verzonden. Dit is vergelijkbaar met het onbedoeld lekken van data. De bezorgdheid van de directie over hoe dit kan leiden tot gegevensverlies is reëel: drie op de vijf (59%) leidinggevenden maken zich ernstige zorgen over de mogelijkheid dat werknemers gevoelige bedrijfsgegevens prijsgeven bij het invoeren van informatie in GenAI-platforms.
Verward door AI
Ondanks deze zorgen blijkt uit het onderzoek ook dat precies de helft van de leidinggevenden (50%) nog steeds toekomstplannen heeft om GenAI te benutten en de repetitieve taken te automatiseren die hun werknemers momenteel dagelijks uitvoeren. Het onderwerp staat stevig op de kaart tijdens managementvergaderingen, maar
de meeste leidinggevenden geven toe dat ze niet goed weten hoe het werkt. Gezien de inherente beveiligingsrisico’s gaf een verrassend kwart (24%) van de leidinggevenden aan dat ze het meest geneigd zijn om IT- en cyberbeveiligingsafdelingen te automatiseren met behulp van GenAI. In Nederland is zelfs ruim 30% dit van plan.
“De democratisering van GenAI zorgt ervoor dat iedereen in korte tijd toegang heeft gekregen tot enorm krachtige programma’s die voor allerlei werkzaamheden gebruikt kunnen worden. De efficiëntie en kwaliteit van werk zal hierdoor vaak toenemen, maar werknemers moeten nu ook begrip ontwikkelen van de gevaren van deze programma’s. Het kan bijvoorbeeld verleidelijk zijn om naar een persoon herleidbare gegevens te delen met deze programma’s, wat een datalek als gevolg kan hebben,” aldus Djurre Holtrop.
Van der Wiel vervolgt: “Je zou kunnen veronderstellen dat het vooruitzicht van het verlies van gevoelige gegevens en het verliezen van de controle over kritieke bedrijfseenheden het management aan het denken zet, maar uit onze bevindingen blijkt dat bijna een kwart van de bazen momenteel overweegt om enkele van hun belangrijkste functies aan AI te delegeren. Alvorens hiertoe over te gaan, is het absoluut noodzakelijk dat wordt begonnen met een uitgebreid begrip van gegevensbeheer en de implementatie van robuust beleid voordat gekeken wordt naar verdere integratie van GenAI in de bedrijfsomgeving.”
