Een recente rondgang van actualiteitenprogramma EenVandaag onthult dat 74% van de Nederlandse gemeenten ChatGPT gebruikt voor diverse doeleinden, ondanks dat het gebruik van AI-software voor rijksambtenaren wordt afgeraden vanwege potentiële risico’s. Deze bevindingen komen voort uit een onderzoek onder 137 gemeenten.
Ambtenaren zetten ChatGPT in als informatiebron, sparringpartner en voor het opstellen van teksten. Echter, 39% van de gemeenten weet niet hoe hun medewerkers de AI precies benutten, een situatie die data-ethiekexpert Iris Muis in een commentaar hierop “een slechte zaak” noemt. Ze waarschuwt voor het risico dat burgers onjuiste informatie ontvangen, aangezien de bron en nauwkeurigheid van ChatGPT’s antwoorden vaak onduidelijk zijn.
Foutieve Informatie en Datalekken
Muis benadrukt de gevaren van onzorgvuldig gebruik van ChatGPT, zoals het verspreiden van foutieve informatie en het potentieel lekken van vertrouwelijke data die in het systeem worden ingevoerd voor training. Ze uit ook zorgen over de bevooroordeelde aard van de antwoorden van ChatGPT, iets wat problematisch is voor overheidsinstanties die naar neutraliteit streven.
Daarnaast voldoet het gebruik van ChatGPT volgens Muis niet aan Nederlandse wet- en regelgeving. De software is getraind op data die mogelijk illegaal verkregen is en mist transparantie. Dit staat haaks op het recht van burgers om te begrijpen hoe overheidsbeslissingen tot stand komen.
Overheidsreactie
Staatssecretaris Alexandra van Huffelen bevestigt in een reactie op het onderzoek de risico’s en raadt rijksambtenaren af om ChatGPT te gebruiken. De overheid is bezig met het opstellen van richtlijnen, waarbij sommige gemeenten al eigen regels hanteren om privacygevoelige informatie te beschermen.
Ondanks de zorgen ziet de Vereniging van Nederlandse Gemeenten (VNG) potentieel in generatieve AI voor het verbeteren van dienstverlening. Muis suggereert dat naast het kijken naar grote aanbieders zoals ChatGPT, er ook gekeken moet worden naar kleinere spelers waarmee betere afspraken gemaakt kunnen worden over dataveiligheid.
