Volgens onderzoekers van University College London (UCL) is nep-audio- of video het meest zorgwekkende gebruik van kunstmatige intelligentie door misdadigers en terroristen. In een overzicht zetten zij de gevaren van AI op een rijtje. Kleine robots kunnen bijvoorbeeld door inbrekers gebruikt worden om via een kattenluik of brievenbus een huis binnen te komen.
De studie, gepubliceerd in Crime Science en gefinancierd door het Dawes Center for Future Crime bij UCL noemt 20 manieren waarop AI criminelen de komende 15 jaar zou kunnen helpen. Deze werden gerangschikt in volgorde op basis van de schade die ze zouden kunnen veroorzaken, het potentieel voor criminele winst, hoe gemakkelijk ze zouden zijn om uit te voeren en hoe moeilijk ze zouden zijn om te stoppen.
Stoppen
Volgens de auteurs is nep-inhoud moeilijk te detecteren en te stoppen. Het zou verschillende doelen kunnen hebben – van het in diskrediet brengen van een publieke figuur tot het verkrijgen van geld door zich voor te doen als de zoon of dochter van iemand in een videogesprek. Dergelijke inhoud, zeiden ze, kan leiden tot een wijdverbreid wantrouwen tegen audio- en visueel bewijs, wat op zichzelf een maatschappelijke schade zou veroorzaken.
Zelfrijdende voertuigen
Afgezien van nepinhoud, werden vijf andere door AI ingeschakelde misdaden als zeer zorgwekkend beoordeeld. Daaronder zijn zelfrijdende voertuigen als wapens, AI ingezet voor het opstellen van meer op maat gemaakte phishing-berichten (spear phishing), het verstoren van door AI bestuurde systemen, het verzamelen van online informatie voor grootschalige chantage en door AI geschreven nepnieuws.
Bedreigingen
Senior auteur Professor Lewis Griffin (UCL Computer Science) zei: “Naarmate de mogelijkheden van op AI gebaseerde technologieën toenemen, neemt ook hun potentieel voor crimineel gebruik toe. Om ons adequaat voor te bereiden op mogelijke AI-bedreigingen, moeten we vaststellen wat deze bedreigingen kunnen zijn, en hoe ze ons leven kunnen beïnvloeden. “
Ernst
Onderzoekers hebben de 20 AI-misdaden samengesteld uit academische kranten, nieuws- en actualiteitsrapporten en fictie en populaire cultuur. Vervolgens spraken 31 mensen met een expertise in AI gedurende twee dagen van discussies om de ernst van de mogelijke misdaden te beoordelen. De deelnemers waren afkomstig uit de wetenschap, de particuliere sector, de politie, de regering en de staatsveiligheidsdiensten.
Winsten
Tot de misdrijven die de meeste zorgen baarden, behoren de verkoop van artikelen en diensten die frauduleus als “AI” zijn bestempeld, zoals beveiligingsonderzoeken en gerichte reclame. Deze zouden gemakkelijk te bereiken zijn, met potentieel grote winsten.
Kattenluik
Minder zorgwekkende misdaden waren onder meer inbrekers – kleine robots die toegang kregen tot eigendommen via toegangspunten zoals brievenbussen of kattenluiken en door AI ondersteunde stalking, die, hoewel zeer schadelijk voor individuen, kon niet op schaal werken.
Online
Eerste auteur Dr. Matthew Caldwell (UCL Computer Science) zei: “Mensen leiden nu grote delen van hun leven online en hun online activiteiten kunnen reputaties maken en breken. Een dergelijke online omgeving, waar data eigendom en informatiekracht is, is bij uitstek geschikt voor exploitatie door op AI gebaseerde criminele activiteiten.
Criminele technieken
“In tegenstelling tot veel traditionele misdaden, kunnen misdaden in de digitale wereld gemakkelijk worden gedeeld, herhaald en zelfs verkocht, waardoor criminele technieken op de markt kunnen worden gebracht en criminaliteit als dienst kan worden geleverd. Dit betekent dat criminelen de meer uitdagende aspecten kunnen uitbesteden van hun op AI gebaseerde misdaad. “
Kansen
Professor Shane Johnson, directeur van het Dawes Center for Future Crimes bij UCL, die de studie financierde, zei: “We leven in een steeds veranderende wereld die nieuwe kansen creëert – goede en slechte. Als zodanig is het absoluut noodzakelijk dat we anticiperen op toekomstige misdaad bedreigingen zodat beleidsmakers en andere belanghebbenden met de bevoegdheid om op te treden dit kunnen doen voordat zich nieuwe ‘misdaadoogsten’ voordoen. Dit rapport is het eerste in een reeks die de toekomstige misdaaddreigingen in verband met nieuwe en opkomende technologieën zal identificeren”
Zie over AI en criminaliteit ook dit interview met Irakli Bedridze
