Een door AI gegenereerde vrouw heeft met succes naaktfoto’s verkocht aan nietsvermoedende Reddit-gebruikers. Claudia is volledig gegenereerd door AI, en haar bericht werd geplaatst op verschillende subreddits. Claudia’s bericht veroorzaakte veel klachten, waardoor een moderator van de groep een disclaimer plaatste waarin werd verduidelijkt dat door AI gegenereerde foto’s niet in strijd zijn met de regels van de subreddit. De makers achter Claudia zeggen dat de consument zelf verantwoordelijk is voor het beoordelen of een model echt of namaak is.
De meeste discussies over de gevaren die AI en volwassenencontent met zich meebrengen, gaan over deepfakes, een term die wordt gebruikt om een afbeelding of video te beschrijven waarbij het gezicht van een persoon zonder toestemming wordt gebruikt. Volgens Sensity zijn bijna 96 procent van alle deepfakes van pornografische aard en tonen ze het gezicht van een vrouw zonder haar toestemming.
De potentiële bedreiging van AI-pornografie met fictieve personages is echter anders. Hoewel volwassen-contentcreaties zoals Claudia in wezen fictief zijn, zijn de miljarden afbeeldingen die worden gebruikt om AI-modellen te trainen van echte mensen, waarvan de meesten waarschijnlijk geen toestemming hebben gegeven om op deze manier te worden afgebeeld.
