Schokkend: AI maakt van onschuldige kinderfoto’s misbruikmateriaal

Hoe criminelen AI misbruiken

AI-tools kunnen automatisch foto’s van kinderen opsporen, downloaden en vervolgens manipuleren. Zelfs onschuldige vakantiefoto’s van het strand, zwembad of bad zijn een doelwit. In één klik kan zo’n foto worden omgezet in een nepnaaktbeeld. AI-kinderporno is net zo strafbaar als echte kinderporno. Dat komt niet alleen doordat er soms echt misbruikmateriaal wordt gebruikt om AI te trainen, maar ook omdat deze beelden bijdragen aan het normaliseren van misbruikgedrag. In februari werd bij een internationale politieactie in achttien landen, waaronder Nederland, een criminele groep opgerold die AI-kinderporno maakte en verspreidde. Er werden 25 mensen gearresteerd. Volgens Europol is dit een van de eerste grote zaken rond AI-kindermisbruik.

Wat het extra eng maakt, is dat AI-beelden vaak nauwelijks te onderscheiden zijn van echt beeldmateriaal. Zelfs politie en experts hebben moeite om het verschil te zien. Daardoor is het probleem waarschijnlijk nog groter dan het nu lijkt.

Wat kun je zelf doen als ouder?

De politie en cybercrime-experts waarschuwen ouders, opa’s, oma’s en andere familieleden om foto’s van kinderen op social media altijd goed af te schermen. Zet je profiel op privé, zodat alleen mensen die je kent foto’s kunnen zien. Maar wees ook dan voorzichtig met het plaatsen van beelden van kinderen in zwemkleding of weinig kleding, hoe onschuldig ook bedoeld. Controleer daarnaast regelmatig wie toegang heeft tot je foto’s en albums. Met AI kan een onschuldige vakantiefoto echt in een klik worden gemanipuleerd tot iets ziekelijks.