IWF drängt auf Schließung der „Lücke“ in vorgeschlagenen EU-Gesetzen zur Kriminalisierung des sexuellen Missbrauchs von Kindern durch künstliche Intelligenz, da synthetische Videos „enorme Fortschritte“ in der Entwicklung machen

Neue Daten zeigen, dass sich der Missbrauch von Kindern durch KI im Internet weiter ausbreitet, da Kriminelle immer realistischere und extremere Bilder erstellen. Europas größte Hotline bestätigt 400 % mehr Meldungen über Webseiten mit KI-generierten Bildern von sexuellem Kindesmissbrauch als im Vorjahreszeitraum.

Die Zahl der von KI entdeckten Videos über sexuellen Kindesmissbrauch schießt in die Höhe: 1,286 wurden entdeckt, im Vergleich zu nur zwei im gleichen Zeitraum des Vorjahres.

Fordern Sie den Rat der EU auf, seine Haltung zur Richtlinie zum sexuellen Kindesmissbrauch zu überdenken, die den Besitz von KI-gestützten Bildern von sexuellem Kindesmissbrauch für den „persönlichen Gebrauch“ erlaubt.

Aufgrund der raschen technologischen Entwicklung sind KI-generierte Videos von sexuellem Kindesmissbrauch mittlerweile nicht mehr von echten Bildern zu unterscheiden, sagen Experten der Internet Watch Foundation (IWF), Europas größter Hotline für die Suche und Entfernung von Material über sexuellen Kindesmissbrauch im Internet.

Neue, heute (Freitag, 11. Juli) vom IWF veröffentlichte Daten zeigen, dass die Zahl bestätigter Berichte über KI-basierte Darstellungen von sexuellem Kindesmissbrauch um 400 % gestiegen ist. In den ersten sechs Monaten des Jahres 210 (2025. Januar – 1. Juni) wurde auf 30 Webseiten sexueller Kindesmissbrauch durch KI entdeckt.

Im gleichen Zeitraum des Jahres 2024 fanden IWF-Analysten auf 42 Webseiten mithilfe von KI Bilder von sexuellem Kindesmissbrauch.

Beunruhigenderweise ist die Anzahl der KI-generierten Videos in dieser Zeit sprunghaft angestiegen. Im ersten Halbjahr dieses Jahres wurden 1,286 einzelne KI-Videos über sexuellen Kindesmissbrauch entdeckt, verglichen mit nur zwei im gleichen Zeitraum des Vorjahres.

Von diesen bestätigten Videos sexuellen Kindesmissbrauchs wurden 1,006 als extremste Darstellung (Kategorie A) im Sinne des Gesetzes eingestuft – Videos, die Vergewaltigung, sexuelle Folter oder Sodomie zeigen können.

Alle vom IWF in diesem Jahr bisher bestätigten KI-Videos sind so überzeugend, dass sie nach britischem Recht genauso behandelt werden müssen, als handele es sich um Originalaufnahmen. Das EU-Recht befasst sich noch nicht explizit mit synthetischen Missbrauchsbildern. Der Gesetzgeber verhandelt jedoch derzeit über eine Aktualisierung der Richtlinie zur Bekämpfung des sexuellen Kindesmissbrauchs von 2011, die diese Lücke schließen soll.

Die Wohltätigkeitsorganisation warnt jedoch davor, dass der derzeitige Ansatz des EU-Rates hinsichtlich der vorgeschlagenen Neufassung der Richtlinie eine äußerst besorgniserregende Lücke enthält, die den Besitz von KI-generierten Bildern sexuellen Kindesmissbrauchs für den „persönlichen Gebrauch“ ermöglichen würde.

Während die aktuellen Verhandlungen über die Gesetzgebung voranschreiten, drängt die IWF den Rat, seine Position mit dem EU-Parlament in Einklang zu bringen, indem die Ausnahme für den persönlichen Gebrauch von KI-generierten Bildern und Videos aufgehoben wird und die Erstellung, der Besitz und die Verbreitung von KI-basierten Handbüchern und Modellen zum sexuellen Kindesmissbrauch in der gesamten EU streng kriminalisiert werden.

Derek Ray-Hill, Interimsgeschäftsführer des IWF, sagte: „Wir müssen alles tun, um zu verhindern, dass zu den bereits rekordverdächtigen Fällen von Kindesmissbrauch, gegen die wir online kämpfen, noch eine Flut synthetischer und teilsynthetischer Inhalte hinzukommt. Ich bin bestürzt darüber, dass sich die Technologie weiterhin rasant weiterentwickelt und weiterhin auf neue und beunruhigende Weise missbraucht wird.“

Wie schon bei Standbildern sind KI-Videos von sexuellem Kindesmissbrauch mittlerweile so weit fortgeschritten, dass sie nicht mehr von echten Filmen zu unterscheiden sind. Die abgebildeten Kinder sind oft real und erkennbar, der Schaden, den dieses Material anrichtet, ist real, und die Bedrohung, die es darstellt, droht noch weiter zu eskalieren.

Laut IWF hat sich die Bildqualität von KI-generierten Videos über sexuellen Kindesmissbrauch im vergangenen Jahr sprunghaft verbessert. Kriminelle erstellen mittlerweile massenhaft KI-generierte Videos über sexuellen Kindesmissbrauch – manchmal mit Abbildungen echter Kinder. Hochrealistische Missbrauchsvideos sind nicht mehr auf sehr kurze, fehlerbehaftete Clips beschränkt. Kriminelle können nun auch längere und detailliertere Videos erstellen.

Analysten warnen außerdem davor, dass der durch KI erzeugte sexuelle Missbrauch von Kindern immer „extremer“ werde, da Kriminelle immer geschickter darin würden, neue obszöne Szenarien zu erfinden und darzustellen.

Ray-Hill fügte hinzu: „Es gibt keine gerechtfertigte Ausnahme für den persönlichen Besitz oder Konsum von KI-Bildern und -Videos, die sexuellen Missbrauch und Folter von Kindern zeigen. Kinder wurden dabei geschädigt, und KI verschlimmert diesen Schaden. Täter nutzen diese Technologie, um neue KI-Bilder bekannter Kinderopfer zu erstellen, die ihren persönlichen Vorlieben entsprechen. In einigen Fällen wurden bereits vorhandene Bilder von sexuellem Kindesmissbrauch in Datensätzen verwendet, um KI-Generatoren zu trainieren.“

Die EU macht in dieser wichtigen Frage große Fortschritte und darf nicht nachlassen. Wir fordern den Rat dringend auf, seine Position zu überdenken und sich mit dem EU-Parlament abzustimmen, um zielgerechte Gesetze zu verabschieden, die sicherstellen, dass die Überlebenden im Mittelpunkt aller Entscheidungen stehen.

Die IWF verfügt über einzigartige Befugnisse*, proaktiv nach Darstellungen sexuellen Kindesmissbrauchs im Internet zu suchen. Daher sind ihre geschulten und erfahrenen Analysten oft die Ersten, die neue Wege entdecken, wie Kriminelle die Technologie missbrauchen.

Jeff ist leitender Analyst beim IWF und auf KI spezialisiert. Er sagte: „Was die Videoqualität angeht, sind die Ersteller von Bildern sexuellen Kindesmissbrauchs um Längen besser als im letzten Jahr.“

Die ersten KI-Videos zum Thema Kindesmissbrauch, die wir sahen, waren Deepfakes – das Gesicht eines bekannten Opfers wurde einem Schauspieler aus einem bestehenden Pornovideo für Erwachsene übergestülpt. Es war nicht raffiniert, konnte aber dennoch ziemlich überzeugend wirken. Das erste vollständig synthetische Video zum Thema Kindesmissbrauch, das wir Anfang letzten Jahres sahen, bestand lediglich aus einer Reihe ruckartig zusammengefügter Bilder – nicht überzeugend.

Doch nun haben sie einen echten Wendepunkt erreicht. Die Qualität ist erschreckend hoch, und die dargestellten Straftatbestände werden immer extremer, da die Tools immer besser in der Lage sind, Videos mit zwei oder mehr Personen zu erstellen. Die Videos enthalten auch Szenen, die bekannte Opfer in neuen Szenarien zeigen.

„So wie Standbilder mit der steigenden Nachfrage und der Verbesserung der Tools fotorealistisch wurden, war es nur eine Frage der Zeit, bis Videos denselben Weg einschlugen.“

IWF-Analysten warnen außerdem, dass sich die Raffinesse und der Realismus dieser Videos noch in der Entwicklung befinden und dass es Anzeichen dafür gibt, dass die Kriminellen selbst nicht glauben können, wie einfach es ist, mithilfe von KI-Tools Bilder von sexuellem Kindesmissbrauch zu erstellen.

Ein Täter schrieb in einem Online-Forum: sagte: „Die Technologie entwickelt sich so schnell – gerade wenn ich endlich verstehe, wie man ein Werkzeug benutzt, kommt etwas Neueres und Besseres auf den Markt.“

Teile diesen Artikel: