{"id":17681,"date":"2024-05-27T17:05:27","date_gmt":"2024-05-27T17:05:27","guid":{"rendered":"https:\/\/www.humanium.org\/de\/?p=17681"},"modified":"2024-10-27T14:01:53","modified_gmt":"2024-10-27T14:01:53","slug":"kampf-gegen-die-zunahme-von-ki-generiertem-material-ueber-sexuellen-kindesmissbrauch","status":"publish","type":"post","link":"https:\/\/www.humanium.org\/de\/kampf-gegen-die-zunahme-von-ki-generiertem-material-ueber-sexuellen-kindesmissbrauch\/","title":{"rendered":"Kampf gegen die Zunahme von KI-generiertem Material \u00fcber sexuellen Kindesmissbrauch"},"content":{"rendered":"\n

Die Welt erlebt einen Boom bei den zug\u00e4nglichen Technologien der <\/strong>k\u00fcnstlichen Intelligenz<\/strong><\/a> (KI). Neue Werkzeuge und F\u00e4higkeiten bieten kriminellen und b\u00f6swilligen Akteuren neue M\u00f6glichkeiten, Kinder zu missbrauchen. W\u00e4hrend Gesetzgeber, politische Entscheidungstr\u00e4ger und Strafverfolgungsbeh\u00f6rden versuchen, mit kriminellen Innovationen Schritt zu halten, werden Kinder immer anf\u00e4lliger f\u00fcr KI-generiertes Material \u00fcber sexuellen <\/strong>Kindesmissbrauch<\/strong><\/a> (Child Sexual Abuse Material; CSAM). Neue Technologien erm\u00f6glichen es Kriminellen, CSAM in einem noch nie dagewesenen Tempo zu erstellen, zu verst\u00e4rken und zu verbreiten. Ohne sofortiges Eingreifen droht dieser Trend, die <\/strong>Sicherheit<\/strong><\/a> von Kindern im Internet zu untergraben. <\/strong><\/p>\n\n\n\n

Was ist KI-generierte CSAM?<\/strong><\/h2>\n\n\n\n

KI-generiertes CSAM ist synthetisches oder lebensechtes CSAM, das mit KI-Tools erstellt wurde (Clark, 2023). Diese Inhalte stellen eine doppelte Bedrohung dar: An sich erm\u00f6glichen sie die Generierung neuer und sch\u00e4dlicher CSAM, und gleichzeitig k\u00f6nnen Kriminelle mithilfe von KI-Tools schneller als je zuvor auf andere CSAM zugreifen und diese verbreiten. <\/p>\n\n\n\n

Illegale Inhalte k\u00f6nnen ver\u00e4nderte Bilder von echten Kindern oder betr\u00fcgerische Kreationen enthalten. Die F\u00e4higkeit von KI-Tools, Inhalte zu erstellen, die vorher nicht existierten, wird oft als „generativ“ bezeichnet, und diese Modalit\u00e4t erweitert das Netz potenzieller CSAM-Opfer, sofern die Bilder in betr\u00fcgerischer Absicht erstellt wurden. <\/p>\n\n\n\n

KI bietet Kriminellen eine noch nie dagewesene M\u00f6glichkeit, eine unbegrenzte Menge an CSAM zu erstellen. Alle Formen von KI-generiertem CSAM sind illegal, unabh\u00e4ngig davon, ob sie ein echtes Kind zeigen oder widerspiegeln oder nicht. KI-Tools sind so ausgefeilt, dass die meisten KI-generierten CSAM „visuell nicht von echten CSAM zu unterscheiden“ sind, auch nicht f\u00fcr geschulte Analytiker (Internet Watch Foundation, 2023).<\/p>\n\n\n\n

Trends und Pr\u00e4valenz<\/strong><\/h2>\n\n\n\n

Obwohl der Einsatz von KI zur Generierung und Verbreitung von CSAM relativ neu ist, gibt es neue Erkenntnisse \u00fcber die von kriminellen Akteuren eingesetzten Methoden. Was die Generierung betrifft, so wird frei zug\u00e4ngliche KI-Software wie Stable Diffusion verwendet, um betr\u00fcgerische CSAM-Inhalte zu erzeugen (Crawford und Smith, 2023). <\/p>\n\n\n\n

Die Einfachheit dieser und anderer Software erm\u00f6glicht es Einzelpersonen, die nicht unbedingt \u00fcber technologische Erfahrung verf\u00fcgen, neue Bilder auf der Grundlage von Wortvorgaben und einfachen Anweisungen zu erstellen (Crawford und Smith, 2023). Die Text-zu-Bild-Technologie ist schnell und pr\u00e4zise und erm\u00f6glicht die gleichzeitige Erstellung gro\u00dfer Mengen von Inhalten (Internet Watch Foundation, 2023). <\/p>\n\n\n\n

F\u00fcr die Unterbringung und Verbreitung von CSAM werden Content-Sharing-Seiten wie Patreon genutzt, um KI-generierte CSAM-Bilder zu speichern (Crawford und Smith, 2023). Dies erm\u00f6glicht es Kriminellen, Abonnements bei denselben Diensten zu erwerben, um st\u00e4ndig auf Bilder zuzugreifen (Crawford und Smith, 2023). Patreon hat seine Nulltoleranz gegen\u00fcber solchen Inhalten auf seiner Website zum Ausdruck gebracht, aber es ist leichter gesagt als getan, Akteure zu identifizieren und zu sanktionieren, die diese Plattformen ausnutzen (Crawford und Smith, 2023). <\/p>\n\n\n\n

Globaler Kampf gegen KI-unterst\u00fctzten Online-Kindermissbrauch<\/strong><\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Diese Herausforderung ist nicht auf Patreon beschr\u00e4nkt; die National Crime Agency (NCA) des Vereinigten K\u00f6nigreichs<\/a> (UK) ist der Ansicht, dass eine st\u00e4rkere Ende-zu-Ende-Verschl\u00fcsselung – der Prozess der Sicherung von Daten zwischen zwei kommunizierenden Parteien und der Verhinderung des Zugriffs Dritter darauf – innerhalb der Meta-Plattformen (Facebook, Instagram und andere) bedeuten w\u00fcrde, dass die Strafverfolgungsbeh\u00f6rden den Zugang zu 85 bis 92 % der CSAM-Empfehlungen verlieren w\u00fcrden, die \u00fcber die Plattformen eingehen (Home Office, 2023).<\/p>\n\n\n\n

Studien in den USA deuten darauf hin, dass Facebook, Instagram und WhatsApp die sozialen Medienplattformen mit dem gr\u00f6\u00dften Anteil an illegalem Material sind (McQue, 2024). Auf diese Plattformen folgen schnell andere gro\u00dfe soziale Medien, was die zentrale Rolle einiger der weltweit beliebtesten Websites und Anwendungen bei der Verbreitung von CSAM widerspiegelt.<\/p>\n\n\n\n

Da die Produktion von CSAM durch KI erleichtert wird, ist es schwierig, das Ausma\u00df und die Verbreitung von Online-Inhalten genau zu messen. Der Innenminister des Vereinigten K\u00f6nigreichs gab an, dass 800 Sexualstraft\u00e4ter verhaftet worden seien und die Regierung 1.200 Kinder pro Monat sch\u00fctze (Innenministerium, 2023), aber dies sei nicht auf den Online-Bereich beschr\u00e4nkt. <\/p>\n\n\n\n

Dar\u00fcber hinaus kann KI-Software heruntergeladen und online ausgef\u00fchrt werden, was bedeutet, dass b\u00f6swillige Akteure grenzenlose Inhalte erstellen k\u00f6nnen, w\u00e4hrend sie nicht mit dem Internet verbunden sind, sodass sie f\u00fcr die Strafverfolgungsbeh\u00f6rden nicht sichtbar sind (Internet Watch Foundation, 2023).\u00a0<\/p>\n\n\n\n

Die begrenzten existierenden Analysen deuten auf eine alarmierende Menge an KI-generiertem CSAM hin, der in kurzer Zeit produziert wird. Eine Analyse im Vereinigten K\u00f6nigreich ergab, dass im September 2023 in einem einzigen KI-CSAM-Forum 20.254 Bilder eingestellt wurden (Internet Watch Foundation, 2023).<\/p>\n\n\n\n

In den Vereinigten Staaten von Amerika<\/a> (USA) hat das National Center for Missing and Exploited Children (NCMEC) erst im Jahr 2023 damit begonnen, KI-generierte CSAM zu empfangen, und hat bereits Meldungen von bis zu 5.000 Inhalten erhalten (McQue, 2024). Im Jahr 2023 gingen bei der Cyber Tipline der USA fast 36 Millionen Meldungen zu CSAM-Vorf\u00e4llen ein, wobei \u00fcber 90 % der Inhalte im Ausland hochgeladen wurden und \u00fcber 60.000 der Meldungen ein Kind betrafen, das sich in unmittelbarer Gefahr befand (McQue, 2024).<\/p>\n\n\n\n

Strafverfolgung und politische Antworten<\/strong><\/h2>\n\n\n\n

Angesichts des bereichs\u00fcbergreifenden Charakters der KI-generierten CSAM-Herausforderung sind sektor\u00fcbergreifende Ans\u00e4tze erforderlich, um diesen Trend sinnvoll zu unterbrechen. Im privaten Sektor haben sich 27 Organisationen, darunter TikTok und Snapchat, k\u00fcrzlich mit mehreren Regierungen, darunter die USA<\/a>, Deutschland<\/a> und Australien<\/a>, zusammengeschlossen, um neue Wege zur Bek\u00e4mpfung von KI-generiertem CSAM zu erkunden (Clark, 2023). <\/p>\n\n\n\n

Auch bilaterale und multinationale Regierungsinterventionen kommen allm\u00e4hlich zum Vorschein: 2023 gaben die USA und das Vereinigte K\u00f6nigreich eine gemeinsame Erkl\u00e4rung ab, in der sie ihr Engagement f\u00fcr die Bek\u00e4mpfung generativer KI bekr\u00e4ftigten (Home Office und US Secretary of Homeland Security, 2023). Unterst\u00fctzt wurde dies durch ein wegweisendes Gesetz der britischen Regierung, das Online Safety Bill, das strengere Anforderungen an privatwirtschaftliche Unternehmen stellt, damit diese alles in ihrer Macht Stehende tun, um CSAM-Inhalte zu identifizieren und von ihren Websites zu entfernen (Home Office, 2023).<\/p>\n\n\n\n

Strategische Antworten auf KI-generierten CSAM<\/strong><\/h2>\n\n\n\n

Die wachsende Bedrohung durch KI-generierten CSAM erfordert schnelles und entschlossenes Handeln. Neben anderen Ma\u00dfnahmen gibt es einige wesentliche Schritte, die Regierungen unternehmen m\u00fcssen, um eine effektive Reaktion zu erm\u00f6glichen.<\/p>\n\n\n\n