{"id":57034,"date":"2024-05-27T17:03:31","date_gmt":"2024-05-27T17:03:31","guid":{"rendered":"https:\/\/www.humanium.org\/fr\/?p=57034"},"modified":"2026-08-21T03:19:18","modified_gmt":"2026-08-21T03:19:18","slug":"la-lutte-contre-la-montee-du-materiel-dabus-sexuels-sur-les-enfants-genere-par-lia","status":"publish","type":"post","link":"https:\/\/www.humanium.org\/fr\/la-lutte-contre-la-montee-du-materiel-dabus-sexuels-sur-les-enfants-genere-par-lia\/","title":{"rendered":"La lutte contre la mont\u00e9e du mat\u00e9riel d\u2019abus sexuels sur les enfants g\u00e9n\u00e9r\u00e9 par l\u2019IA"},"content":{"rendered":"\n

Les technologies de l\u2019<\/strong>intelligence artificielle<\/strong><\/a> (IA) connaissent un essor mondial. De <\/strong>nouveaux outils et capacit\u00e9s offrent aux criminels et aux individus malveillants de nouvelles possibilit\u00e9s d\u2019exploiter les enfants. Alors que les l\u00e9gislateurs, les d\u00e9cideurs politiques et les forces de l\u2019ordre s\u2019efforcent de suivre les innovations criminelles, les enfants sont de plus en plus expos\u00e9s au mat\u00e9riel d\u2019<\/strong>abus<\/strong><\/a> sexuels sur les enfants (MASE) g\u00e9n\u00e9r\u00e9 par l\u2019IA. Ces nouvelles technologies permettent aux criminels de cr\u00e9er, d\u2019amplifier et de distribuer ces contenus \u00e0 un rythme sans pr\u00e9c\u00e9dent. Sans<\/strong> une intervention urgente, cette tendance menace de compromettre la <\/strong>s\u00e9curit\u00e9<\/strong><\/a> des enfants en ligne. <\/strong><\/p>\n\n\n\n

Qu\u2019est-ce qu\u2019un MASE g\u00e9n\u00e9r\u00e9 par l\u2019IA ?<\/strong><\/h2>\n\n\n\n

Les MASE g\u00e9n\u00e9r\u00e9s par l\u2019IA sont des contenus synth\u00e9tiques ou r\u00e9alistes cr\u00e9\u00e9s \u00e0 l\u2019aide d\u2019outils d\u2019IA (Clark, 2023). Ce type de contenu repr\u00e9sente une double menace : il permet d\u2019une part la cr\u00e9ation de nouveaux MASE nuisibles et, d\u2019autre part, les outils d\u2019IA permettent aux criminels d\u2019acc\u00e9der \u00e0 d\u2019autres MASE et de les diffuser \u00e0 un rythme plus rapide que jamais. <\/p>\n\n\n\n

Ces contenus illicites peuvent inclure des images alt\u00e9r\u00e9es d\u2019enfants r\u00e9els ou des cr\u00e9ations frauduleuses. La capacit\u00e9 des outils d\u2019IA \u00e0 g\u00e9n\u00e9rer du contenu qui n\u2019existait pas auparavant est souvent qualifi\u00e9e de \u00ab g\u00e9n\u00e9rative \u00bb, et cette modalit\u00e9 \u00e9largit le cercle des victimes potentielles de MASE si les images sont cr\u00e9\u00e9es de mani\u00e8re frauduleuse. <\/p>\n\n\n\n

L\u2019IA a offert aux criminels une opportunit\u00e9 sans pr\u00e9c\u00e9dent de produire un volume illimit\u00e9 de MASE. Toutes les formes de MASE g\u00e9n\u00e9r\u00e9es par l\u2019IA sont ill\u00e9gales, qu\u2019elles repr\u00e9sentent ou non un enfant r\u00e9el. Les outils d\u2019IA sont sophistiqu\u00e9s au point que la plupart des MASE g\u00e9n\u00e9r\u00e9s par l\u2019IA sont \u00ab visuellement impossibles \u00e0 distinguer \u00bb des v\u00e9ritables MASE, m\u00eame pour les analystes qualifi\u00e9s (Internet Watch Foundation, 2023).<\/p>\n\n\n\n

Tendances et pr\u00e9valence<\/strong><\/h2>\n\n\n\n

Bien que l\u2019utilisation de l\u2019IA pour g\u00e9n\u00e9rer et propager des MASE soit relativement r\u00e9cente, nous commen\u00e7ons \u00e0 avoir une id\u00e9e des m\u00e9thodes employ\u00e9es par les criminels. En ce qui concerne la g\u00e9n\u00e9ration, des logiciels d\u2019IA en libre acc\u00e8s tels que Stable Diffusion<\/em> sont utilis\u00e9s pour produire du contenu de MASE frauduleux (Crawford et Smith, 2023). <\/p>\n\n\n\n

La facilit\u00e9 d\u2019utilisation de ces logiciels permet \u00e0 des individus \u2013 qui n\u2019ont pas n\u00e9cessairement d\u2019exp\u00e9rience technologique pr\u00e9alable \u2013 de cr\u00e9er de nouvelles images \u00e0 partir de mots-guides et d\u2019instructions simples (Crawford et Smith, 2023). La technologie de conversion du texte en image est rapide, pr\u00e9cise et permet de g\u00e9n\u00e9rer simultan\u00e9ment de grands volumes de contenu (Internet Watch Foundation, 2023). <\/p>\n\n\n\n

En ce qui concerne l\u2019h\u00e9bergement et la diffusion de MASE, des plateformes de partage de contenu tels que Patreon<\/em> sont utilis\u00e9s pour stocker des images de MASE g\u00e9n\u00e9r\u00e9es par l\u2019IA (Crawford et Smith, 2023). Cela permet aux criminels de s\u2019abonner aux m\u00eames services afin d\u2019acc\u00e9der r\u00e9guli\u00e8rement \u00e0 ces images (Crawford et Smith, 2023). Bien que Patreon<\/em> ait exprim\u00e9 une politique de tol\u00e9rance z\u00e9ro \u00e0 l\u2019\u00e9gard de ce type de contenu sur son site web, il reste difficile d\u2019identifier et de sanctionner les individus qui exploitent ces plateformes (Crawford et Smith, 2023).<\/p>\n\n\n\n

Lutte mondiale contre les abus sexuels d\u2019enfants en ligne amplifi\u00e9s par l\u2019IA<\/strong><\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Ce d\u00e9fi ne se limite pas \u00e0 Patreon<\/em> ; la National Crime Agency<\/em> (NCA) du Royaume-Uni<\/a> estime que le renforcement du chiffrement de bout en bout \u2013 processus de s\u00e9curisation des donn\u00e9es entre deux parties communicantes et l\u2019interdiction pour des tiers d\u2019y acc\u00e9der \u2013 au sein des plateformes Meta (Facebook, Instagram et autres) signifierait que les forces de l\u2019ordre perdraient l\u2019acc\u00e8s \u00e0 entre 85 et 92 % des renvois de MASE provenant des plateformes (Home Office, 2023).<\/p>\n\n\n\n

Des \u00e9tudes men\u00e9es aux \u00c9tats-Unis sugg\u00e8rent que Facebook, Instagram et WhatsApp sont les plateformes de m\u00e9dias sociaux qui h\u00e9bergent la plus grande proportion de mat\u00e9riel illicite (McQue, 2024). Elles sont rapidement suivies par d\u2019autres grandes entit\u00e9s de m\u00e9dias sociaux, ce qui refl\u00e8te le r\u00f4le central de certains des sites web et applications les plus populaires au monde dans la diffusion de MASE.<\/p>\n\n\n\n

En raison de la facilit\u00e9 de production des MASE rendue possible par l\u2019IA, il est difficile de mesurer avec pr\u00e9cision l\u2019ampleur et la pr\u00e9valence de ce type de contenu en ligne. Le ministre de l\u2019Int\u00e9rieur britannique a d\u00e9clar\u00e9 que 800 pr\u00e9dateurs sexuels avaient \u00e9t\u00e9 arr\u00eat\u00e9s et que le gouvernement prot\u00e9geait 1 200 enfants par mois (Home Office, 2023), mais cela ne se limite pas au domaine en ligne. De plus, les logiciels d\u2019IA peuvent \u00eatre t\u00e9l\u00e9charg\u00e9s et ex\u00e9cut\u00e9s en ligne, permettant ainsi aux acteurs malveillants de cr\u00e9er un contenu illimit\u00e9 alors qu\u2019ils sont d\u00e9connect\u00e9s d\u2019Internet, ce qui les met \u00e0 l\u2019abri des forces de l\u2019ordre (Internet Watch Foundation, 2023).<\/p>\n\n\n\n

L\u2019analyse limit\u00e9e disponible indique qu\u2019un volume alarmant de MASE g\u00e9n\u00e9r\u00e9s par l\u2019IA est produit en un court laps de temps. Une analyse r\u00e9alis\u00e9e au Royaume-Uni a r\u00e9v\u00e9l\u00e9 que 20 254 images avaient \u00e9t\u00e9 post\u00e9es sur un seul forum de MASE g\u00e9n\u00e9r\u00e9 par l\u2019IA au cours du mois de septembre 2023 (Internet Watch Foundation, 2023).<\/p>\n\n\n\n

Aux \u00c9tats-Unis<\/a>, le National Center for Missing and Exploited Children<\/em> (NCMEC) n\u2019a commenc\u00e9 \u00e0 recevoir des MASE g\u00e9n\u00e9r\u00e9s par l\u2019IA qu\u2019en 2023 et a d\u00e9j\u00e0 re\u00e7u des rapports concernant pr\u00e8s de 5 000 contenus (McQue, 2024). En 2023, la Cyber Tipline<\/em> des \u00c9tats-Unis a re\u00e7u pr\u00e8s de 36 millions de rapports faisant r\u00e9f\u00e9rence \u00e0 des incidents de MASE ; plus de 90 % du contenu a \u00e9t\u00e9 mis en ligne depuis l\u2019\u00e9tranger, et plus de 60 000 des rapports concernaient un enfant per\u00e7u comme \u00e9tant en danger imm\u00e9diat (McQue, 2024).<\/p>\n\n\n\n

Application de la loi et r\u00e9ponses politiques<\/strong><\/h2>\n\n\n\n

Compte tenu de la nature transversale du d\u00e9fi que repr\u00e9sente les MASE g\u00e9n\u00e9r\u00e9s par l\u2019IA, des approches multisectorielles sont n\u00e9cessaires pour perturber de mani\u00e8re significative cette tendance. Dans le secteur priv\u00e9, 27 organisations, dont TikTok et Snapchat, se sont r\u00e9cemment associ\u00e9es \u00e0 plusieurs gouvernements, dont les \u00c9tats-Unis<\/a>, l\u2019Allemagne<\/a> et l\u2019Australie<\/a>, pour explorer de nouveaux moyens de lutter contre les MASE g\u00e9n\u00e9r\u00e9s par l\u2019IA (Clark, 2023).<\/p>\n\n\n\n

Des interventions gouvernementales bilat\u00e9rales et multinationales commencent \u00e9galement \u00e0 faire surface : en 2023, les \u00c9tats-Unis et le Royaume-Uni ont publi\u00e9 une d\u00e9claration commune r\u00e9affirmant leur engagement \u00e0 lutter contre l\u2019IA g\u00e9n\u00e9rative (Home Office et US Secretary of Homeland Security, 2023). Cette d\u00e9claration a \u00e9t\u00e9 soutenue par un projet de loi historique du gouvernement britannique, l\u2019Online Safety Bill<\/em>, qui a impos\u00e9 des exigences plus strictes aux entit\u00e9s du secteur priv\u00e9 afin qu\u2019elles mettent tout en \u0153uvre pour identifier et supprimer les contenus de MASE de leurs sites web (Home Office, 2023).<\/p>\n\n\n\n

R\u00e9ponses strat\u00e9giques aux MASE g\u00e9n\u00e9r\u00e9s par l\u2019IA<\/strong><\/h2>\n\n\n\n

La menace croissante des MASE g\u00e9n\u00e9r\u00e9s par l\u2019IA n\u00e9cessite une r\u00e9ponse rapide et globale. Parmi les interventions n\u00e9cessaires, les gouvernements doivent prendre quelques mesures cl\u00e9s pour provoquer une r\u00e9ponse ferme.<\/p>\n\n\n\n