{"id":18839,"date":"2024-05-27T17:05:20","date_gmt":"2024-05-27T17:05:20","guid":{"rendered":"https:\/\/www.humanium.org\/es\/?p=18839"},"modified":"2024-10-27T14:01:55","modified_gmt":"2024-10-27T14:01:55","slug":"combatir-el-aumento-de-material-de-abuso-sexual-infantil-generado-por-la-ia","status":"publish","type":"post","link":"https:\/\/www.humanium.org\/es\/combatir-el-aumento-de-material-de-abuso-sexual-infantil-generado-por-la-ia\/","title":{"rendered":"Combatir el aumento de material de abuso sexual infantil generado por la IA"},"content":{"rendered":"\n

El mundo est\u00e1 experimentando un auge de las tecnolog\u00edas de <\/strong>inteligencia artificial<\/strong><\/a> <\/strong>(IA) accesibles. Las nuevas herramientas y capacidades ofrecen nuevas oportunidades para que los delincuentes y los malechores exploten a los ni\u00f1os. Mientras los legisladores, los responsables pol\u00edticos y las fuerzas del orden se esfuerzan por seguir el ritmo de las innovaciones delictivas, los ni\u00f1os son cada vez m\u00e1s susceptibles al material de <\/strong>abuso<\/strong><\/a> sexual infantil generado por IA. Las nuevas tecnolog\u00edas est\u00e1n permitiendo a los delincuentes crear, amplificar y distribuir CSAM a un ritmo sin precedentes. Sin una intervenci\u00f3n urgente, esta tendencia amenaza con da\u00f1ar la<\/strong> <\/strong>seguridad<\/strong><\/a> <\/strong>en l\u00ednea de los ni\u00f1os. <\/strong><\/p>\n\n\n\n

\u00bfQu\u00e9 es el CSAM generado por IA?<\/strong><\/h2>\n\n\n\n

El CSAM (Contenido de Abuso Sexual Infantil) generado por IA es CSAM sint\u00e9tico o de la vida real creado mediante herramientas de IA (Clark, 2023). Este contenido plantea una doble amenaza: por s\u00ed mismo permite la generaci\u00f3n de CSAM nuevo y perjudicial y, simult\u00e1neamente, las herramientas de IA permiten a los delincuentes acceder a otros CSAM y difundirlos a un ritmo m\u00e1s r\u00e1pido que nunca. <\/p>\n\n\n\n

Los contenidos il\u00edcitos pueden contener im\u00e1genes alteradas de ni\u00f1os reales o creaciones fraudulentas. La capacidad de las herramientas de IA para crear contenidos que antes no exist\u00edan suele denominarse \u00abgenerativa\u00bb, y esta modalidad ampl\u00eda la red de v\u00edctimas potenciales de CSAM si las im\u00e1genes son creadas fraudulentamente.\u00a0<\/p>\n\n\n\n

La IA ha presentado una oportunidad sin precedentes para que los delincuentes creen un volumen ilimitado de CSAM. Todas las formas de CSAM generadas por IA son ilegales, independientemente de que representen o reflejen a un ni\u00f1o real o no. Las herramientas de IA son tan sofisticadas que la mayor parte del CSAM generado por IA es \u00abvisualmente indistinguible\u00bb del CSAM real, incluso para analistas entrenados (Internet Watch Foundation, 2023).<\/p>\n\n\n\n

Tendencias y prevalencia<\/strong><\/h2>\n\n\n\n

Aunque el uso de la IA para generar y propagar CSAM es relativamente novedoso, est\u00e1n surgiendo ideas sobre las metodolog\u00edas empleadas por los delincuentes. En cuanto a la generaci\u00f3n, se est\u00e1 utilizando software de IA de libre acceso, como Stable Diffusion, para generar contenidos fraudulentos de CSAM (Crawford y Smith, 2023). <\/p>\n\n\n\n

La facilidad de este y otros programas inform\u00e1ticos permite a las personas, que no necesariamente tienen experiencia tecnol\u00f3gica previa, crear nuevas im\u00e1genes bas\u00e1ndose en indicaciones de palabras e instrucciones sencillas (Crawford y Smith, 2023). La tecnolog\u00eda de conversi\u00f3n de texto en imagen es r\u00e1pida, precisa y permite crear grandes vol\u00famenes de contenido simult\u00e1neamente (Internet Watch Foundation, 2023).\u00a0<\/p>\n\n\n\n

En cuanto al alojamiento y la difusi\u00f3n de CSAM, se est\u00e1n utilizando sitios de intercambio de contenidos como Patreon para almacenar im\u00e1genes de CSAM generadas por IA (Crawford y Smith, 2023). Esto permite a los delincuentes adquirir suscripciones a los mismos servicios para acceder a las im\u00e1genes de forma sistem\u00e1tica (Crawford y Smith, 2023). Patreon ha expresado su tolerancia cero ante la aparici\u00f3n de estos contenidos en su sitio web, pero identificar y sancionar a los delincuentes que se aprovechan de estas plataformas es m\u00e1s f\u00e1cil de decir que de hacer (Crawford y Smith, 2023).<\/p>\n\n\n\n

Lucha mundial contra el abuso de menores en l\u00ednea potenciado por la IA<\/strong><\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Este desaf\u00edo no se limita a Patreon; la Agencia Nacional contra el Crimen (NCA) del Reino Unido<\/a> (RU) cree que un mayor cifrado de extremo a extremo -el proceso de asegurar los datos entre dos partes que se comunican y evitar que terceros accedan a ellos- dentro de las plataformas de Meta (Facebook, Instagram y otras) significar\u00eda que las fuerzas de seguridad perder\u00edan el acceso entre el 85 % y el 92 % de las remisiones de CSAM que llegan a trav\u00e9s de las plataformas (Ministerio del Interior, 2023).<\/p>\n\n\n\n

Los estudios realizados en Estados Unidos sugieren que Facebook, Instagram y WhatsApp son las plataformas de redes sociales que albergan la mayor proporci\u00f3n de material il\u00edcito (McQue, 2024). A estas les siguen r\u00e1pidamente otras entidades de medios sociales a gran escala, lo que refleja el papel central de algunos de los sitios web y aplicaciones m\u00e1s populares del mundo a la hora de permitir la difusi\u00f3n de CSAM.<\/p>\n\n\n\n

Debido a la facilidad de producci\u00f3n de CSAM facilitada por la IA, es dif\u00edcil medir con precisi\u00f3n la escala y la prevalencia del contenido en l\u00ednea. El Ministerio del Interior del Reino Unido declar\u00f3 que se han realizado 800 detenciones de depredadores sexuales y que el Gobierno protege a 1.200 ni\u00f1os al mes (Ministerio del Interior, 2023), pero esto no se limita al \u00e1mbito en l\u00ednea. Adem\u00e1s, el software de IA puede descargarse y ejecutarse en l\u00ednea, lo que significa que los malintencionados pueden crear contenidos ilimitados mientras est\u00e1n desconectados de Internet, ocult\u00e1ndolos a las fuerzas de seguridad (Internet Watch Foundation, 2023).<\/p>\n\n\n\n

Los escasos an\u00e1lisis existentes apuntan a un volumen alarmante de CSAM generado por IA en un corto espacio de tiempo. Un an\u00e1lisis realizado en el Reino Unido revel\u00f3 que se hab\u00edan publicado 20.254 im\u00e1genes en un solo foro de CSAM generado por IA en el mes de septiembre de 2023 (Internet Watch Foundation, 2023).<\/p>\n\n\n\n

En los Estados Unidos <\/a> (EE.UU.), el Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) no empez\u00f3 a recibir CSAM generado por IA hasta 2023, y ya ha recibido informes relacionados con casi 5.000 contenidos (McQue, 2024). En 2023, la Cyber Tipline de EE. UU. recibi\u00f3 casi 36 millones de informes relacionados con incidentes de CSAM, m\u00e1s del 90% de los contenidos se cargaron en territorio extranjero y m\u00e1s de 60.000 de los informes implicaban a un ni\u00f1o en peligro inmediato (McQue, 2024).<\/p>\n\n\n\n

Respuestas pol\u00edticas y policiales<\/strong><\/h2>\n\n\n\n

Dada la naturaleza transversal del desaf\u00edo de la ESCNNA generada por IA, se requieren enfoques multisectoriales para interrumpir significativamente la tendencia. En el sector privado, 27 organizaciones, como TikTok y Snapchat, entre otras, se han asociado recientemente con varios gobiernos, como los de Estados Unidos<\/a>, Alemania<\/a> y Australia<\/a>, para explorar nuevas formas de combatir el MSCAM generado por IA (Clark, 2023).<\/p>\n\n\n\n

Tambi\u00e9n est\u00e1n empezando a surgir intervenciones gubernamentales bilaterales y multinacionales: en 2023, EE. UU. y el Reino Unido emitieron una declaraci\u00f3n conjunta en la que reafirmaban su compromiso de combatir la IA generativa (Ministerio del Interior y Secretario de Seguridad Nacional de EE. UU., 2023). Esto fue apoyado por un proyecto de ley hist\u00f3rico del gobierno del Reino Unido, el Online Safety Bill, que impuso requisitos m\u00e1s estrictos a las entidades del sector privado para que hicieran todo lo posible por identificar y eliminar el contenido CSAM de sus sitios web (Ministerio del Interior, 2023).<\/p>\n\n\n\n

Respuestas estrat\u00e9gicas al CSAM generado por la IA<\/strong><\/h2>\n\n\n\n

La creciente amenaza del CSAM generado por la IA requiere una respuesta r\u00e1pida y global. Entre otras intervenciones, hay algunas cosas clave que los gobiernos deben hacer para catalizar una respuesta contundente.<\/p>\n\n\n\n