El Ejecutivo asegura que «podría haber responsabilidad penal» en las plataformas por permitir la difusión de imágenes sexuales de menores, y recuerda un informe que demostró que la IA de X generó más de 3 millones de fotos de desnudos, incluyendo 23.000 de niños
El Gobierno da un paso más en su batalla contra las grandes plataformas. El Consejo de Ministros ha pedido este martes a la Fiscalía que investigue a las redes sociales X, Meta y TikTok por delitos que podrían estar cometiendo en la creación y difusión de pornografía infantil, a través de la manipulación de imágenes de menores de edad con la Inteligencia Artificial (IA) de sus plataformas. El Ejecutivo alega una posible «responsabilidad penal» de las plataformas digitales por permitir que esto suceda, y recuerda un informe publicado en enero en el que se alertó de que la IA de X había generado más de tres millones de fotos de desnudos, incluyendo 23.000 de niños.
La medida ha sido anunciada a primera hora de la mañana por el presidente del Gobierno, Pedro Sánchez, quien ha avanzado que el Consejo invocará el artículo 8 del Estatuto Orgánico del Ministerio Fiscal para llevar a cabo esa petición. «Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no lo puede permitir. La impunidad de los gigantes debe acabar«, ha escrito en su cuenta de X.
Fuentes de la Moncloa explican que esta iniciativa constituye la primera medida del paquete de acciones que el Ejecutivo impulsará para endurecer la regulación del entorno digital entre las cuales se encuentra la prohibición de las redes sociales para menores de 16 años y que fue anunciado por Sánchez hace unas semanas en Dubái. Así, con este primer paso, el Gobierno solicita al Ministerio Fiscal que analice esos «posibles delitos» y «ejerza las acciones penales que considere oportunas». Pide también que «establezca criterios de actuación y mecanismos que permitan a las víctimas, así como a sus tutores y representantes legales, hacer valer sus derechos ante la Fiscalía».
Cinco posibles delitos recogidos en el Código Penal
En la misiva remitida este martes, el Ejecutivo alega que la creación de imágenes pornográficas de niños no es solo responsabilidad de quienes las crean. El Gobierno asegura que también «podría haber responsabilidad penal» en las propias plataformas digitales, «por el dominio que ejercen sobre los contenidos, las herramientas de IA integradas en ellas y la primacía de unos contenidos sobre otros a través de los algoritmos». La decisión se apoya en un informe técnico elaborado conjuntamente por los ministerios de Presidencia, Transformación Digital y Juventud.
En dicho documento, se enumeran hasta cinco posibles delitos recogidos en el Código Penal: elaboración de material pornográfico utilizando a menores (recogido en el artículo 189.1); producción, venta, distribución, exhibición, ofrecimiento o facilitación de maternial pornográfico o la posesión para estos fines (189.1); adquisición o posesión de pornografía infantil, incluidos los deepfakes, para uso propio, así como el acceso a sabiendas a este contenido a través de internet (189.5); y la distribución o difusión a través de interneet de contenidos específicamente destinados a promover, fomentar o incitar delitos relacionados con la pornografía intantil (189 bis). A ello le suman otro posible delito contra la integridad moral, tipificado en el artículo 173.1 de la ley penal.
La iniciativa se suma a otras investigaciones similares que se están dando a nivel internacional. Así lo apunta el Gobierno, que recuerda que la Comisión Europea ya está investigando a Meta, TikTok y la Inteligencia Artificial Grok bajo la Digital Services Act. También Francia está investigando a X por la generación de deepfakes (imágenes sexuales generadas con IA); y países como Brasil, Canadá, Reino Unido o varios estados de EEUU han abierto diligencias por la difusión de contenidos ilícitos vinculados a estas plataformas.
«El Gobierno enmarca esta actuación en la necesidad de proteger el interés público, la seguridad y la dignidad de la infancia española, ante un entorno digital que considera caracterizado por la impunidad y la tolerancia hacia prácticas delictivas que ponen en riesgo la intimidad, la imagen y la libertad de los menores», zanjan en la Moncloa.
23.000 desnudos de niños en 11 días
Por su parte, la ministra de Juventud e Infancia, Sira Rego, ha destacado que esto supone «un paso más para salvaguardar los derechos de la infancia en redes sociales», y ha recordado que en enero solicitaron a la Fiscalía que investigase si X había cometido delitos de pornografía infantil. Fuentes de su departamento inciden en un informe publicado en enero por el Centro para Contrarrestar el Odio Digital (CCCDH, por sus siglas en inglés), que evidenció que en apenas 11 días, la IA de X generó más de 3 millones de fotos de desnudos, incluyendo 23.000 de niños y niñas.
El ministerio es uno de los autores del documento en el que se apoya hoy el Gobierno para enviar esa petición a la Fiscalía. Según cuentan en el entorno de Sira Rego, en dicho informe se ha analizado la posible responsabilidad penal de las plataformas digitales a la hora de generar y difundir material de violencia sexual hacia la infancia a través de su IA. En el texto, explican que estas herramientas de IA generativa integradas en las redes sociales no solo están permitiendo que se creen imágenes pornográficas de menores de edad de apariencia realista a través de fotos, sino que, además, «contribuyen, en virtud de su propia configuración algorítmica, a su difusión masiva e indiscriminada en el entorno digital».
Juventud e Infancia incide también en la ley de protección de la infancia en entornos digitales que se está negociando actualmente con el resto de grupos en el Congreso de los Diputados, y la cual, dicen, «recoge las principales herramientas de defensa y protección de los derechos de niños, niñas, adolescentes y jóvenes en internet».
Fuente: 20 Minutos
Acerca del autor
