El proyecto busca establecer controles previos sobre los sistemas generativos y evitar que las tecnologías se conviertan en una herramienta para el delito.
El uso de herramientas de inteligencia artificial para generar imágenes falsas o contenido de abuso sexual infantil no deja de crecer y ya preocupa a gobiernos y organizaciones de protección en todo el mundo.
En respuesta a esta peligrosa e ilegal tendencia, el Reino Unido impulsa una ley que busca frenar la producción de este tipo de material, incluso antes de que llegue a internet.
La iniciativa, incorporada como una enmienda al Crime and Policing Bill (Proyecto de ley sobre delincuencia y policía), permitiría que empresas tecnológicas y entidades especializadas examinen los modelos de inteligencia artificial antes de su lanzamiento.
El objetivo es detectar si las herramientas generativas son capaces de producir material de abuso sexual infantil, pornografía extrema o imágenes íntimas sin consentimiento, y exigir correcciones a los desarrolladores antes de que sus productos lleguen al público.
La secretaria de Tecnología británica, Liz Kendall, explicó que la medida apunta a garantizar que la seguridad esté incorporada desde el diseño y no como un agregado posterior. Con esta reforma, el gobierno busca responsabilizar a las compañías por los riesgos vinculados al uso indebido de la inteligencia artificial en la creación y difusión de contenido ilegal.
Un problema que se hace más grave día día
La Internet Watch Foundation (IWF) reportó un importante aumento en los casos de material de abuso infantil generado con IA. Entre enero y octubre de 2025 eliminó 426 imágenes de este tipo, más del doble que en el mismo período del año anterior.
“El uso de inteligencia artificial para recrear o manipular imágenes agrava el impacto sobre las víctimas. Estas herramientas, además, les dan a los delincuentes la posibilidad de crear cantidades ilimitadas de material fotorealista”, señaló Kerry Smith, directora ejecutiva de la IWF. Para la organización, la nueva ley podría convertirse en una barrera efectiva para impedir la proliferación de estos contenidos.
Reclamos por controles obligatorios
Las principales organizaciones de protección infantil valoraron la iniciativa, aunque reclamaron que los controles sean obligatorios. “Para marcar una verdadera diferencia, esto no puede ser opcional. El gobierno debe garantizar que los desarrolladores integren la seguridad como parte esencial del diseño”, sostuvo Rani Govender, de la organización NSPCC.
La propuesta también endurece las penas para quienes creen o distribuyan herramientas de inteligencia artificial destinadas a producir material de abuso sexual infantil. Las condenas podrían llegar a cinco años de prisión.
Entre la innovación y la responsabilidad
El debate sobre cómo regular la inteligencia artificial sin frenar su desarrollo sigue abierto. Los modelos generativos, capaces de producir imágenes, voces o videos con alto nivel de realismo, representan un avance tecnológico extraordinario, pero también un riesgo cuando se utilizan con fines delictivos.
Para el gobierno británico, el equilibrio es urgente. “No permitiremos que la tecnología avance más rápido que nuestra capacidad para mantener seguros a los niños”, afirmó Kendall.
Si el Parlamento aprueba la iniciativa, el Reino Unido podría establecer un precedente sobre cómo enfrentar uno de los aspectos más problemáticos del desarrollo de la inteligencia artificial: su potencial para crear contenido ilegal y profundamente dañino.
