La ley de IA europea, el primer paso para acabar con el porno no consentido en menores

La Unión Europea se ha convertido en la región pionera a la hora de crear una ley que regule el uso de la Inteligencia Artificial. Esta semana, los diferentes órganos comunitarios -Parlamento Europeo, la Comisión Europea y el Consejo de Europa- han conseguido llegar a un acuerdo provisional sobre la norma que tendrá vigencia en todos los Estados miembro. El texto todavía tendrá que sortear algunos pasos para que entre vigor, que se prevé para finales de 2026.

La ley europea recoge las obligaciones y normas que tendrá que cumplir esta tecnología que ha cambiado por completo la forma de ver y entender el mundo que nos rodea. La Unión Europea regula su uso con el fin de limitar, principalmente, sus aplicaciones en sistemas críticos para los Estados y los efectos que el tratamiento de datos pueda tener para los derechos humanos.

La IA tendría que adaptarse para regular aspectos importantes como el uso de imágenes falsas para su difusión en páginas de contenido sexual. La necesidad de regular este tipo de supuestos nace de casos como el de Almendralejo en el que varias menores fueron víctimas de falsos desnudos creados con esta tecnología.

La nueva legislación comunitaria ha impulsado una clasificación que va desde riesgos mínimos hasta riesgos inaceptables. El texto regula aquellas aplicaciones, como es el del caso del porno no consentido, que suponen un riesgo específico contra la transparencia, como los chatbots y las herramientas de IA generativa.

El contenido generado por este tipo de Inteligencia Artificial deberá ser debidamente etiquetado y advertir a los usuarios de su procedencia. Este supone el primer paso para frenar el uso fraudulento de las conocidas como imágenes fake.

¿Qué responsabilidades recoge la ley?

Ana Caballero, abogada y vicepresidenta de la Asociación Europea de Transición Digital (AETD), explica a Vozpópuli que la nueva norma actúa para que este tipo de plataformas informen a los usuarios de lo que se puede hacer con esa inteligencia artificial. "La práctica hoy en día es que al incluir las condiciones generales de contratación y los términos de uso de estas plataformas, se exime a las empresas de cualquier responsabilidad derivada del uso lícito que tú puedas hacer", detalla.

La experta subraya que la responsabilidad de la creación de una imagen falsa y su divulgación ya está tipificada en la legislación española. La difusión de este tipo de contenidos, como en el caso de las menores de Almendralejo, atienden a delitos contra la intimidad o el derecho al honor, que conllevan responsabilidades penales.

Ricardo Rodríguez, presidente de la AETD, señala que las actuaciones individuales de cada usuario no se pueden prevenir, pero el arma con el que se lleva a cabo sí se puede regular. "Algunos aspectos de la norma han sido criticados, porque se dejan algunos agujeros sueltos". Por ejemplo, en el caso de la posibilidad de que los gobiernos puedan efectivamente aplicar sistemas de reconocimiento facial o biométrico.

La ley impulsada por los países europeos sólo supone la punta del iceber de una problemática con muchas aristas. Así lo define, Miriam Al Adib Mendiri, ginécologa y madre de una de las menores de Almendralejo, reclama abodar el asunto desde la parte educativa, desde la constitución social y fomentar campañas de sensibilización. "No hay una solución lineal, es un tema muy complejo que tiene muchas aristas y hay que abordarlas todas, por eso es necesario hacer el tipo multidisciplinar para abordar estos problemas", sentencia.

La experta en educación sexual viajó hasta Bruselas, en el seno de los congresos previos a las negociaciones finales de la norma, para participar en un coloquio sobre la protección del menor. "Se ha hecho mucha campaña para prevención de la violencia contra la mujer, pero poco hay sobre la infancia y la adolescencia y es un problema que va en aumento, siendo la primera causa del suicidio en jóvenes", comenta.

La ginecóloga apunta al nuevo matiz que actualmente ha adquirido el bullying, donde el ciberbullying se convierte en el protagonista. Ahora los menores son acosados también fuera de las aulas escolares.

El texto definitivo tendrá que seguir su senda en Bruselas. Una vez se consolide su probación, su reglamento será de aplicación inmediata en todos los países de la Unión. Ahora queda esperar a una regulación específica a nivel nacional.