En agosto de 2024 entró en vigor el Reglamento (UE) 2024/1689 sobre la Inteligencia Artificial (RIA). Esta norma regula el desarrollo, la comercialización, la puesta en servicio y el uso de los sistemas de inteligencia artificial dentro de la Unión Europea.
El objetivo es garantizar una IA centrada en las personas y de confianza, que proteja la salud, la seguridad y los derechos fundamentales recogidos en la Carta de Derechos Fundamentales de la UE.
Este marco legal obliga a las empresas a aplicar una serie de acciones. A continuación, se resumen las
10 obligaciones principales:
1.Inventariar y clasificar la IA
Las empresas deben identificar qué sistemas de IA utilizan y determinar qué nivel de riesgo conlleva cada uso, tal como establece el RIA.
2.Auditar los sistemas utilizados
Es necesario comprobar si los sistemas de IA se ajustan a la normativa.
Por ejemplo:
No es lo mismo usar una licencia de un proveedor externo que desarrollar un sistema de IA propio.
Las obligaciones y los riesgos legales varían en función del grado de implicación en el desarrollo o uso.
3.Autorizar el uso de la IA internamente
El uso de la IA dentro de la organización debe estar controlado.
Por ello, la empresa debe autorizar previamente los sistemas que el personal puede utilizar.
- Formar y concienciar al personal
Es necesario formar al equipo en el uso responsable de la IA y elaborar protocolos internos de buen uso.
Esto ayudará a prevenir incidentes y reclamaciones futuras.
5.Evaluar periódicamente los sistemas de IA
Las empresas deben realizar revisiones constantes de los sistemas de IA a lo largo de todo su ciclo de vida:
Entrenamiento
Validación
Despliegue
Explotación
Retirada
Este seguimiento debe asegurar la adecuación permanente al RIA.
6.Firmar contratos con proveedores de sistemas de IA
Cuando una empresa contrata sistemas de IA (aplicaciones, webs, modelos, soluciones…), debe formalizar un contrato con el proveedor.
Esto permite:
Cumplir con el RIA
Transferir parte de la responsabilidad legal si la tecnología no se ajusta a la norma
7.Informar sobre las ultrafalsificaciones
Cuando se generen o manipulen imágenes, audios o vídeos con IA que puedan inducir a error (ultrafalsificaciones), se debe informar claramente de que el contenido es artificial.
8.Evitar usos prohibidos de la IA
Existen usos expresamente prohibidos por el RIA, ya que vulneran los valores y derechos fundamentales de la UE.
Ejemplo:
El reconocimiento de emociones en el ámbito laboral está prohibido, salvo en casos justificados por motivos médicos o de seguridad (como controlar la fatiga de un piloto, si fuera permitido).
9.Designar a un responsable o comisión de control de la IA
La aplicación de la IA exige una supervisión continua.
Por ello, es necesario crear una comisión de control o designar a una persona responsable dentro de la organización.
10.No utilizar datos personales, confidenciales o protegidos sin autorización
Está prohibido utilizar:
Datos personales
Información confidencial
Creaciones intelectuales o industriales
…sin el consentimiento expreso de las personas o autorización de los titulares de los derechos.
Conclusiones finales
Se ha creado la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), con sede en La Coruña, para vigilar el cumplimiento del RIA.
Las sanciones por incumplimiento pueden ser más graves que las de la normativa de protección de datos.
Para más información o asesoramiento legal, podéis contactar con el
Departamento Jurídico de Pimec.
