Deu obligacions legals sobre l’ús de la intel·ligència artificial

L’agost de 2024 va entrar en vigor el Reglament (UE) 2024/1689 sobre la Intel·ligència Artificial (RIA). Aquesta norma regula el desenvolupament, la comercialització, la posada en servei i l’ús dels sistemes d’intel·ligència artificial dins de la Unió Europea. L’objectiu és garantir una IA centrada en les persones i de confiança, que protegeixi la salut, la seguretat i els drets fonamentals recollits a la Carta de Drets Fonamentals de la UE. Aquest marc legal obliga les empreses a aplicar una sèrie d’accions. A continuació es resumeixen les 10 obligacions principals:   1.Inventariar i classificar la IA Les empreses han d’identificar quins sistemes d’IA utilitzen i determinar quin nivell de risc comporta cada ús, tal com estableix el RIA.   2.Auditar els sistemes utilitzats Cal comprovar si els sistemes d’IA s’ajusten a la normativa. Per exemple: -No és el mateix usar una llicència d’un proveïdor extern que desenvolupar un sistema d’IA propi. -Les obligacions i els riscos legals varien en funció del grau d’implicació en el desenvolupament o ús.   3.Autoritzar l’ús de la IA internament L’ús de la IA dins l’organització s’ha de controlar. Per això, l’empresa ha d’autoritzar prèviament els sistemes que el personal pot utilitzar.   4.Formar i conscienciar el personal Cal formar l’equip en l’ús responsable de la IA i elaborar protocols interns de bon ús. Això ajudarà a prevenir incidents i reclamacions futures.   5.Avaluar periòdicament els sistemes d’IA Les empreses han de fer revisions constants dels sistemes d’IA al llarg de tot el cicle de vida: -Entrenament -Validació -Desplegament -Explotació -Retirada Aquest seguiment ha d’assegurar l’adequació permanent al RIA.   6.Signar contractes amb proveïdors de sistemes IA Quan una empresa contracta sistemes d’IA (aplicacions, webs, models, solucions…), ha de formalitzar un contracte amb el proveïdor. Això permet: -Complir el RIA -Transferir part de la responsabilitat legal si la tecnologia no s’ajusta a la norma   7.Informar de les ultrasuplantacions Quan es generin o manipulin imatges, àudios o vídeos amb IA que puguin induir a error (ultrafalsificacions), cal informar clarament que el contingut és artificial.   8.Evitar usos prohibits de la IA Hi ha usos expressament prohibits pel RIA, ja que vulneren els valors i drets fonamentals de la UE. Exemple: El reconeixement d’emocions en l’àmbit laboral està prohibit, excepte en casos justificats per motius mèdics o de seguretat (com controlar la fatiga d’un pilot, si fos permès).   9.Designar un responsable o comissió de control de la IA L’aplicació de la IA exigeix una supervisió contínua. Per això, cal crear una comissió de control o designar una persona responsable dins de l’organització.   10.No utilitzar dades personals, confidencials o protegides sense autorització Està prohibit fer servir: -Dades personals -Informació confidencial -Creacions intel·lectuals o industrials …sense consentiment exprés de les persones o autorització dels titulars dels drets.   Conclusions finals -S’ha creat l’Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA), amb seu a la Corunya, per vigilar el compliment del RIA. -Les sancions per incompliment poden ser més greus que les de la normativa de protecció de dades.   Per a més informació o assessorament legal, podeu contactar amb el Departament Jurídic de Pimec.