Reglament Europeu d’Intel·ligència Artificial

No hi ha dubte que la intel·ligència artificial és un dels temes més polèmics de l’actualitat. Moltes veus estaven reclamant des de feia temps l’existència d’un marc legislatiu que posés fre als seus possibles efectes adversos. El Reglament Europeu d’Intel·ligència Artificial s’ha creat amb aquest objectiu.

El Reglament inclou

• Les regles per a posar en marxa o mercat sistemes de IA a la Unió Europea.
• Prohibeix diverses pràctiques d’intel·ligència artificial imposant requisits a sistemes de IA d’alt risc i obligacions als operadors relacionats amb aquest sistema.
• Imposa regles de transparència per a uns certs sistemes de IA.
• Estableix regles per al monitoratge i la vigilància de mercat.
• Introdueix mesures per a la innovació.

En el contingut del Reglament s’introdueix un nombre important de definicions sent aquestes de particular interès, com ara sistemes d’intel·ligència artificial, proveïdor o usuari.

Què és un sistema d’intel·ligència artificial

Un sistema d’intel·ligència artificial és aquell que opera amb elements d’autonomia i que, basant-se en dades i entrades obtinguts d’humans o màquines, infereix com aconseguir uns objectius proposats, usant per a això tècniques basades en l’aprenentatge-màquina o en lògica i coneixement, i genera com a sortida continguts, prediccions, recomanacions o decisions que influeixen en l’entorn amb el qual el sistema interactua.

Per proveïdor, el reglament entén a tota persona física o jurídica o entitat pública que desenvolupa o per a qui es desenvolupa un sistema de IA i el posa en servei o ho comercialitza sota el seu nom o marca, mediant un pagament o no.

Un usuari és tota persona física o jurídica, pública o privada, sota l’autoritat de la qual s’utilitzi el sistema.

Àmbit d’aplicació del reglament

El Reglament s’aplica a:

• Proveïdors que comercialitzin o utilitzin sistemes IA en la Unió, onsevulla que siguin presents.
• Proveïdors i usuaris de tercers països els sistemes dels quals produeixin resultats que s’utilitzin en la Unió.
• Usuaris físicament presents o establerts a la UE.
• Proveïdors d’aquests sistemes i els seus representants autoritzats, importadors i distribuïdors

El reglament no és aplicable a:

• Autoritats públiques de tercers països.
• Organitzacions internacionals quan uns utilitzin sistemes IA en l’àmbit de la cooperació policial o judicial amb la UE o les seves EEMM.
• Sistemes d’ús militar, o utilitzats en el context de la seguretat nacional.
• Sistemes utilitzats amb el sol propòsit de la recerca i el desenvolupament científic.

Sistemes de IA prohibits

Es determinen determinats Sistemes de IA que queden prohibits. Entre ells, destaquen

• Els que despleguin tècniques subliminals amb l’objectiu de distorsionar el comportament d’una persona de manera que pugui causar-li danys físics o psicològics a ell o a uns altres.
• Els que explotin vulnerabilitats d’un grup específic de persones per la seva edat, discapacitat o situació social o econòmica de manera que distorsionin el comportament d’aquestes persones i probablement els causen danys a elles o a unes altres.
• Sistemes de IA que elaborin perfils de persones segons el seu comportament, creant un “barem social” que pugui resultar que persones o grups rebin un tracte desproporcionadament desfavorable al comportament observat, o en un tracte desfavorable en un context que no és aquell on es van recollir les dades.
• Es prohibeix l’ús per a aplicacions policials o d’ordre públic de la identificació biomètrica en temps real en llocs accessibles al públic per part de les forces i cossos de seguretat, o en el seu nom, amb algunes excepcions.

Sistemes IA de propòsit general (GPAIS)

El Reglament introdueix els denominats sistemes de IA de propòsit general (GPAIS). Són sistemes de IA que no tenen un propòsit previst inicial, però que poden ser entrenats o modificats per a complir un propòsit que podria convertir-los en sistemes d’alt risc. Per tant, hauran de complir uns certs requisits perquè tots els actors de la cadena puguin complir al seu torn amb els requisits del Reglament.

Aquests requisits seran els que s’apliquen als Sistemes d’Intel·ligència Artificial d’Alt Risc, però adaptats als GPAIS mitjançant un acte d’execució de la Comissió Europea que seguirà a la promulgació del Reglament.

Els GPAIS quedaran lliures d’aquests requisits quan el proveïdor exclogui explícitament en la seva documentació tot ús d’alt risc.

Si aquest proveïdor detecta o és informat de mal ús, haurà de prendre les mesures necessàries.

Sistemes de IA d’Alt Risc (HRAIS)

El Reglament estableix una jerarquia de riscos en funció de l’ús de la IA, i estableix una sèrie d’obligacions sobre les categories detectades.

El Reglament dedica gran part del seu articulat a regular els sistemes d’alt risc, que divideix en dos grans grups

D’una banda, mitjançant una anàlisi de riscos s’ha identificat un conjunt de famílies de sistemes de IA que poden considerar-se d’alt risc si la seva sortida és rellevant respecte a una acció o decisió que pugui presentar un risc a la salut, la seguretat o els drets fonamentals.

El Reglament enumera i descriu aquest conjunt, que inclou, entre altres, sistemes d’identificació biomètrica, de protecció d’infraestructures crítiques, de selecció i promoció de personal, d’utilització en fronteres, o els usats per les Forces i Cossos de Seguretat de l’Estat o l’Administració de Justícia. La Comissió pot actualitzar aquesta llista mitjançant un acte delegat.

D’altra banda, existeixen productes que ja estan regulats per normativa harmonitzada de la UE, i que sota aquesta normativa estan subjectes a avaluació de conformitat. Hi ha un conjunt limitat de famílies d’aquests productes, que inclou entre altres els dispositius mèdics, els trens o la maquinària. Un sistema IA que constitueixi un d’aquests productes, o constitueixi un component de seguretat d’un d’aquests productes, estarà subjecte a la seva corresponent normativa harmonitzada.

Exigències dels proveïdors de sistemes d’alt risc

Els proveïdors de sistemes d’alt risc han de complir amb una sèrie d’exigències:

• Es comptarà amb un sistema de gestió de riscos per al sistema de IA d’alt risc, que contempli, en particular, els riscos sobre la salut, seguretat i drets fonamentals relacionats amb el seu propòsit.
• S’establirà una governança i gestió de les dades d’entrenament i prova, assegurant bones pràctiques en el seu disseny, recol·lecció i preparació, assegurant la seva rellevància i correcció i les seves apropiades propietats estadístiques, evitant biaixos que afectin negativament les persones.
• Els sistemes aniran acompanyats de documentació tècnica actualitzada, que demostri que es compleixen els requisits exigits.
• Els sistemes prendran automàticament registres d’activitat del sistema.
• S’aportarà informació als usuaris sobre les capacitats del sistema, els seus requisits d’equipament, el seu àmbit d’aplicació, el seu nivell de precisió, les condicions d’utilització que poden implicar riscos, els sistemes per a supervisió humana, etc.
• Els sistemes permetran la supervisió per persones durant el seu ús per a minimitzar els riscos a la salut, seguretat i drets fonamentals, en particular dels riscos residuals després de l’aplicació de mesures de mitigació.
• Els sistemes proporcionessin un nivell adequat de precisió, robustesa i ciberseguretat, que es declararà en la documentació que els acompanya.

Entitats de supervisió

A nivell europeu, es constituirà un Comitè Europeu d’Intel·ligència Artificial, on participarà un representant de cada Estat membre. El Comitè orientarà sobre la implementació del reglament, elaborarà guies i establirà les regles bàsiques per a elaborar sandboxes.

A nivell nacional existiran almenys una autoritat nacional notificant i almenys una autoritat de supervisió de mercat.

Autoritat notificant

En l’esquema de certificació de productes que proposa el Reglament, una autoritat notificant habilita a organismes d’avaluació de conformitat per a fer les avaluacions de conformitat en matèria de IA a productes que vulguin comercialitzar o posar en funcionament els proveïdors.

Autoritat de supervisió de mercat

Les autoritats de supervisió de mercat monitoraran el correcte funcionament, ja en mercat, de sistemes de IA d’alt risc, identificant riscos sobrevinguts, incidents o altres situacions que exigeixin prendre mesures sobre els sistemes de IA d’alt risc.

Els sistemes de IA regulats per la seva pròpia normativa (segon grup dels abans descrits) estaran supervisats per l’autoritat de supervisió designada en aquesta normativa.

Per al cas de sistemes d’identificació biomètrica utilitzats per a forces i cossos de seguretat de l’estat, migració i administració de justícia, les autoritats de supervisió seran, o bé les autoritats nacionals de supervisar les activitats de seguretat, migració i asil, o bé l’agència de protecció de dades.

Com aplicar la normativa de la IA en el meu treball

Per a incorporar la normativa europea d’intel·ligència artificial en el teu entorn laboral, assegura’t de:

• Identificar l’aplicabilitat: comprèn si els teus sistemes de IA es veuen afectats per aquesta normativa.
• Classificar els sistemes: determina si operes amb sistemes de IA d’alt risc i ajusta els teus processos segons els requisits específics.
• Implementar mesures de conformitat: estableix pràctiques de gestió de riscos, manteniment de registres i transparència per a garantir el compliment continuo.

En seguir aquests passos, podràs adaptar les teves operacions a les exigències del nou reglament, promovent un ús ètic i segur de la intel·ligència artificial en el teu sector.

Palau i Associats pot acompanyar-te en aquest procés. Combinem l’experiència que ens atorguen els anys d’exercici, amb l’atenció a les novetats i canvis legislatius que poden afectar els nostres clients. Si creus que la normativa sobre intel·ligència artificial pot afectar la teva empresa, posa’t en contacte amb nosaltres i t’ajudarem a adaptar-te.

I mentrestant, no et perdis cap dels articles del nostre blog, en el qual anem publicant periòdicament notícies rellevants per al món empresarial.