Què és l’AI Act i per què és important per a les empreses?

En els darrers anys, la intel·ligència artificial ha experimentat un creixement accelerat, amb aplicacions cada vegada més presents en sectors clau, on pot generar riscos significatius per als drets fonamentals i la seguretat de les persones.

Per aquest motiu, Europa ha impulsat el Reglament Europeu d’Intel·ligència Artificial (AI Act), el primer marc legal que regula els sistemes d’IA i que vol garantir que siguin segurs, transparents i respectin els drets de tothom, alhora que es fomenta una innovació responsable.

Com funciona l’AI Act?

L’AI Act classifica els sistemes d’IA segons el seu nivell de risc (risc baix, limitat, elevat o inacceptable), i estableix obligacions legals específiques per a les empreses que els desenvolupen o els utilitzen.

La normativa posa especial atenció als models d’IA de propòsit general (General Purpose AI – GPAI), com els que poden generar text, traduir, o crear imatges, ja que poden realitzar múltiples funcions i tenir un impacte transversal en diversos sectors. Aquests models estan entrenats amb grans volums de dades, la qual cosa pot comportar riscos de privadesa, manca de transparència sobre l’origen de la informació, i presència de biaixos estadístics o culturals. A més, la seva versatilitat i integració creixent en entorns crítics pot generar dependències tecnològiques, dificultar la traçabilitat de les decisions automatitzades, i inclús provocar una asimetria de poder entre proveïdors tecnològics i usuaris finals.

Aquesta regulació és especialment rellevant en sectors on els riscos associats a l’ús de la IA són més elevats, com ara la salut (diagnòstic assistit per IA), l’educació (avaluació automatitzada d’alumnat), l’àmbit laboral (cribratge de candidats amb algoritmes), les finances (decisions automatitzades de crèdit), la justícia i seguretat (ús de reconeixement facial o predicció delictiva), o els serveis socials (assignació automatitzada ’ajudes). En aquests àmbits, un ús incorrecte o poc transparent de la IA pot tenir conseqüències greus sobre els drets fonamentals, la no-discriminació o la seguretat de les persones.

Què hauran de fer les empreses?

El desplegament del reglament es farà per fases i de forma progressiva:

• Des del 2 d’agost de 2025, els proveïdors que posin al mercat nous models d’IA de propòsit general hauran de complir amb el reglament (transparència, documentació, avaluació de riscos, etc.), i si el model presenta un risc elevat, hauran de notificar-ho l’Oficina Europea d’Intel·ligència Artificial (AI Office). En aquest període no s’aplicaran sancions, sempre que es demostri bona fe i que l’empresa estigui adherida al General Purpose AI Code of Conduct, un codi de conducta impulsat per la Comissió Europea per facilitar el compliment progressiu del reglament.
• A partir del 2 d’agost de 2026, es podran aplicar sancions per incompliment.
• Des del 2 d’agost 2027, els models GPAI ja existents abans del 2 d’agost de 2025 també hauran d’estar completament adaptats al reglament.

Recursos per ajudar les empreses a complir amb l’AI Act

La Comissió Europea ha publicat unes directrius per a ajudar a les empreses amb l’aplicació del reglament.

Consulta les directrius | Preguntes freqüents (Q&A)

A nivell regional, l’Observatori d’Ètica d’Intel·ligència Artificial de Catalunya (OEIAC) ha posat a disposició el Model PIO, una eina d’autoavaluació per al compliment de la normativa de dades i l’AI Act.

Accedeix al Model PIO

Pròximament, el DIH4CAT també oferirà un servei de suport i assessorament en el compliment d’aquesta normativa. Un cop estigui actiu, s’informarà pels canals de comunicació habituals del Hub. Mentrestant, quedem a la vostra disposició a través del correu info@dih4cat.cat per a qualsevol dubte.

Preparar-se per a una nova era reguladora en IA

Amb l’entrada en vigor de les primeres obligacions per als models d’IA de propòsit general, comença una nova etapa per a la intel·ligència artificial a Europa, marcada per la responsabilitat, la transparència i el compromís ètic.

Des del DIH4CAT, animem totes les organitzacions a informar-se, preparar-se i aprofitar els recursos disponibles per adaptar-se amb èxit a aquesta nova realitat reguladora.