L’Ajuntament es dota d’una regulació per garantir un ús responsable i transparent de la intel·ligència artificial

L’Ajuntament de Mataró ha aprovat, a través d’un decret, la Política d’ús i governança de la intel·ligència artificial, un nou marc que regula com es pot utilitzar la IA dins l’organització municipal i, sobretot, com s’ha de governar: qui decideix, qui supervisa, quines garanties s’exigeixen i com es ret comptes a la ciutadania. Aquesta norma s’ha desplegat a partir del Reglament europeu de la intel·ligència artificial. El document està publicat al Portal de transparència de la web de l’Ajuntament.  

Aquesta política fixa l’objectiu d’implantar la IA amb criteris ètics, segurs, transparents i responsables, protegint les dades i els drets fonamentals, i impulsant aplicacions útils en l’àmbit municipal. Alhora, concreta el que l’Ajuntament vol garantir amb aquest marc: des d’establir un model intern per usar, desenvolupar i adquirir IA fins a definir responsabilitats, mecanismes de control i revisió, transparència i traçabilitat.  

En l’àmbit municipal, alguns ajuntaments han impulsat instruments específics per regular determinats usos de la IA, com ara instruccions internes d’ús o registres d’algorismes. La Política d’ús i governança de la intel·ligència artificial de l’Ajuntament de Mataró va més enllà d’aquests enfocaments parcials, configurant un marc integral i transversal que abasta no només l’ús de la IA, sinó també la seva governança, supervisió, avaluació de riscos i integració en els processos municipals al llarg de tot el cicle de vida dels sistemes d’IA. 

A qui afecta 

La política és d’obligat compliment per a totes les àrees, serveis i unitats de l’Ajuntament, els organismes i entitats dependents i també per a contractistes i proveïdors que desenvolupin, implantin o prestin serveis relacionats amb sistemes d’IA per al Consistori.  

IA sí, però com a suport: el límit és clar 

El document estableix que la IA es podrà utilitzar només com a funció de suport o assistència i sempre vinculada a l’activitat professional, amb l’obligació de supervisar i validar els resultats abans d’aplicar-los. A més, es defineixen els usos admesos: esborranys de documents que després valida personal funcionari, classificació documental, traduccions assistides, assistents informatius o resums per millorar l’accessibilitat, entre d’altres.  

No es permetrà l’ús de sistemes d’IA que automatitzin la presa de decisions amb efectes directes sobre procediments administratius o ciutadans sense supervisió humana. De fet, el document deixa clar que cap actuació algorítmica pot posar fi a un procediment ni substituir la decisió final adoptada per una persona funcionària. 

Governança: qui decideix i qui controla 

En el document s’estableixen dos òrgans per assegurar el control real: una comissió de direcció estratègica per definir l’estratègia i garantir recursos i una comissió tècnica executiva per assegurar alineament amb la política, protocols d’ús ètic, capacitació, transparència i règim d’auditories, entre d’altres funcions.  

A més, el marc assigna rols a estructures clau com l’Oficina de la Dada, el Servei de Sistemes d’Informació i Tecnologia o la figura del/de la delegat/da de protecció de dades amb funcions també de “protecció algorítmica”. 

Garanties: registre públic, transparència i “botó d’aturada” 

Un dels elements centrals és la creació del Registre Municipal d’Algoritmes i Sistemes d’Intel·ligència Artificial, que actuarà com a inventari i instrument de seguiment i supervisió de tots els sistemes d’IA utilitzats per l’Ajuntament. La inscripció serà obligatòria per a aplicacions i usos amb IA, i el registre recollirà informació també destinada a publicar-se al Portal de Transparència. 

En paral·lel, la política obliga a informar la ciutadania quan interactuï amb un sistema d’IA o quan es generi contingut sintètic, i estableix l’obligació de marcar el contingut generat o manipulat artificialment. També fixa que tot contingut sintètic creat amb IA (text, imatge, àudio, vídeo…) incorpori una etiqueta visible i una marca tècnica oculta a les metadades. 

I si el sistema “deriva” i comença a donar resultats incompatibles (errors, biaixos, al·lucinacions…), s’estableix un protocol de resposta: el sistema s’ha de desactivar temporalment si la monitorització detecta variacions significatives que comprometin els requisits.  

Formació obligatòria i desplegament intern 

El marc preveu formació inicial obligatòria i sessions periòdiques de reciclatge per a les persones autoritzades a utilitzar IA, amb continguts tècnics, legals, ètics i operatius. En aquesta línia, també s’impulsarà la difusió del Decàleg d’ús responsable de la IA generativa i una estratègia de comunicació interna perquè el personal conegui bé l’abast i implicacions de la política. Es contempla també la incorporació de nous perfils professionals especialitzats en IA, així com adaptar els processos de selecció per incorporar competències em matèria d'IA.  

Aquesta iniciativa s’emmarca en el Pla Estratègic de Transformació de l'Ajuntament de Mataró 2030 i en l’estratègia ID Mataró, que entenen la intel·ligència artificial com un accelerador per gestionar millor les dades, prendre decisions més informades i oferir serveis més personalitzats. L’Ajuntament de Mataró aposta així per una tecnologia que reforci el model de Ciutat Intel·ligent i Connectada i contribueixi als objectius de l’Agenda 2030, sense perdre mai de vista el factor humà (*). 

(*) IA | Contingut elaborat amb suport d'intel·ligència artificial