Creació del grup de recerca IA+

CoboiLab ha posat en marxa el grup de recerca IA+, un espai dedicat a investigar com integrar la intel·ligència artificial d’una manera ètica, útil i segura en els serveis públics i els processos innovadors. Aquesta iniciativa sorgeix arran de la creixent presència de la IA en múltiples àmbits i la necessitat d’abordar el seu ús des d’una perspectiva responsable, que tingui en compte tant els beneficis com els riscos potencials.

La creació del grup IA+ és fruit de la col·laboració entre CoboiLab i el Departament de Transformació Digital de l’Ajuntament de Sant Boi de Llobregat. L’objectiu principal és desenvolupar eines i metodologies que permetin aplicar la IA de manera coherent amb els valors de transparència, equitat i seguretat. Això implica crear un protocol d’implantació IA que inclogui un checklist de riscos i definir condicions clares per a la seva contractació pública. A més, es vol assegurar que qualsevol aplicació d’IA que s’integri compleixi amb els estàndards ètics que promou la Unió Europea a través del Reglament Europeu sobre la IA (Artificial Intelligence Act).

Durant les sessions de treball realitzades fins ara, el grup de recerca IA+ ha extret diversos aprenentatges importants que marquen el seu full de ruta:

1. Planificació prèvia essencial: Les primeres aproximacions a la IA es van centrar en provar aplicacions populars sense un anàlisi previ que definís objectius concrets. Aquesta aproximació precipitada ha evidenciat la necessitat de començar amb una reflexió metodològica i ben estructurada abans d’implementar noves tecnologies.

2. Referència normativa europea: L’esborrany del Reglament Europeu sobre la IA ha esdevingut un recurs valuós per identificar nivells de risc i aplicar criteris rigorosos en el disseny i implementació d’aplicacions d’IA. Aquest reglament classifica les aplicacions en quatre categories:

   • Risc inacceptable: Sistemes de vigilància massiva sense consentiment o crèdits socials que classifiquen les persones.

   • Risc alt: Sistemes de selecció de personal o identificació biomètrica, que requereixen mesures estrictes de seguretat i transparència.

   • Risc limitat: Aplicacions com els chatbots d’atenció al client, que necessiten un control adequat però sense riscos significatius.

   • Risc mínim: Filtres de correu spam o recomanacions personalitzades, amb impactes mínims sobre la seguretat o els drets de les persones.

3. Creació d’un protocol d’implantació IA: El grup està desenvolupant un protocol que inclou un checklist de riscos i un marc operatiu clar per assegurar que qualsevol projecte d’IA es desplegui amb garanties ètiques i socials. Aquest protocol pretén garantir la transparència, la seguretat i l’equitat en la implementació d’aplicacions d’IA en l’administració pública.

El treball d’aquest grup de recerca és un primer pas per consolidar un model d’innovació que integri la IA d’una manera conscient i responsable. Amb una mirada crítica i una metodologia rigorosa, CoboiLab pretén aportar solucions que no només siguin eficaces, sinó que també responguin als reptes ètics que aquesta tecnologia planteja.