Creación del grupo de investigación IA+

CoboiLab ha puesto en marcha el grupo de investigación IA+ , un espacio dedicado a investigar cómo integrar la inteligencia artificial de una manera ética, útil y segura en los servicios públicos y los procesos innovadores. Esta iniciativa surge a raíz de la creciente presencia de la IA en múltiples ámbitos y la necesidad de abordar su uso desde una perspectiva responsable que tenga en cuenta tanto los beneficios como los potenciales riesgos.

La creación del grupo IA+ es fruto de la colaboración entre CoboiLab y el Departamento de Transformación Digital del Ayuntamiento de Sant Boi de Llobregat. Su objetivo principal es desarrollar herramientas y metodologías que permitan aplicar la IA de forma coherente con los valores de transparencia, equidad y seguridad. Esto implica crear un protocolo de implantación IA que incluya un checklist de riesgos, así como definir las condiciones claras para su contratación pública. Además, se quiere asegurar que cualquier aplicación de IA que se integre cumpla con los estándares éticos que promueve la Unión Europea a través del Reglamento Europeo sobre la IA (Artificial Intelligence Act) .

Durante las sesiones de trabajo realizadas hasta ahora, el grupo de investigación IA+ ha extraído diversos aprendizajes importantes que marcan su hoja de ruta:

1. Planificación previa esencial: Las primeras aproximaciones a la IA se centraron en probar aplicaciones populares sin un análisis previo que definiera objetivos concretos. Esta aproximación apresurada ha evidenciado la necesidad de empezar con una reflexión metodológica y bien estructurada antes de implementar nuevas tecnologías.

2. Referencia normativa europea: El borrador del Reglamento Europeo sobre la IA se ha convertido en un recurso valioso para identificar niveles de riesgo y aplicar criterios rigurosos en el diseño e implementación de aplicaciones de IA. Este reglamento clasifica las aplicaciones en cuatro categorías:

   • Riesgo inaceptable: Sistemas de vigilancia masiva sin consentimiento o créditos sociales que clasifican a las personas.

   • Riesgo alto: Sistemas de selección de personal o identificación biométrica, que requieren medidas estrictas de seguridad y transparencia.

   • Riesgo limitado: Aplicaciones como chatbots de atención al cliente, que necesitan un control adecuado pero sin riesgos significativos.

   • Riesgo mínimo: Filtros de correo spam o recomendaciones personalizadas, con impactos mínimos sobre la seguridad o derechos de las personas.

3. Creación de un protocolo de implantación IA: El grupo está desarrollando un protocolo que incluye un checklist de riesgos y un marco operativo claro para asegurar que cualquier proyecto de IA se despliegue con garantías éticas y sociales. Este protocolo pretende garantizar la transparencia, seguridad y equidad en la implementación de aplicaciones de IA en la administración pública.

El trabajo de este grupo de investigación es un primer paso para consolidar un modelo de innovación que integre la IA de forma consciente y responsable. Con una mirada crítica y una metodología rigurosa, CoboiLab pretende aportar soluciones que no sólo sean eficaces, sino que respondan también a los retos éticos que esta tecnología plantea.