Necesidades identificadas
Lanbide, el Servicio Vasco de Empleo, se ha fijado como objetivo garantizar un uso transparente, ético y seguro de la Inteligencia Artificial (IA) en sus procesos de negocio y en la toma de decisiones. En un contexto de creciente regulación y con una ciudadanía cada vez más exigente en términos de confianza digital, la organización requería un enfoque integral que asegurara el cumplimiento normativo y consolidara la credibilidad en el uso de la IA en el sector público.
Antes de ampliar su alcance hacia la inteligencia artificial, Lanbide ya había desarrollado una sólida base en la gobernanza del dato, implementada en Anjana Data Platform, con las siguientes capacidades clave:
- Modelo operativo basado en roles y permisos — Definición clara de responsabilidades mediante flujos de validación alineados con matrices RACI y la filosofía DAMA-DMBOK2, asegurando la custodia y trazabilidad de los activos de datos e información.
- Catálogo de activos de datos e información — Inventario estructurado que abarca datasets, reportes, indicadores, dimensiones, reglas de negocio y calidad, proporcionando un marco ordenado para la gestión y gobernanza de los metadatos.
- Glosario de negocio unificado — Un lenguaje común dentro de la organización que facilita la comprensión, interpretación y uso de los datos en diferentes áreas de la entidad.
- Trazabilidad y linaje de datos — Mecanismos para conocer el recorrido de los datos desde su origen hasta su consumo final, garantizando transparencia, auditabilidad y confianza en la información utilizada.
Los principales desafíos identificados en materia de gobernanza de IA fueron:
- Cumplimiento normativo y alineación estratégica — Adaptarse al Reglamento de IA de la UE (AI Act) y al Manifiesto Ético del Dato del sector público de la CAE.
- Gestión y mitigación de riesgos algorítmicos — Identificar, evaluar y controlar los riesgos asociados al uso de modelos de IA en decisiones que afectan a la ciudadanía.
- Transparencia y rendición de cuentas — Asegurar que el uso de la IA sea explicable, auditable y trazable ante la ciudadanía y los organismos reguladores.
- Ética y derechos fundamentales — Garantizar que los sistemas de IA respetan los derechos de las personas y no generan sesgos ni discriminaciones en las decisiones automatizadas.
Arquitectura actual y futura
Actualmente, las instancias de Anjana Data Platform en Lanbide están desplegadas en modalidad On-Premise sobre la infraestructura de EJIE (Sociedad Informática del Gobierno Vasco), integradas con ODS y DWH en Oracle y con las vistas de Hive en la plataforma BDaaS de EJIE (Cloudera). EJIE migra su arquitectura BDaaS hacia AWS (BatData), y se trabaja ya en los plugins para integración con Anjana Data Platform.
Caso de uso
Lanbide busca liderar la gobernanza de IA en el sector público con un enfoque innovador que supere las prácticas tradicionales.
Pilar 01
Inventario gobernado de IA
Integrado con la plataforma de gobierno del dato para un control preciso de modelos y datos.
Pilar 02
Actualización continua
Superando el catálogo de la CAE, que carece de mecanismos proactivos de mantenimiento.
Pilar 03
Búsqueda avanzada y trazabilidad
Navegación estructurada con filtros detallados entre modelos, datos e informes para una supervisión efectiva.
Pilar 04
Modelo operativo estructurado
Definición de roles y validaciones para garantizar calidad y cumplimiento normativo en el ciclo de vida de los modelos.
Objetivos planteados
Para dar respuesta a estos desafíos, Lanbide ha definido los siguientes objetivos estratégicos:
- Implementar un marco de gobernanza de IA robusto, alineado con los principios del Manifiesto Ético del Dato del sector público de la CAE.
- Desplegar un inventario gobernado de modelos algorítmicos y sistemas de IA, que garantice la trazabilidad, auditoría y supervisión.
- Apoyar el registro público de algoritmos y sistemas de IA, en línea con la iniciativa del Parlamento Vasco.
- Garantizar el cumplimiento del Reglamento de IA de la UE (AI Act), evaluando los modelos existentes y adaptando los procesos necesarios.
- Impulsar la sensibilización y formación sobre IA en la Administración, promoviendo una cultura de gobernanza responsable.
- Servir de referencia para otras administraciones públicas, compartiendo la experiencia y metodología de Lanbide en gobernanza de IA.
Beneficios obtenidos
El Inventario Gobernado de Algoritmos y Sistemas de IA en Lanbide aporta mejoras clave frente al Catálogo de la CAE:
Estandarización y homogeneización
Plantillas estructuradas con validaciones, evitando inconsistencias y garantizando alineación regulatoria. Metadatos preconfigurados frente al PDF de texto libre de la CAE.
Información siempre actualizada
Mecanismo de actualización continua para garantizar datos precisos y en tiempo real. A diferencia del Catálogo de la CAE, evita responsables de modelos desactualizados.
Búsqueda avanzada
Filtrado por cualquier atributo y navegación desde datasets, informes o términos de negocio. Mucho más potente que el Catálogo de la CAE.
Modelo operativo con gobernanza
Roles, flujos de validación y trazabilidad para garantizar la supervisión efectiva de los modelos de IA.
Gobierno integral del modelo y sus datos
No solo se gobiernan modelos de IA, sino también los datos que los alimentan, ayudando a detectar y mitigar sesgos desde el origen.
Retos superados
La implementación del Inventario Gobernado ha requerido superar diversos desafíos tanto técnicos como organizativos. Clave del éxito: colaboración con partners certificados como Telefónica y Desidedatum, y el asesoramiento de Gartner (plataforma reconocida en el Magic Quadrant de Data & Analytics Governance Platforms).
Fragmentación y heterogeneidad de la documentación
Se pasó de formatos desestructurados y difíciles de mantener a un sistema estandarizado con plantillas y validaciones que garantizan la consistencia del inventario.
Desactualización de la información
Se estableció un mecanismo de actualización continua para garantizar datos precisos y en tiempo real, eliminando la obsolescencia de la información sobre modelos.
Dificultad en la trazabilidad y auditoría
Se implementó un modelo operativo con roles, flujos de validación y trazabilidad, asegurando una supervisión efectiva y la capacidad de auditar cualquier decisión algorítmica.
Cumplimiento normativo y adaptación al AI Act
Análisis exhaustivo de los modelos existentes para alinearlos con las normativas europeas, estableciendo clasificaciones de riesgo y controles adecuados según los requisitos del Reglamento de IA.
Sensibilización y formación interna
Se promovió la capacitación del personal en el uso responsable de la IA, fomentando una cultura de gobernanza que convierte a cada colaborador en guardián de los principios éticos y normativos.