El Consejo de Cuentas de Galicia estrena sus reglas para la IA

El Consejo de Cuentas de Galicia se ha propuesto que la inteligencia artificial trabaje a su favor, pero sin que las máquinas se lleven el crédito. La entidad acaba de publicar su nueva política interna para regular el uso de estas tecnologías, dejando claro que el juicio humano sigue siendo la última palabra en cualquier auditoría.

La normativa, que ya está en vigor, establece que las herramientas de inteligencia artificial se limitarán a tareas de apoyo, como el análisis masivo de datos públicos, la extracción automatizada de información o la clasificación de documentos. Queda tajantemente prohibido usar estos sistemas para perfilar personas físicas, predecir comportamientos o realizar evaluaciones de riesgo individualizadas.

Para velar por el cumplimiento de estas reglas, se crea un nuevo Comité de Gobernanza de la Inteligencia Artificial. Este órgano será el encargado de autorizar cualquier proyecto, evaluar posibles riesgos y mantener un registro interno de los sistemas que estén permitidos. Todo documento en el que intervenga la inteligencia artificial deberá dejar constancia del sistema utilizado y de la persona responsable de validarlo.

La entidad asume un compromiso claro con la transparencia. Los resultados generados por estas herramientas no constituirán por sí mismos evidencia de auditoría, por lo que siempre deberán ser corroborados mediante fuentes tradicionales. Además, el personal recibirá formación continua sobre los riesgos asociados a los sesgos algorítmicos y las alucinaciones de las máquinas.

El uso indebido de estas herramientas conlleva responsabilidades directas. Ninguna automatización liberará a los auditores ni a los órganos del Consejo de su responsabilidad plena sobre las conclusiones y recomendaciones de sus informes. Las máquinas ayudan. No deciden.