Lo que toda auditoría de IA debería poder responder (y casi nunca puede)
Las cinco preguntas de "verdad técnica" que toda organización delegando acciones en IA debería poder responder.

La mayoría de los marcos de cumplimiento (compliance) actuales para la Inteligencia Artificial se centran en el "qué": ¿Qué modelo usas? ¿Qué datos de entrenamiento tienes? ¿Qué ética profesas? Aunque estas preguntas son valiosas para la política, son inútiles para el control operativo.
Después de auditar sistemas reales y frameworks de vanguardia, hemos llegado a una conclusión incómoda: tener una política de IA no significa que tu IA siga esa política.
Si tu organización está delegando acciones reales en agentes autónomos, hay cinco preguntas de "verdad técnica" que tu auditoría debería ser capaz de responder hoy mismo. Y si no puede, tienes un gap de gobernanza.
1. ¿Quién autorizó esta acción (realmente)?
No nos referimos a qué humano firmó el presupuesto del proyecto. Nos referimos a si el sistema puede demostrar, en tiempo real, que la acción X fue permitida por la regla Y vinculada a la identidad Z.
En muchas arquitecturas, la "autorización" está diluida en el código. Si no hay un interceptor determinista que actúe como aduana antes de cada efecto secundario, tu IA no está autorizada; simplemente está "corriendo libre".
2. ¿Cómo sabemos que los parámetros no fueron alterados?
Es lo que llamamos la Integridad del Intent. Imagina que un humano autoriza una transferencia de 100€. La IA recibe esa autorización, pero en el camino hacia la ejecución, el modelo decide que "1000€ es más eficiente".
Una auditoría de verdad debe poder probar que los parámetros que llegaron al banco (o al ERP, o al cliente) son idénticos a los que pasaron por el filtro de seguridad. Sin un sellado de parámetros (hashing), la IA puede cambiar de opinión entre la autorización y la acción.
3. ¿Existe una prueba que el sistema no pueda borrar?
La mayoría de las empresas confían en los logs de sus aplicaciones. El problema es que esos logs suelen vivir en el mismo entorno que la IA. Si el sistema falla o es comprometido, el rastro de auditoría es lo primero que desaparece.
¿Buscas transformar tu arquitectura o posicionamiento?
Hablemos de cómo nuestros sistemas y socios pueden articular tu proyecto.
Artículos relacionados
Ver todos los artículos →El algoritmo de cruce $Q^*$: Modelando la función de coste entre impresión bajo demanda (POD) y tiradas industriales
Introducción: el dilema después de terminar el manuscrito Una autora termina su novela y necesita decidir cómo fabricarla. Puede imprimir cada ejemplar bajo demanda, sin almacenar cajas, o e…
Compliance por diseño: Moviendo la ética del PDF al código fuente
Este artículo forma parte de la serie IA, Ciudadanía y Futuro. En los últimos años, hemos visto una explosión de 'Manifiestos Éticos' de IA. Documentos bellamente redactados en PDF que prome…
Gobernanza de IA: Por qué los mejores frenos te permiten ir más rápido
Este artículo forma parte de la serie Arquitectura para Directivos. Suele pensarse que la gobernanza es un freno a la innovación, un conjunto de PDF éticos que el departamento legal añade al…