Auditando OpenAI Swarm: lo que descubrimos cuando el framework "no hace casi nada"
Por qué la simplicidad de Swarm es su mayor vulnerabilidad desde la perspectiva de la gobernanza corporativa.

Cuando OpenAI lanzó Swarm, la comunidad de desarrolladores lo celebró por lo que es: un marco de orquestación de agentes maravillosamente simple, ligero y fácil de entender. Sin embargo, desde la perspectiva de la gobernanza corporativa, esa misma simplicidad es su mayor vulnerabilidad.
Auditamos Swarm bajo el marco de la Vertical AI Governance Stack v1.0 y lo que encontramos es una lección fundamental para cualquier empresa que esté pensando en pasar de experimentos con IA a sistemas de producción.
El problema real: La "Gobernanza Implícita"
El gran problema de los marcos minimalistas como Swarm no es que funcionen mal, sino que asumen que la seguridad y el control ocurren en otro lugar. En Swarm, si el modelo decide que quiere ejecutar una función, el framework simplemente la ejecuta. No hay una aduana, no hay un notario y no hay un registro inmutable.
Eso es lo que llamamos Gobernanza Implícita: confiar en que el código que rodea a la IA será suficiente para contenerla. En una organización de alto riesgo, lo implícito es, por definición, inauditable.
Lo que Swarm garantiza (y lo que no)
1. Disponibilidad vs. Autorización (L3)
Swarm permite crear agentes que se pasan el control entre sí (handoffs). El framework garantiza que el agente A puede pasarle la pelota al agente B. Pero no garantiza que el usuario que inició la conversación tenga permiso para hablar con el agente B.
Si expones una función que conecta con un agente con privilegios administrativos, Swarm ejecutará el traspaso sin hacer preguntas. La autorización está acoplada a la visibilidad de la herramienta, no a una política de acceso explícita.
2. Decisión vs. Ejecución (L4)
Este es el hallazgo más crítico de la auditoría. En Swarm, la brecha entre que la IA "decide" hacer algo y que el sistema lo "hace" es cero. No hay un interceptor determinista que valide los parámetros antes de que lleguen al mundo real.
Si el modelo alucina un parámetro prohibido, Swarm lo envía directamente a la función de ejecución. La responsabilidad de validar recae enteramente en el desarrollador, dentro de cada función, lo que crea una superficie de ataque fragmentada y difícil de supervisar.
¿Buscas transformar tu arquitectura o posicionamiento?
Hablemos de cómo nuestros sistemas y socios pueden articular tu proyecto.
Artículos relacionados
Ver todos los artículos →El algoritmo de cruce $Q^*$: Modelando la función de coste entre impresión bajo demanda (POD) y tiradas industriales
Introducción: el dilema después de terminar el manuscrito Una autora termina su novela y necesita decidir cómo fabricarla. Puede imprimir cada ejemplar bajo demanda, sin almacenar cajas, o e…
Compliance por diseño: Moviendo la ética del PDF al código fuente
Este artículo forma parte de la serie IA, Ciudadanía y Futuro. En los últimos años, hemos visto una explosión de 'Manifiestos Éticos' de IA. Documentos bellamente redactados en PDF que prome…
Gobernanza de IA: Por qué los mejores frenos te permiten ir más rápido
Este artículo forma parte de la serie Arquitectura para Directivos. Suele pensarse que la gobernanza es un freno a la innovación, un conjunto de PDF éticos que el departamento legal añade al…