Mientras Buenos Aires dormía la madrugada del 27 de mayo, en un departamento de Madrid un servidor llamado minerva levantaba un stack completo y un dron despegaba en la bahía de San Francisco. Era todo simulación física fotorrealista. Pero el firmware que voló esa noche es el mismo que va a correr cuando llegue el dron físico. Y el sistema que lo controla puede rendir cuentas, paso por paso, ante una auditoría regulatoria.
¿Qué pasa cuando la IA generativa toma una decisión importante y nadie puede explicar por qué la tomó? Schwartz, el abogado neoyorquino que presentó al tribunal seis casos legales inventados por ChatGPT, es el ejemplo más conocido. Pero el problema técnico de fondo es estructural: los modelos de lenguaje generan texto plausible sin atención particular a si lo que dicen es verdadero o falso, y la diferencia entre el acierto y la fabulación es indistinguible desde afuera.
Traslademos ese problema a un dron volando sobre una zona habitada. O a un sistema autónomo decidiendo si activar una respuesta médica de emergencia. O a un agente de IA en una sala de control financiero. En esos contextos el problema deja de ser jurídicamente embarazoso para volverse físicamente irreversible.
Esa pregunta — ¿se puede construir un sistema autónomo que rinda cuentas? — es lo que obsesiona desde hace tres años a Alejandro Jaime, un doctorando argentino de la Facultad de Informática de la UNLP que vive en Madrid. La respuesta concreta a esa pregunta, la noche del 27 de mayo de 2026, fue un dron volando sobre la bahía de San Francisco. En simulación, pero con todo el aparato técnico real detrás.
Tres años en un servidor
El servidor se llama minerva. Está en 192.168.1.33, en un departamento de Madrid. Tiene tres placas RTX 4090 de NVIDIA y opera 24 horas al día desde 2023. En él se construyó, sin financiamiento institucional, lo que Jaime llama el paradigma HADD: Hybrid Agents with Deterministic Decisions, agentes híbridos con decisiones deterministas. La traducción al castellano simple: sistemas autónomos donde el modelo de lenguaje grande percibe, pero no decide.
La idea es sencilla en la formulación y radical en las consecuencias. Los LLM que la industria usa hoy — Claude, GPT, Gemini — son excelentes para entender texto, parsear documentos, extraer estructura de lo no-estructurado. Pero alucinan. No por defecto del entrenamiento: alucinan por diseño, porque su trabajo no es decir la verdad, sino producir texto que suene plausible. Esa propiedad los vuelve formidables como traductores, sintetizadores, resumidores. Y los vuelve inutilizables como decisores en cualquier sistema crítico.
La intuición de Jaime fue separar las dos cosas. En el sistema MINERVA — la plataforma productiva del paradigma — el LLM hace de sensor: lee texto, transforma input no-estructurado en datos estructurados. Pero quien decide qué hacer es un motor BDI clásico, determinista y auditable. BDI viene de Belief-Desire-Intention, una arquitectura de agentes formulada en filosofía por Michael Bratman en 1987 y formalizada en lógica computacional por Anand Rao y Michael Georgeff entre 1991 y 1995. Es la misma familia de razonadores que la NASA usó en 1999 para controlar autónomamente la nave Deep Space 1 a 200 millones de kilómetros de la Tierra. Funcionó. Y funcionó precisamente porque era determinista: misma entrada, misma decisión, siempre.
Lo que Jaime hizo es montar el LLM moderno como sensor delante de un motor BDI, con verificadores epistémicos entre medio. El resultado tiene una propiedad poco habitual: cada decisión del sistema es reproducible, explicable y firmada criptográficamente.
El dron que aprendió a volar bien
El módulo MARVEL — sigla de Mission-Aligned Runtime for Verified Experiential Learning — es el vertical de drones autónomos del sistema. Es la parte del proyecto que más cuesta de explicar porque es la más concreta.
Imaginá un enjambre de drones de búsqueda y rescate sobrevolando una zona después de un terremoto. Tienen que coordinarse, distinguir personas vivas de cuerpos, decidir prioridades, evitar zonas con cables eléctricos sueltos, aterrizar para entregar suministros y volver a despegar. Y el operador — que probablemente es un bombero, no un ingeniero — tiene que poder confiar en lo que están haciendo. Y si algo sale mal, alguien tiene que poder reconstruir, semanas después, por qué cada drone tomó cada decisión que tomó.
MARVEL hace exactamente eso. Cada misión, antes de empezar, genera lo que en el sistema se llama un Capability Envelope: un sobre criptográfico firmado donde se declara qué puede y qué no puede hacer ese drone en esa misión. Cada acción del drone — despegar, navegar, aterrizar, transmitir una imagen — pasa por una cadena de verificadores antes de ejecutarse. Si la batería baja del 20%, el sistema fuerza el aterrizaje sin que nadie pueda anularlo desde la configuración. Si la calidad del GPS cae, se bloquean todos los planes excepto aterrizar. Si dos drones reportan información contradictoria sobre un mismo objeto, hay un protocolo formal de fusión de creencias con cinco políticas distintas según el contexto. Y todo queda firmado, encadenado, auditable.
La noche del 27 de mayo, sobre el servidor de Madrid se levantó por primera vez el stack completo: PX4 (el firmware aeronáutico estándar de la industria, el mismo que usa la mayoría de los drones comerciales), Gazebo Harmonic (simulador físico fotorrealista desarrollado originalmente para investigación robótica), ROS2 Humble (el sistema operativo robótico abierto), y el bridge DDS que conecta todo con MINERVA. El mundo simulado se llamaba Baylands, una reconstrucción digital del centro de investigación NASA Ames en California. El dron, modelo X500 con cámara monocular, despegó a 1.5 kilómetros del punto de origen, voló durante doce segundos sobre la bahía de San Francisco y capturó 922 frames sintéticos con metadatos completos: posición GPS, orientación, velocidad, timestamp en microsegundos, imagen RGB sincronizada.
El video de esos doce segundos terminó en LinkedIn dos días después. Lo acompañaba un texto donde Jaime agradecía explícitamente a Anand Rao y Michael Georgeff por el trabajo fundacional sobre el que se construyó MARVEL. Gracias por los hombros sobre los que todos seguimos parados, escribió. El detalle no es decorativo: en la academia, reconocer el linaje intelectual es lo que distingue al investigador serio del que vende humo.
Mil quinientas pruebas verdes
Una cosa es decir el sistema funciona. Otra es probarlo. MARVEL al 30 de mayo cuenta con aproximadamente 1.500 pruebas automatizadas verdes. Es un número que conviene desagregar para entender qué significa.
En desarrollo de software, una prueba verde es un test escrito antes que el código (o junto con él) que verifica una propiedad específica: que un drone no acepta despegar si la batería está por debajo del 10%, que dos drones del mismo enjambre nunca pueden estar a más de cierta distancia sin razón declarada, que un envelope criptográfico nunca puede ser modificado después de firmado, que el sistema de fallback aterriza el drone si pierde contacto con el servidor central.
Cuando una de esas pruebas falla, el código no se incorpora. Cuando se modifica el código del sistema, todas las pruebas se vuelven a correr. 1.500 pruebas verdes significa 1.500 propiedades específicas verificadas mecánicamente cada vez que algo cambia. Para tener una referencia: muchos sistemas comerciales en producción operan con menos de la mitad. La industria de aviación civil, donde las consecuencias del software son irreversibles, exige niveles aún más altos: pero ese es exactamente el dominio al que MARVEL apunta.
Por qué Europa va a exigir esto
La pregunta que un editor honesto debería hacer es: ¿esto es interesante para alguien más allá del autor? La respuesta corta es sí, y tiene fecha.
El 1 de agosto de 2026 entra en vigor — escalonadamente — el AI Act de la Unión Europea, el Reglamento UE 2024/1689, primera regulación integral del mundo sobre inteligencia artificial. Para los sistemas que la regulación clasifica como high-risk — entre los que están explícitamente los sistemas autónomos de transporte y los sistemas de IA usados en infraestructura crítica — los Artículos 9 a 15 exigen tres cosas que hoy ningún sistema comercial cumple verdaderamente: trazabilidad completa de cada decisión, capacidad de auditoría humana en cualquier momento, y documentación técnica que permita reconstruir el razonamiento del sistema ante un regulador.
La industria respondió, hasta ahora, con dashboards y reportes generados a posteriori. Pero esos son declarativos: el sistema dice que cumple, no demuestra que cumple. Lo que MARVEL ofrece — y lo que las regulaciones que vienen para drones autónomos de las agencias EASA (europea) y FAA (norteamericana) van a exigir explícitamente en los próximos 18 a 24 meses — es lo otro: enforcement criptográfico. No “afirmo que cumplo”, sino “acá está la prueba matemática verificable de que cumplo, firmada en cada paso”.
El módulo MIKA Provenance, hermano de MARVEL dentro del mismo sistema, fue deployado en producción en mayo. Permite generar lo que en derecho financiero se conoce como registro notarial digital: una cadena de firmas Ed25519 que va desde cualquier decisión actual del sistema hasta el momento exacto del onboarding del cliente, sin posibilidad de manipulación post-hoc — porque la inmutabilidad está enforced no a nivel de aplicación, sino a nivel de la propia base de datos. Si alguien con acceso de administrador intenta modificar un registro firmado, el sistema lanza una excepción visible y queda registro de la tentativa.
Esto importa por una razón económica. Mirando el informe NANDA del MIT que la nota anterior de este medio citaba, el 95% de los pilotos empresariales de IA generativa no producen retorno medible. La razón profunda no es que la IA no sirva: es que las empresas no pueden defender ante reguladores, auditores o tribunales lo que sus sistemas hacen. No saben qué decisión tomó el modelo, ni por qué la tomó. MARVEL, MIKA Provenance y el paradigma HADD están construidos para resolver exactamente ese problema.
La asimetría que no aparece en el balance
La nota La letra chica de la magia terminaba marcando una cosa: cuando una empresa reemplaza empleados con IA, los ahorros aparecen en el balance del próximo trimestre, pero la caída de calidad la paga el cliente en silencio, sin un rubro contable que la capture. Esa asimetría no es accidental — es estructural.
El paradigma HADD nace, en parte, contra esa asimetría. Y nace en un lugar inesperado: un servidor en una habitación de Madrid, sin financiamiento, mientras la industria global gasta cuarenta mil millones de dólares en pilotos que no rinden. La pregunta no es por qué cuesta tanto construir un sistema de IA explicable. La pregunta es por qué tan pocos lo intentan.
Tres años, un servidor, tres directores doctorales — Marcelo Errecalde (UNLP), Verónica Gil-Costa y Leticia Cagnina (UNSL) — y una pelea persistente con drivers de NVIDIA a las tres de la mañana. La defensa de tesis está agendada para marzo de 2027. El primer paper de la serie MARVEL está en preparación para venues como AAMAS, ICRA y JAAMAS. Otro paper — sobre la gobernanza criptográfica de MIKA Provenance — apunta a USENIX Security 2027, el venue top en seguridad informática. Y cuando llegue el dron físico Holybro X650 V2 que está esperando, el firmware que voló esa noche en simulación va a volar también en hardware real, sin cambios.
La pregunta de fondo — ¿se puede construir un sistema autónomo que rinda cuentas? — ya tiene una respuesta empírica parcial. Vuela. Y se puede defender ante un juez.
El autor: Alejandro Jaime es doctorando en la Facultad de Informática de la Universidad Nacional de La Plata. Su ORCID es 0009-0009-9470-5645. Reside en Madrid desde hace varios años. Es argentino.
Notas
[1] Capability Envelope: estructura criptográfica firmada con el algoritmo Ed25519, que declara explícitamente qué acciones puede ejecutar un agente autónomo en un contexto determinado.
[2] BDI — Belief-Desire-Intention. Bratman, M. E. (1987). Intention, Plans, and Practical Reason. Harvard University Press. Rao, A. S., & Georgeff, M. P. (1991). “Modeling Rational Agents within a BDI-Architecture”. Knowledge Representation. Muscettola, N., Nayak, P. P., Pell, B., & Williams, B. C. (1998). “Remote Agent: To Boldly Go Where No AI System Has Gone Before”. Artificial Intelligence.
[3] AI Act — Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024. Entrada en vigor escalonada desde febrero de 2025.
[4] NANDA MIT (2025). The GenAI Divide: State of AI in Business 2025. Massachusetts Institute of Technology.