En 1995, dos investigadores australianos publicaron un paper que fundó toda una rama de la inteligencia artificial. En la primera página, en una nota al pie minúscula, dejaron abierta una pregunta. Treinta años después, en un servidor de Madrid, un doctorando argentino la cerró.
Hay un género raro en la ciencia que es el de las notas al pie. Notas que aparecen en un paper, ocupan dos líneas, y terminan abriendo programas de investigación que duran décadas. La nota al pie 1 del paper de Anand Rao y Michael Georgeff de 1995, BDI Agents: From Theory to Practice — el texto canónico que llevó la inteligencia artificial basada en agentes desde la filosofía a la computación — pertenece a esa rara especie.
En la página inicial del paper, donde los autores explican el modelo formal de cómo un agente artificial debe pensar, hay una observación incómoda. El modelo asume que el agente ya tiene un conjunto de creencias sobre el mundo (beliefs). Pero, ¿cómo llegan esas creencias ahí? ¿Cómo es que un sistema computacional convierte el ruido del mundo real — sensores, cámaras, micrófonos, texto — en proposiciones lógicas verdaderas con las que el motor puede razonar? Los autores anotaron, breve y honestamente, que ese paso quedaba fuera del alcance del paper. Era una nota al pie. Era el problema más difícil del trabajo. Y se quedó ahí, en estado pendiente, durante tres décadas.
El paper se llama Beyond Footnote 1: A Formal Extension of the Rao-Georgeff BDI Interpreter. Está en preparación para ser enviado a JAAMAS — el Journal of Autonomous Agents and Multi-Agent Systems — el venue de referencia mundial para investigación en agentes inteligentes. Lo escribió Alejandro Jaime, un doctorando argentino de la UNLP que vive en Madrid. Su tesis se defiende en marzo de 2027. Es el mismo proyecto cuyo módulo de drones — MARVEL — fue tema de la nota anterior de este medio.
Y la pregunta que cierra es la misma que Rao y Georgeff dejaron abierta en 1995: cómo un agente artificial moderno percibe el mundo sin perder la capacidad de decidir de forma auditable.
Por qué importa el BDI
Para entender la magnitud de lo que está en juego conviene retroceder un poco más, hasta 1987. Ese año el filósofo Michael Bratman publicó Intention, Plans, and Practical Reason, un libro denso de filosofía analítica donde proponía una teoría de la acción intencional humana. Bratman observaba que los humanos no decidimos de manera puramente racional en cada momento. Tenemos creencias sobre el mundo, deseos que querríamos satisfacer, e intenciones que son compromisos con planes específicos. Las intenciones tienen una propiedad clave: una vez adoptadas, no las recalculamos a cada paso. Persisten. Filtran las opciones futuras. Permiten coordinarnos con otros y con nosotros mismos a través del tiempo.
Bratman estaba escribiendo filosofía, no informática. Pero a fines de los 80, en Australia, dos investigadores — Rao y Georgeff — encontraron en su teoría un modelo computacional realizable. Lo que sigue es historia de la inteligencia artificial: BDI se volvió la familia más influyente de arquitecturas de agentes durante los siguientes treinta años. Se usó en sistemas de control aéreo militar, en simulación de comportamiento humano, en logística, en defensa. Y, sobre todo, se usó en lo que probablemente sea el caso de uso más célebre de IA práctica de la historia espacial.
En octubre de 1998, la NASA lanzó la sonda Deep Space 1. A bordo viajaba Remote Agent, el primer sistema de IA al que se le delegó el control autónomo de una nave en pleno vuelo. Durante varios días en mayo de 1999, Remote Agent operó la sonda a millones de kilómetros de la Tierra sin supervisión humana, tomando decisiones complejas en tiempo real. Era arquitectura BDI. Y funcionó. Y funcionó porque era determinista: dada la misma información, tomaba la misma decisión. Eso es lo que permite a un sistema autónomo ser certificable para una misión donde los errores no se pueden corregir desde Mission Control.
La grieta de la nota al pie
Acá viene la parte sutil. Toda la teoría BDI clásica asume que el agente recibe del mundo creencias ya verificadas, ya tipadas, ya estructuradas. Que alguien — algo — ya tradujo el ruido del mundo en lógica de primer orden con la que el motor de razonamiento puede operar.
Pero ese alguien, en 1995, no existía. Las cámaras devolvían pixeles, no proposiciones. Los micrófonos devolvían formas de onda, no enunciados. Los sensores devolvían números crudos, no creencias. Cerrar la brecha entre la percepción cruda del mundo y las creencias tipadas que el motor BDI necesita era un problema abierto. Rao y Georgeff lo sabían. Por eso la nota al pie 1. Por eso el “fuera del alcance de este paper”.
Durante treinta años, varios programas de investigación trataron de cerrar esa brecha. Hubo intentos con ontologías formales, con sistemas expertos, con visión por computadora clásica, con redes neuronales tempranas. Todos chocaron con la misma pared: o el sistema de percepción era robusto pero no podía manejar la variedad del mundo real (los sistemas expertos), o podía manejar el mundo real pero era opaco e impredecible (las redes neuronales). La grieta seguía abierta.
Lo que el LLM cambia (y lo que no)
La aparición de los modelos de lenguaje grande — los LLM — entre 2017 y 2023 cambió el panorama. Por primera vez, había un sistema computacional capaz de transformar texto crudo y desordenado en estructura. GPT, Claude, Gemini son extraordinarios en eso: leés un correo y extraés el remitente, la fecha, el pedido, el sentimiento, en formato JSON limpio. Es exactamente la transformación que el BDI clásico necesitaba: convertir el mundo en proposiciones.
Pero los LLM tienen el problema que la nota anterior de este medio — La letra chica de la magia — describió con cuidado: alucinan. No de vez en cuando: estructuralmente. Cuando un LLM no sabe algo, genera algo plausible. No miente intencionalmente; le da igual la verdad. Como dijo el filósofo de Glasgow Michael Townsen Hicks, son bullshit en el sentido técnico de Harry Frankfurt: producen texto sin atención particular a si lo que dicen es verdadero o falso.
Eso los descalifica como decisores en sistemas críticos. El abogado Schwartz, en Nueva York, presentó al tribunal seis casos legales inventados por ChatGPT, porque el modelo le aseguró que eran reales. La aerolínea Air Canada tuvo que pagar 812 dólares canadienses a un pasajero porque su chatbot le inventó una política de tarifas por duelo. Y eso son ejemplos jurídicamente embarazosos, no físicamente irreversibles. Para un drone autónomo, para un sistema médico, para una red eléctrica, una alucinación no es un mal momento: es una catástrofe sin retorno.
Acá es donde entra el aporte de Jaime, y donde se cierra la nota al pie 1.
La idea: el LLM como sensor, no como decisor
La intuición del paradigma HADD — sigla de Hybrid Agents with Deterministic Decisions — es radicalmente simple, y por eso es difícil de ver. La industria insiste en usar los LLM como decisores: le da al modelo el problema, recibe la solución, ejecuta. Esto produce demos espectaculares y sistemas inutilizables en producción.
Jaime hizo lo contrario. Usa el LLM como sensor, no como decisor. El LLM transforma input no-estructurado en datos estructurados. Pero quien decide qué hacer es un motor BDI clásico determinista, alimentado por las salidas del LLM, después de que un módulo de verificación epistémica las haya filtrado.
El módulo se llama EVR Gate — Epistemic Verification Routing — y hace tres cosas. Verifica que la creencia propuesta por el LLM no esté caducada (porque no tiene sentido decidir sobre una situación que ya cambió). Verifica que esté triangulada con al menos dos fuentes independientes (las decisiones críticas exigen consenso). Y verifica que no contradiga creencias existentes verificadas (la incoherencia entre lo nuevo y lo viejo es siempre sospechosa). Solo lo que pasa los tres filtros se compromete al Belief Store, la memoria del agente sobre el mundo. Lo que falla queda en un buffer separado, con tiempo de vida, escalado a revisión humana si la cosa lo amerita.
Esto puede parecer un detalle técnico, y lo es. Pero el detalle técnico tiene una consecuencia conceptual fundamental: la percepción del agente vuelve a estar separada de su decisión. Es exactamente el modelo que la nota al pie 1 pedía y que la era pre-LLM no podía implementar.
El paper de Jaime formaliza esta extensión con lo que se llama, en el lenguaje de la teoría de agentes, una tupla extendida: ocho componentes (creencias, deseos, intenciones, sensores, verificadores, plan library, tribunal, y memoria histórica) que extienden los cuatro originales del modelo Rao-Georgeff. Cada uno con sus reglas formales, sus invariantes y sus teoremas. Once invariantes, once teoremas probados en total, varios con verificación mecánica vía property-based testing — una técnica donde una computadora genera millones de casos de prueba aleatorios y verifica que las propiedades siempre se sostienen.
Por qué esto importa ahora
Hay una pregunta legítima del lector: ¿por qué Sección Ciudad debería cubrir el paper de un doctorando argentino sobre teoría de agentes? La respuesta es periodística, no académica.
Estamos en el momento exacto en que el mundo está tomando decisiones políticas y económicas sobre qué hacer con la IA. La Unión Europea aprobó en 2024 el Reglamento (UE) 2024/1689 — el AI Act, primera regulación integral del mundo — que entra en vigor escalonadamente entre 2025 y 2027. Los artículos 9 a 15 exigen, para sistemas de alto riesgo, propiedades que ningún sistema comercial cumple verdaderamente: trazabilidad de cada decisión, auditabilidad humana, documentación técnica reproducible. La industria respondió con dashboards declarativos. Lo que Europa va a exigir, cuando los reguladores empiecen a auditar de verdad, es lo que el paradigma HADD ofrece estructuralmente: determinismo verificable.
Quien tenga ese stack arquitectónico en 2027, cuando los reguladores europeos empiecen a multar, va a estar en otra posición que el resto. Y la pregunta de Rao y Georgeff de 1995 — esa pregunta filosófica sobre cómo el agente percibe el mundo — deja de ser teoría para volverse una cuestión legal con consecuencias materiales.
El detalle argentino
Jaime hace su doctorado en la Universidad Nacional de La Plata, bajo la dirección de Marcelo Errecalde, con codirección de Verónica Gil-Costa (Universidad Nacional de San Luis y CONICET) y Leticia Cagnina (UNSL). El paper Beyond Footnote 1 está en preparación. La defensa de tesis está agendada para marzo de 2027.
Hay algo digno de mención en el patrón. La línea histórica del BDI — Bratman 1987, Rao-Georgeff 1991-1995, NASA Remote Agent 1999, Hector Levesque y la lógica situacional de Toronto, Henry Kautz y la taxonomía neurosimbólica del 2022 — es una línea académica continua de tres décadas, fundamentalmente anglosajona y europea. Que el paper que potencialmente cierra la grieta de la nota al pie 1 venga firmado por un argentino que trabaja desde un servidor en una habitación de Madrid, sin financiamiento institucional, es una rareza estadística que merece ser registrada.
En septiembre de 2024, en una de las primeras conversaciones con su director doctoral, Errecalde le dijo a Jaime — según refiere el doctorando en sus apuntes de trabajo — que lo que estaba haciendo era continuar la línea histórica del BDI hasta la era LLM. La frase es generosa. Y a la luz del paper que está en preparación, es probablemente exacta.
Lo que viene
Hay una palabra que Jaime usa mucho cuando explica su trabajo, y que conviene rescatar. La palabra es auditabilidad. No “explicabilidad” — porque cualquier sistema puede explicarse a posteriori con un dashboard, un argumento o un PowerPoint. Auditabilidad es algo más estricto: que la cadena completa de razonamiento del sistema sea reproducible, verificable y certificable por un tercero independiente, sin tener que confiar en el sistema mismo ni en quien lo construyó.
Esa propiedad es lo que la NASA exigió a Remote Agent en 1999. Es lo que la aviación civil exige a su software desde hace décadas. Es lo que los bancos centrales le van a exigir a los sistemas autónomos financieros. Es lo que la Unión Europea está empezando a exigirle, hoy, a la IA generativa en sistemas de alto riesgo.
Y es, lo que se viene comprendiendo despacio en la academia, lo que Rao y Georgeff intuyeron y dejaron como tarea abierta en una nota al pie de 1995. Hicieron lo que pudieron con las herramientas que tenían. Lo que faltaba era el sensor. El sensor tardó treinta años en aparecer — son los LLM modernos. Y después tardó un poco más en aparecer alguien que pensara que el sensor servía como sensor, y no como cualquier otra cosa.
Tres décadas, una nota al pie, un servidor en Madrid, una defensa de tesis en marzo de 2027. La ciencia, cuando es ciencia de la buena, tiene ese ritmo.
— · — · — · —
El autor: Alejandro Jaime es doctorando en la Facultad de Informática de la Universidad Nacional de La Plata. Reside en Madrid. Sus publicaciones se pueden consultar bajo ORCID 0009-0009-9470-5645. El paper Beyond Footnote 1: A Formal Extension of the Rao-Georgeff BDI Interpreter se encuentra en preparación para envío al Journal of Autonomous Agents and Multi-Agent Systems (JAAMAS).