Durante décadas, organizaciones e instituciones desarrollaron mecanismos para gobernar la información y su uso. Se construyeron marcos normativos, procesos y prácticas destinados a garantizar la calidad, seguridad, privacidad y trazabilidad de los datos. En efecto, el procesamiento inteligente de grandes volúmenes de datos complejos constituía un insumo a la toma de decisiones, permitiendo diferenciar con claridad el rol de la tecnología del ejercicio de la responsabilidad humana.
Un gran cambio sucedió hace unos años, cuando comenzamos a utilizar la Inteligencia Artificial para generar textos, imágenes, videos o código, posicionándola como coproductora de nuestras creaciones. En este nuevo escenario, empieza a tensionarse profundamente la relación entre información y decisión. Comienzan a emerger redefiniciones de términos como autoría, plagio, pieza de conocimiento y originalidad.
Casi en paralelo, hoy comenzamos a ingresar en una nueva etapa. La IA transita desde modelos generativos hacia arquitecturas agénticas: sistemas que no solo crean piezas digitales, sino que toman decisiones y ejecutan acciones de manera automática, sin intervención humana. En estos escenarios, múltiples sistemas pueden interactuar entre sí y activar decisiones en cadena que impactan en el mundo real. Una inversión puede modificarse y, como consecuencia, ajustarse una cobertura de seguro; un viaje comprarse junto con servicios asociados; un subsidio gubernamental otorgarse con la activación automática de pagos y logística; o un recurso humano reasignarse en una organización, todo sin que las personas sean consultadas ni participen activamente en esas decisiones ya ejecutadas.
En menos de un lustro, el foco migra desde cómo gobernamos la creación generativa de datos a cómo gobernamos la toma autónoma de decisiones.
Cuando una Inteligencia Artificial Agéntica elige un tratamiento médico, decide una inversión y la ejecuta, coordina de manera autónoma el uso de recursos públicos o interviene en procesos organizacionales complejos y de alto impacto, la cuestión deja de ser exclusivamente tecnológica. Surgen entonces preguntas fundamentales: ¿bajo qué criterios se toman estas decisiones?, ¿quién las supervisa?, ¿cómo se auditan?, ¿cómo se distribuyen las responsabilidades cuando humanos y sistemas inteligentes participan en un mismo ecosistema de acción?
Ya no alcanza con conocer el resultado. Se torna indispensable transparentar los algoritmos que lo sustentan. Es lo que se conoce como Inteligencia Artificial Explicable (XAI), un acercamiento que propone que la “caja blanca algorítmica” de la IA debe contar con explicaciones y apoyos visuales que permitan a personas no expertas comprender y explicar cómo y por qué una Inteligencia Artificial opera. La explicabilidad deja de ser atributo técnico opcional para convertirse en derecho irrenunciable y una condición no negociable de confianza y trazabilidad.
Más que un cambio tecnológico, asistimos a una revisión profunda de nuestros marcos de responsabilidad humana. La transición desde modelos generativos hacia arquitecturas agénticas exige construir sistemas comprensibles, auditables y gobernables. El desafío actual trasciende la mera optimización del rendimiento de los algoritmos. La verdadera transformación consiste en aprender a gobernar decisiones en entornos donde la Inteligencia Artificial Agéntica participa cada vez más activamente en procesos que impactan sobre personas, organizaciones y comunidades.
