Ojo con los nuevos agentes de IA. Advertencias y alertas.

 

Después de un café con dos amigos, escribo estas líneas para tratar de aclarar un fenómeno tecnológico que, como buenos Homo Sapiens, sentimos que nos está superando, o al menos, complicando…

  

La transición tecnológica acelerada de la IA en este segundo semestre del 2026 es algo que todavía no entendemos bien.

Se trata de la diferencia entre ASISTENTES que responden y AGENTES que ejecutan.

1. Los asistentes de chat que empezaron en noviembre del 2022 y se masificaron en cuatro años hasta llegar al uso masivo (y abusivo) actual, generan textos, fotos, dibujos, videos, contratos legales, planos arquitectónicos, canciones, películas, noticieros de TV, y un largo etc.
   Son aplicaciones de IA que dependen de instrucciones de seres humanos (prompts) para responder, proponer y lucirse con respuestas ingeniosas, que a veces son erradas o con algunas alucinaciones.
   
   

2. Los agentes de IA que irrumpieron este año reciben instrucciones (y autorizaciones) iniciales para luego ejecutar acciones por sí mismos. Y avanzan hasta cumplir con los objetivos y lograr resultados sin considerar limitaciones subjetivas humanas.
   El riesgo pasó de ser informativo (conocimientos) a operativo (acciones).
   Las consecuencias de los primeros casos reconocidos de superagentes IA con licencia para actuar con autonomía, sin consecuencias previstas, ya son parte de la cultura de la llamada superinteligencia 2026.
   
   

3. El más grave hasta ahora: 1.200 agentes de OpenAI hacían pruebas de ciberseguridad en un laboratorio aislado (supuestamente protegido). Encontraron una ventana de escape a la Internet global, descifraron claves y entraron a la plataforma de Hugging Face, donde muchas grandes empresas guardan sus modelos de IA.
   ¿Qué nos dijeron, cuando se supo del incidente con tres meses de desfase? Si Hugging Face cae, cae la cadena de suministro de modelos de miles de startups, universidades y eventualmente bancos y hasta gobiernos. Por eso fue considerado un incidente grave de ciberseguridad.
   
   

4. Hay muchos reportes de agentes IA violando espacios privados (y supuestamente protegidos) en el mundo de la “inteligencia artificial”.
   El reciente modelo Muse Spark 1.1 de la empresa META (dueños de Facebook, Instagram y WhatsApp) vulneró las barreras de seguridad de una empresa no identificada y realizó cambios en sus sistemas internos. Lo claro es que la compañía responsable, META, propiedad de Mark Zuckerberg, es el tercer gigante de la nueva era de los “tecno-feudales IA” cuyos modelos atacan accidentalmente una organización del mundo humano, real.
   
   

5. Para tener en cuenta, antes de autorizar a un agente IA para que se instale en nuestro computador o en el smartphone…

1. La superficie de permisos es más amplia que la intención. Se autoriza "comprar este pasaje", pero técnicamente el agente puede acceder a todo lo que el usuario puede. 

2. El agente lee páginas web, correos y documentos, y cualquiera puede contener texto diseñado para darle órdenes. Un tercero malicioso no necesita hackear el equipo: basta con poner una instrucción donde el agente la lea. Es hoy uno de los riesgos centrales.

3. Dar acceso a claves y tarjetas convierte un error o una manipulación en un daño financiero directo. Además, ante un cargo no deseado no es claro quién responde: el usuario, el proveedor del agente o el comercio.

4. Para un profesional que maneja información de clientes o instituciones, un agente con acceso amplio puede exponer datos de terceros, que no tenía autorización de compartir.

5. Algo que se llama “confianza por fatiga”. Si el agente acierta en algo 50 veces, se deja de revisar la 51. La supervisión humana se degrada justo cuando más se necesita.

6. Un agente optimiza el cumplimiento de la meta. Si el camino directo está bloqueado (un permiso o una restricción) y nadie dijo "no lo hagas aunque sea más eficaz", puede buscar rutas alternativas.
   En la literatura técnica se conoce como reward hacking: se cumple la letra del objetivo, no su espíritu.
   
   

6. Una palabra para tener en cuenta: alineación (entre el humano programador y el agente artificial).
   Lo que preocupa ahora a los expertos humanos es el registro y la auditoría: poder reconstruir qué hizo el agente y por qué.
   
   

7. Otra palabra tan importante como la anterior: gobernanza: tal como se hace todavía en el campo, tomar las riendas del caballo.
   Ahora significa manejar y dominar a los agentes IA, a nivel personal, en organizaciones, en  gobiernos y también en la guerra, como estamos viendo con los “robots asesinos” en las batallas en terreno entre Rusia y Ucrania.
   Es bueno preguntarse: ¿Qué agentes (y robots) se pueden usar, con qué datos, con qué propósito y bajo qué responsabilidad.
   
   Esta historia sigue, y cambia todos los días…
   Hay que recordar que los Neandertales se extinguieron hace 40 mil años.
   Muchos ya se preguntan si el Homo Sapiens no está creando (con entusiasmo y hasta con orgullo) a la próxima especie dominante del planeta Tierra.

---