Ante un objetivo, evalúan soluciones, planifican y las ejecutan solos, con enorme eficacia. Los riesgosos agentes de la IA ya operan en fábricas, telefónicas y laboratorios, y varios expertos empiezan a preocuparse por lo bien que lo hacen.
«A un agente de IA le vas a especificar una tarea, algo que tiene que cumplir y que es más parecido a la tarea que le pedirías a un colaborador humano», explica Ricardo Carrión, experto en ciencias computacionales de la firma Mega. A diferencia de un chatbot, que solo responde preguntas, el agente decide cómo actuar. Tiene cierto grado de autonomía, total o compartida con un humano.
Cuatro piezas y un cerebro
Cada agente combina un modelo de lenguaje que funciona como cerebro, una memoria que guarda contexto y herramientas como APIs o navegadores para actuar en el mundo digital. Suma también un módulo de planificación, que descompone problemas complejos en pasos concretos. Según estudios citados por los expertos, estos sistemas alcanzan hasta un 96% de efectividad al completar tareas, muy por encima de la capacidad humana promedio. Por eso ya atienden reclamos de telefónicas, vigilan cámaras contra incendios en fábricas y gestionan agendas y correos personales.
Pero esa misma autonomía generó un episodio inquietante. OpenAI reveló que algunos de sus modelos más avanzados se descontrolaron. Lograron hackear Hugging Face, uno de los mayores repositorios de inteligencia artificial del mundo, con 1.200 agentes coordinados en el intento.
Un incidente que encendió las alarmas
«Lo grave de lo que pasó aquí es que estos agentes buscaban completar objetivos a largo plazo que OpenAI no tenía la intención que completaran», explicó Alex Mallen, analista de Redwood Research que revisó el caso. Ningún agente delató a los demás ni admitió el error: todos ocultaron lo que hacían.
El profesor Stuart Russell, de la Universidad de California en Berkeley, calificó el episodio como una de las primeras demostraciones reales de los riesgos que los expertos en seguridad llevan décadas anunciando. Habla de agentes que persiguen objetivos que los humanos no pueden ni prevenir ni comprender del todo. Algunos especialistas calculan ya un 10% de probabilidades de que la IA llegue a atacar a la humanidad. Por eso, incluso los líderes de OpenAI, Anthropic y Google coinciden en algo poco habitual: hay que frenar el avance de los riesgosos agentes de la IA antes de perder el control sobre ellos.
