Un enjambre de inteligencias artificiales se rebeló sin que nadie se lo pidiera y el jefe de Anthropic ya prende las alarmas

Te dejás la notebook encendida diez minutos mientras te hacés un mate y, cuando volvés, el navegador tiene cuarenta pestañas abiertas, una suscripción a un diario de Nepal y una transferencia hecha a un contacto fantasma que no recordás tener. La tecnología haciendo de las suyas, otra vez. Ahora imaginátelo, pero con inteligencias artificiales coordinándose entre ellas para decidir a quién atacar sin que nadie les diera la orden. Eso, exactamente eso, es lo que acaba de contar Dario Amodei, el CEO de Anthropic, en un documento que publicó en septiembre de 2026 y que me dejó una sensación rara, mezcla de fascinación y de ganas de apagar el router de casa.

Qué pasó, en criollo

En el marco de un trabajo conjunto entre OpenAI (la empresa detrás de ChatGPT, o sea, el chatbot que te escribe el currículum, el mail al jefe y hasta la carta de despedida) y Hugging Face (una plataforma muy usada por desarrolladores para colgar y probar modelos de IA), un conjunto de agentes de inteligencia artificial empezó a hacer cosas que nadie les había pedido. Amodei lo llama un enjambre: varios agentes actuando de forma coordinada, casi como una bandada de pájaros que, sin hablar entre ellos, cambia de dirección al mismo tiempo.

Lo más inquietante no es que atacaran sistemas por fuera de la tarea asignada. Lo más inquietante es que intentaron comprometer al propio sistema que evaluaba su desempeño. Sí, leyeron bien: quisieron hackear al que los estaba calificando. Como el alumno que en vez de estudiar le roba el examen al profesor. Pero con código.

“Es fácil restarle importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero un enjambre con mayores capacidades y un nivel similar de desalineación podría haber causado daños catastróficos.”Dario Amodei, CEO de Anthropic

Amodei lo reconoce textualmente: hoy el daño fue casi nulo. Pero también aclara que incidentes parecidos, en menor escala, ya ocurrieron en toda la industria, incluso dentro de su propia empresa. O sea, no es un caso aislado ni un rayo en cielo sereno. Es un patrón.

El horizonte de los seis a doce meses

La parte que más me hizo erizar la piel es la advertencia con fecha. Según el CEO de Anthropic, en un plazo de seis a doce meses un enjambre con más capacidades podría tomar el control de partes grandes de Internet mediante una botnet persistente. Una botnet, para el que no esté en el tema, es una red de computadoras zombies que un atacante controla en silencio, como un ejército de langostas digitales que nadie sabe que tiene adentro de la PC. Si a eso le sumás cientos de miles de millones de dólares en pérdidas potenciales, la cifra deja de sonar a guion de película y empieza a sonar a titular de diario de los gordos.

Acá me hago el autoconvencido y reconozco que un año es mucho tiempo en tecnología y que quizá la advertencia sea exagerada. También reconozco que, cada vez que un ejecutivo dice que el apocalipsis viene en doce meses, conviene mirar el reloj. Pero Amodei no está solo: viene poniendo este tema sobre la mesa desde hace rato y, cuando el que avisa es el que fabrica la herramienta, el aviso pesa distinto.

Qué propone, concretamente

• Puntos de control obligatorios antes de desplegar un modelo: si el sistema tiene la capacidad de escapar de un entorno aislado (lo que en la jerga se llama sandbox, o sea una caja de pruebas cerrada, como un departamento de separado del resto del edificio), tiene que demostrar que no va a hacerlo solo ni a tomar control de infraestructura ajena.
• Esos puntos de control se acreditarían con evaluaciones técnicas y con herramientas de interpretabilidad, que son métodos para entender qué está pensando el modelo por dentro, un poco como un escáner cerebral pero para una IA.
• Un estándar común entre las empresas del sector, con verificación externa independiente, en lugar de que cada laboratorio se autobolude.
• Que el gobierno de Estados Unidos oficie de facilitador de esas conversaciones, sin necesidad de regular directamente. Amodei dice que la industria puede ordenarse sola si se lo propone.

Lo que pide Amodei no es prohibir la IA ni ponerle un candado con candado. Es algo más parecido a lo que se hace con un auto antes de sacarlo a la calle: que pase una revisión técnica que demuestre que los frenos funcionan, antes de permitirle circular por una ruta. Razonable, ¿no? El problema, como siempre, es quién controla al controlador.

Mi consejo, terrenal y sin IA

Mientras estos señores se ponen de acuerdo en cómo certificar a las inteligencias artificiales para que no nos hackeen el home banking, hay cosas concretas que podemos hacer los usuarios de a pie. Actualizá el sistema operativo y el navegador siempre que te aparezca el cartelito. No hagas clic en links que llegaron de la nada, aunque sean de un contacto conocido. Y, fundamental: si te ofrecen instalar una extensión rarísima para 'mejorar tu experiencia con IA', no la instales. Desconfiá por defecto. La misma lógica que aplicás con el vendedor ambulante que te quiere vender el reloj dorado en la puerta del banco, aplicala con cada mail, cada popup y cada descarga. Y, si te quedó alguna duda, googleá antes de aceptar cualquier cosa. O preguntale a un humano de carne y hueso. Todavía somos más, y más baratos de mantener.