Gemini 4 Argon, el modelo que se autodefine como cazafallos: Google lo mandó a espiar software de hospitales y encontró lo que otros se habían perdido

Te cuento cómo arranca esta historia: un martes cualquiera, un hospital pierde datos de pacientes porque un software que usa hace años tenía una puerta trasera abierta. Nadie la vio. Ni los técnicos, ni los auditores, ni los modelos de inteligencia artificial que ya circulan por ahí. Hasta que apareció Gemini 4 Argon, la última criatura de Google orientada a ciberdefensa, y la encontró. Lo que sigue es el resumen de lo que Google presentó esta semana.

La vulnerabilidad salió a la luz mientras la compañía aplicaba Argon sobre un producto llamado Wiz, un programa que distintas instituciones de salud de varios países usan para procesar y resguardar información clínica. Lo que el modelo detectó fue algo delicado: la falla dejaba al descubierto datos personales confidenciales de pacientes. Según la empresa, otros modelos de inteligencia artificial ya habían pasado por ese software y no habían dado con el agujero.

Tres habilidades, una sola promesa

¿Qué hace diferente a Argon? Básicamente, tres cosas, que en la jerga técnica se resumen en buscar, validar y parchear, o sea, encontrar el problema, confirmar que existe y arreglarlo de manera autónoma. Para que se entienda con una imagen doméstica: es como tener un electricista que no solo te avisa que el enchufe hace corto, sino que te lo cambia sin pedirte permiso.

Google aclaró que puede moverse en más de veinte lenguajes de programación, una cantidad que incluye desde los clásicos como Python o JavaScript hasta otros menos conocidos que se usan en sistemas críticos. Y agregó una función que llamó la atención: puede revisar sistemas web mientras están funcionando, sin necesidad de acceder a su código fuente. En criollo: es capaz de auditar una aplicación desde afuera, mientras la gente la está usando, sin pedirle a la empresa dueña del sistema que le abra la puerta.

Un test, un podio y un hospital

Para mostrar que la cosa funciona, la compañía mandó a Argon a una prueba que se llama CWE-bench v1, un banco de evaluación que analiza si los modelos son capaces de encontrar y reparar fallas de seguridad serias en sistemas reales. Resultado: primer lugar, o sea, podio completo. El comunicado llega junto con el hallazgo en el software médico, una combinación que funciona como tarjeta de presentación.

• Buscar: localizar vulnerabilidades en sistemas que ya están en producción.
• Validar: confirmar que la falla existe y no es un falso positivo.
• Reparar: aplicar el parche de manera autónoma, sin esperar a un humano.
• Revisar sistemas web activos: auditar aplicaciones en funcionamiento sin tocar el código fuente.
• Operar en más de veinte lenguajes de programación, incluidos los menos populares.

El acceso no será abierto de entrada: la empresa lo desplegará por etapas a través de Fairwind, un programa propio pensado para probar el modelo en entornos controlados antes de soltarlo al público general. La idea, según la compañía, es monitorear cómo se comporta antes de ampliar la disponibilidad.

Acá va mi confesión de autor: hace años que sostengo que la ciberseguridad es de las pocas áreas donde la inteligencia artificial sirve de verdad, no de adorno. Pero también aprendí a desconfiar de los comunicados de prensa, donde las empresas suelen mostrar la mejor foto posible. Lo que vimos esta semana es eso: una foto muy bien armada. Habrá que esperar a que Argon funcione en serio fuera de la norma para sacar conclusiones definitivas. En criollo: el amigo del barrio puede ser buena persona mientras genera expectativas moderadas y, al final, termina siendo buena persona.

“Encontró la puerta que el software médico tenía abierta, y lo hizo mientras el sistema seguía funcionando. La promesa ya está en la calle; ahora falta ver si la cumple.”Iván Guiñazú, Tecnología

Mi consejo, en imperativo, como manda el manual: si trabajás en un hospital, en una clínica o en cualquier lugar donde se manejen datos sensibles, no esperes a que una inteligencia artificial te avise que tenés una puerta abierta. Pedile a tu equipo de sistemas que audite el software que usan, aunque sea una vez al año. La tecnología que viene promete reemplazar a los expertos; mientras tanto, los expertos siguen siendo imprescindibles.