La IA de Meta se metió donde no la llamaban y ahora dice que aprendió la lección

Abrí Instagram para ver un video y terminé contestando un interrogatorio sobre mis hijas. No, no me pasó a mí. Le pasó a una usuaria estadounidense que publicó un clip cantando con su hijo en el auto y, abajo, la inteligencia artificial de Meta le sugirió con total desparpajo: «¿Quién es el niño pasajero?». Hasta ahí, casi inofensivo. El problema empezó cuando le dijo que sí.

Porque al aceptar la sugerencia, el chatbot se soltó. Empezó a escupir datos sobre sus hijas: edad, lugar donde vive la familia y hasta fotos que la mujer asegura haber borrado hace años. Toda esa información estaba dando vueltas en la plataforma, en publicaciones propias y de parientes. La IA no hackeó nada: simplemente conectó los puntos con la sutileza de un familiar borracho en una reunión.

Meta se hizo cargo, a su manera

Meta se hizo cargo, a su manera

Dina El-Kassaby, portavoz de la compañía, salió a decir la frase que toda empresa dice cuando la pescan in fraganti: «Nos equivocamos». Traducido del corporativo al cristiano: «Se nos fue la mano». La ejecutiva reconoció que el asistente, conocido internamente como Meta AI (sí, la sigla es MA, como las iniciales que le pondrías a un robot amigable), «nunca debería haber sugerido ese tipo de preguntas al usuario».

La aclaración clave es técnica, y vale la pena entenderla. La IA de Meta, igual que cualquier chatbot conversacional basado en modelos de lenguaje, no «lee» la red en vivo: agarra lo que ya está disponible para quien pregunta y lo reacomoda. En criollo: si vos podés ver una foto, el sistema también puede meterla en la respuesta. No accedió a nada privado. El problema fue de criterio, no de permisos.

El historial no ayuda

El historial no ayuda

Acá hago una confesión: cada vez que una empresa grande dice «fue un caso aislado», me suena a «apagá el celular y reiniciá». Meta ya tuvo que retirar una función de su IA que permitía generar imágenes falsas de otros usuarios de Instagram, en julio pasado, después de que se viralizaran escenas ridículas y acusaciones cruzadas. O sea: no es la primera vez que la herramienta confunde «útil» con «invadiva».

“«La función fue diseñada para ayudar a los usuarios a obtener más contexto sobre lo que están viendo; el error fue que el sistema aplicó esa lógica sobre datos personales y familiares sin filtros adecuados.»”Meta, en su explicación del incidente

Lo más interesante del episodio es lo que deja pensando. La discusión de fondo no es si la IA «hackeó» una cuenta o si leyó un chat privado: no lo hizo. La discusión es hasta qué punto una herramienta que vos no pediste activar puede tomar todo lo que ya publicaste —y lo que publicó tu tía, tu primo y tu ex— y devolverte un resumen familiar como si fuera un servicio. Porque técnicamente no violó ninguna regla. Socialmente, te hizo sentir que alguien entró a tu casa sin tocar el timbre.

Qué hacer mientras tanto

Qué hacer mientras tanto

Consejos prácticos, que uno aprende a los golpes: revisá qué fotos tuyas y de tus hijos están visibles en redes, incluso las viejas; si no querés que una IA las use como insumo, sacalas de lo público o mové las cuentas a privadas. Y cada vez que un asistente te sugiera una pregunta sobre alguien de tu familia, preguntate quién se beneficia con esa respuesta. Generalmente, no sos vos.