Meta te espía hasta a la suegra: cómo funciona la memoria que Muse arma sobre toda tu familia

A mí me pasó mil veces: le pido al chat que me recuerde un vencimiento y termino recibiendo publicidad de peluquerías para gatos. Ahora imaginen eso multiplicado por diez, con nombre y apellido de cada persona que uno conoce. Eso, ni más ni menos, es lo que hace Muse, el asistente de inteligencia artificial que Meta viene empujando con la fuerza de un comercial de fútbol.

Según contó Daniel Roberts, vocero de la compañía, el sistema junta información del usuario y de las personas de su entorno para poder asistirlo en tareas cotidianas, desde reconocer una factura del plomero de siempre hasta acordarse de las flores que le gustan a la pareja. Hasta ahí, suena útil. El problema empieza cuando uno raspa un poco la pintura.

Fichas actualizadas cada hora, como un Porcel sinonimo de Google

El investigador independiente Karan Joshi, especialista en seguridad informática, descubrió que el chatbot tiene instrucciones internas que se ejecutan de manera automática cada sesenta minutos. La orden es simple: armar y refrescar perfiles de familiares, parejas, amigos, colegas e incluso de cuentas que el usuario sigue en redes sociales.

Esos registros se van llenando con el tiempo con datos del vínculo, intereses en común, temas pendientes, cumpleaños, aniversarios, mudanzas, metas de ahorro compartidas y hasta discusiones viejas. La única condición es que la información figure en conversaciones o conexiones del usuario, porque las instrucciones son explícitas en no inventar nada. Algo es algo: al menos la IA no rellena con datos que se sacó de la galera.

“Para que se entienda: es como tener una AI, o sea una inteligencia artificial, que funciona como esa vecina que sabe la vida de todos en el edificio y encima anota todo en una carpeta que vos no controlás.”Iván Guiñazú

Lo que Meta dice hacer y lo que el resto puede revisar

• La empresa afirma que la información sale de contenidos públicos y de lo que el propio usuario comparte a través de sus servicios.
• Cada usuario cuenta con una máquina virtual, es decir un entorno informático aislado, separado del de los demás, sin acceso cruzado.
• El dueño de la cuenta puede revisar la actividad del agente en un registro de auditoría y borrar la memoria cuando quiera.
• El sistema pide confirmación antes de mandar un mail o hacer una compra, según declaró el propio Roberts.
• Las personas incluidas en los perfiles, en cambio, no tienen ningún control sobre esos datos: no pueden revisarlos ni pedir que los eliminen.

Y acá viene la ironía que a mí, personalmente, me hace ruido: la empresa te vende control total sobre tu memoria, pero al mismo tiempo te arma una base de datos sobre tu primo, tu ex y tu jefe sin pedirles permiso a ellos. Es el viejo truco de siempre: la culpa es del que mira, no del que prende la cámara.

Qué mirar antes de seguir hablando con el chatbot

Antes de escribirle la lista de regalos al asistente, conviene tomarse cinco minutos para revisar qué sabe de uno. Entrá a la configuración de Muse, mirá el registro de actividad, fijate qué fichas se armaron y borrá las que no te cierren. Si compartiste algo sensible, recordá que la información sigue siendo materia prima para entrenar sistemas que después venden publicidad. Nadie te va a devolver lo que ya quedó en una base ajena.

Consejo final, bien a lo Iván: no le cuentes al chat lo que no le contarías a un desconocido en un bar. La memoria es traidora, sobre todo cuando se actualiza sola cada hora y el único botón de borrar lo tiene otro.