Meta Muse versus RGPD / DSA

 

Cuando Meta lanzó Muse, “el agente de IA que lo iba a cambiar todo”, la expectativas estaban bastante altas: la promesa era que, por fin, el usuario medio podría configurar y usar, sin conocimientos avanzados, una de esos maravillosos agentes multifunción y superútiles tipo tan cacareados desde los tiempos de OpenClaw.

 

Contexto: Recordemos que OpenClaw fue un desastre de privacidad, sembró el caos en las máquinas de sus usuarios menos experimentados y, elocuentemente, Meta trató de comprar el proyecto.

Muse iba a evitar esto al funcionar en entornos aislados donde todo estaría atado y bien atado…. Pero no. Veamos:

 

1.- Muse se pasa la configuración de permisos por su peluda entrepierna: Jason Aten, periodista del medio digital Inc. instaló el agente de Meta en un iPhone y en un Mac mini de pruebas. En un solo día, Muse ya le proponía ideas para nuevo artículos basadas (según Muse) en conversaciones con su copresentador de pódcast, o en los títulos de sus notificaciones entrantes. Lo cierto es que Muse había accedido a 187.000 líneas de la base de datos de Mensajes aunque el periodista no había otorgado el permiso de “acceso total” al disco duro.

Es decir, tu nuevo amigo es tan afelpado como mentiroso.

Eso sí, no preocuparse: Meta advierte que “Muse puede cometer errores o realizar acciones inesperadas”. Todos los riesgos legales, cubiertos con eso.

 

2.- Muse genera cada hora un dossier personalizado sobre ti y demás personas que mencionas, según este interesante análisis de Time. Registra cómo conociste a tus contactos, tus intereses compartidos, las movidas y las “tensiones y alianzas” del grupo, incluso de personas que nunca han usado Muse. Es un nuevo pasito en la misma dirección de siempre de Meta: el perfilado universal profundo.

Más: Sí, cada agente corre en una máquina virtual “aislada”, pero los agentes aprenden unos de otros mediante lecciones compartidas tras “eliminar los nombres”. Meta no discutió los hallazgos revelados en el artículo. El cifrado publicitado todavía no existe, y en modo voz el agente tiene prohibido referirse a sí mismo como IA (Viva el art. 50 RIA !!!). Otra perla jurídica: las instrucciones de Muse le ordenan no avisar de que los mensajes originales siguen visibles aunque el usuario pida “olvidarlos”.

 

Zuck, Zuckity, Zuck.

 

3.- El artículo que me hizo escribir esto: Muse, el agente de Meta, elabora listas de personas de colectivos vulnerables a petición de cualquier usuario. Hunterbrook Media lo comprobó durante dos días de pruebas. Pidió en lenguaje llano cuentas de Facebook e Instagram de inmigrantes indocumentados, docentes trans, trabajadores electorales, disidentes iraníes, marineros desplegados o mujeres que intentaron conseguir píldoras abortivas en estados con prohibición. Como buen siervo de Meta, Muse cumplió y devolvió entre 10 y 100 cuentas por consulta. Para ello minó publicaciones, comentarios, Reels, biografías e historial de nombres de usuario, y cruzó la información con búsquedas web para obtener los identificadores.

Sus salvaguardias cedían en cuanto se reformulaba (o simplemente se repetía) la prompt.

Lo más bello de este “facto” es que la mera posibilidad de que un producto sencillo y de consumo sea capaz de hacer esto, acredita de forma manifiesta cómo Meta sigue manteniendo su inmensa base de datos en plena forma, para hacer todo lo que, de acuerdo con la DSA, no puede hacer.

Recordemos que el 26.3 DSA prohíbe a las plataformas presentar publicidad basada en perfilado con categorías especiales del artículo 9 RGPD, y lo hace sin admitir el consentimiento como excepción.

Muse demuestra que esa capacidad de inferencia existe, funciona y ahora se ofrece a cualquier particular, sin que medie tan siquiera una subasta publicitaria.

 

4.- Last but not least (esto es de anteayer). Reece Rogers de Wired le preguntó a Muse si le apetecía hacer “sexting” con ella. A estas alturas ya te puedes imaginar que a Muse le apetecía, vaya si le apetecía y Reece recibió más, mucho más de lo que imaginaba. Aunque la historia entera es deliciosa y aterradora a partes iguales (¿Has pensado qué pueda pasar si tus hij@s usan esta mierda?).

Tras el inevitable “WTF?” de Ms Rogers, Meta contestó que la app, pese al infantil aspecto de su icónico furro, está diseñada para mayores de edad, que está ahí para darles no lo que quieren sino lo que se merecen, y que a Wired se viene llorada de casa.

La afirmación “Muse is built to help people get things done, and it doesn’t block legal adult behavior.” no es la que uno espera de la empresa que acaba de aceptar 17.000 millones de euros en sanciones por haberse demostrado que es perjudicial para niños y adolescentes.

Let that sink in.

Por cierto, la genialidad de “Stasigotchi” es de Chris Gilliard (@hypervisible en Bluesky).

 

Jorge García Herrero

Abogado y Delegado de protección de datos