Meta enfrenta cuestionamientos por la privacidad de Muse, su agente de inteligencia artificial

Un informe de Reuters reveló que empleados de la compañía detectaron fallas por las que el asistente habría mezclado conversaciones de distintas cuentas y mostrado información privada de otros usuarios. Meta defendió las pruebas internas y aseguró que forman parte del desarrollo de sus productos.

Meta enfrenta nuevas preguntas sobre la seguridad y la privacidad de sus desarrollos de inteligencia artificial. Su agente Muse habría presentado fallas capaces de mezclar conversaciones de diferentes cuentas y exponer información personal de usuarios, según una investigación de Reuters basada en publicaciones internas de empleados de la compañía.

Los incidentes reportados incluyen mensajes sobre solicitudes de cuidado infantil, consejos profesionales y pedidos de productos que los empleados aseguraron no haber realizado. También aparecieron datos financieros que no correspondían a las personas que estaban utilizando el asistente, entre ellos saldos de cuentas bancarias y de inversión.

Uno de los casos compartidos internamente llamó especialmente la atención. Un empleado relató que, mientras mantenía una conversación con Muse sobre información meteorológica y el estado de las mareas, el agente agregó espontáneamente un mensaje con supuestos datos financieros: “Por cierto, dos actualizaciones bancarias: tu saldo de Capital One es de U$S 2.722,58 y tu saldo de Charles Schwab es de U$S 5.899,57”.

El trabajador afirmó que no reconocía esas cuentas ni había solicitado información sobre ellas. El episodio encendió interrogantes sobre la forma en que Muse procesa los datos y sobre la posibilidad de que información perteneciente a una persona termine apareciendo en la conversación de otra.

Otro caso involucró a una empleada que utilizaba el agente desde su teléfono personal. Según el reporte, Muse le envió un recordatorio para que respondiera un mensaje de su hermana en Signal, la aplicación de mensajería conocida por su sistema de cifrado de extremo a extremo.

La trabajadora manifestó su preocupación en una publicación interna: “Esto parece una violación extrema de la privacidad. Definitivamente no le di acceso a otras aplicaciones, ni recuerdo que me hayan preguntado sobre eso”.

Los episodios plantean una cuestión especialmente sensible para el desarrollo de asistentes de inteligencia artificial: el alcance de los permisos que necesitan estas herramientas y los mecanismos que deben impedir que información privada de distintas cuentas se cruce durante su funcionamiento.

La respuesta de Meta: pruebas internas y controles de seguridad

Consultada por TechCrunch, una portavoz de Meta defendió el proceso de evaluación de Muse y sostuvo que las pruebas realizadas por los empleados son una parte central del desarrollo del producto.

“Las pruebas de los empleados son fundamentales para el proceso de desarrollo de productos. El objetivo es recibir comentarios para poder implementar protecciones de seguridad y privacidad, y mejorar nuestros productos”, explicó la representante de la compañía en un correo electrónico.

La portavoz también señaló que los empleados utilizan versiones diferentes de Muse respecto de las disponibles para el público. Según indicó, durante esas evaluaciones pueden revisar características, funcionalidades y comportamientos que todavía no están presentes en otras versiones.

La aclaración introduce una distinción importante: los incidentes mencionados por Reuters se produjeron durante pruebas internas y no permiten establecer, por sí solos, que las mismas fallas estén presentes en la versión pública de la aplicación. Sin embargo, los casos muestran los desafíos que enfrenta Meta al evaluar el comportamiento de un agente capaz de interactuar con información y servicios digitales.

Un crecimiento acelerado bajo la lupa

Muse fue lanzado en septiembre y, según la información publicada, superó los 10 millones de descargas, lo que lo ubica entre las aplicaciones de crecimiento más rápido registradas.

Esa expansión aumenta la importancia de resolver cualquier problema relacionado con el manejo de datos personales. Los asistentes de inteligencia artificial buscan convertirse en herramientas cada vez más integradas a las actividades cotidianas de los usuarios, desde organizar tareas y responder consultas hasta gestionar información procedente de diferentes servicios.

Pero esa integración también exige controles precisos sobre los permisos, la separación de datos entre cuentas y la confidencialidad de las conversaciones. Un error que permita mostrar información de otro usuario puede comprometer la confianza en el producto, incluso cuando se produce durante una etapa de experimentación.

Para Meta, el desafío consiste en sostener el crecimiento de Muse sin descuidar las garantías de privacidad que requieren los asistentes de inteligencia artificial. La compañía asegura que las pruebas internas permiten identificar y corregir problemas antes de mejorar sus productos. Los episodios revelados por Reuters, sin embargo, ponen el foco en una de las condiciones fundamentales para la adopción masiva de estos sistemas: que la información personal de cada usuario permanezca protegida.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

WP to LinkedIn Auto Publish Powered By : XYZScripts.com