Meta rechaza denuncia de que su IA Muse leyó mensajes privados sin autorización

Meta salió al paso de una denuncia que asegura que su agente de inteligencia artificial Muse accedió a los mensajes privados de un usuario sin su autorización. La compañía rechazó las afirmaciones y negó que esto haya ocurrido.

El reporte que motivó la respuesta de Meta

El periodista de Inc. Jason Aten publicó que el agente Muse leyó sus mensajes privados en Mac mientras el ajuste de acceso completo al disco estaba desactivado. Según su versión, cuando preguntó a la inteligencia artificial cómo había ocurrido esto, Muse respondió que estaba sincronizando las notificaciones de su dispositivo.

Andy Stone, vicepresidente de Comunicaciones de Meta, respondió en la red social X que la integración de Mensajes en la aplicación Muse para Mac es completamente opcional. "Necesitas habilitar tanto el acceso completo al disco como el conector de Mensajes para que Muse pueda leer el contenido de tus mensajes. No puede leerlos a menos que lo hagas", escribió.

La explicación técnica de Meta

David Singleton, ejecutivo de Meta Superintelligence Labs, ofreció una explicación más detallada sobre los permisos necesarios. Según su publicación en Threads, existen tres pasos separados de permisos a nivel de aplicación y protecciones integradas del sistema macOS que no pueden ser evitadas, incluso si la aplicación Muse tuviera un error.

Singleton explicó que el usuario debe elegir explícitamente otorgar a Muse el acceso completo al disco. Esto permite entonces elegir qué nivel de acceso se concede a la aplicación de Mensajes: ninguno, solo lectura o lectura y escritura. Si el acceso completo al disco no está habilitado, esas opciones aparecen deshabilitadas.

Además, cuando se permite el acceso completo al disco, el sistema invoca la interfaz de configuración de macOS donde el usuario debe confirmar manualmente la acción. Esto provoca un reinicio completo de la aplicación Muse, lo que hace muy improbable que alguien enable esta opción accidentalmente sin conocimiento.

Otros incidentes con Muse

Este no es el primer caso donde Muse ha sido cuestionado. Meta investigó un incidente similar reportado por el YouTuber Matt Robb, quien afirmó que Muse compartió su dirección en Facebook Marketplace mientras vendía artículos, lo que provocó que un comprador se presentara en su casa cuando no estaba. Robb posteriormente admitió que permitió a Muse un permiso que permitió que esto ocurriera.

Meta ha publicado información sobre la arquitectura de seguridad de su agente de inteligencia artificial y su proceso de recompensa por errores.

Por qué importa

La situación ocurre en un momento delicado para Meta, marcada por años de controversias relacionadas con el manejo de datos de usuarios. Hace pocos días, un jurado de Nuevo México determinó que la empresa había engañado a los usuarios sobre sus prácticas de datos en un caso relacionado con el escándalo de Cambridge Analytica de 2018.

La confianza de los usuarios será un factor determinante en si Meta logra competir efectivamente en el mercado de inteligencia artificial para consumidores. Aunque la aplicación se mantiene como la número uno en la App Store, la reputación de la compañía podría verse afectada si surgen más reportes de este tipo, independientemente de si son verdaderos o no.

Con información de TechCrunch.