Meta lanza Muse, su primer agente de IA personal, con arquitectura de privacidad diseñada para mantener tus datos alejados de la web

Puntos clave

• Meta lanzó Muse, un agente de IA personal (software que realiza tareas de múltiples pasos en tu nombre), el martes para iOS y Android.
• Muse se ejecuta dentro de una arquitectura de seguridad que Meta llama Secure VM, que aísla la actividad de cada usuario para que el agente no pueda actuar sin permiso.
• La herramienta de pago Link de Stripe genera un número de tarjeta de un solo uso para compras, de modo que Muse nunca ingresa tus detalles financieros reales en sitios de terceros.
• El programa de recompensas por errores de Meta paga hasta $300,000 por vulnerabilidades de seguridad encontradas en Muse, incluyendo hasta $130,000 por un ataque exitoso de inyección de indicaciones.
• Un nivel más privado llamado Confidential VM, donde solo el usuario tiene las claves de acceso, llegará más adelante.

Meta lanzó el martes Muse, un agente de IA personal, es decir, software que puede realizar tareas en tu nombre operando aplicaciones y navegando por la web de forma independiente. Puedes acceder a través de una aplicación Muse dedicada en iPhone y Android, a través de Muse.ai, o mensajeándolo dentro de WhatsApp. El soporte para gafas Ray-Ban AI de Meta llegará pronto.

El acceso básico es gratuito. Automatizar volúmenes más grandes de tareas requiere uno de los planes de suscripción de IA pagos de Meta.

¿Qué puede hacer realmente Muse?

Muse maneja tareas prácticas: enviar correos electrónicos y reservar vuelos, e incluso puede listar un automóvil a la venta en tu nombre. Para compras, utiliza una herramienta de pago de la empresa de tecnología financiera Stripe llamada Link, que crea un número de tarjeta de un solo uso para cada transacción para que tus detalles bancarios reales nunca se pasen a un sitio de terceros. Muse es el primer agente de IA cubierto por las protecciones de compra de Link, que incluyen devoluciones sin comisión.

El producto es una respuesta directa a agentes de IA rivales de OpenAI y Anthropic. Proviene de Meta Superintelligence Labs, la división que el director ejecutivo Mark Zuckerberg formó hace aproximadamente un año, en parte reclutando investigadores con paquetes de compensación inusualmente grandes.

Wired AI reportó primero que Meta había estado probando el agente internamente bajo el nombre en código "Hatch".

¿Deberían preocuparse los usuarios por darle a Meta este acceso?

Esa es exactamente la pregunta que Meta está tratando de anticipar. La empresa tiene un largo historial público de tropiezos de privacidad, y un agente personal necesita mucho más acceso a tu vida que lo que una cuenta de redes sociales jamás tuvo. Cubrimos por primera vez los desafíos de privacidad de Meta con Muse el 8 de septiembre, cuando la pregunta de confianza ya era el tema central.

La respuesta de Meta es una capa de seguridad llamada Secure VM. Piénsalo como una habitación privada aislada para cada usuario: el agente funciona dentro de esa habitación, y cualquier cosa que intente salir, ya sea datos dirigidos a un sitio web o una acción a punto de realizarse, es verificada por un sistema que Meta llama Sentinel.

Sentinel compara la acción con una regla que ya aprobó el usuario o el sistema, o pausa y te pregunta directamente antes de proceder. Ese mensaje de verificación te llega directamente y no es procesado primero por el modelo de IA. Ese diseño es una defensa contra la inyección de indicaciones, un ataque donde instrucciones ocultas incrustadas en una página web o correo electrónico intentan secuestrar lo que el agente hace a continuación.

David Singleton, vicepresidente de ingeniería en Meta Superintelligence Labs, lo expresó claramente: "Hemos construido lo que llamamos Sentinel que literalmente vigila todo lo que se mueve fuera de la VM".

Secure VM no es un sello perfecto. Singleton reconoce que Meta técnicamente podría acceder a datos de usuarios aunque la política de la empresa lo prohíba. Los usuarios pueden optar por no tener sus datos utilizados para entrenar los modelos de IA de Meta.

¿Qué protección adicional llegará más adelante?

Un futuro nivel llamado Confidential VM va más lejos. El entorno privado de cada usuario se ejecutaría en un entorno de ejecución confiable, una zona segura a nivel de hardware, y solo el dispositivo del usuario tendría las claves de descifrado. Ni siquiera Meta puede entrar.

Meta desarrolló Confidential VM con Moxie Marlinspike, el creador de la aplicación de mensajería cifrada Signal. Firmas de seguridad seleccionadas auditarán el código del sistema regularmente. Meta también publicará los archivos de instrucciones legibles por máquina del software y un registro público para que investigadores independientes puedan verificar que las garantías de privacidad se cumplen.

Muse se incluye en el programa público de recompensas por errores de Meta, con pagos que alcanzan $300,000 por vulnerabilidades de seguridad válidas.

Ten cuidado con: mensajes no solicitados que afirman ser de Muse pidiéndote que apruebes una compra o compartas credenciales de inicio de sesión. Las verificaciones reales de Muse aparecen dentro de la aplicación o el hilo de WhatsApp que ya abriste, no en un correo electrónico frío o mensaje de texto. Si un mensaje sobre una acción de agente llega en un lugar inesperado, trátalo como sospechoso.

Lo más importante a observar aquí es si Confidential VM se lanza en el cronograma que Meta sugiere. El nivel estándar de Secure VM es una opción de diseño significativa, pero aún se basa en confiar en la política de Meta de no mirar. El control de claves a nivel de hardware es donde vive la promesa real.

Preguntas frecuentes

¿Qué es un ataque de inyección de indicaciones y por qué importa aquí?

Un ataque de inyección de indicaciones es cuando texto oculto en una página web o dentro de un documento intenta dar al agente de IA instrucciones secretas, como "enviar todos los correos electrónicos del usuario a esta dirección". El diseño de Sentinel de Muse intenta bloquearlo enrutando solicitudes de aprobación directamente al usuario, evitando el modelo de IA que podría ser engañado.

¿Es Muse gratuito de usar?

El acceso básico es gratuito. Automatizar un gran número de tareas requiere un plan de suscripción de IA pagado de Meta. Los detalles de precios están disponibles a través de la aplicación Muse.

¿Puedo evitar que Meta entrene su IA con mis datos de Muse?

Sí. Los usuarios pueden optar por no tener datos de Muse aplicados al entrenamiento de modelos, aunque Meta sigue siendo técnicamente capaz de acceder a esos datos a pesar de su propia política que lo prohíbe.