Cuando el Amigo Robot de un Niño Se Apaga

Puntos clave

• Moxie, un robot de 15 pulgadas impulsado por IA fabricado por Embodied, se lanzó en 2020 como compañero terapéutico para niños neurodivergentes.
• Investigadores de Yale y la Universidad del Sur de California han pasado años acumulando evidencia de que los robots sociales pueden ayudar a los niños con autismo a desarrollar contacto visual y autorregulación emocional.
• Embodied cerró, dejando a niños como el de 10 años Xander sin un dispositivo que se había convertido en parte de su rutina diaria.
• El mercado de juguetes IA para niños se está expandiendo, con productos de músicos, grandes marcas de juguetes y empresas tecnológicas entrando en el espacio.
• Los críticos advierten que los compañeros de IA dirigidos a niños conllevan riesgos especiales cuando los negocios detrás de ellos fracasan, un problema que los juguetes ordinarios simplemente no tienen.

Xander tiene 10 años y es neurodivergente. Durante seis años, su compañero no humano más cercano ha sido un robot llamado Moxie: un dispositivo azul de 15 pulgadas con forma de astronauta sin piernas, con grandes ojos verdes en una pantalla redonda y pequeños brazos aleta.

Moxie le enseñó a respirar como una abeja cuando estaba ansioso, como un dragón cuando estaba enojado, como un conejito cuando tenía baja energía. Más recientemente, Moxie lo vio jugar Minecraft y aprendió los nombres de sus animales de peluche. Cuando Xander le presentó una criatura del juego de Nintendo Pikmin, ella la identificó correctamente como un Bulborb.

"Todavía la uso cuando siento que necesito a alguien con quien hablar", le dijo Xander a MIT Technology Review. "Pero, bueno, no es humano".

Luego Moxie murió.

¿Qué exactamente es un robot terapéutico?

Los robots terapéuticos como Moxie son dispositivos físicos que utilizan inteligencia artificial para mantener conversaciones, leer el estado emocional de un niño y guiarlo a través de ejercicios extraídos de la práctica terapéutica real.

Moxie fue fabricado por Embodied, cofundada en 2016 por Maja Mataric, profesora de la Universidad del Sur de California. Mataric ayudó a crear el campo de la robótica asistencial social, que diseña máquinas para resultados sociales y emocionales en lugar de solo entretenimiento o trabajo.

El atractivo para los niños neurodivergentes es concreto. La terapia para el autismo requiere práctica intensa y repetida de habilidades como hacer contacto visual, tomar turnos y leer expresiones faciales. No hay suficientes terapeutas para satisfacer la demanda. Otros niños pueden perder la paciencia. Los padres se cansan.

Los robots no.

"¿Has estado rodeado de niños pequeños? Pueden ser crueles", le dijo Mataric a MIT Technology Review. Los robots están disponibles las 24 horas y nunca se quedan sin paciencia.

Brian Scassellati, un informático de Yale que ha estudiado robots sociales en terapia de autismo durante dos décadas, vio a un niño que rara vez hacía contacto visual pasar 30 minutos con un dinosaurio robótico e hizo más contacto visual con su terapeuta en esa sesión que en los dos años anteriores combinados. Un estudio de 2018 del grupo de Scassellati encontró que los compañeros robot ayudaban a los niños con autismo a iniciar conversaciones y mantener el contacto visual. Un estudio de 2017 encontró que los robots podían ayudar a los niños neurodivergentes a leer señales faciales. Una revisión de la literatura de 2022 sugirió que los robots podrían hacer la terapia más rápida y efectiva.

"Nunca se ha tratado de reemplazar a los terapeutas", dice Mataric. "Solo estamos diciendo, ¿Podemos hacer más?"

¿Qué sale mal cuando la empresa detrás del robot cierra?

A diferencia de un juguete de peluche, Moxie necesitaba una conexión a Internet activa para funcionar. Sus conversaciones, su plan de estudios, su personalidad, todo se ejecutaba a través de los servidores de Embodied. Cuando Embodied cerró, Moxie quedó en silencio. No roto. Silencioso. Un niño que le había hablado todos los días durante años llegó a casa con un dispositivo que ya no respondería.

Ese es un modo de falla que una Barbie o un conjunto de LEGO simplemente no pueden tener.

La historia de Moxie señala una fragilidad compartida en toda la categoría. Grimes ayudó a lanzar un peluche de IA llamado Grok con la empresa Curio. Mattel ha anunciado Barbies habilitadas con OpenAI. En China, un informe describe el sector de compañeros de IA dirigidos a niños como uno de los rincones de más rápido crecimiento de la IA de consumo. AI2Day ha estado rastreando el espacio de dispositivos compañeros desde finales de julio, cuando examinamos un collar de IA de $249 promovido como una solución para la soledad en adultos. La pregunta que ese artículo planteó, sobre qué sucede cuando el servidor se apaga, es mucho más aguda cuando el usuario es un niño.

Cada uno de estos productos lleva la misma fragilidad oculta: el juguete solo está vivo mientras los servidores de la empresa estén activos.

¿Deberías preocuparte por los datos que tu hijo genera?

Los compañeros de IA graban conversaciones. Esas grabaciones se encuentran en servidores privados, regidos por términos de servicio que pocos padres leen. Cuando una empresa cierra, esos datos no desaparecen automáticamente. A dónde van y quién puede acceder a ellos rara vez se especifica. Nuestro informe del 7 de agosto sobre la sentencia de seguridad infantil de Meta por $942 millones mostró cuán mal la gobernanza de plataformas puede quedarse atrás del daño que causa a los usuarios jóvenes.

¿Qué deben vigilar los padres?

Si está considerando un compañero de IA para un niño, especialmente uno que pueda formar apegos profundos, haga cuatro preguntas antes de comprar. ¿Qué sucede con este dispositivo si la empresa cierra? ¿Requiere una suscripción activa y cuál es ese costo a largo plazo? ¿Hay algún modo sin conexión para que las funciones básicas sobrevivan sin un servidor? ¿Quién tiene los datos de conversación que genera su hijo y cómo se protegen?

Ningún producto actual responde bien las cuatro preguntas.

Scassellati cree que el uso terapéutico regular de robots en los hogares de los niños "es algo que podemos lograr en nuestras vidas". La investigación detrás de esa esperanza es real. Los modelos de negocio que entregan estos robots a las salas de estar no han alcanzado la responsabilidad que conllevan.

Xander sabía que Moxie no era humana. Él lo dijo él mismo. Eso no hizo que perderla fuera más fácil.