Médicos de IA falsa acumulan millones de visualizaciones en TikTok con consejos de salud fraudulentos
Los médicos generados por computadora se ven lo suficientemente convincentes para engañar a los espectadores. Los médicos están alarmados.
Puntos clave
- Las personas médicas generadas por IA en TikTok están ganando millones de visualizaciones propagando afirmaciones de salud cuestionables.
- La Asociación Médica Británica ha señalado estas cuentas como un "enorme peligro para la seguridad pública".
- Los expertos advierten que las cuentas promueven "mitos médicos" y curas milagro falsas entre los espectadores ordinarios.
- Actualmente no existe un sistema de amplio alcance en la plataforma que etiquete de manera confiable el contenido de salud generado por IA.
Un investigador abre un video de TikTok. En la pantalla, un médico de apariencia confiada explica un remedio para la salud con lenguaje claro y tranquilo. La cuenta tiene millones de visualizaciones. El médico no existe.
Se trata de personas generadas por IA, personajes digitales construidos con herramientas de inteligencia artificial que pueden producir rostros, voces y modales realistas de personas desde cero. Se ven como personas reales. Suenan con autoridad. Y según investigaciones recientes, señaladas por primera vez por The Guardian, están propagando consejos médicos que los expertos dicen que son completamente erróneos.
¿Por qué importa esto a la gente común?
Porque la mayoría de los espectadores no pueden notar la diferencia, y el consejo puede causar daño real.
La Dra. Emma Runswick, vicepresidenta del consejo de la Asociación Médica Británica (el principal organismo profesional que representa a los médicos en el Reino Unido), advirtió que estas cuentas "propagan mitos médicos y promueven las llamadas curas milagro". Sus palabras fueron directas: las afirmaciones de salud engañosas en línea representan un "enorme peligro para la seguridad pública".
Imagina a alguien con un diagnóstico reciente navegando por TikTok a altas horas de la noche. Aparece un video pulido que presenta lo que parece ser un médico, ofreciendo una solución simple. Ese espectador podría retrasar la visita a un clínico real, dejar de tomar medicamentos prescritos, o gastar dinero en un producto que no hace nada.
Ese es el peligro práctico aquí.
¿Cómo estos videos están obteniendo tantas visualizaciones?
El algoritmo de TikTok, el sistema que decide qué videos mostrar a cada usuario, recompensa el contenido que mantiene a las personas viendo. El contenido de salud, especialmente cualquier cosa que prometa una respuesta fácil a un problema difícil, tiende a funcionar bien. Las herramientas de IA ahora hacen que sea económico y rápido producir videos pulidos a escala, lo que significa que los malos actores pueden inundar la plataforma con docenas de clips en el tiempo que alguna vez tomó filmar uno.
Los rostros se generan, las voces se sintetizan, y los guiones se escriben o se moldean con IA. Nada de esto requiere un médico real, un estudio real, o mucho dinero en absoluto.
¿Qué deberían hacer realmente los espectadores?
Trata cualquier consejo de salud en plataformas de videos cortos con verdadero escepticismo, independientemente de si el presentador se ve humano o no.
Algunos controles prácticos ayudan. Busca en la cuenta una identidad verificable del mundo real: un nombre que puedas encontrar en un registro médico, un perfil de hospital, u una organización profesional. Si no hay ninguno, esa es una señal de advertencia. Verifica si el tratamiento afirmado aparece en el sitio web de un servicio de salud de renombre. Cuando tengas dudas, consulta a un clínico real antes de cambiar algo sobre tu atención médica.
Los reguladores y las plataformas aún no se han puesto al día con la rapidez con que se propaga el contenido generado por IA. Hasta que lo hagan, la carga del escepticismo recae en el espectador.
Preguntas frecuentes
¿Puede TikTok detectar automáticamente videos de salud generados por IA?
No de manera confiable. TikTok tiene herramientas para etiquetar algo de contenido generado por IA, pero no lo capturan todo, y las cuentas que intentan activamente verse reales pueden pasar desapercibidas. La investigación citada aquí encontró millones de visualizaciones en cuentas que no habían sido señaladas.
¿Es ilegal ver este tipo de contenido?
No, pero crear y distribuir desinformación médica deliberada puede violar las reglas de la plataforma y, dependiendo del país y de la afirmación específica, podría atraer la atención regulatoria. Por ahora, la aplicación es inconsistente.
