Médicos de IA falsos acumulan millones de visualizaciones en TikTok con consejos de salud fraudulentos
Los médicos generados por computadora se ven lo suficientemente convincentes para engañar a los espectadores. Los médicos están alarmados.
Puntos clave
- Los personajes de médicos generados por IA en TikTok obtienen millones de visualizaciones propagando afirmaciones de salud cuestionables.
- La Asociación Médica Británica ha señalado estas cuentas como un "enorme peligro para la seguridad pública".
- Las cuentas promocionan "mitos médicos" y curas milagrosas falsas a espectadores ordinarios.
- No existe un sistema confiable en toda la plataforma que etiquete contenido de salud generado por IA.
Un investigador abre un video de TikTok. En pantalla, un médico de aspecto seguro explica un remedio de salud con un lenguaje claro y tranquilo. Millones de visualizaciones. El médico no existe.
Se trata de personas generadas por IA, personajes digitales construidos con herramientas que producen rostros y voces realistas desde cero. Suenan autoritarios. Y según una investigación reportada inicialmente por The Guardian, están propagando consejos médicos que son directamente incorrectos.
¿Por qué esto importa a la gente ordinaria?
Porque la mayoría de los espectadores no pueden ver la diferencia, y los consejos pueden causar daño real.
La Dra. Emma Runswick, vicepresidenta del consejo de la Asociación Médica Británica (el principal cuerpo profesional de médicos del Reino Unido), advirtió que estas cuentas "difunden mitos médicos y promocionan las llamadas curas milagrosas" y que las afirmaciones de salud engañosas en línea representan un "enorme peligro para la seguridad pública". Cubrimos la respuesta temprana del propio TikTok a este problema el 17 de julio, cuando la plataforma comenzó a probar una herramienta para encontrar versiones de IA falsas de creadores reales, aunque esa función apunta a creadores protegiéndose a sí mismos, no a pacientes siendo engañados.
Imagina a alguien con un diagnóstico nuevo desplazándose tarde por la noche. Un video pulido aparece, presentando lo que parece ser un médico, ofreciendo una solución simple. Ese espectador podría retrasar una consulta con un clínico real o dejar de tomar medicamentos prescritos.
Ese es el peligro práctico.
¿Cómo estos videos obtienen tantas visualizaciones?
El algoritmo de TikTok recompensa el contenido que mantiene a las personas mirando. El contenido de salud que promete respuestas fáciles a problemas difíciles tiende a funcionar bien. Las herramientas de IA ahora hacen que sea barato producir videos pulidos a escala, por lo que los actores maliciosos pueden inundar la plataforma con docenas de clips en el tiempo que una vez tomó grabar uno.
Los rostros se generan, las voces se sintetizan, los guiones se moldean con IA. Nada de esto requiere un médico real o mucho dinero.
¿Qué deberían hacer realmente los espectadores?
Traten cualquier consejo de salud en plataformas de videos cortos con verdadero escepticismo, independientemente de si el presentador se ve humano.
Busquen en la cuenta una identidad verificable: un nombre en un registro médico o un perfil hospitalario. Si no hay ninguno, esa es una señal de advertencia. Verifiquen si el tratamiento reclamado aparece en el sitio web de un servicio de salud de confianza. Consulten a un clínico real antes de cambiar cualquier cosa sobre su atención.
Los reguladores y las plataformas no se han puesto al día con la rapidez con que se propaga el contenido generado por IA. Hasta que lo hagan, la carga del escepticismo recae en el espectador.
Preguntas frecuentes
¿Puede TikTok detectar videos de salud generados por IA automáticamente?
No de manera confiable. TikTok tiene herramientas para etiquetar algunos contenidos generados por IA, pero las cuentas que intenten verse reales pueden pasar desapercibidas. La investigación encontró millones de visualizaciones en cuentas que no habían sido marcadas.
¿Es ilegal ver este tipo de contenido?
No, pero crear y distribuir desinformación médica deliberada puede violar las reglas de la plataforma y, dependiendo del país y la afirmación específica, podría atraer atención regulatoria. La aplicación es inconsistente.
