Gefälschte KI-Ärzte sammeln Millionen von TikTok-Aufrufen mit fragwürdigen Gesundheitstipps

Wichtigste Punkte

• Von KI generierte Ärzte-Profile auf TikTok erhalten Millionen von Aufrufen und verbreiten fragwürdige Gesundheitsbehauptungen.
• Die British Medical Association hat diese Konten als „riesige Gefahr für die öffentliche Sicherheit" gekennzeichnet.
• Experten warnen, dass die Konten „medizinische Mythen" und gefälschte Wunderheilmittel an normale Zuschauer verbreiten.
• Es gibt derzeit kein plattformweites System, das KI-generierte Gesundheitsinhalte zuverlässig kennzeichnet.

Ein Forscher öffnet ein TikTok-Video. Auf dem Bildschirm erklärt ein selbstbewusst wirkender Arzt ein Gesundheitsmittel in klarer, ruhiger Sprache. Das Konto hat Millionen von Aufrufen. Der Arzt existiert nicht.

Dies sind KI-generierte Personen, digitale Charaktere, die mit Künstliche-Intelligenz-Tools erstellt wurden und realistische menschliche Gesichter, Stimmen und Manierismen von Grund auf erzeugen können. Sie sehen wie echte Menschen aus. Sie klingen autoritär. Und laut neuer Forschung, die zunächst von The Guardian hervorgehoben wurde, verbreiten sie medizinische Ratschläge, die Experten zufolge schlicht falsch sind.

Warum ist dies für normale Menschen wichtig?

Weil die meisten Zuschauer keinen Unterschied erkennen können, und der Rat kann echten Schaden verursachen.

Dr. Emma Runswick, stellvertretende Vorsitzende des British Medical Association Council (der wichtigsten Berufsorganisation, die Ärzte im gesamten Vereinigten Königreich vertritt), warnte, dass diese Konten „medizinische Mythen verbreiten und sogenannte Wunderheilmittel fördern." Ihre Worte waren direkt: Irreführende Gesundheitsbehauptungen online stellen eine „riesige Gefahr für die öffentliche Sicherheit" dar.

Stellen Sie sich jemanden vor, der mit einer neuen Diagnose spät nachts TikTok scrollt. Ein poliertes Video erscheint, in dem ein Arzt zu sehen ist und eine einfache Lösung anbietet. Dieser Zuschauer könnte den Besuch bei einem echten Kliniker aufschieben, verschriebene Medikamente absetzen oder Geld für ein Produkt ausgeben, das nichts bringt.

Das ist die praktische Gefahr hier.

Wie bekommen diese Videos so viele Aufrufe?

TikToks Algorithmus, das System, das entscheidet, welche Videos jedem Benutzer gezeigt werden, belohnt Inhalte, die Menschen zum Weiterschauen bringen. Gesundheitsinhalte, besonders alles, das eine einfache Antwort auf ein schwieriges Problem verspricht, funktioniert normalerweise gut. KI-Tools machen es jetzt billig und schnell, polierte Videos im großen Maßstab zu produzieren, was bedeutet, dass böswillige Akteure die Plattform mit Dutzenden von Clips in der Zeit überfluten können, die es früher brauchte, um einen zu drehen.

Die Gesichter werden generiert, die Stimmen werden synthetisiert und die Skripte werden von KI geschrieben oder gestaltet. Nichts davon erfordert einen echten Arzt, ein echtes Studio oder viel Geld überhaupt.

Was sollten Zuschauer wirklich tun?

Behandeln Sie jeden Gesundheitsrat auf Short-Video-Plattformen mit echtem Skeptizismus, unabhängig davon, ob der Moderator menschlich aussieht oder nicht.

Ein paar praktische Überprüfungen helfen. Durchsuchen Sie das Konto nach einer überprüfbaren echten Identität: einem Namen, den Sie in einem Arztverzeichnis, einem Krankenhauспрофil oder einer Berufsorganisation finden können. Wenn es keinen gibt, ist das ein Warnsignal. Überprüfen Sie, ob die behauptete Behandlung auf der Website eines seriösen Gesundheitsdienstes erscheint. Im Zweifelsfall fragen Sie einen echten Kliniker, bevor Sie etwas an Ihrer Behandlung ändern.

Regulierungsbehörden und Plattformen sind noch nicht mit der Geschwindigkeit Schritt gehalten, mit der sich KI-generierte Inhalte verbreiten. Bis sie es tun, liegt die Last der Skepsis beim Zuschauer.

Häufig gestellte Fragen

Kann TikTok KI-generierte Gesundheitsvideos automatisch erkennen?

Nicht zuverlässig. TikTok hat Tools, um einige KI-generierte Inhalte zu kennzeichnen, aber sie erfassen nicht alles, und Konten, die aktiv echt aussehen wollen, können durchschlüpfen. Die hier zitierte Forschung fand Millionen von Aufrufen auf Konten, die nicht gekennzeichnet worden waren.

Ist das Anschauen dieser Art von Inhalten illegal?

Nein, aber das Erstellen und Verbreiten von absichtlicher medizinischer Desinformation kann gegen Plattformregeln verstoßen und könnte je nach Land und spezifischem Anspruch regulatorische Aufmerksamkeit erregen. Vorerst ist die Durchsetzung ungleichmäßig.