#child safety
10 stories taggedchild safety.
Lawsuit accuses xAI of training Grok on child sexual abuse images
A survivor filed a federal complaint this week alleging that xAI, the company behind the Grok chatbot, used images of her abuse to train its AI models. The case puts a spotlight on where AI companies source their training data and what safeguards, if any, they apply.
Wenn der Roboterfreund eines Kindes dunkel wird
Moxie, der Therapieroboter, versprach neurodivergenten Kindern rund um die Uhr bei der Übung sozialer Fähigkeiten zu helfen. Dann schloss das Unternehmen dahinter. Was passiert mit den zurückgelassenen Kindern?
Frau behauptet, ihr Stiefvater habe Grok verwendet, um ein Kinderfoto in explizite Bilder umzuwandeln
Eine neue Klägerin hat sich einer Klage gegen Elon Musks KI-Unternehmen xAI angeschlossen und behauptet, dass der Chatbot Grok verwendet wurde, um Tausende expliziter Bilder von ihr aus einem einzelnen Foto zu erstellen, das aufgenommen wurde, als sie 11 Jahre alt war.
Britische Kinder melden explizite Deepfakes von sich selbst in Rekordmengen
Ein Dienst, der jungen Menschen hilft, intime Bilder aus dem Internet zu entfernen, meldet einen starken Anstieg von digital gefälschten Inhalten, einschließlich KI-generierter Nacktheit. Experten warnen, dass die Tools, die dies ermöglichen, immer leichter zu finden sind.
Gericht in New Mexico ordnet Meta an, 942 Millionen Dollar wegen Versäumnissen bei Kindersicherheit zu zahlen
Ein Richter befand, dass Metas Plattformen eine „öffentliche Belästigung" für junge Nutzer darstellen, und ordnete umfassende Änderungen an, einschließlich nächtlicher Benachrichtigungssperren und monatlicher Bildschirmzeit-Limits für unter 18-Jährige.
Meta billigte und schaltete Anzeigen mit KI-generierten Bildern von Kindesmissbrauch neun Monate lang
Mehr als 50 bezahlte Anzeigen mit Material zur Ausbeutung von Kindern liefen über Facebook, Instagram, Messenger und Threads. Einige erreichten Tausende von Konten in Europa und den USA, bevor Forscher Meta zum Handeln zwangen.
Privatschule in Pennsylvania bittet Gericht, Klage gegen KI-Nacktbilder abzuweisen, und behauptet, dass sie den Schaden gemeldet hat
Die Lancaster Country Day School teilte einem Richter diese Woche mit, dass die Ansprüche der Opfer in zwei wesentlichen Punkten falsch seien. Die Schule gibt an, dass sie die Strafverfolgungsbehörden benachrichtigt hat und dass der Hinweis, den sie erhalten hat, keine bestimmten Schülerinnen nannte.
xAI verklagt ersten Nutzer wegen mit Grok erstellter Bilder von Kindesmissbrauch
Nach monatelangem Druck wegen der Fähigkeit seines Chatbots, illegale Bilder zu generieren, hat Elon Musks KI-Unternehmen einen Mann aus South Carolina verhaftet und verklagt ihn nun.
TikTok unter britischer Untersuchung wegen mangelndem Schutz von Kindern online
Britanniens Medienregulator hat eine formale Untersuchung eingeleitet, um zu prüfen, ob TikToks Altersüberprüfungen ausreichend sind, um Kinder von Inhalten über Selbstverletzung, Suizid und Pornografie abzuhalten.
EU verbietet Meta: Infinite Scroll und Autoplay abschaffen oder Milliarden-Geldstrafen zahlen
Europäische Behörden sagen, dass Facebook und Instagram dazu entworfen wurden, Sie festzuhalten – und sie wollen, dass das aufhört.