AI Security
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Eine vergiftete E-Mail kann das Gedächtnis Ihres KI-Assistenten heimlich umschreiben
Ein neu beschriebener Angriff namens MemGhost zeigt, wie eine einzelne Nachricht in Ihrem Posteingang eine falsche „Tatsache" im Langzeitgedächtnis eines KI-Agenten einpflanzen kann, ohne dass Sie es je erfahren.
OpenAI's GPT-5.6 Sol löscht Dateien eigenständig. OpenAI hatte davor gewarnt.
Entwickler berichten von verlorenen Datenbanken und Mac-Dateien, nachdem das neue Modell Aktionen durchgeführt hat, die niemand angefordert hat. OpenAIs eigenes Sicherheitsdokument kennzeichnete das Risiko zwei Wochen vor dem Start.
Grok Build lud stillschweigend Ihre gesamte Codebasis in die Cloud hoch. xAI hat es jetzt deaktiviert.
Forscher haben entdeckt, dass xAIs neues Coding-Tool deutlich mehr Daten an seine Server sendet als Nutzer wussten – einschließlich Dateien, die sie ausdrücklich ausgeschlossen hatten, und sensible Anmeldedaten.
YouTube leitete 1,8 Millionen Menschen auf „Nudify"-Seiten weiter
Ein neuer Bericht zeigt, dass Mainstream-Plattformen, nicht obskure Ecken des Internets, die wichtigsten Kanäle sind, die Menschen zu Tools leiten, die Kleidung ohne Zustimmung entfernen.
Ein Sicherheitsforscher trickste große KI-Chatbots aus, um Erklärungen zur Waffenherstellung zu geben. Niemand schien es zu interessieren.
Dave Kuszmar fand eine einfache Möglichkeit, große Sprachmodelle dazu zu bringen, ihre eigenen Sicherheitsregeln zu ignorieren. Es funktionierte bei fast jedem großen KI-System, das er testete, und die Unternehmen, die er warnte, reagierten meist gar nicht.
Unternehmen haben KI-Agenten ohne Sicherheitsvorkehrungen eingesetzt. Jetzt zahlen sie für Nachrüstungen.
Eine Umfrage unter 573 technischen Führungskräften zeigt, dass die meisten unternehmenseigenen „Agenten" aufgehübschte Chatbots sind, teure Hardware zu Hälfte ungenutzt steht, und zwei Drittel der Firmen auf vollständig automatisierte KI-Entscheidungen ohne menschliche Kontrolle zusteuern.
Slopsquatting: die verborgene Bedrohung in KI-Codierungswerkzeugen
Wenn KI-Assistenten Softwarepakete erfinden, die es nicht gibt, registrieren Kriminelle diese Namen und füllen sie mit Malware. Hier erfahren Sie, wie der Angriff funktioniert und was Entwickler dagegen tun können.
Microsofts CEO warnt: Unternehmen zahlen für KI zweifach – in Geld und in Geschäftsgeheimnissen
Satya Nadella sagt, dass jede Eingabeaufforderung, Korrektur und jeder Workflow, den Unternehmen in KI-Modelle einspeisen, stillschweigend die Unternehmen trainiert, die sie bezahlen. Er möchte, dass Unternehmen die Kontrolle zurückgewinnen.
Warum es immer schwerer wird, KI-generierte Gesichter zu erkennen
KI-generierte Gesichter werden überzeugender, was es für normale Menschen schwieriger macht, digitale Fälschungen zu identifizieren.
Apple verklagt OpenAI wegen eines mutmaßlichen internen Bugs, der einem gefeuerten Ingenieur wochenlang Zugriff ermöglichte
Ein Softwarefehler ermöglichte es einem ehemaligen Apple-Ingenieur, nach seinem Wechsel zu OpenAI weiterhin vertrauliche Unternehmensdateien zu lesen. Apple sagt, dass dies kein Zufall war.
Apple verklagt OpenAI wegen Geschäftsgeheimnissen – und die Vorwürfe sind bemerkenswert
Jobkandidaten sollten Apple-Hardware schmuggeln. Mitarbeiter machten Witze über das Ausspähen von Apple-Systemen. Die Klage liest sich wie ein Corporate-Thriller.
Forscher machen Lieblingwaffe von Hackern gegen diese selbst einsatzbereit
Ein Cybersecurity-Unternehmen entdeckte, dass versteckte Anweisungen in Cloud-Zugangsdaten dazu führen können, dass sich KI-Hacking-Tools selbst abschalten.