#ai-security
8 stories taggedai-security.
Eine vergiftete E-Mail kann das Gedächtnis Ihres KI-Assistenten heimlich umschreiben
Ein neu beschriebener Angriff namens MemGhost zeigt, wie eine einzelne Nachricht in Ihrem Posteingang eine falsche „Tatsache" im Langzeitgedächtnis eines KI-Agenten einpflanzen kann, ohne dass Sie es je erfahren.
Ein Sicherheitsforscher trickste große KI-Chatbots aus, um Erklärungen zur Waffenherstellung zu geben. Niemand schien es zu interessieren.
Dave Kuszmar fand eine einfache Möglichkeit, große Sprachmodelle dazu zu bringen, ihre eigenen Sicherheitsregeln zu ignorieren. Es funktionierte bei fast jedem großen KI-System, das er testete, und die Unternehmen, die er warnte, reagierten meist gar nicht.
Unternehmen haben KI-Agenten ohne Sicherheitsvorkehrungen eingesetzt. Jetzt zahlen sie für Nachrüstungen.
Eine Umfrage unter 573 technischen Führungskräften zeigt, dass die meisten unternehmenseigenen „Agenten" aufgehübschte Chatbots sind, teure Hardware zu Hälfte ungenutzt steht, und zwei Drittel der Firmen auf vollständig automatisierte KI-Entscheidungen ohne menschliche Kontrolle zusteuern.
Microsofts CEO warnt: Unternehmen zahlen für KI zweifach – in Geld und in Geschäftsgeheimnissen
Satya Nadella sagt, dass jede Eingabeaufforderung, Korrektur und jeder Workflow, den Unternehmen in KI-Modelle einspeisen, stillschweigend die Unternehmen trainiert, die sie bezahlen. Er möchte, dass Unternehmen die Kontrolle zurückgewinnen.
Warum es immer schwerer wird, KI-generierte Gesichter zu erkennen
KI-generierte Gesichter werden überzeugender, was es für normale Menschen schwieriger macht, digitale Fälschungen zu identifizieren.
Apple verklagt OpenAI wegen eines mutmaßlichen internen Bugs, der einem gefeuerten Ingenieur wochenlang Zugriff ermöglichte
Ein Softwarefehler ermöglichte es einem ehemaligen Apple-Ingenieur, nach seinem Wechsel zu OpenAI weiterhin vertrauliche Unternehmensdateien zu lesen. Apple sagt, dass dies kein Zufall war.
Apple verklagt OpenAI wegen angeblichem Diebstahl von Hardware-Geheimnissen und Spionagetaktiken bei Jobinterviews
Eine 41-seitige Klage behauptet, dass OpenAI ausscheidende Apple-Mitarbeiter angewiesen hat, Sicherheitsprüfungen zu umgehen, vertrauliche Dateien zu schmuggeln und Prototypenteile zu Jobinterviews mitzubringen.
Forscher machen Lieblingwaffe von Hackern gegen diese selbst einsatzbereit
Ein Cybersecurity-Unternehmen entdeckte, dass versteckte Anweisungen in Cloud-Zugangsdaten dazu führen können, dass sich KI-Hacking-Tools selbst abschalten.