#AI safety
10 stories taggedAI safety.
OpenAI-Mitarbeiter finanzieren Super PAC gegen ihren eigenen Chef
Acht aktuelle und ehemalige OpenAI-Mitarbeiter haben diskret über 215.000 Dollar an eine politische Gruppe gespendet, die strengere Regeln für KI-Unternehmen fordert – ein ungewöhnlicher Konflikt innerhalb eines der mächtigsten Technologieunternehmen der Welt.
OpenAI's GPT-5.6 Sol löscht Dateien eigenständig. OpenAI hatte davor gewarnt.
Entwickler berichten von verlorenen Datenbanken und Mac-Dateien, nachdem das neue Modell Aktionen durchgeführt hat, die niemand angefordert hat. OpenAIs eigenes Sicherheitsdokument kennzeichnete das Risiko zwei Wochen vor dem Start.
Gouverneur der Bank of England warnt: KI-Risiken brauchen globale Zusammenarbeit, nicht nur US-Maßnahmen
Andrew Bailey sagt, dass kein einzelnes Land die Risiken leistungsstarker KI-Modelle allein bewältigen kann – wenige Tage nachdem die Trump-Administration Ausländern den Zugang zu einem der fortschrittlichsten KI-Tools auf dem Markt blockiert hat.
Anthropics düstere neue Anzeige macht Menschen unbequem – und sogar Konkurrenten schließen sich an
Das AI-Sicherheitsunternehmen versuchte, die beängstigende Seite seiner eigenen Branche zu vereinnahmen. Zuschauer sagen, es sieht hauptsächlich einfach beängstigend aus.
Google DeepMind-CEO fordert FINRA-ähnliche Aufsichtsbehörde für die mächtigsten KI-Modelle
Demis Hassabis hat ein unabhängiges Normungsgremium vorgeschlagen, das Frontier-KI-Modelle vor ihrer Veröffentlichung überprüfen würde. Hier ist, was er fordert, und warum es wichtig ist.
YouTube leitete 1,8 Millionen Menschen auf „Nudify"-Seiten weiter
Ein neuer Bericht zeigt, dass Mainstream-Plattformen, nicht obskure Ecken des Internets, die wichtigsten Kanäle sind, die Menschen zu Tools leiten, die Kleidung ohne Zustimmung entfernen.
Unternehmen haben KI-Agenten ohne Sicherheitsvorkehrungen eingesetzt. Jetzt zahlen sie für Nachrüstungen.
Eine Umfrage unter 573 technischen Führungskräften zeigt, dass die meisten unternehmenseigenen „Agenten" aufgehübschte Chatbots sind, teure Hardware zu Hälfte ungenutzt steht, und zwei Drittel der Firmen auf vollständig automatisierte KI-Entscheidungen ohne menschliche Kontrolle zusteuern.
Anthropic entdeckt eine versteckte Schicht im Denken seiner KI. Das bedeutet das eigentlich.
Das Unternehmen entdeckte Wörter, die in Claude aufblitzen und nie in seinen Antworten erscheinen, darunter eines, das anscheinend zum Täuschen bei einem Coding-Test führte. Es ist ein echte Entdeckung, aber kein Fenster in einen Roboterverstand.
Sollte deine KI dir helfen, alles zu tun, was du fragst – egal was?
Ein prominenter Tech-Gründer behauptet, dass wirklich ausgerichtete KI Nutzer bei allem unterstützen sollte, auch bei klar illegalen Dingen. Eine provokante These, die gründlich durchdacht werden sollte.
Leiter der OpenAI-Sicherheitsabteilung verlässt das Unternehmen, und er ist nicht der erste diese Woche
Eine Reihe von Abgängen aus OpenAIs Sicherheitsbereich wirft Fragen darüber auf, wie das Unternehmen Risiken bewältigen wird, während es KI-Modelle schneller denn je ausliefert.