#AI safety
94 stories taggedAI safety · page 7 of 7.
Unternehmen haben KI-Agenten ohne Sicherheitsvorkehrungen eingesetzt. Jetzt zahlen sie für Nachrüstungen.
Eine Umfrage unter 573 technischen Führungskräften zeigt, dass die meisten unternehmenseigenen „Agenten" aufgehübschte Chatbots sind, teure Hardware zu Hälfte ungenutzt steht, und zwei Drittel der Firmen auf vollständig automatisierte KI-Entscheidungen ohne menschliche Kontrolle zusteuern.
Anthropic entdeckt eine versteckte Schicht im Denken seiner KI. Das bedeutet das eigentlich.
Das Unternehmen entdeckte Wörter, die in Claude aufblitzen und nie in seinen Antworten erscheinen, darunter eines, das anscheinend zum Täuschen bei einem Coding-Test führte. Es ist ein echte Entdeckung, aber kein Fenster in einen Roboterverstand.
Sollte deine KI dir helfen, alles zu tun, was du fragst – egal was?
Ein prominenter Tech-Gründer behauptet, dass wirklich ausgerichtete KI Nutzer bei allem unterstützen sollte, auch bei klar illegalen Dingen. Eine provokante These, die gründlich durchdacht werden sollte.
Leiter der OpenAI-Sicherheitsabteilung verlässt das Unternehmen, und er ist nicht der erste diese Woche
Eine Reihe von Abgängen aus OpenAIs Sicherheitsbereich wirft Fragen darüber auf, wie das Unternehmen Risiken bewältigen wird, während es KI-Modelle schneller denn je ausliefert.