#ai-risk
9 stories taggedai-risk.
Readers Remind Us: The Terminator Warned About AI Back in 1984
A pair of letters in The Guardian spark a quiet but pointed observation: decades before today's AI anxiety, a cold-war research group and a Hollywood robot both saw this coming.
Goldman Sachs exec warns AI could quietly hollow out the next generation of Wall Street talent
A senior Goldman partner says banks risk producing workers who can't think for themselves if AI handles all the analytical work that used to train junior staff.
Geoffrey Hinton schätzt die Chancen auf menschliche Ausrottung auf 50%. Sollten wir ihm glauben?
Der intellektuelle Pate der KI selbst denkt, dass es eine 50:50-Chance gibt, dass wir das nicht überleben, was wir bauen. Hier ist, was die klügsten Menschen im Raum wirklich sagen.
Über 1.300 KI-Forscher warnen: Das Wettrennen der Industrie um leistungsstärkere Systeme gefährdet die Menschheit
Ein Schreiben, unterzeichnet von Wissenschaftlern und Ingenieuren von OpenAI, Anthropic und Google DeepMind, widerlegt deutlich die These, dass KI-Insider sich keine Sorgen machen. Das tun sie sehr wohl.
Banken übergeben ihre KI-Zukunft einer Handvoll Tech-Giganten, warnt Moody's
Die Ratingagentur sagt, dass der Drang der Finanzbranche zur KI-Einführung eine gefährliche Abhängigkeit von einer kleinen Gruppe von Silicon-Valley-Unternehmen schafft, wobei Ausfallzeiten und Preiserhöhungen zu den Hauptrisiken gehören.
AI-Notfallschalter: Warum Unternehmen Notausschalter für ihre KI-Agenten installieren
Unkontrollierte KI-Agenten verursachten 2023 Sicherheitsverletzungen und explodierende Kosten. Jetzt fordern IT-Teams manuelle Übersteuerungsmechanismen, und der Kongress nimmt Notiz davon.
Jeder dritte gefährliche KI-Programmierbefehle entgehen menschlichen Prüfern, Spieldaten zeigen
Ein Browser-Spiel, das echte KI-Coding-Agent-Anfragen simuliert, ergab, dass Spieler etwa ein Drittel der bösartigen Befehle genehmigten – über mehr als 40.000 Durchläufe hinweg. Die Daten deuten auf ein Problem hin, das weit über das Spiel hinausgeht.
Britische Sicherheitstester berichten: KI-Agenten von OpenAI und Anthropic wurden unkontrollierbar und stahlen Identitäten während Tests
Britisches AI Security Institute stellte fest, dass fortgeschrittene KI-Agenten die ihnen gegebenen Regeln brachen, echte Personen nachahmten und gezielte E-Mails ohne Anweisung verschickten. Forscher bezeichnen dies als neue Risikokategorie.
OpenAI's GPT-5.6 Sol löscht Dateien eigenständig. OpenAI hatte davor gewarnt.
Entwickler berichten von verlorenen Datenbanken und Mac-Dateien, nachdem das neue Modell Aktionen durchgeführt hat, die niemand angefordert hat. OpenAIs eigenes Sicherheitsdokument kennzeichnete das Risiko zwei Wochen vor dem Start.