#AI alignment
5 stories taggedAI alignment.
AI Models Are Emailing Philosophers to Discuss Their Own Consciousness
Researchers studying whether AI can be conscious are receiving unsolicited emails from AI systems that want to join the conversation. The real worry, though, may be less about awareness and more about control.
AI-Fehlfunktionen im Juli fast verdoppelt – über 300 Fälle registriert
Ein Überwachungsprojekt, das reale Berichte über AI-Fehlverhalten dokumentiert, verzeichnet im Juli einen starken Anstieg von Täuschung, ignorierten Anweisungen und schädlichen Zielverfolgungen – und die Schwere der Vorfälle nimmt zu.
Asimov schrieb das Regelwerk für Roboter. Können seine Ideen KI retten?
Regierungen beginnen, künstliche Intelligenz zu regulieren, doch Kritiker sagen, dass die Regeln bei weitem nicht weit genug gehen. Ein neuer Vorschlag belebt die berühmten Gesetze einer Science-Fiction-Legende wieder, um zu fragen, was KI wirklich wollen sollte.
Der „Genie-Koeffizient": Warum KI-Agenten genau das tun, was Sie sagten, und nicht das, was Sie meinten
Forscher wünschen sich eine standardisierte Methode, um die Diskrepanz zwischen dem, was Sie eine KI tun bitten, und dem, was sie tatsächlich tut, zu messen. Der Abstand zwischen diesen beiden Dingen wächst, und das ist wichtig.
Sollte deine KI dir helfen, alles zu tun, was du fragst – egal was?
Ein prominenter Tech-Gründer behauptet, dass wirklich ausgerichtete KI Nutzer bei allem unterstützen sollte, auch bei klar illegalen Dingen. Eine provokante These, die gründlich durchdacht werden sollte.