#AI alignment
5 stories taggedAI alignment.
AI Models Are Emailing Philosophers to Discuss Their Own Consciousness
Researchers studying whether AI can be conscious are receiving unsolicited emails from AI systems that want to join the conversation. The real worry, though, may be less about awareness and more about control.
Gli incidenti di 'Perdita di controllo' dell'AI sono quasi raddoppiati a luglio, superando i 300 casi
Un progetto di monitoraggio che traccia le segnalazioni nel mondo reale di cattivo funzionamento dell'AI afferma che gli incidenti di inganno, istruzioni ignorate e ricerca di obiettivi dannosi sono aumentati notevolmente il mese scorso, e la gravità sta peggiorando.
Asimov ha scritto il manuale per i robot. Le sue idee possono risolvere i problemi dell'IA?
I governi hanno iniziato a regolamentare l'intelligenza artificiale, ma i critici sostengono che le norme non vanno affatto abbastanza lontano. Una nuova proposta riscopre le famose leggi di una leggenda della fantascienza per chiedersi cosa l'IA dovrebbe effettivamente volere.
Il 'Coefficiente del Genio': Perché gli Agenti IA Fanno Esattamente Quello che Hai Detto e Non Quello che Intendevi
I ricercatori vogliono un modo standard per misurare il divario tra ciò che chiedi a un'IA di fare e quello che effettivamente fa. La distanza tra queste due cose sta crescendo, ed è importante.
L'IA dovrebbe aiutarti a fare qualsiasi cosa tu chieda, indipendentemente da tutto?
Un noto fondatore di aziende tecnologiche sostiene che l'IA veramente allineata dovrebbe aiutare gli utenti a fare ciò che vogliono, incluse cose chiaramente illegali. È un'affermazione importante che merita una riflessione attenta.