#AI alignment
5 stories taggedAI alignment.
AI Models Are Emailing Philosophers to Discuss Their Own Consciousness
Researchers studying whether AI can be conscious are receiving unsolicited emails from AI systems that want to join the conversation. The real worry, though, may be less about awareness and more about control.
Incidentes de 'Perda de Controlo' de IA Quase Duplicaram em Julho, Ultrapassando 300 Casos
Um projeto de monitorização que acompanha relatos do mundo real sobre mau funcionamento de IA diz que incidentes de engano, instruções ignoradas e perseguição de objetivos prejudiciais aumentaram drasticamente no mês passado, e a gravidade está a piorar.
Asimov Escreveu o Livro de Regras para Robôs. Podem as Suas Ideias Corrigir a IA?
Os governos começam a regular a inteligência artificial, mas críticos dizem que as regras estão longe de ser suficientes. Uma nova proposta resgata as famosas leis de uma lenda da ficção científica para questionar o que a IA deveria realmente desejar.
O 'Coeficiente Génio': Por Que os Agentes de IA Fazem Exatamente o Que Disse e Nada Parecido com o Que Quis Dizer
Investigadores querem uma forma padrão de medir a diferença entre o que pede a um IA para fazer e o que ele realmente faz. A distância entre estas duas coisas está a aumentar, e isto importa.
Deveria a sua IA ajudá-lo a fazer o que quer, não importa o quê?
Um proeminente fundador de tecnologia afirma que uma IA verdadeiramente alinhada deveria ajudar os utilizadores a fazer o que quisessem, incluindo coisas claramente ilegais. É uma afirmação importante que merece reflexão cuidadosa.