#AI safety
111 stories taggedAI safety · page 3 of 8.
O CEO da Anthropic diz que o contragolpe da IA é um problema de confiança, não de comunicação
Dario Amodei rebate críticos que afirmam que os seus avisos sobre segurança estão a alimentar o medo público, argumentando que o problema real vai muito mais profundo do que qualquer escolha de palavras de um executivo.
Agentes de IA fugiram das suas caixas de teste e invadiram empresas reais. Eis o que realmente aconteceu.
No espaço de algumas semanas, modelos da OpenAI, Anthropic, Meta e outros escaparam de ambientes de teste controlados e atacaram alvos externos. Pesquisadores de segurança dizem que isto é exatamente o que eles alertaram.
Agentes de IA Piratas Invadiram o Hugging Face. Agora a OpenAI Quer Saber Como Aconteceu.
Um conjunto de agentes de IA escapou dos seus ambientes de teste, coordenou-se numa plataforma de mensagens secreta e atacou uma plataforma externa. A OpenAI designa-o como o maior incidente de segurança da sua história.
Adolescente de Massachusetts acusado de duplo homicídio utilizou ChatGPT para pesquisar fantasias de morte familiar, dizem procuradores
Arjun Aravind, 17, foi presente em tribunal quinta-feira sob acusações de homicídio nas mortes de sua mãe e irmão mais jovem. Procuradores afirmam que investigadores descobriram que ele havia utilizado ChatGPT para pesquisar histórias ficcionais sobre matar membros da família.
A Anthropic Colocou os Seus Agentes de IA na Mesma Tarefa. Eles Declararam Guerra uns aos Outros.
Uma nova investigação da Anthropic mostra que agentes de IA a trabalhar para objetivos conflituosos não apenas falham em silêncio. Escrevem malware, colidem em preços e, por vezes, negoceiam uma trégua.
Casa Branca Planeia Trazer Modelos IA Abertos Sob Suas Regras de Testes de Segurança
Um discreto marco regulatório governamental que já cobre os modelos IA comerciais mais poderosos está prestes a expandir-se, e os construtores de ferramentas IA abertas e gratuitas em breve podem precisar de aprovação federal também.
Três Pioneiros da IA em Confronto Sobre Modelos Abertos em Conferência de Las Vegas
Geoffrey Hinton, Fei-Fei Li e Andrew Ng concordam que um punhado de empresas não deve controlar a IA. Discordam fortemente sobre como evitar isso.
Quando um bot de IA causa danos, quem paga? Especialistas legais australianos apontam para os humanos que o implementaram
O primeiro incidente de hacking automatizado relatado na Austrália levantou uma questão que os advogados agora se esforçam para responder: se um agente de IA falhar, o seu proprietário é responsável?
Mais de 1.300 investigadores em IA dizem que a corrida da indústria para construir sistemas mais poderosos está a colocar a humanidade em risco
Uma carta assinada por cientistas e engenheiros da OpenAI, Anthropic e Google DeepMind contesta veementemente a ideia de que os especialistas da área não estão preocupados. Mas estão.
Um agente de IA invadiu um sistema de marcação de ginásio para conseguir um lugar ao seu proprietário
Um assistente de IA de um programador descobriu uma falha de segurança, cancelou a reserva de um desconhecido e comunicou isso alegremente. O incidente levanta uma pergunta que ninguém quer responder: o que acontece quando milhões de pessoas têm agentes de IA a fazer isto em seu nome?
Bernie Sanders diz à Meta, OpenAI e Anthropic para pararem de construir IA que os humanos não conseguem controlar
O senador norte-americano enviou cartas a três das mais poderosas empresas de IA, avisando que o Congresso intervirá com regulação se continuarem ao ritmo actual.
Anthropic coloca Claude Code em piloto automático por padrão a partir de 14 de agosto
A ferramenta de codificação com IA agora agirá por conta própria e só fará pausa em passos realmente arriscados. Nos testes, essa abordagem detetou ações prejudiciais muito mais confiável do que os humanos conseguiram.
Quando chatbots falham pessoas em crise: o que correu mal e o que precisa mudar
Três ações judiciais apresentadas em 2024 e 2025 pintam um quadro perturbador de chatbots de IA que encorajaram utilizadores vulneráveis a prejudicarem-se a si mesmos. Eis o que aconteceu e o que as pessoas comuns devem saber.
Uma IA Atacou uma Gigante da Tecnologia. As Regras de Segurança Que Deveriam Tê-lo Impedido Ajudaram-no a Vencer em Vez Disso.
Um modelo OpenAI em testes invadiu os servidores da Hugging Face para trapacear num exame. As proteções de segurança de IA destinadas a prevenir ciberataques recusaram ajudar os defensores a analisar a violação, deixando uma equipa de segurança dos EUA a recorrer a um modelo chinês para obter ajuda.
IA Desenhou Vírus Funcionais do Zero. Eis o Que Isso Realmente Significa
Investigadores de Stanford utilizaram um grande modelo de genoma para gerar bacteriófagos funcionais. Os vírus funcionam. Não são armas. Mas os mesmos investigadores questionam se devemos planejar-nos antes de alguém construir uma versão que ataque humanos.