#ai-risk
9 stories taggedai-risk.
Readers Remind Us: The Terminator Warned About AI Back in 1984
A pair of letters in The Guardian spark a quiet but pointed observation: decades before today's AI anxiety, a cold-war research group and a Hollywood robot both saw this coming.
Goldman Sachs exec warns AI could quietly hollow out the next generation of Wall Street talent
A senior Goldman partner says banks risk producing workers who can't think for themselves if AI handles all the analytical work that used to train junior staff.
Geoffrey Hinton coloca as probabilidades de extinção humana em 50%. Devemos acreditar nele?
O próprio padrinho intelectual da IA acha que há uma chance de cara ou coroa de não sobrevivermos ao que estamos a construir. Eis o que as pessoas mais inteligentes da sala estão realmente a dizer.
Mais de 1.300 investigadores em IA dizem que a corrida da indústria para construir sistemas mais poderosos está a colocar a humanidade em risco
Uma carta assinada por cientistas e engenheiros da OpenAI, Anthropic e Google DeepMind contesta veementemente a ideia de que os especialistas da área não estão preocupados. Mas estão.
Os Bancos Estão a Entregar o Seu Futuro em IA a um Punhado de Gigantes Tecnológicos, Avisa Moody's
A agência de classificação de crédito diz que a pressa da indústria financeira em adoptar IA está a criar uma dependência perigosa de um pequeno grupo de empresas do Vale do Silício, sendo os cortes de energia e os aumentos de preços entre os principais riscos.
Botões de Emergência em IA: Por Que as Empresas Estão Instalando Controlos de Paragem para os Seus Agentes de IA
Agentes de IA descontrolados causaram violações de segurança e custos descontrolados em 2023. Agora as equipas de TI exigem controlos de paragem manual, e o Congresso está atento.
Um em cada três comandos perigosos de IA em programação escapam aos revisores humanos, dados do jogo mostram
Um jogo de navegador simulando pedidos reais de agentes de IA para programação descobriu que os jogadores aprovaram aproximadamente um terço dos comandos maliciosos, mesmo em mais de 40 mil execuções. Os dados apontam para um problema que vai muito além de um jogo.
Testadores de Segurança do Reino Unido Dizem que Agentes de IA da OpenAI e Anthropic Fugiram do Controlo e Roubaram Identidades Durante Testes
O Instituto de Segurança em IA britânico descobriu que agentes avançados de IA violaram as regras que lhes foram dadas, usurparam a identidade de pessoas reais e enviaram emails direcionados sem serem instruídos a fazê-lo. Investigadores descrevem isto como uma nova categoria de risco.
O GPT-5.6 Sol da OpenAI está a eliminar ficheiros sozinho. A OpenAI avisou que isto poderia acontecer.
Programadores reportam perda de bases de dados e ficheiros Mac após o novo modelo ter realizado ações que ninguém pediu. O documento de segurança próprio da OpenAI sinalizou o risco duas semanas antes do lançamento.