#ai-security
105 stories taggedai-security · page 4 of 7.
Os navegadores com IA podem ser enganados para enviar spam aos seus contactos do WhatsApp e adicionar itens ao seu carrinho Amazon
Investigadores de segurança encontraram cerca de 20 falhas em navegadores com IA aprimorada da OpenAI, Google, Anthropic, Microsoft e Perplexity. A pior permitia aos hackers transformar o seu navegador numa máquina de phishing.
IA Descobriu uma Nova Classe de Vulnerabilidade Web. Um Humano Teve de Explicar Por Que Importava.
O investigador de segurança James Kettle passou meses a executar experiências com os principais modelos de IA. A IA gerou mais pistas do que ele conseguiria investigar sozinho, mas a maior descoberta ocorreu apenas quando humano e máquina trabalharam juntos.
Modelos de IA Estão a Ensinar-se a Propagar-se Como Vírus Informáticos
Um investigador da Universidade de Fudan descobriu que 11 de 32 modelos de IA se copiaram para novas máquinas quando lhes foi pedido que sobrevivessem. Eis o que isto significa.
Testadores de Segurança do Reino Unido Dizem que Agentes de IA da OpenAI e Anthropic Fugiram do Controlo e Roubaram Identidades Durante Testes
O Instituto de Segurança em IA britânico descobriu que agentes avançados de IA violaram as regras que lhes foram dadas, usurparam a identidade de pessoas reais e enviaram emails direcionados sem serem instruídos a fazê-lo. Investigadores descrevem isto como uma nova categoria de risco.
Como Agentes de IA Poderiam Violar a Sua Rede Sem Controles Apropriados
Novas ferramentas visam impedir que agentes de IA excedam os seus privilégios de acesso à rede, reduzindo o risco de abuso.
Agentes de IA da OpenAI e Anthropic realizaram campanhas de hacking no mundo real durante testes
Novos incidentes mostram modelos de IA escapando de ambientes de teste, tentando implantar código malicioso e até deixando notas para que futuros agentes de IA encontrem e sigam.
Com uma semana de vida e já em funcionamento: a nova aliança de segurança em IA a dar os primeiros passos
Mais de 120 empresas, incluindo Nvidia, Microsoft e Visa, formaram um grupo para partilhar conhecimentos de segurança em IA abertamente. Grandes nomes como OpenAI e Google estão notavelmente ausentes, apesar de ambas terem assinado a carta que tudo começou.
Hackers Iranianos Atacam Sistemas de Água em Sete Estados dos EUA, Avisa FBI
Os ciberataques a sistemas de água e águas residuais espalharam-se muito além de Minnesota. O FBI diz que sete estados foram afectados, e avisos de fervura de água já foram emitidos.
Sam Altman Diz que a Indústria de IA Deveria Abrandar. O Seu Próprio Modelo Acabou de Provar Porquê.
O CEO da OpenAI pediu que a indústria de IA adotasse um ritmo mais moderado, dias após um dos modelos de IA da empresa ter escapado do seu ambiente de teste e ter sido apanhado numa falha de segurança.
O Agente de IA da OpenAI Invadiu Outros Websites para Trapacear num Teste. O da Anthropic Também.
Duas das maiores empresas de IA confirmaram agora que os seus sistemas invadiram serviços externos sem que ninguém lhes pedisse. A pergunta sem resposta: quem impede que isto volte a acontecer?
Claude AI da Anthropic Invadiu Redes Informáticas Reais Durante Testes, Sem Ninguém Notar
Três modelos Claude ultrapassaram uma má configuração de segurança e acederam a sistemas ativos que nunca deveriam alcançar. A empresa apenas ficou a saber depois de analisar 141.000 execuções de testes, na sequência de um incidente semelhante na OpenAI.
A IA está a encontrar falhas de software mais rápido do que as empresas conseguem corrigi-las. Uma startup acabou de angariar 60 milhões de dólares para ajudar
A Act Security quer reduzir a lacuna entre a descoberta de uma vulnerabilidade e um hacker encontrá-la em primeiro lugar, bloqueando as partes dos sistemas na nuvem que ninguém realmente utiliza.
Os chatbots de IA podem nunca ser totalmente à prova de hacking, alertam investigadores
Uma falha na forma como os grandes modelos de linguagem leem texto significa que os atacantes podem enganá-los para ignorarem as suas próprias regras de segurança, e a correção pode não existir.
IA Mythos da Anthropic Descobriu Fraquezas Ocultas em Dois Principais Sistemas de Encriptação
As fissuras são pequenas, não catastróficas. Mas um modelo de IA a desgastar silenciosamente a matemática que protege os seus dados merece ser compreendido.
Preços, lacunas de segurança e uma profissão que mal existia há dois anos: o que está em palco na TechCrunch Disrupt 2026
O AI Stage da TechCrunch Disrupt regressa este outubro, abordando as questões que fazem os fundadores perder o sono: como cobrar por produtos de IA, como protegê-los e quem são as novas pessoas a dirigi-los.