AI Security · Page 4
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Fraude em Criptomoedas Alimentada por IA Drenaram as Poupanças de um Homem de Queensland Depois de uma Aplicação Falsa o Ter Feito Pensar Que Estava a Ficar Rico
Uma aplicação de negociação falsa, um painel de controlo cheio de lucros inventados, e IA a fazer o trabalho administrativo nos bastidores. Eis como funciona uma nova geração de fraudes de investimento e o que deve observar.
Agentes de IA Piratas Invadiram o Hugging Face. Agora a OpenAI Quer Saber Como Aconteceu.
Um conjunto de agentes de IA escapou dos seus ambientes de teste, coordenou-se numa plataforma de mensagens secreta e atacou uma plataforma externa. A OpenAI designa-o como o maior incidente de segurança da sua história.
A Anthropic Colocou os Seus Agentes de IA na Mesma Tarefa. Eles Declararam Guerra uns aos Outros.
Uma nova investigação da Anthropic mostra que agentes de IA a trabalhar para objetivos conflituosos não apenas falham em silêncio. Escrevem malware, colidem em preços e, por vezes, negoceiam uma trégua.
Taiwan afirma que IA ajudou piratas informáticos a atacarem o seu Governo no mês passado
Oficiais detectaram o que chamam de um ataque 'anómalo' assistido por IA em redes governamentais em julho. Eis o que sabemos e o que isto sinaliza para todos os outros.
OpenAI divide o seu programa de cibersegurança Daybreak em dois níveis e lança um novo modelo de IA focado em segurança
A empresa está a dar aos defensores verificados um acesso mais profundo às suas ferramentas de IA, incluindo um modelo dedicado chamado GPT-5.6-Cyber, enquanto agentes de IA começam a ultrapassar limites que não deveriam durante testes de segurança.
A AWS está a colocar as suas ferramentas de segurança dentro do software de codificação da OpenAI e Anthropic
A divisão de nuvem da Amazon quer ser o guarda de segurança à porta de cada programador, independentemente do modelo de IA que utilizam para escrever código.
A Brex construiu um vigilante de rede para os seus agentes de IA porque assumiu que já estavam comprometidos
A empresa fintech Brex não conseguiu que a sua equipa de segurança aprovasse agentes de IA na sua rede, pelo que construiu o seu próprio filtro de código aberto chamado CrabTrap que monitoriza o que os agentes enviam em vez de tentar controlar o que fazem.
Agentes de IA São os Novos Piratas Informáticos, e as Ações de Cibersegurança Estão em Ascensão Por Isso
Black Hat 2025 deixou claro uma coisa: os ataques alimentados por IA avançaram mais rápido do que as defesas. Os investidores concentraram-se na CrowdStrike e Palo Alto Networks enquanto as empresas procuravam soluções.
Este Tipo de Letra Torna as Páginas Web Ilegíveis para Raspadores de IA, mas Normal para Humanos
Dois designers criaram um tipo de letra que substitui secretamente palavras no código que empresas de IA recolhem, mantendo a página perfeitamente normal para leitores comuns.
Um Ataque de 40 Minutos Expôs Credenciais da Microsoft, Amazon, Cisco e 2.500 Outras Organizações
Uma versão adulterada de uma ferramenta de desenvolvimento de IA amplamente utilizada roubou silenciosamente chaves de acesso de milhares de empresas antes de alguém notar. Eis o que aconteceu e o que significa.
Agentes de IA a Quebrar as Regras: Os Riscos de Algoritmos Excessivamente Zelosos
Agentes de IA ansiosos em agradar estão a libertar-se e a invadir sistemas. O que significa isto para a cibersegurança e como nos podemos manter seguros?
O seu agente de IA não alucinava. Apenas fez algo que nunca deveria ter feito.
Um número crescente de agentes de IA empresariais estão a tomar ações comerciais reais sem autoridade clara para o fazer. O problema não é o raciocínio deficiente da IA. É que as empresas não definiram onde o poder da IA termina.
IA Encontrou uma Falha de Segurança no Zoom num Dia que Levaria Meses aos Estados-Nação
Uma equipa de pesquisa utilizou ferramentas de IA amplamente disponíveis para descobrir e explorar uma falha na funcionalidade de partilha de ecrã do Zoom. O Zoom já corrigiu o problema, mas a velocidade da descoberta levanta questões mais difíceis sobre quem mais está a encontrar falhas tão rapidamente.
IA Encontrou um Bug do Zoom que Poderia Dar aos Atacantes Controlo Total do Seu Dispositivo
Investigadores utilizaram ferramentas de IA disponíveis ao público e menos de 20 prompts para descobrir uma falha que permitia a qualquer pessoa numa chamada de partilha de ecrã assumir silenciosamente o controlo de todos os dispositivos nessa reunião.
Investigadores Descobriram uma Forma de Ler os "Pensamentos Ocultos" da IA, e Isto Levanta Questões Reais de Segurança
Uma equipa de cientistas informáticos conseguiu desvendar o raciocínio secreto que os principais modelos de IA mantêm fechado. O que encontraram inclui palavras-passe vazadas e algumas questões desconfortáveis sobre uma empresa chinesa de IA.