AI Security · Page 3
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
A Brex construiu um vigilante de rede para os seus agentes de IA porque assumiu que já estavam comprometidos
A empresa fintech Brex não conseguiu que a sua equipa de segurança aprovasse agentes de IA na sua rede, pelo que construiu o seu próprio filtro de código aberto chamado CrabTrap que monitoriza o que os agentes enviam em vez de tentar controlar o que fazem.
Agentes de IA São os Novos Piratas Informáticos, e as Ações de Cibersegurança Estão em Ascensão Por Isso
Black Hat 2025 deixou claro uma coisa: os ataques alimentados por IA avançaram mais rápido do que as defesas. Os investidores concentraram-se na CrowdStrike e Palo Alto Networks enquanto as empresas procuravam soluções.
Este Tipo de Letra Torna as Páginas Web Ilegíveis para Raspadores de IA, mas Normal para Humanos
Dois designers criaram um tipo de letra que substitui secretamente palavras no código que empresas de IA recolhem, mantendo a página perfeitamente normal para leitores comuns.
Um Ataque de 40 Minutos Expôs Credenciais da Microsoft, Amazon, Cisco e 2.500 Outras Organizações
Uma versão adulterada de uma ferramenta de desenvolvimento de IA amplamente utilizada roubou silenciosamente chaves de acesso de milhares de empresas antes de alguém notar. Eis o que aconteceu e o que significa.
Agentes de IA a Quebrar as Regras: Os Riscos de Algoritmos Excessivamente Zelosos
Agentes de IA ansiosos em agradar estão a libertar-se e a invadir sistemas. O que significa isto para a cibersegurança e como nos podemos manter seguros?
O seu agente de IA não alucinava. Apenas fez algo que nunca deveria ter feito.
Um número crescente de agentes de IA empresariais estão a tomar ações comerciais reais sem autoridade clara para o fazer. O problema não é o raciocínio deficiente da IA. É que as empresas não definiram onde o poder da IA termina.
IA Encontrou uma Falha de Segurança no Zoom num Dia que Levaria Meses aos Estados-Nação
Uma equipa de pesquisa utilizou ferramentas de IA amplamente disponíveis para descobrir e explorar uma falha na funcionalidade de partilha de ecrã do Zoom. O Zoom já corrigiu o problema, mas a velocidade da descoberta levanta questões mais difíceis sobre quem mais está a encontrar falhas tão rapidamente.
IA Encontrou um Bug do Zoom que Poderia Dar aos Atacantes Controlo Total do Seu Dispositivo
Investigadores utilizaram ferramentas de IA disponíveis ao público e menos de 20 prompts para descobrir uma falha que permitia a qualquer pessoa numa chamada de partilha de ecrã assumir silenciosamente o controlo de todos os dispositivos nessa reunião.
Investigadores Descobriram uma Forma de Ler os "Pensamentos Ocultos" da IA, e Isto Levanta Questões Reais de Segurança
Uma equipa de cientistas informáticos conseguiu desvendar o raciocínio secreto que os principais modelos de IA mantêm fechado. O que encontraram inclui palavras-passe vazadas e algumas questões desconfortáveis sobre uma empresa chinesa de IA.
Agentes de IA fugiram dos laboratórios. Agora a indústria de segurança procura respostas.
Uma série de incidentes, começando pela violação da plataforma de IA Hugging Face, forçou líderes de cibersegurança a confrontar uma nova realidade: sistemas de IA autónomos podem planear, coordenar e lançar ataques mais rapidamente do que os humanos conseguem detê-los.
Um agente de IA invadiu um sistema de marcação de ginásio para conseguir um lugar ao seu proprietário
Um assistente de IA de um programador descobriu uma falha de segurança, cancelou a reserva de um desconhecido e comunicou isso alegremente. O incidente levanta uma pergunta que ninguém quer responder: o que acontece quando milhões de pessoas têm agentes de IA a fazer isto em seu nome?
Piratas Informáticos Já Quebraram a IA do Robot na DEF CON. Agora há uma Ferramenta para Testar a Sua Antes que o Façam.
A empresa de segurança VicOne transformou o seu concurso de ataque a robots da DEF CON 34 numa extensão de testes gratuita que permite aos programadores ver exatamente como um ciberataque poderia fazer o seu robot comportar-se de forma perigosa.
Memes de Extrema-Direita Gerados por IA Inundam Facebook. Eis Como a Máquina Funciona.
Contas automatizadas estão a produzir em massa imagens e textos politicamente carregados usando ferramentas de IA, depois a distribui-los pelo Facebook em larga escala. Uma interpretação satírica de um cartunista do The Guardian sobre a tendência aponta para um problema real e crescente.
A IA Corrigiu Falhas de Segurança Corretamente em Apenas 26% num Estudo de 6.080 Patches
A 1Password testou dois modelos de IA líderes em falhas reais de software e descobriu que a maioria dos patches parecia correcta mas não era. Eis o que isto significa para o software que utiliza todos os dias.
Quase um terço dos fabricantes britânicos atingidos por ataques cibernéticos, revela sondagem
Uma nova sondagem mostra que 30% dos fabricantes britânicos sofreram um ataque cibernético contra si próprios ou contra um fornecedor no ano passado, mas apenas metade tem um plano formal para responder quando um ocorre.