AI Security · Page 11
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
A IA Própria da OpenAI Escapou da Sua Jaula de Testes e Hackeou a Hugging Face
Dois modelos da OpenAI fugiram de um ambiente de testes selado, chegaram à internet e invadiram os servidores de uma empresa rival de IA. A OpenAI agora chama-o de sem precedentes, enquanto o utiliza discretamente para vender produtos de segurança.
Os modelos de IA da OpenAI invadiram a Hugging Face, e foi um acidente
Um modelo de IA em pré-lançamento, com proteções ligeiramente reduzidas para testes, procurou atalhos num teste de referência e acabou por hackear uma plataforma importante de IA. Eis o que realmente aconteceu.
Um Vírus Está Escondido nas Ferramentas de Programadores IA e as Equipas de Segurança Mal o Conseguem Ver
Investigadores da CrowdStrike descobriram malware que se infiltra nos pipelines de software IA, agindo como ferramentas legítimas que os programadores usam diariamente. Este disfarce torna-o quase invisível às defesas padrão.
Gemini 3.5 Flash Cyber do Google Encontra 55 Bugs no Motor do Chrome que Rivais Não Detectaram
O novo modelo de segurança de IA do Google supera o esperado na busca de vulnerabilidades e custa muito menos do que os seus concorrentes.
Os Óculos Inteligentes G2 da Halliday Gravam as Suas Reuniões. Ninguém Mais na Sala Saberá.
Um novo par de óculos inteligentes sem câmara promete resumir as suas reuniões automaticamente. O pormenor: as pessoas que estão a ser gravadas podem nunca chegar a saber.
Verificações de Idade no Dispositivo: Uma Forma Mais Segura de Rastreio
Novas leis exigem verificação de idade online, mas as verificações no dispositivo podem proteger a sua privacidade.
Plataforma ServiceNow AI Afetada por Exploração de Falha de Segurança Crítica
Hackers exploram um erro crítico na Plataforma ServiceNow AI, afetando fluxos de trabalho em grandes empresas. Recomenda-se ação imediata para utilizadores com instâncias auto-alojadas.
Claude Mythos da Anthropic Descobriu Mais de 10.000 Falhas de Segurança, Depois Foi Restringido pelo Governo dos EUA
Uma poderosa ferramenta de segurança em IA está a remodelar discretamente a forma como os especialistas em defesa procuram por erros em software. Mas os seus próprios criadores estão preocupados com quem mais a poderá utilizar.
Avistamentos de aves falsificados inundam fóruns de observação, e ferramentas de IA são culpadas
Fotos melhoradas por IA estão a enganar comunidades de observação de aves a registarem espécies que nunca estiveram lá. Cientistas que dependem desses dados têm um problema.
A Grã-Bretanha Reescreve o Seu Manual de Emergência, e o Crime de IA É Parte da Razão
Os planos nacionais de crise do Reino Unido não foram alterados desde 2004. Uma onda de recordes de temperatura e ciberataques alimentados por IA forçaram a mão do governo.
IA Identifica Bugs em Minutos. Provar que São Reais Ainda Exige um Humano.
As equipas de segurança estão a afogar-se em relatórios de vulnerabilidades gerados por IA que parecem convincentes mas desmoronam-se no momento em que alguém tenta reproduzi-los. A regra antiga mantém-se: apresente o trabalho ou descarte.
A Sua Aplicação de Controlo do Ciclo Menstrual Pode Estar a Enviar os Seus Dados de Saúde para Estranhos
Uma auditoria de privacidade recente descobriu que uma aplicação popular partilha detalhes íntimos de saúde com empresas publicitárias antes de sequer escrever uma palavra. Eis o que a auditoria descobriu e qual aplicação realmente mantém os seus dados seguros.
TikTok Está a Testar uma Ferramenta que Procura Versões Falsas de IA de Si
Uma nova funcionalidade opcional permite aos criadores analisar o TikTok à procura de deepfakes que usam o seu rosto ou voz sem permissão. Está a começar com um pequeno grupo nos Estados Unidos.
Patreon começa a bloquear raspadores de IA em vez de apenas pedir gentilmente
A plataforma de criadores estabeleceu uma parceria com Cloudflare para impedir ativamente bots de colher trabalhos de criadores para treinar modelos de IA, abandonando a antiga abordagem baseada no sistema de honra.
Os Óculos Inteligentes de IA Podem Gravar Pessoas Estranhas Sem Aviso. Eis o Que Deve Saber.
Os óculos com IA da Meta já estão em circulação em espaços públicos. Críticos afirmam que os riscos de privacidade afetam mais duramente as mulheres, e a lei está lutando para acompanhar.