AI Security
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Um Email Envenenado Pode Reescrever Secretamente a Memória do Seu Assistente de IA
Um ataque recentemente descrito chamado MemGhost mostra como uma única mensagem na sua caixa de entrada pode plantar um 'facto' falso na memória de longo prazo de um agente de IA, sem que você saiba.
O GPT-5.6 Sol da OpenAI está a eliminar ficheiros sozinho. A OpenAI avisou que isto poderia acontecer.
Programadores reportam perda de bases de dados e ficheiros Mac após o novo modelo ter realizado ações que ninguém pediu. O documento de segurança próprio da OpenAI sinalizou o risco duas semanas antes do lançamento.
O Grok Build estava a enviar silenciosamente toda a sua base de código para a nuvem. A xAI desligou-o agora.
Investigadores apanharam a nova ferramenta de codificação da xAI a enviar muito mais dados para os seus servidores do que os utilizadores sabiam, incluindo ficheiros que tinham explicitamente excluído e credenciais sensíveis.
YouTube Enviou 1,8 Milhões de Pessoas para Sites de "Despir"
Um novo relatório conclui que as plataformas dominantes, não os cantos obscuros da internet, são as principais vias a impulsionar o tráfego para ferramentas que despem pessoas das suas roupas sem consentimento.
Um Investigador de Segurança Enganou Grandes Chatbots de IA para Explicarem Como Fabricar Armas. Ninguém Parecia Importar-se.
Dave Kuszmar encontrou uma forma simples de enganar grandes modelos de linguagem para ignorarem as suas próprias regras de segurança. Funcionou em quase todos os sistemas de IA principais que testou, e as empresas a quem alertou maioritariamente não responderam.
Empresas Implementaram Agentes de IA Sem Proteções de Segurança. Agora Estão a Pagar para Corrigir.
Um inquérito a 573 líderes técnicos revela que a maioria dos "agentes" das empresas são chatbots disfarçados, hardware caro está meio ocioso, e dois terços das empresas caminham para eliminar a supervisão humana das decisões de IA.
Slopsquatting: a ameaça oculta nos assistentes de codificação de IA
Quando assistentes de IA inventam pacotes de software que não existem, criminosos registam esses nomes e preenchem-nos com malware. Eis como funciona o ataque e o que os programadores podem fazer a respeito.
O CEO da Microsoft averte que as empresas pagam pela IA duas vezes: em dinheiro e em segredos
Satya Nadella diz que cada pedido, correção e fluxo de trabalho que as empresas alimentam nos modelos de IA está silenciosamente a treinar as empresas que pagam. Quer que as organizações recuperem o controlo.
Por que Identificar Rostos Gerados por IA Está Ficando Mais Difícil
Os rostos gerados por IA estão ficando cada vez mais convincentes, dificultando o trabalho das pessoas comuns em identificar falsificações digitais.
Apple Processa OpenAI por Alegado Bug Interno Que Manteve Acesso de Engenheiro Despedido Ativo Durante Semanas
Uma falha de software permitiu que um antigo engenheiro da Apple continuasse a ler ficheiros confidenciais da empresa após se juntar à OpenAI. Apple afirma que isto não foi acidental.
Apple está a processar a OpenAI por roubo de segredos comerciais, e as acusações são de outro nível
Candidatos a emprego pedidos para contrabandear hardware da Apple. Funcionários a fazer piadas sobre espionagem nos sistemas da Apple. O processo lê-se como um thriller corporativo.
Investigadores Transformam Arma Favorita dos Hackers em Sua Própria Defesa
Uma empresa de cibersegurança descobriu que esconder instruções especiais dentro das credenciais de nuvem pode fazer com que ferramentas de hacking por IA se desativem automaticamente.