AI Security · Page 12
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
TikTok Está a Testar uma Ferramenta que Procura Versões Falsas de IA de Si
Uma nova funcionalidade opcional permite aos criadores analisar o TikTok à procura de deepfakes que usam o seu rosto ou voz sem permissão. Está a começar com um pequeno grupo nos Estados Unidos.
Patreon começa a bloquear raspadores de IA em vez de apenas pedir gentilmente
A plataforma de criadores estabeleceu uma parceria com Cloudflare para impedir ativamente bots de colher trabalhos de criadores para treinar modelos de IA, abandonando a antiga abordagem baseada no sistema de honra.
Os Óculos Inteligentes de IA Podem Gravar Pessoas Estranhas Sem Aviso. Eis o Que Deve Saber.
Os óculos com IA da Meta já estão em circulação em espaços públicos. Críticos afirmam que os riscos de privacidade afetam mais duramente as mulheres, e a lei está lutando para acompanhar.
Roupas Que Enganam Câmaras: A Tendência de Moda Nascida do Medo do Reconhecimento Facial
Uma nova onda de designers está a tecer padrões em jaquetas e camisetas concebidos para enganar o software de reconhecimento facial. Será que a moda anti-vigilância pode chegar ao grande público?
Por Que a Segurança da IA Precisa de Validação no Mundo Real
Os agentes de IA estão evoluindo para além de funções consultivas em cibersegurança. A Pentera defende decisões baseadas em evidências em vez de riscos teóricos.
Uma Falha de Segurança na Extensão Chrome do Claude Sobreviveu a Oito Tentativas de Correção e Pode Expor o Seu Gmail
O bug, apelidado ClaudeBleed, permite que outras extensões do navegador leiam silenciosamente emails e eventos de calendário que o Claude processou. Oito patches depois, continua presente.
1Password permite que o Claude aceda às suas contas sem nunca ver as suas palavras-passe
Uma nova integração permite que o assistente de IA da Anthropic complete tarefas que requerem os seus dados de acesso, enquanto uma camada de segurança mantém as suas credenciais reais ocultas da IA.
Um Bot de IA Invadiu a Hugging Face. A Hugging Face Usou IA Para O Apanhar.
A plataforma de investigação em IA divulgou um ataque no mundo real executado inteiramente por software autónomo, e o incidente expôs um ponto cego que todas as empresas que dependem de ferramentas de segurança baseadas em IA precisam compreender.
Google DeepMind e Isomorphic Labs abrem o seu manual de biorresiência
Os dois laboratórios de IA afirmam que partilharão modelos com parceiros verificados para acelerar a concepção de vacinas e detetar surtos mais cedo, enquanto adicionam salvaguardas contra o uso indevido.
Forg365: O Serviço de $400 por Mês que Sequestra o Seu Email Corporativo
Forg365, um kit de phishing vendido no Telegram, utiliza IA para imitar ferramentas comerciais conhecidas e roubar acesso a contas Microsoft 365.
A Microsoft está a usar Agentes de IA para Provar Matematicamente que o seu Código de Encriptação Não Tem Falhas
A equipa responsável pela biblioteca de criptografia do Windows e Azure está a fazer algo invulgar: não apenas testar o código, mas prová-lo correto, para todas as entradas possíveis, usando provas matemáticas formais escritas parcialmente por IA.
Dados Hackeados da Suno Revelam Milhões de Músicas Recolhidas do YouTube Music, Deezer e Outros
Uma violação de segurança no gerador de música AI expôs código interno que mostra como a empresa recolheu mais de dois milhões de clipes de plataformas de streaming, e alguns clientes afirmam que nunca foram informados de que os seus dados foram acedidos.
xAI Processa Homem Que Alegadamente Usou Grok para Criar Imagens de Abuso Infantil
A empresa de IA de Elon Musk está a intentar a sua primeira ação legal contra um utilizador por material de abuso gerado por IA, após um homem da Carolina do Sul ter sido já acusado de oito crimes.
Antes do Seu Assistente de IA Enviar Essa Transferência Bancária, Ele Sabe Quão Confiante Está?
A Pesquisa de Machine Learning da Apple diz que agentes de IA precisam de um botão de pausa incorporado antes de executarem ações que não podem ser desfeitas. Eis porque isso importa para qualquer pessoa cujo banco, aplicação ou local de trabalho agora funciona com IA.
OpenAI Criou uma IA que Hackeia os Seus Próprios Modelos para os Tornar Mais Seguros
GPT-Red é um sistema automatizado de teste de segurança que ataca os chatbots da OpenAI para encontrar pontos fracos antes que atacantes reais o façam. Já descobriu um truque que os testadores humanos tinham perdido.