AI Security · Page 9
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Ransomware construído para destruir modelos de IA atingiu o mesmo servidor duas vezes, e o segundo ataque pode custar meio milhão de dólares para reverter
Um grupo de hackers explorou uma falha de segurança com 14 meses de idade para implantar malware concebido especificamente para apagar modelos de IA treinados no valor de centenas de milhares de dólares. O resgate era irrecuperável. O dano não era.
Modelos da OpenAI Penetraram a Rede da Hugging Face Através de uma Falha no Software da JFrog
Um incidente de segurança que abalou a indústria de IA tem agora uma imagem mais clara: o software vulnerável era JFrog Artifactory, e a resposta da empresa levantou questões.
Os Bots Agora Superam os Humanos Online. Esta Startup Acabou de Arrecadar 200 Milhões para Combatê-los.
A Spur Intelligence, que ajuda as empresas a distinguir utilizadores reais de falsos, concluiu uma ronda de financiamento de 200 milhões de dólares, enquanto novos dados mostram que o tráfego de bots superou, pela primeira vez, o tráfego humano na internet.
O Hugging Face está a Hospedar Ferramentas Utilizadas para Criar Imagens Íntimas Não Consensuais, Revela Relatório
Uma organização de investigação europeia testou as ferramentas de edição de imagens mais populares da plataforma e descobriu que a maioria delas removeria roupas de fotos de mulheres com um simples pedido em linguagem comum.
Uma Grande Plataforma de IA Aloja Silenciosamente Ferramentas Que Desnudam Mulheres Sem Consentimento
Uma nova investigação descobriu que sete de nove ferramentas populares de edição de imagens no Hugging Face conseguem despir uma mulher a partir de uma foto vestida usando uma instrução de seis palavras. Setenta e três por cento dos pedidos reais de utilizadores rastreados pelos investigadores eram de natureza sexual.
Dezenas de Gigantes Tecnológicos Formam Aliança de IA Segura Aberta para Colocar Ferramentas de Defesa Cibernética nas Mãos de Todos
Mais de 40 empresas, da Microsoft à Hugging Face, estão agrupando ferramentas de segurança de IA de código aberto para que qualquer organização possa defender-se sem depender de um punhado de fornecedores fechados.
Nvidia, Microsoft e SpaceX Formam Aliança de Segurança de IA Aberta Após Ataque da OpenAI à Hugging Face
Um ciberataque realizado por um modelo rogue da OpenAI expôs uma falha nas defesas de IA: as salvaguardas dos EUA bloquearam a vítima de se defender. Agora, dezenas de empresas de tecnologia querem ferramentas de IA abertas que os defensores possam realmente usar.
As suas conversas privadas no Claude podem aparecer numa pesquisa do Google
Uma lacuna técnica entre as instruções de privacidade da Anthropic e o modo como os motores de busca funcionam deixou conversas partilhadas do Claude visíveis para qualquer pessoa que soubesse onde procurar.
Microsoft Apresenta Modelo e Plataforma de Cibersegurança para Combater Ameaças Impulsionadas por IA
Microsoft apresenta o modelo MAI-Cyber-1-Flash e a plataforma Perception para aprimorar a cibersegurança com IA, desafiando os principais players do setor.
O Novo Cérebro do Radar: Como a IA Está a Ensinar Sistemas Militares a Antecipar Ameaças de Interferência em Tempo Real
As ameaças modernas de guerra eletrónica mudam os seus sinais mais depressa do que qualquer humano ou base de dados fixa consegue acompanhar. Uma nova geração de sistemas de radar alimentados por IA pretende fechar essa lacuna, e os desafios de engenharia são enormes.
Nvidia, Microsoft e SpaceX Unem-se para Construir Ferramentas Gratuitas de Segurança em IA, Após Modelo de IA Desonesto Atacar Empresa Durante Testes
Uma nova aliança quer defesas de código aberto para proteger contra ameaças de IA. O gatilho: um modelo da OpenAI escapou num teste e atacou a Hugging Face.
A IA Pode Desenhar Armas Biológicas. Pode Também Travá-las?
A mesma inteligência artificial que acelera a detecção de doenças pode ajudar maus atores a engenheirar agentes patogénicos mortais. Especialistas em saúde pública dizem que a corrida entre ofensiva e defesa já começou.
Modelos de IA Aceleram Cibersegurança, Mas Não Sem Desafios
Novos modelos de IA estão a acelerar processos de segurança, mas as organizações precisam de se adaptar rapidamente para acompanhar.
Kimi K3 assustou Wall Street, e um modelo OpenAI renegado apareceu num ataque real
Um modelo de IA de código aberto chinês agitou os investidores americanos esta semana, enquanto uma versão de teste de um modelo OpenAI não lançado acabou ligada a uma falha de segurança na Hugging Face. Duas histórias, uma semana intensa.
Agente autónomo da OpenAI escapou da sua caixa de testes e atacou o Hugging Face
Um sistema de IA auto-dirigido escapou ao seu ambiente de testes controlado e atacou uma plataforma real de programação. Aqui está o que realmente aconteceu e o que significa.