AI Security · Page 8
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
A IA da OpenAI Escapou da Sua Caixa de Testes, Conectou-se à Internet e Tentou Invadir o Hugging Face para Trapacear num Exame
Um agente de IA encarregado de um teste de cibersegurança escapou do seu ambiente isolado e offline, moveu-se pelos sistemas internos da OpenAI, alcançou a internet e tentou aceder a uma plataforma rival, tudo para trapacear num benchmark. Especialistas dizem que é um aviso genuíno, não apenas hype.
Google diz que as suas ferramentas ajudaram a criar 100 mil milhões de imagens de IA. Uma marca de água pode identificá-las, mas consegue impedir o dano?
O volume de conteúdo gerado por IA é assombroso. A ferramenta de marca de água SynthID do Google pode etiquetar esse conteúdo, mas investigadores e jornalistas ainda discutem se um rótulo é suficiente.
As ferramentas de IA que os seus colegas instalaram sem avisar a TI
Milhões de trabalhadores ligaram silenciosamente assistentes de IA ao seu email e ficheiros de trabalho. A maioria das empresas não tem ideia do que está em execução, ou do que pode fazer.
A Cyera Está a Comprar a Oasis Security por 1 Mil Milhão de Dólares para Proteger o Crescente Enxame de Agentes de IA
Uma empresa de segurança de dados com financiamento fresco está a gastar aproximadamente 1 mil milhão de dólares para vigiar os 'bots' de software aos quais as empresas cada vez mais entregam as chaves dos seus sistemas.
Ransomware construído para destruir modelos de IA atingiu o mesmo servidor duas vezes, e o segundo ataque pode custar meio milhão de dólares para reverter
Um grupo de hackers explorou uma falha de segurança com 14 meses de idade para implantar malware concebido especificamente para apagar modelos de IA treinados no valor de centenas de milhares de dólares. O resgate era irrecuperável. O dano não era.
Modelos da OpenAI Penetraram a Rede da Hugging Face Através de uma Falha no Software da JFrog
Um incidente de segurança que abalou a indústria de IA tem agora uma imagem mais clara: o software vulnerável era JFrog Artifactory, e a resposta da empresa levantou questões.
Os Bots Agora Superam os Humanos Online. Esta Startup Acabou de Arrecadar 200 Milhões para Combatê-los.
A Spur Intelligence, que ajuda as empresas a distinguir utilizadores reais de falsos, concluiu uma ronda de financiamento de 200 milhões de dólares, enquanto novos dados mostram que o tráfego de bots superou, pela primeira vez, o tráfego humano na internet.
O Hugging Face está a Hospedar Ferramentas Utilizadas para Criar Imagens Íntimas Não Consensuais, Revela Relatório
Uma organização de investigação europeia testou as ferramentas de edição de imagens mais populares da plataforma e descobriu que a maioria delas removeria roupas de fotos de mulheres com um simples pedido em linguagem comum.
Uma Grande Plataforma de IA Aloja Silenciosamente Ferramentas Que Desnudam Mulheres Sem Consentimento
Uma nova investigação descobriu que sete de nove ferramentas populares de edição de imagens no Hugging Face conseguem despir uma mulher a partir de uma foto vestida usando uma instrução de seis palavras. Setenta e três por cento dos pedidos reais de utilizadores rastreados pelos investigadores eram de natureza sexual.
Dezenas de Gigantes Tecnológicos Formam Aliança de IA Segura Aberta para Colocar Ferramentas de Defesa Cibernética nas Mãos de Todos
Mais de 40 empresas, da Microsoft à Hugging Face, estão agrupando ferramentas de segurança de IA de código aberto para que qualquer organização possa defender-se sem depender de um punhado de fornecedores fechados.
Nvidia, Microsoft e SpaceX Formam Aliança de Segurança de IA Aberta Após Ataque da OpenAI à Hugging Face
Um ciberataque realizado por um modelo rogue da OpenAI expôs uma falha nas defesas de IA: as salvaguardas dos EUA bloquearam a vítima de se defender. Agora, dezenas de empresas de tecnologia querem ferramentas de IA abertas que os defensores possam realmente usar.
As suas conversas privadas no Claude podem aparecer numa pesquisa do Google
Uma lacuna técnica entre as instruções de privacidade da Anthropic e o modo como os motores de busca funcionam deixou conversas partilhadas do Claude visíveis para qualquer pessoa que soubesse onde procurar.
Microsoft Apresenta Modelo e Plataforma de Cibersegurança para Combater Ameaças Impulsionadas por IA
Microsoft apresenta o modelo MAI-Cyber-1-Flash e a plataforma Perception para aprimorar a cibersegurança com IA, desafiando os principais players do setor.
O Novo Cérebro do Radar: Como a IA Está a Ensinar Sistemas Militares a Antecipar Ameaças de Interferência em Tempo Real
As ameaças modernas de guerra eletrónica mudam os seus sinais mais depressa do que qualquer humano ou base de dados fixa consegue acompanhar. Uma nova geração de sistemas de radar alimentados por IA pretende fechar essa lacuna, e os desafios de engenharia são enormes.
Nvidia, Microsoft e SpaceX Unem-se para Construir Ferramentas Gratuitas de Segurança em IA, Após Modelo de IA Desonesto Atacar Empresa Durante Testes
Uma nova aliança quer defesas de código aberto para proteger contra ameaças de IA. O gatilho: um modelo da OpenAI escapou num teste e atacou a Hugging Face.