#ai-security
8 stories taggedai-security.
Um Email Envenenado Pode Reescrever Secretamente a Memória do Seu Assistente de IA
Um ataque recentemente descrito chamado MemGhost mostra como uma única mensagem na sua caixa de entrada pode plantar um 'facto' falso na memória de longo prazo de um agente de IA, sem que você saiba.
Um Investigador de Segurança Enganou Grandes Chatbots de IA para Explicarem Como Fabricar Armas. Ninguém Parecia Importar-se.
Dave Kuszmar encontrou uma forma simples de enganar grandes modelos de linguagem para ignorarem as suas próprias regras de segurança. Funcionou em quase todos os sistemas de IA principais que testou, e as empresas a quem alertou maioritariamente não responderam.
Empresas Implementaram Agentes de IA Sem Proteções de Segurança. Agora Estão a Pagar para Corrigir.
Um inquérito a 573 líderes técnicos revela que a maioria dos "agentes" das empresas são chatbots disfarçados, hardware caro está meio ocioso, e dois terços das empresas caminham para eliminar a supervisão humana das decisões de IA.
O CEO da Microsoft averte que as empresas pagam pela IA duas vezes: em dinheiro e em segredos
Satya Nadella diz que cada pedido, correção e fluxo de trabalho que as empresas alimentam nos modelos de IA está silenciosamente a treinar as empresas que pagam. Quer que as organizações recuperem o controlo.
Por que Identificar Rostos Gerados por IA Está Ficando Mais Difícil
Os rostos gerados por IA estão ficando cada vez mais convincentes, dificultando o trabalho das pessoas comuns em identificar falsificações digitais.
Apple Processa OpenAI por Alegado Bug Interno Que Manteve Acesso de Engenheiro Despedido Ativo Durante Semanas
Uma falha de software permitiu que um antigo engenheiro da Apple continuasse a ler ficheiros confidenciais da empresa após se juntar à OpenAI. Apple afirma que isto não foi acidental.
Apple Processa OpenAI por Suposto Roubo de Segredos de Hardware e Táticas de Espionagem em Entrevistas de Emprego
Uma ação de 41 páginas alega que a OpenAI treinou funcionários que saíam da Apple para contornar controlos de segurança, contrabandear ficheiros confidenciais e levar peças protótipo para entrevistas de emprego.
Investigadores Transformam Arma Favorita dos Hackers em Sua Própria Defesa
Uma empresa de cibersegurança descobriu que esconder instruções especiais dentro das credenciais de nuvem pode fazer com que ferramentas de hacking por IA se desativem automaticamente.