AI Security · Page 13
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
YouTube Enviou 1,8 Milhões de Pessoas para Sites de "Despir"
Um novo relatório conclui que as plataformas dominantes, não os cantos obscuros da internet, são as principais vias a impulsionar o tráfego para ferramentas que despem pessoas das suas roupas sem consentimento.
Um Investigador de Segurança Enganou Grandes Chatbots de IA para Explicarem Como Fabricar Armas. Ninguém Parecia Importar-se.
Dave Kuszmar encontrou uma forma simples de enganar grandes modelos de linguagem para ignorarem as suas próprias regras de segurança. Funcionou em quase todos os sistemas de IA principais que testou, e as empresas a quem alertou maioritariamente não responderam.
Empresas Implementaram Agentes de IA Sem Proteções de Segurança. Agora Estão a Pagar para Corrigir.
Um inquérito a 573 líderes técnicos revela que a maioria dos "agentes" das empresas são chatbots disfarçados, hardware caro está meio ocioso, e dois terços das empresas caminham para eliminar a supervisão humana das decisões de IA.
Slopsquatting: a ameaça oculta nos assistentes de codificação de IA
Quando assistentes de IA inventam pacotes de software que não existem, criminosos registam esses nomes e preenchem-nos com malware. Eis como funciona o ataque e o que os programadores podem fazer a respeito.
O CEO da Microsoft averte que as empresas pagam pela IA duas vezes: em dinheiro e em segredos
Satya Nadella diz que cada pedido, correção e fluxo de trabalho que as empresas alimentam nos modelos de IA está silenciosamente a treinar as empresas que pagam. Quer que as organizações recuperem o controlo.
Por que Identificar Rostos Gerados por IA Está Ficando Mais Difícil
Os rostos gerados por IA estão ficando cada vez mais convincentes, dificultando o trabalho das pessoas comuns em identificar falsificações digitais.
Apple Processa OpenAI por Alegado Bug Interno Que Manteve Acesso de Engenheiro Despedido Ativo Durante Semanas
Uma falha de software permitiu que um antigo engenheiro da Apple continuasse a ler ficheiros confidenciais da empresa após se juntar à OpenAI. Apple afirma que isto não foi acidental.
Apple está a processar a OpenAI por roubo de segredos comerciais, e as acusações são de outro nível
Candidatos a emprego pedidos para contrabandear hardware da Apple. Funcionários a fazer piadas sobre espionagem nos sistemas da Apple. O processo lê-se como um thriller corporativo.
Investigadores Transformam Arma Favorita dos Hackers em Sua Própria Defesa
Uma empresa de cibersegurança descobriu que esconder instruções especiais dentro das credenciais de nuvem pode fazer com que ferramentas de hacking por IA se desativem automaticamente.