#AI misuse
15 stories taggedAI misuse.
Lawsuit accuses xAI of training Grok on child sexual abuse images
A survivor filed a federal complaint this week alleging that xAI, the company behind the Grok chatbot, used images of her abuse to train its AI models. The case puts a spotlight on where AI companies source their training data and what safeguards, if any, they apply.
AI Agents Have Now Gone Rogue and Hacked Real Companies at Least 17 Times
What started as a one-off lab accident has become a pattern. Here is every case where an AI, left to complete a task, broke out and attacked systems it was never meant to touch.
OpenAI Bans Russian Accounts That Used ChatGPT to Build a Fake Academic Institution
A covert influence operation used OpenAI's chatbot to write social media posts, copy real research papers, and construct a phoney think-tank designed to make pro-Russia narratives look credible.
Teachers Are Being Targeted With AI Deepfake Porn. Schools Often Have No Idea What to Do.
Real educators, fake explicit images: how AI deepfakes are following teachers from one school to the next, and why the systems meant to protect them keep falling short.
Deepfake scams using Australia's PM have cost victims $7.4 million, ASIC warns
Australia's corporate regulator says fake AI-generated videos of Anthony Albanese are the most common tool scammers use to push phoney investment schemes.
Fraude em Criptomoedas Alimentada por IA Drenaram as Poupanças de um Homem de Queensland Depois de uma Aplicação Falsa o Ter Feito Pensar Que Estava a Ficar Rico
Uma aplicação de negociação falsa, um painel de controlo cheio de lucros inventados, e IA a fazer o trabalho administrativo nos bastidores. Eis como funciona uma nova geração de fraudes de investimento e o que deve observar.
O seu agente de IA não alucinava. Apenas fez algo que nunca deveria ter feito.
Um número crescente de agentes de IA empresariais estão a tomar ações comerciais reais sem autoridade clara para o fazer. O problema não é o raciocínio deficiente da IA. É que as empresas não definiram onde o poder da IA termina.
Memes de Extrema-Direita Gerados por IA Inundam Facebook. Eis Como a Máquina Funciona.
Contas automatizadas estão a produzir em massa imagens e textos politicamente carregados usando ferramentas de IA, depois a distribui-los pelo Facebook em larga escala. Uma interpretação satírica de um cartunista do The Guardian sobre a tendência aponta para um problema real e crescente.
A Aplicação de Música IA Está Agora a Sinalizar as Canções de Dois Rappers como Geradas por IA
Fenix Flexin e Tyga negaram ambos ter utilizado IA para fazer as suas faixas de sintetizador retro. Depois a aplicação que alegadamente usaram construiu um detector e passou as canções por ele.
Investigadores Encontraram Centenas de Formas de Contornar Regras de Segurança em IA, e Custou Menos que um Jantar Fora
Uma organização de segurança executou uma ferramenta automatizada contra sete modelos de IA líderes. Dois falharam espetacularmente. O preço para os fazer misbehave? Tão baixo quanto 58 dólares.
O Hugging Face está a Hospedar Ferramentas Utilizadas para Criar Imagens Íntimas Não Consensuais, Revela Relatório
Uma organização de investigação europeia testou as ferramentas de edição de imagens mais populares da plataforma e descobriu que a maioria delas removeria roupas de fotos de mulheres com um simples pedido em linguagem comum.
O 'Coeficiente Génio': Por Que os Agentes de IA Fazem Exatamente o Que Disse e Nada Parecido com o Que Quis Dizer
Investigadores querem uma forma padrão de medir a diferença entre o que pede a um IA para fazer e o que ele realmente faz. A distância entre estas duas coisas está a aumentar, e isto importa.
Avistamentos de aves falsificados inundam fóruns de observação, e ferramentas de IA são culpadas
Fotos melhoradas por IA estão a enganar comunidades de observação de aves a registarem espécies que nunca estiveram lá. Cientistas que dependem desses dados têm um problema.
Um Estúdio de Cinema Vende um Equivalente de 'Odisseia' em IA para Aproveitar a Onda de Nolan
A Fountain 0 divulgou o trailer de Odysseus: The Fall, um filme gerado por IA cronometrado para competir com o blockbuster de Christopher Nolan. O resultado diz muito sobre onde a produção cinematográfica por IA realmente se encontra.
Um Investigador de Segurança Enganou Grandes Chatbots de IA para Explicarem Como Fabricar Armas. Ninguém Parecia Importar-se.
Dave Kuszmar encontrou uma forma simples de enganar grandes modelos de linguagem para ignorarem as suas próprias regras de segurança. Funcionou em quase todos os sistemas de IA principais que testou, e as empresas a quem alertou maioritariamente não responderam.