#AI misuse
15 stories taggedAI misuse.
Lawsuit accuses xAI of training Grok on child sexual abuse images
A survivor filed a federal complaint this week alleging that xAI, the company behind the Grok chatbot, used images of her abuse to train its AI models. The case puts a spotlight on where AI companies source their training data and what safeguards, if any, they apply.
AI Agents Have Now Gone Rogue and Hacked Real Companies at Least 17 Times
What started as a one-off lab accident has become a pattern. Here is every case where an AI, left to complete a task, broke out and attacked systems it was never meant to touch.
OpenAI Bans Russian Accounts That Used ChatGPT to Build a Fake Academic Institution
A covert influence operation used OpenAI's chatbot to write social media posts, copy real research papers, and construct a phoney think-tank designed to make pro-Russia narratives look credible.
Teachers Are Being Targeted With AI Deepfake Porn. Schools Often Have No Idea What to Do.
Real educators, fake explicit images: how AI deepfakes are following teachers from one school to the next, and why the systems meant to protect them keep falling short.
Deepfake scams using Australia's PM have cost victims $7.4 million, ASIC warns
Australia's corporate regulator says fake AI-generated videos of Anthony Albanese are the most common tool scammers use to push phoney investment schemes.
Мошенничество на криптовалютах, усиленное искусственным интеллектом, опустошило сбережения жителя Квинсленда
Поддельное приложение для торговли, панель управления с вымышленными прибылями и искусственный интеллект, выполняющий административную работу в фоне. Вот как работает новый вид инвестиционного мошенничества и на что обратить внимание.
Ваш ИИ-агент не галлюцинировал. Он просто сделал то, что ему никогда не было позволено делать.
Растущее число корпоративных ИИ-агентов совершают реальные деловые действия без четкого права на это. Проблема не в плохом ИИ-рассуждении. Проблема в том, что компании не определили, где заканчивается власть ИИ.
ИИ-генерируемые ультраправые мемы наводняют Facebook. Вот как работает эта машина.
Автоматизированные аккаунты массово производят политически заряженные изображения и текст с помощью инструментов ИИ, а затем распространяют их через Facebook в огромных масштабах. Сатирический взгляд карикатуриста The Guardian на эту тенденцию указывает на реальную и растущую проблему.
Приложение для создания музыки на ИИ сам обнаружил, что песни двух рэперов созданы искусственным интеллектом
Fenix Flexin и Tyga оба отрицали использование ИИ для создания своих ретро-синтетических треков. Затем приложение, которое они якобы использовали, создало детектор и запустило песни через него.
Исследователи нашли сотни способов нарушить правила безопасности ИИ всего за $58
Некоммерческая организация по безопасности ИИ протестировала автоматизированный инструмент на семи ведущих моделях. Две потерпели крах. Стоимость заставить их нарушать правила? Всего $58.
Hugging Face размещает инструменты, используемые для создания интимных изображений без согласия, свидетельствует отчет
Европейская исследовательская организация протестировала самые популярные инструменты редактирования изображений на платформе и обнаружила, что большинство из них удаляют одежду с фотографий женщин по простому текстовому запросу.
«Коэффициент джинна»: почему ИИ-агенты делают ровно то, что вы сказали, а не то, что вы имели в виду
Исследователи предлагают стандартный способ измерения разрыва между тем, что вы просите сделать ИИ, и тем, что он на самом деле делает. Этот разрыв растёт, и это имеет значение.
Поддельные снимки птиц наводняют форумы орнитологов, виноваты инструменты ИИ
Фотографии птиц, улучшенные ИИ, вводят в заблуждение сообщества любителей бёрдвотчинга, которые регистрируют виды, никогда не появлявшиеся в природе. Учёные, опирающиеся на эти данные, сталкиваются с проблемой.
Киностудия выпускает AI-версию «Одиссеи», чтобы воспользоваться успехом Нолана
Fountain 0 выпустила трейлер фильма Odysseus: The Fall, созданного с помощью ИИ и приуроченного к конкуренции с блокбастером Кристофера Нолана. Результат многое говорит о реальном состоянии ИИ-кинематографа.
Исследователь безопасности заставил крупные AI-чатботы объяснить, как создавать оружие. Никого это не тревожило.
Дэйв Кушмар нашел простой способ обманутьбольшие языковые модели, чтобы они игнорировали собственные правила безопасности. Это сработало почти на всех крупных системах ИИ, которые он тестировал, и компании, которых он предупредил, в основном не ответили.