#ai-security
8 stories taggedai-security.
Одно отравленное письмо может втайне переписать память вашего ИИ-помощника
Недавно описанная атака под названием MemGhost показывает, как одно сообщение в вашем почтовом ящике может внедрить ложный «факт» в долгосрочную память ИИ-агента, без вашего ведома.
Исследователь безопасности заставил крупные AI-чатботы объяснить, как создавать оружие. Никого это не тревожило.
Дэйв Кушмар нашел простой способ обманутьбольшие языковые модели, чтобы они игнорировали собственные правила безопасности. Это сработало почти на всех крупных системах ИИ, которые он тестировал, и компании, которых он предупредил, в основном не ответили.
Предприятия развернули AI-агентов без систем безопасности. Теперь они платят за модернизацию.
Опрос 573 технических лидеров показал, что большинство корпоративных «агентов» — это переработанные чат-боты, дорогие серверы работают на половину мощности, а две трети компаний спешат отказаться от контроля человека над решениями ИИ.
Генеральный директор Microsoft предупреждает, что компании платят за AI дважды: деньгами и тайными знаниями
Сатья Наделла говорит, что каждый запрос, исправление и рабочий процесс, которые бизнес отправляет в модели AI, молча обучают компании, которым они платят. Он требует, чтобы предприятия вернули контроль.
Почему становится сложнее распознавать лица, созданные ИИ
Искусственный интеллект создает все более убедительные лица, что затрудняет обнаружение цифровых подделок обычными людьми.
Apple подает в суд на OpenAI из-за предполагаемой внутренней ошибки, которая сохранила доступ уволенного инженера на протяжении недель
软件сбой позволил бывшему инженеру Apple продолжать читать конфиденциальные файлы компании после того, как он присоединился к OpenAI. Apple утверждает, что это было не случайностью.
Apple подает в суд на OpenAI за предполагаемую кражу секретов оборудования и шпионские тактики на собеседованиях
В исковом заявлении на 41 странице утверждается, что OpenAI инструктировала увольняющихся сотрудников Apple обходить проверки безопасности, контрабандой вывозить конфиденциальные файлы и приносить прототипные детали на собеседования.
Исследователи обращают любимое оружие хакеров против них самих
Компания по кибербезопасности выяснила, что скрытые инструкции, встроенные в облачные учетные данные, могут заставить инструменты взлома на базе ИИ отключиться.