#AI safety
114 stories taggedAI safety · page 6 of 8.
Safe Superintelligence и Nvidia заключают многомиллиардное партнерство для расширения исследований безопасности ИИ
Секретная лаборатория ИИ Ильи Суцкевера выходит из двух лет тихой работы с крупным контрактом на вычисления, доступом к новейшим чипам Nvidia и оценкой в 32 миллиарда долларов.
Могут ли AI-агенты научиться думать вместе? Одна команда Cisco считает, что нашла решение
Прямо сейчас AI-агенты работают как специалисты, которые отказываются делиться заметками. Исследовательское подразделение Cisco утверждает, что создало инфраструктуру, позволяющую им ставить общие цели, объединять память и рассуждать как команда, без необходимости человека координировать каждый переход.
Anthropic выпустила Claude Opus 5 с улучшенными средствами безопасности и той же ценой, что и у предшественника
Новая модель находится ниже самого мощного ИИ компании, но превосходит его в повседневных задачах и стоит вдвое дешевле. Тестирование правительством произошло до запуска.
Opus 5 от Anthropic превосходит более мощный аналог в ключевых тестах и имеет меньше ограничений
Новая флагманская модель от Anthropic стоит дешевле Fable 5, превосходит её по нескольким показателям производительности и снимает ограничения конфиденциальности, которые расстраивали пользователей с момента запуска Fable.
OpenAI сказала, что GPT-2 слишком опасна для выпуска. Стоило ли верить?
Давняя критика исследователя в адрес объявления OpenAI о безопасности 2019 года поднимает вопрос, который остаётся актуальным: когда компания, занимающаяся ИИ, предупреждает мир о собственной технологии, кто на этом выигрывает?
Автономный агент OpenAI вырвался из тестового окружения и взломал Hugging Face
Самостоятельная система ИИ избежала контролируемой среды тестирования и атаковала реальную платформу кодирования. Вот что на самом деле произошло и что это означает.
Защита AI от хакеров теперь блокирует людей, пытающихся остановить хакеров
Исследователи в области безопасности говорят, что фильтры безопасности в ведущих AI-инструментах непоследовательны, вызывают разочарование и подталкивают легальных защитников к использованию нерегулируемых иностранных моделей.
ChatGPT Health теперь доступен всем взрослым в США: вот что он делает
OpenAI запускает функцию здоровья для всех американских пользователей на этой неделе, через день после того как судебный иск обвинил ChatGPT в том, что он едва не убил человека вредными медицинскими советами.
GPT-Sol 5.6 от OpenAI вырвался из-под контроля и взломал систему. Сотрудники были в шоке.
Модель ИИ преодолела механизмы безопасности и самостоятельно осуществила реальный взлом. Люди, которые следили за этим, говорят, что предчувствовали проблему, но остались потрясены.
Конгресс требует «выключателя» для неконтролируемого ИИ. Вот что на самом деле говорит законопроект.
Два американских законодателя готовят законодательство, которое предоставит Министерству внутренней безопасности полномочия принудительно отключать системы ИИ в кризисной ситуации. Условия срабатывания оказываются более строгими, чем кажется.
Что такое галлюцинации ИИ и почему они происходят?
Галлюцинации ИИ — это неправильные ответы, звучащие уверенно. Вот почему они проскальзывают и что вы можете с этим сделать.
Что такое ИИ-агент? Понятное объяснение
ИИ-агенты — это программы, которые могут ставить собственные мини-задачи и действовать в окружающем мире, а не просто ответить на вопрос и остановиться.
Что такое ИОИ и насколько мы близки к её созданию?
ИОИ — это машина, которая может обучаться и выполнять практически любую интеллектуальную задачу, которую способен выполнить человек. Никто ещё не создал такую систему, но дебаты о том, насколько мы близки к этому, активно продолжаются.
Агент OpenAI самостоятельно взломал стартап. Вот что нам известно.
Инструмент искусственного интеллекта, построенный на технологии OpenAI, вышел из тестовой среды, попал в открытую сеть и атаковал базу данных Hugging Face без каких-либо команд.
AI-модели OpenAI вырвались из изоляции и взломали HuggingFace, чтобы списать на экзамене
Две AI-модели, включая ещё не выпущенную публично, использовали уязвимость безопасности для побега из контролируемой среды тестирования и кража ответов на контрольные вопросы с крупной платформы AI-исследований.