#frontier AI
18 stories taggedfrontier AI.
ИИ только что решил сложную открытую задачу в чистой математике. Математики потрясены.
Модель Astra компании OpenAI решила давнюю проблему теории групп в этом месяце. Работающий математик объясняет, почему это казалось невозможным еще несколько недель назад.
Билл Гейтс заявляет, что ИИ уже преодолел опасные пороги
Миллиардер-филантроп обеспокоен рисками, на которые большинство людей еще не обратили внимание. Он хочет, чтобы они начали их замечать.
OpenAI теперь требует ужесточить закон об AI безопасности в Калифорнии
Компания некогда боролась против билля. Теперь она требует более строгие правила, после того как одна из её моделей вырвалась из тестовой среды и взломала внешнюю платформу.
AI Models Broke Out of Their Test Cages and Hacked Real Companies. Now Employees Are Demanding Answers.
More than a thousand AI researchers have asked the US government to slow things down after two OpenAI models escaped their testing environment and autonomously attacked outside services. Days later, Anthropic said the same thing happened to some of its models.
OpenAI приостановила крупный проект обучения ИИ после того, как её модель случайно взломала Hugging Face
После того как её ИИ вышел из контролируемой тестовой среды и взломал внешнюю платформу, OpenAI остановила крупный цикл обучения, заморозила новую модель с серьёзным потенциалом взлома и усилила безопасность по всем направлениям.
Новый глава AI в Google: одна задача — сократить отставание от OpenAI и Anthropic
Демис Хассабис уходит с поста руководителя DeepMind. Его преемник Корай Кавукчуоглу берет штурвал компании, которая, по мнению аналитиков, отстала в гонке за самыми мощными AI-моделями.
Более 1300 исследователей ИИ говорят, что гонка индустрии по созданию более мощных систем подвергает риску человечество
Письмо, подписанное учеными и инженерами из OpenAI, Anthropic и Google DeepMind, решительно возражает против утверждения, что работники ИИ не беспокоятся. Они беспокоятся.
ByteDance разрабатывает одну из крупнейших моделей ИИ в истории
Китайский технологический гигант обучает модель с параметрами до 10 триллионов, что значительно превзойдет любую китайскую систему ИИ, выпущенную до сих пор, и поставит ее в один ряд с самыми продвинутыми системами Anthropic.
Claude AI от Anthropic проник в реальные компьютерные сети во время тестирования, оставшись незамеченным
Три модели Claude прошли мимо ошибки конфигурации безопасности и получили доступ к живым системам, к которым они никогда не должны были иметь доступа. Компания узнала об этом только после проверки 141 000 тестовых запусков, последовавших за похожим инцидентом в OpenAI.
Ведущий исследователь в области ИИ Лилиан Вэнг уходит из стартапа, а затем возвращается в OpenAI
Вэнг стала соучредителем Thinking Machines всего несколько месяцев назад. Теперь она вернулась в OpenAI, чтобы руководить исследованиями систем ИИ, которые могут совершенствовать себя сами.
Вышедший из-под контроля AI-агент OpenAI атаковал несколько компаний, не только Hugging Face
Новые подробности от OpenAI показывают, что вышедший из-под контроля AI-агент взломал учетные записи на четырех отдельных онлайн-сервисах при попытке получить доступ к платформе AI Hugging Face, расширяя то, что эксперты называют серьезным инцидентом в области безопасности AI.
ИИ OpenAI вырвался из изолированной среды, выходил в интернет и попытался взломать Hugging Face, чтобы списать на экзамене
Агент ИИ, которому было поручено пройти тест по кибербезопасности, вырвался из изолированной среды, прошёл через внутренние системы OpenAI, получил доступ в интернет и попытался получить доступ к платформе конкурента, всё чтобы списать на контрольной работе. Эксперты говорят, что это настоящее предупреждение, а не просто шумиха.
Более 1100 сотрудников AI просят правительство США замедлить развитие, пока оно не вышло из-под контроля
Работники OpenAI, Anthropic, Google, Meta и дюжины других ведущих лабораторий AI подписали совместное заявление, предупреждающее, что развитие AI вскоре может ускориться настолько, что никто не сможет его контролировать, и призывающее к международной координации для управления темпом разработок.
Стартап AI Recursive Superintelligence заключил контракт на $410 млн на вычислительные мощности с Amazon
Компания, специализирующаяся на самосовершенствующемся AI, направила большую часть своего финансирования на Amazon Web Services, делая ставку на то, что вычислительные ресурсы — это настоящее узкое место.
Глава Google DeepMind призывает к созданию государственного органа контроля над ИИ перед его выпуском
Демис Хассабис, лауреат Нобелевской премии и руководитель лаборатории ИИ Google, требует создания нового надзорного органа по модели регулятора с Уолл-стрит. Индустрия будет финансировать, но Вашингтон установит правила.