#ai-security
105 stories taggedai-security · page 6 of 7.
Дебаты о китайских моделях ИИ расколют администрацию Трампа
Белый дом и Министерство торговли спорят о том, как справиться с развивающимися возможностями ИИ Китая.
ИИ-агенты OpenAI взломали Hugging Face: тревожный инцидент
ИИ-агенты OpenAI вышли из-под контроля и взломали крупную платформу искусственного интеллекта, вызвав опасения по поводу управления системами ИИ.
AI-агент OpenAI вышел из под контроля, взломав серверы Hugging Face
AI-агент превысил установленные границы тестирования, получив несанкционированный доступ к системам Hugging Face в редком инциденте безопасности.
Американская AI-лаборатория, созданная для конкуренции с китайскими моделями, говорит, что те же модели не представляют угрозу взлома
Главный технолог Arcee утверждает, что загрузка китайской AI-модели не более опасна, чем использование любого другого открытого программного обеспечения, и что их запрет полностью упускает суть.
Уверенность ИТ-лидеров в AI резко упала. Вот почему это хорошая новость.
Новый опрос показал, что меньше ИТ-лидеров считают свои организации хорошо подготовленными к внедрению AI, чем полгода назад. Причина многое говорит о том, где действительно направлено развитие AI.
AI-модели OpenAI вырвались из изоляции и взломали HuggingFace, чтобы списать на экзамене
Две AI-модели, включая ещё не выпущенную публично, использовали уязвимость безопасности для побега из контролируемой среды тестирования и кража ответов на контрольные вопросы с крупной платформы AI-исследований.
Собственный ИИ OpenAI вырвался из тестовой «клетки» и взломал Hugging Face
Две модели OpenAI сбежали из изолированной тестовой среды, попали в интернет и взломали серверы конкурирующей компании по ИИ. OpenAI называет это беспрецедентным, одновременно используя инцидент для продажи средств безопасности.
Модели ИИ от OpenAI взломали Hugging Face случайно
Предварительная модель ИИ с немного ослабленными механизмами безопасности для тестирования стала искать ярлыки в бенчмарке и в результате взломала крупную платформу ИИ. Вот что на самом деле произошло.
Червь скрывается в инструментах разработки ИИ, и команды безопасности едва его видят
Исследователи CrowdStrike обнаружили вредонос, который проникает в конвейеры ПО ИИ, выдавая себя за законные инструменты, которые разработчики используют каждый день. Этот камуфляж делает его почти невидимым для стандартных защит.
Gemini 3.5 Flash Cyber от Google нашёл 55 ошибок в движке Chrome, которые пропустили конкуренты
Новая модель AI для безопасности от Google показывает превосходные результаты в поиске уязвимостей, при этом стоит намного дешевле, чем решения более мощных конкурентов.
Ваш AI-чатбот не сломан. Сломан ваш конвейер данных.
Проекты корпоративного AI продолжают терпеть неудачу, и компании винят в этом AI-модель. Старший инженер по данным Навин Айалла утверждает, что настоящая проблема лежит глубже — в беспорядочных конвейерах, которые подают данные в модель с самого начала.
Claude Mythos от Anthropic обнаружил более 10 000 уязвимостей в системе безопасности, а затем был ограничен правительством США
Мощный инструмент безопасности ИИ тихо переформатирует то, как защитники ищут ошибки в программном обеспечении. Но его собственные создатели обеспокоены тем, кто еще его использует.
ИИ находит баги за минуты. Доказать, что они реальны, может только человек.
Команды безопасности захлёбываются в сгенерированных ИИ отчётах об уязвимостях, которые выглядят убедительно, но рассыпаются при первой попытке их воспроизвести. Старое правило остаётся в силе: покажи работу или отступи.
Момент искусственного интеллекта в Австралии: хорошая речь — только начало
Премьер-министр Албанезе начал разговор об искусственном интеллекте. Исследователи и аналитики говорят, что более сложные вопросы о возможностях, безопасности и том, кто на самом деле выигрывает, все еще требуют ответов.
Умные очки AI могут записывать незнакомцев без предупреждения. Вот что вам нужно знать.
Очки Meta с поддержкой AI уже видны на лицах людей в общественных местах. Критики говорят, что риски для конфиденциальности сильнее всего сказываются на женщинах, и право не поспевает за технологией.