# ai-agents

Microsoft использует AI-агентов для математического доказательства отсутствия ошибок в коде шифрования

Команда, стоящая за криптографической библиотекой Windows и Azure, делает что-то необычное: не просто тестирует код, но доказывает его корректность для каждого возможного входа, используя формальные математические доказательства, частично написанные AI.

Jul 16 3 min read

Перед отправкой платежа: знает ли ваш AI-помощник, насколько он уверен?

Apple ML Research утверждает, что AI-агентам нужна встроенная кнопка паузы перед выполнением необратимых действий. Вот почему это важно для всех, чей банк, приложение или рабочее место теперь работают на AI.

AI Routing казался простой экономией. В реальности это стоило в два раза дороже.

Команда, разрабатывающая умные системы на основе ИИ, думала, что отправка простых задач на более дешёвые модели ИИ сократит расходы. Потом пришли счета.

Science & Space

Внутри Shippy: Как был создан надежный AI-агент для мониторинга океана

Команда Skylight объясняет, почему надежность, а не сырой интеллект, была самой сложной инженерной задачей.

OpenAI создала ИИ, который взламывает собственные модели, чтобы сделать их безопаснее

GPT-Red — это система автоматизированного красного тестирования, которая атакует собственные чат-боты OpenAI, чтобы выявить уязвимости раньше, чем это сделают реальные злоумышленники. Она уже обнаружила трюк, который пропустили люди-тестировщики.

Jul 15 4 min read

Первый аппаратный продукт OpenAI — это кнопочная панель стоимостью $230 для инструмента ИИ-кодирования

Codex Micro добавляет физические элементы управления на рабочий стол для управления задачами ИИ-кодирования. Это не тот секретный девайс Джони Айва, который все ждали.

Винт Серф присоединился к стартапу, пытающемуся выдать ИИ-агентам проверяемый интернет-идентификатор

Один из создателей интернета считает, что ИИ-агентам нужны паспорта. Теперь он помогает их разработать.

Jul 15 4 min read

Индийский стартап Emergent достиг оценки $1,5 млрд после привлечения $130 млн

Компания из Бангалора позволяет нетехническим владельцам бизнеса создавать программное обеспечение, набирая простые инструкции. Сейчас у нее 200 000 платящих клиентов и $120 млн годовой выручки.

Одно отравленное письмо может втайне переписать память вашего ИИ-помощника

Недавно описанная атака под названием MemGhost показывает, как одно сообщение в вашем почтовом ящике может внедрить ложный «факт» в долгосрочную память ИИ-агента, без вашего ведома.

Этот AI-маршрутизатор снижает затраты в 2,6 раза, учась на собственных ошибках

Новая открытая система ACRouter отслеживает, какая модель AI успешно или неудачно справляется с каждой задачей, запоминает полученные знания и более умно маршрутизирует следующую работу. В тестах она показала результаты премиум-решений при цене менее половины от их стоимости.

Explained

Исследователи Apple создали виртуального пользователя для тестирования ИИ-ассистентов до запуска для реальных людей

Новая исследовательская платформа имитирует реальное взаимодействие с приложением, позволяя проактивным ИИ-ассистентам пройти тестирование и оценку без риска для настоящих пользователей.

Jul 14 3 min read

ИИ-агентам доверяют больше решений, чем компании могут на самом деле проверить

Новое исследование показывает, что половина предприятий уже развернула ИИ-агент, который прошел внутренние тесты, а затем сломал что-то для реального клиента. Только 5% полностью доверяют тестированию, которое должно выявлять такие сбои.

Jul 14 3 min read

57% компаний столкнулись с уверенными и неправильными ответами AI. Вот почему это продолжает происходить.

Новый опрос подтверждает проблему, о которой уже знают IT-команды: AI-агенты дают неправильные ответы с полной уверенностью, и корень проблемы не в модели. Это отсутствие слоя, который сообщал бы модели, что на самом деле означают данные вашего бизнеса.

Jul 14 3 min read