Крупнейшая перестановка в AI Google сигнализирует о смене культуры, а не просто об изменении организационной структуры
Джефф Дин уходит после 27 лет работы, Демис Хассабис отходит от повседневного руководства, а инсайдеры утверждают, что контракт Пентагона может быть в основе всего этого.
Ключевые моменты
- В среду Google объявила о крупнейшей перестановке в руководстве AI, переместив Демиса Хассабиса из ежедневного управления Google DeepMind.
- Джефф Дин, ветеран Google с 27-летним стажем и один из самых известных инженеров компании, уходит, чтобы стать соучредителем Discovery Loop — стартапа в области AI, ориентированного на научные исследования.
- Три других старших исследователя AI Google — Сантош Гемават, Куок Ле и Ориол Винялс — присоединяются к Дину в новой компании.
- Несколько инсайдеров рассказали The Verge, что контракт Google с Министерством обороны США, позволяющий Пентагону использовать AI Google для «любого законного использования», возможно, подтолкнул Дина и Хассабиса к уходу.
- Корай Кавукчуоглу, нынешний главный технолог Google DeepMind, возьмёт на себя ежедневное руководство лабораторией.
Google годами культивировала репутацию компании, обеспечивающей стабильный и взвешенный прогресс в области AI. В среду этот образ получил существенный удар.
В одном объявлении компания раскрыла, что Демис Хассабис, нейробиолог, соучредитель DeepMind и руководитель её с момента приобретения Google в 2014 году, отходит от повседневного управления лабораторией. Одновременно Джефф Дин, 30-й сотрудник в истории Google и фигура, которого многие в компании считали моральным компасом, объявил о своём уходе.
Что на самом деле изменилось?
Хассабис не уходит. Он переходит на более широкую должность председателя DeepMind и главного учёного Alphabet с акцентом на AGI (artificial general intelligence — искусственный общий интеллект, то есть системы AI, которые могут соответствовать или превосходить человеческие возможности рассуждения в широком диапазоне задач) и долгосрочные исследования. Он также продолжит возглавлять Isomorphic Labs, подразделение, которое использует AI для открытия новых лекарств.
Корай Кавукчуоглу, нынешний главный технолог DeepMind, берёт на себя управление лабораторией.
Дин же становится соучредителем Discovery Loop — стартапа, который планирует использовать AI для проведения тысяч научных и инженерных экспериментов в областях, включая открытие лекарств, чистую энергию и проектирование материалов. Вместе с ним уходят три коллеги: Сантош Гемават, Куок Ле и Ориол Винялс.
Это правда о контракте с Пентагоном?
Публично Google говорит, что изменения готовят компанию к следующей главе. В закулисных разговорах несколько человек, осведомлённых о ситуации, указывают на что-то более конкретное.
В апреле, после того как компания AI Anthropic отказалась позволить Министерству обороны США использовать её AI для внутреннего массового наблюдения или летальных автономных вооружений (оружие, которое может принять решение убивать без одобрения человека для каждого действия), Google была среди компаний, которые согласились позволить Пентагону использовать свой AI для «любого законного использования».
Дин публично выступал против именно этих применений. В феврале он написал, что массовое наблюдение «нарушает Четвёртую поправку и оказывает сдерживающее воздействие на свободу выражения». Ещё в 2018 году Дин и Хассабис подписали публичное обязательство, в котором говорилось, что «решение о лишении человека жизни никогда не должно быть передано машине».
Ранее в этом году Дин также подписал судебный документ в поддержку иска Anthropic против попытки Министерства обороны ограничить работу компании. Бывший исследователь Google, уволившийся из-за контракта с Пентагоном, написал в прошлом месяце, что, подписав этот документ, Дин «отошёл от официальной линии компании, что, вероятно, вызвало неловкость в руководстве».
Тайлер Джонстон, основатель аналитического центра AI2Day по мониторингу индустрии AI, рассказал The Verge, что контракт с Министерством обороны уже привёл к уходам сотрудников и попыткам профсоюзной организации внутри DeepMind, и что есть «много признаков, предполагающих, что Дин и Хассабис могли лично быть против».
Что это означает для людей вне Google?
Для обычных пользователей продуктов Google ничего не меняется в ближайшем будущем. Gemini, Google Search и другие инструменты AI работают как обычно.
Более долгосрочный вопрос заключается в том, будет ли Google, под давлением необходимости быстрее доставлять продукты и конкурировать с OpenAI и Anthropic, сохранять те же гарантии безопасности, за которые выступали внутри компании такие исследователи, как Дин. Один нынешний сотрудник Google, говоря анонимно, выразился прямо: «Уход Джеффа продолжает отток мозгов из Google. Посредственность — вероятный результат».
Уход Дина устраняет самого видного внутреннего критика военной работы Google в сфере AI. Это не остановит критику от продолжения внутри компании.
Часто задаваемые вопросы
Влияет ли это на используемые мной сегодня продукты Google?
Немедленные изменения в продуктах, таких как Google Search, Gemini (ассистент AI от Google) или Google Photos, не ожидаются. Перестановка касается того, кто руководит исследовательской лабораторией и какое направление она выберет в предстоящие годы.
Что такое контракт AI Пентагона и должен ли я о нём знать?
Google согласилась позволить Министерству обороны США использовать свои инструменты AI для любой цели, законной в соответствии с американским законодательством, включая военные применения. Критики обеспокоены тем, что «любое законное использование» — слишком широкий стандарт и может включать помощь AI в военных решениях или программы массового наблюдения.
