Найбільша переорганізація AI в Google сигналізує про змінення культури, а не просто про перестановку в штатному розкладі

Ключові моменти

• Google оголосила у середу про найбільшу переорганізацію керівництва AI на сьогодні, виводячи Демиса Хассабіса з повсякденного управління Google DeepMind.
• Джефф Дін, ветеран Google з 27-річним стажем і один з його найвідоміших інженерів, йде, щоб спільно заснувати Discovery Loop, стартап AI, зосереджений на науковому дослідженні.
• Три інші старші дослідники AI Google, Санджай Гемаварт, Куок Ле та Оріол Вініялс, приєднуються до Діна в новій компанії.
• Кілька інсайдерів розповіли The Verge, що контракт Google з Міністерством оборони США, який дозволяє Пентагону використовувати Google AI для «будь-якого законного використання», міг спонукати Діна та Хассабіса до виходу.
• Корай Кавукджоглу, нинішній головний технолог Google DeepMind, візьме на себе повсякденне керівництво лабораторією.

Google протягом років культивував репутацію стабільного, виміреного прогресу в AI. У середу це нанесло удар по цьому іміджу.

В одному оголошенні компанія розкрила, що Демис Хассабіс, нейробіолог, який спільно заснував DeepMind та керував ним з моменту придбання Google в 2014 році, відходить від управління щоденною діяльністю лаб. Одночасно Джефф Дін, 30-й працівник Google і фігура, яку багато хто в компанії сприймав як моральний компас, оголосив, що назавжди йде.

Що насправді змінилось?

Хассабіс не піддає посаду. Він переходить на ширшу посаду голови DeepMind та головного вченого Alphabet з акцентом на AGI (штучну загальну інтелектуальність, тобто системи AI, які могли б дорівнювати або перевищувати людське розумування в широкому діапазоні завдань) та довгострокові дослідження. Він також продовжить керувати Isomorphic Labs, компанією, яка використовує AI для відкриття нових ліків.

Корай Кавукджоглу, нинішній головний технолог DeepMind, переходить на його місце для управління лабораторією.

Дін тим часом спільно засновує Discovery Loop, стартап, який планує використовувати AI для проведення тисяч наукових та інженерних експериментів у галузях, включаючи відкриття ліків, чисту енергію та дизайн матеріалів. Три його колеги, Санджай Гемаварт, Куок Ле та Оріол Вініялс, йдуть з ним.

Це справді про контракт з Пентагоном?

Публічно Google говорить, що зміни готують компанію до наступного розділу. З приватних джерел кілька людей, обізнаних у ситуації, вказують на щось конкретніше.

У квітні, після того як компанія AI Anthropic відмовилась дозволити Міністерству оборони США використовувати її AI для внутрішнього масового спостереження або летальної автономної зброї (зброї, яка може вирішити вбивати без людської санкції щодо кожного рішення), Google була серед компаній, які втрутились і погодились дозволити Пентагону використовувати свій AI для «будь-якого законного використання».

Дін публічно виступав проти саме таких використань. У лютому він написав, що масове спостереження «порушує Четвертої поправку та має охолоджуючий ефект на свободу вираження». Ще в 2018 році як Дін, так і Хассабіс підписали публічне зобов'язання, у якому говорилось, що «рішення про позбавлення людського життя ніколи не повинно делегуватись машині».

Раніше цього року Дін також підписав юридичний меморандум, що підтримує позов Anthropic проти спроби DoD обмежити діяльність компанії. Колишній дослідник Google, який ішов через контракт з Пентагоном, написав минулого місяця, що, підписуючи цей меморандум, Дін «розійшовся з лінією компанії, що, ймовірно, створило незручність у вищому керівництві».

Тайлер Джонстон, засновник аналітичного центру AI The Midas Project, розповів The Verge, що контракт DoD уже спровокував відходи персоналу та зусилля профспілкування всередині DeepMind, і що існують «багато ознак, що припускають, що Дін та Хассабіс могли особисто відчувати опозицію».

Що це означає для людей поза Google?

Для звичайних користувачів продуктів Google одразу нічого не змінюється. Gemini, Google Search та інші інструменти AI продовжують працювати як раніше.

Довгостроковим питанням є те, чи буде Google, під тиском необхідності швидше поставляти продукти та конкурувати з OpenAI та Anthropic, зберігати ті ж гарантії безпеки, за які дослідники на зразок Діна виступали всередині. Один нинішній працівник Google, який говорив анонімно, висловився прямо: «Втрата Джеффа продовжує відтік мізків у Google. Посередність є ймовірним результатом».

Відхід Діна усуває найбільш помітного внутрішнього критика військових робіт AI Google. Це не зупинить критику, яка продовжуватиметься всередині будівлі.

Поширені питання

Це впливає на продукти Google, які я використовую сьогодні?

Негайних змін до продуктів, як-от Google Search, Gemini (асистент AI Google) або Google Photos, не очікується. Переорганізація стосується того, хто керує дослідницькою лабораторією та яким напрямком вона рухатиметься в наступні роки.

Що таке контракт з Пентагоном AI і чи повинен я про нього дбати?

Google погодилась дозволити Міністерству оборони США використовувати свої інструменти AI для будь-якої мети, яка є законною за законодавством США, включаючи військові застосування. Критики стурбовані тим, що «будь-яке законне використання» є надто широким стандартом і може включати рішення зі штучним інтелектом для зброї або програми масового спостереження.