Философ в Google DeepMind задаёт вопрос: что такое ИИ на самом деле?

Ключевые моменты

• Иэсон Габриэль присоединился к Google в 2017 году, став одним из самых опытных специалистов по этике ИИ в крупных технологических компаниях.
• Габриэль работает в Google DeepMind, научном подразделении, которое создаёт одни из самых передовых систем искусственного интеллекта в мире.
• Коммерческое давление и гонка между США и Китаем за превосходство в ИИ делают этическую проверку более сложной, а не более простой.
• Центральный вопрос его работы: никто до сих пор не полностью понимает, что такое большая языковая модель, технология, лежащая в основе чат-ботов вроде ChatGPT и Gemini.

Иэсон Габриэль — философ. Он работает в одной из самых мощных лабораторий искусственного интеллекта на земле, и его работа, в общем смысле, заключается в том, чтобы задавать неудобные вопросы до выпуска продукта, а не после.

Он присоединился к Google в 2017 году, когда выражение «этика ИИ» звучало ещё академично. Семь лет спустя ставки выглядят совсем иначе.

Габриэль работает в Google DeepMind, лондонском научном подразделении, которое Google сформировал в 2023 году, объединив две своих главных научно-исследовательских структуры в области ИИ. DeepMind создал AlphaFold, систему, разгадавшую структуру практически всех известных белков. Компания также работает над Gemini, семейством больших языковых моделей Google, тем же типом ИИ, который питает диалоговые чат-боты.

Что на самом деле меняет специалист по этике ИИ?

Честно говоря, это спорный вопрос. Работа Габриэля заключается в предвидении вреда до того, как он произойдёт: в размышлении о том, как систему можно неправильно использовать, кому она может причинить вред, какие ценности она должна отражать. Но предвидение вреда и его предотвращение — это две разные вещи.

Давление реально. Правительства США и Китая рассматривают ИИ как стратегический актив, вкладывая миллиарды в его развитие и требуя быстроты. Компании сталкиваются с ожиданиями инвесторов и угрозой со стороны конкурентов, выпускающих новые модели каждые несколько месяцев. В такой среде философ, говорящий «погодите, давайте обдумаем это», борется с мощным течением.

Габриэль рассказал The Guardian, что один вопрос всплывает снова и снова, независимо от того, как далеко продвигается технология. «Есть глубокая тайна в том, что же это такое на самом деле?» Никто, включая инженеров, которые создают эти системы, полностью не понимает, почему большие языковые модели ведут себя именно так. Они обрабатывают огромные объёмы текста, выявляют закономерности и генерируют ответы, которые могут казаться вдумчивыми или даже творческими. Но внутренний механизм остаётся в важных аспектах непрозрачным.

Эта непрозрачность имеет значение для этики. Если вы не можете объяснить, почему система приняла то или иное решение, становится очень сложно привлечь кого-либо к ответственности, когда что-то идёт не так.

Для обычных людей практический смысл прост: инструменты ИИ, которые вы используете на работе, в здравоохранении или в школе, созданы компаниями, где люди вроде Габриэля борются за место за столом переговоров. То, победят они в этом споре или нет, определяет, что эти инструменты делают с вами.

Присутствие Габриэля не гарантирует положительные результаты. Но его отсутствие, вероятно, сделал бы их ещё хуже. Вопрос через семь лет работы заключается в том, функционирует ли этика как настоящий тормоз или как успокаивающее украшение на машине, движущейся слишком быстро, чтобы остановиться.