Філософ у Google DeepMind, який запитує: що таке штучний інтелект насправді?

Ключові моменти

• Ясон Габріель приєднався до Google у 2017 році, що робить його одним з найдовше працюючих фахівців з етики штучного інтелекту в будь-якій великій технологічній компанії.
• Габріель працює в Google DeepMind, дослідницькому підрозділі, який створює одні з найбільш передових систем штучного інтелекту у світі.
• Комерційний тиск і гонка між США та Китаєм за панування в сфері штучного інтелекту роблять етичну перевірку складнішою, а не простішою.
• Центральне питання, на яке повертається його робота: ніхто ще повністю не розуміє, що таке велика мовна модель, технологія, яка лежить в основі чат-ботів на кшталт ChatGPT та Gemini.

Ясон Габріель — філософ. Він працює в одній із найпотужніших лабораторій штучного інтелекту на землі, і його робота, за великим рахунком, полягає в тому, щоб задавати незручні питання до випуску продукту, а не після.

Він приєднався до Google у 2017 році, коли фраза «етика штучного інтелекту» ще звучала академічно. Сім років пізніше ставки виглядають дуже по-іншому.

Габріель працює в Google DeepMind, лондонському дослідницькому підрозділі, який Google створив у 2023 році, об'єднавши свої два основні дослідницькі відділи штучного інтелекту. DeepMind створив AlphaFold, систему, яка розгадала структуру майже кожного відомого білка. Він також працює над Gemini, сімейством великих мовних моделей Google, тим самим типом штучного інтелекту, який живить розмовних чат-ботів.

Що насправді змінює фахівець з етики штучного інтелекту?

Чесно кажучи, це оспорюється. Робота Габріеля передбачає передбачення шкоди до того, як вона трапиться: обмірковування того, як систему можна неправильно використовувати, кому вона може завдати шкоди, які цінності вона повинна відображати. Але передбачення шкоди і її запобігання — це дві різні речі.

Тиск реальний. Уряди США та Китаю розглядають штучний інтелект як стратегічний актив, вкладаючи мільярди в розвиток і поспішаючи його. Компанії стикаються з очікуваннями інвесторів і конкурентною загрозою від суперників, які випускають нові моделі кожні кілька місяців. У такому середовищі філософ, який говорить «зачекайте, давайте обдумаємо це», плаває проти сильного течії.

Габріель розповів The Guardian, що одне питання постійно виникає незалежно від того, як далеко просувається технологія. «Є ця глибока таємниця: що насправді являє собою ця штука?» Ніхто, включаючи інженерів, які будують ці системи, повністю не розуміє, чому великі мовні моделі поводяться так, як вони себе ведуть. Вони обробляють величезну кількість тексту, помічають закономірності й генерують відповіді, які можуть здаватися вдумливими або навіть творчими. Але внутрішній механізм залишається, важливим чином, непрозорим.

Ця непрозорість має значення для етики. Якщо ви не можете пояснити, чому система прийняла те чи інше рішення, стає дуже складно притягти до відповідальності когось, коли щось піде не так.

Для звичайних людей практичне значення просте: інструменти штучного інтелекту, які ви використовуєте на роботі, в охороні здоров'я чи школі, створені компаніями, де люди на кшталт Габріеля борються за місце за столом. Те, переможе він цю дискусію чи ні, формує те, що ці інструменти роблять з вами.

Присутність Габріеля не гарантує добрих результатів. Але його відсутність, ймовірно, робила б їх гіршими. Питання, яке виникає сім років потому, полягає в тому, чи функціонує етика як справжня гальма або як заспокійливе прикрашання машини, яка рухається занадто швидко, щоб її можна було зупинити.