Три піонери ШІ зіткнулися через відкриті моделі на конференції в Лас-Вегасі

Ключові моменти

• Джеффрі Гінтон, Фей-Фей Лі та Ендрю Нг кожен виступав проти повного корпоративного контролю ШІ на конференції Ai4 у Лас-Вегасі.
• Гінтон сказав, що боротьба за відкриті моделі ШІ з вагами, де саму навчену модель випускають безпосередньо для громадськості, уже програна.
• Ендрю Нг попередив, що китайські моделі з відкритими вагами можуть стати домінуючою інфраструктурою ШІ в Азії, Африці та країнах, що розвиваються.
• Фей-Фей Лі відхилила протиставлення відкритого та закритого як хибний вибір, закликаючи до тонкого, багатошарового підходу.
• Усі троє погодилися, що необхідна якась форма регулювання, при цьому Гінтон сказав, що рішення не можна залишати лише технологічним мільярдерам.

Три найвпливовіші імена в історії штучного інтелекту поділили сцену в Лас-Вегасі минулого тижня, але вони не змогли повністю погодитися. Однак щодо однієї точки вони були єдині: невелика група потужних компаній не повинна мати право вирішувати, як розвивається ШІ чи хто може його використовувати.

Місцем проведення була конференція Ai4, про яку першим повідомив TechCrunch AI. Доповідачами були Джеффрі Гінтон, який виграв Нобелівську премію з фізики 2024 року за свою фундаментальну роботу в ШІ; Фей-Фей Лі, професорка Стенфорда та генеральна директорка World Labs, яка допомогла розвинути дослідження розпізнавання зображень, які живлять нинішній бум ШІ; та Ендрю Нг, співзасновник Coursera та один з найбільш цитованих голосів у галузі.

Про що насправді йде дебата про відкриті ваги?

Відкриті ваги ШІ означають, що компанія навчає велику модель ШІ, а потім випускає її безпосередньо для того, щоб будь-хто міг завантажити, змінити та запустити. Це відрізняється від програмного забезпечення з відкритим кодом, де можна читати та редагувати базовий код. Завдяки відкритим вагам ви отримуєте готовий мозок, а не схему.

Гінтон чітко провів цю лінію. «Відкритий код – це чудово. Ви показуєте людям код, і багато людей дивляться на рядки коду й кажуть: "О, тут баг"», – сказав він. «Відкриті ваги означають, що ви навчаєте велику модель, а потім даєте людям ваги. Це зовсім інше.»

Його занепокоєння: як тільки потужна модель стає доступна для завантаження, будь-хто може витратити лише частину початкової вартості навчання, щоб навчити її робити шкідливі речі, такі як допомога в плануванні кібератаки.

Однак Гінтон також признав, що дебати закінчені. «Цю битву програно», – сказав він. Моделі з відкритими вагами існують, бар'єр величезних витрат на навчання зник, і жодне оголошення ніякої лабораторії цього не змінить.

Чому це важливо для звичайних людей?

Практичні ставки великі. Нг охарактеризував це як геополітичне змаганння. Китайські моделі з відкритими вагами вже поширюються в Африці та Азії. Якщо вони стануть типовою інфраструктурою ШІ для мільярдів людей, стверджував він, ці моделі могли б формувати те, як цілі населення стикаються з ідеями про демократію та права людини.

«ШІ – це величезне джерело м'якої сили», – сказав Нг, додавши, що лобіювання та залякування у Сполучених Штатах утруднюють конкуренцію американського ШІ з відкритим кодом на основі вартості.

Лі заперечила формування всього питання як бінарної боротьби. Вона порівняла ШІ з ядерною фізикою: наукові статті публікуються відкрито, сира уранідна сировина ретельно регулюється, а лабораторна робота знаходиться десь посередині. Повна відкритість та повна блокада – обидва неправильні відповіді.

«Цей дебат, особливо на такому розмашистому рівні "ми можемо толерувати лише один", – це хибний дебат», – сказала вона. «Нам потрібно дійти до рівня тонкості.»

Що буде далі?

Регулювання, погодились усі троє, неминуче. Невідповідність стосується деталей. Гінтон був прямолінійним щодо того, хто не повинен бути присутнім, коли писатимуться ці правила. «Не можна залишати це таким людям, як Ілон Маськ та Марк Цукерберг, щоб вони вирішували, як має розвиватися ШІ», – сказав він.

Для кожного, хто використовує інструменти ШІ на роботі, в школі чи вдома, результат цього дебату визначатиме, які моделі доступні, за якою ціною та з якими обмеженнями вбудованими в них.