Три пионера ИИ столкнулись из-за открытых моделей на конференции в Лас-Вегасе

Ключевые моменты

• Джеффри Хинтон, Фэй-Фэй Ли и Эндрю Нг выступили против полного корпоративного контроля над ИИ на конференции Ai4 в Лас-Вегасе.
• Хинтон сказал, что борьба за открытые модели ИИ с опубликованными весами, которые распространяются бесплатно, уже проиграна.
• Эндрю Нг предупредил, что китайские открытые модели могут стать доминирующей инфраструктурой ИИ в Азии, Африке и развивающихся странах.
• Фэй-Фэй Ли отвергла противопоставление открытого и закрытого как ложную дихотомию, призывая к нюансированному многоуровневому подходу.
• Все трое согласны, что необходимо некоторое регулирование, причём Хинтон сказал, что решения не должны приниматься только технологическими миллиардерами.

Три из самых влиятельных фигур в истории искусственного интеллекта встали на одну сцену в Лас-Вегасе на прошлой неделе, и они не смогли полностью согласиться. Но в одном они были единодушны: маленькая группа мощных компаний не должна решать, как развивается ИИ и кто его может использовать.

Площадкой стала конференция Ai4, о которой первым сообщил TechCrunch AI. Выступающими были Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года за фундаментальные работы по ИИ; Фэй-Фэй Ли, профессор Стэнфорда и генеральный директор World Labs, которая помогла разработать исследования распознавания изображений, питающие современный бум ИИ; и Эндрю Нг, сооснователь Coursera и один из самых авторитетных голосов в этой области.

О чём на самом деле идёт дебат об открытых моделях?

Открытые модели ИИ — это когда компания обучает большую модель ИИ и затем распространяет её бесплатно, чтобы любой мог скачать, изменить и запустить. Это отличается от открытого исходного кода, где можно читать и редактировать базовый код. С открытыми весами вы получаете готовый мозг, а не чертёж.

Хинтон чётко провел эту границу. «Открытый исходный код — это здорово. Вы показываете людям код, и многие люди смотрят на строки кода и говорят: „О, здесь ошибка"», — сказал он. «Открытые веса означают, что вы обучаете большую модель, а затем раздаёте людям веса. Это совсем другое.»

Его опасение: как только мощная модель будет доступна для скачивания, кто-то сможет потратить лишь часть первоначальной стоимости обучения, чтобы научить её делать вредоносные вещи, например помогать планировать кибератаку.

Однако Хинтон также признал, что эта борьба окончена. «Эта битва проиграна», — сказал он. Открытые модели существуют, барьер огромных затрат на обучение рухнул, и никакое заявление из какой-либо лаборатории это не изменит.

Почему это важно для обычных людей?

Практические ставки высоки. Нг представил это как геополитическое соревнование. Китайские открытые модели уже распространяются по Африке и Азии. Если они станут стандартной инфраструктурой ИИ для миллиардов людей, утверждал он, эти модели смогут влиять на то, как целые население сталкиваются с идеями о демократии и правах человека.

«ИИ — это огромный источник мягкой силы», — сказал Нг, добавив, что лоббирование и нагнетание страхов в Соединённых Штатах затрудняют конкуренцию американского открытого ИИ по стоимости.

Ли возразила против представления всего вопроса как бинарной борьбы. Она сравнила ИИ с ядерной физикой: научные работы публикуются открыто, сырой уран строго регулируется, а лабораторные работы находятся где-то между двумя крайностями. Полная открытость и полная закрытость — обе неправильные ответы.

«Этот дебат, особенно на таком масштабном уровне „мы можем терпеть только одно", — это ложный дебат», — сказала она. «Нам нужно перейти на уровень нюансов.»

Что дальше?

Регулирование, согласились все трое, неизбежно. Разногласия касаются деталей. Хинтон был резок в отношении того, кто не должен участвовать в написании этих правил. «Нельзя оставлять это людям вроде Илона Маска и Марка Цукерберга, чтобы они решали, как должен развиваться ИИ», — сказал он.

Для всех, кто использует инструменты ИИ на работе, в школе или дома, результат этого дебата определит, какие модели доступны, по какой цене и с какими встроенными ограничениями.