Понад 1300 дослідників ШІ говорять, що гонка індустрії за створенням потужніших систем ставить людство під загрозу

Ключові моменти

• Лист, підписаний 1367 дослідниками та інженерами ШІ, переважно з OpenAI, Anthropic і Google DeepMind, попереджає, що нинішній темп розвитку ШІ несе серйозні ризики для людства.
• Підписанти працюють над передовим ШІ, тобто над найпотужнішими та найбільш продвинутими системами ШІ, які розроблюються сьогодні, що робить це одним із найбільш прямих попереджень від самих інсайдерів.
• Лист спростовує поширену думку, що лише аутсайдери та критики беспокояться про катастрофічні наслідки ШІ.
• До листа не було додано конкретних вимог чи пропозицій щодо політики, але його існування сигналізує про зростаючу тривогу всередині самих лабораторій.

Протягом років у технологічних колах циркулювала заспокійлива думка: люди, які насправді розробляють ШІ, не лякаються, тому ви теж не маєте. За цією логікою, будь-хто, хто бив на сполох, є либо наївним, либо не розуміє технологію.

Новоопублікований відкритий лист робить у цьому аргументі велику прогалину.

Хто його підписав і чому це важливо?

Лист містить 1367 підписів дослідників та інженерів, які працюють у лабораторіях передового ШІ – в невеликій кількості організацій, які змагаються за створення найпотужніших систем ШІ у світі. Переважна більшість підписантів – з трьох названих вами організацій: OpenAI, Anthropic і Google DeepMind.

Це не зовнішні критики. Вони пишуть код, навчають моделі та проводять експерименти. Їхня професійна діяльність спрямована на підвищення здатностей ШІ. І вони беспокояться.

Видання The Guardian першим повідомило про лист та його наслідки у статті дослідника ШІ Стюарта Рассела.

Про що вони насправді турбуються?

Лист вказує на катастрофічний ризик – можливість того, що передові системи ШІ можуть завдати масштабної, важко виправної шкоди. Підписанти описують поточний момент як небезпечний.

Це прямий виклик закономірності, яка стала поширеною в публічних дебатах. Критиків, які висловлюють занепокоєння щодо безпеки ШІ, часто характеризують як «апокаліптиків» або «луддитів», що просувають «маргінальну» точку зору, засновану на фантастиці. Автори листа говорять ясно: ця характеристика неправильна.

Той факт, що стільки інсайдерів готові поставити свої підписи під публічною заявою, сам по собі значущий. Дослідники великих лабораторій ШІ рідко публічно виступають так, як це може скомпрометувати своїх роботодавців.

Що це означає для звичайних людей?

Це означає, що розмова про ризики ШІ не є маргінальною. Коли більше тисячі людей, які розробляють цю технологію, говорять, що вони беспокояться, це варто сприймати серйозно.

Це не означає, що ШІ неминуче спричинить катастрофу. Це означає, що люди, які мають найкращий огляд того, що відбувається всередині цих систем, вважають, що ризики реальні та достатньо серйозні, щоб про це сказати публічно.

Від громадськості не потрібна конкретна дія у даний момент. Але якщо вам казали не беспокоїтися, тому що «експерти» не беспокояться, цей лист є свідченням того, що ця картина ніколи не була точною.

Що буде далі?

Лист не містить переліку вимог чи пропонованого рішення в галузі політики, що обмежує його негайний вплив. Він функціонує більше як сигнал, тріщина в публічному образі впевненості, що великі лабораторії загалом представляли.

Тиск на державний нагляд за розвитком ШІ зростав у Сполучених Штатах, Великобританії та Європейському Союзі. Листи такого роду звичайно посилюють ці вимоги, навіть без детального пояснення того, що мають робити регулятори.