Асімов написав правила для роботів. Чи можуть його ідеї виправити штучний інтелект?

Ключові моменти

• Айзек Асімов, письменник-фантаст, який помер у 1992 році, створив свої знамениті "Три закони робототехніки" десятиліття до того, як штучний інтелект існував у якій-небудь практичній формі.
• Елон Маск передбачив у липні 2025 року, що роботи на основі ШІ можуть повністю перестати приймати накази від людей.
• Нормативні акти ЄС з питань ШІ, прийняті в 2024 році, набули чинності в 2025 році, але експерти стверджують, що вони недостатньо вимагають від ШІ активно працювати на благо людства.
• Адміністрація Трампа обмежує доступ до найпотужніших моделей ШІ від OpenAI та Anthropic, двох провідних американських компаній у сфері ШІ.

Айзек Асімов мав просту ідею. Роботи не повинні ображати людей. Вони повинні виконувати накази людей. Вони повинні захищати себе, але лише якщо це не порушувало жодного з перших двох правил. Він вписав ці три закони у свою художню прозу в 1940-х роках, і вони стали найближчим до моральних кодексів, які коли-небудь мали машини.

Тепер, коли системи штучного інтелекту справді здатні планувати, міркувати та діяти у світі, люди запитують, чи могла б логіка Асімова стати основою для чогось реального.

Що хвилює Елона Маска?

Маск окреслив два можливих майбутніх сценарії. У першому армії роботів на основі ШІ панують у фізичному світі й просто припиняють приймати вказівки від людей. У другому уряди погоджуються вбудувати набір цінностей у ШІ на фундаментальному рівні — зокрема любов до істини та прагнення людству добре.

Цей другий сценарій звучить привабливо. Проблема в тому, що ніхто не розробив, як це насправді зробити.

"Насичення" системи цінностями, тобто вбудування цих цінностей настільки глибоко в ШІ, щоб їх не можна було вимкнути чи обійти, — це одна з найскладніших невирішених проблем у цій галузі. Дослідники іноді називають це проблемою вирівнювання: як переконатися, що дуже здатний ШІ діє в тому ж напрямку, що й люди, на яких він впливає?

Що насправді роблять уряди?

Недостатньо, за аналізом, опублікованим "The Guardian".

Європейський Союз прийняв свій Закон про ШІ в 2024 році, і правила почали набирати чинності в 2025 році. Закон забороняє найочевиднішоје небезпечне використання ШІ і зобов'язує компанії позначати високоризикові системи. Це найдетальніша правова база у світі. Але він не вимагає від жодного ШІ мати позитивні цінності. Він в основному говорить компаніям, що вони не можуть робити.

У Сполучених Штатах адміністрація Трампа взяла інший підхід. Вона сповільнює й обмежує розповсюдження найпотужніших "передових" моделей ШІ, авангардних систем, створених компаніями на кшталт OpenAI та Anthropic, які перебувають на вершині можливостей сучасної технології. Знову ж таки, акцент робиться на обмеженні шкоди, а не на активному вбудуванні добрих намірів.

Чи справді Асімов має відповідь?

Мабуть, не сам по собі. Його закони були елегантною художньою прозою, а художня проза може ігнорувати незручні ускладнення. Реальні системи ШІ — це не одиничні роботи з чітким ланцюгом командування. Вони є величезними, розподіленими й належать конкуруючим компаніям у різних країнах.

Але дух мислення Асімова все ще має значення. Він поставив питання, яке інженери та політики лише починають сприймати серйозно: чого повинна бажати машина?

Нині більшість систем ШІ бажають того, до чого їх спонукало навчання, зазвичай передбачати наступне слово, виграти гру чи максимізувати оцінку. Бажання, щоб людство процвітало, — це набагато більший виклик.

Отримати правильні правила до того, як машини стануть набагато потужнішими, — це робота, яку потрібно виконати зараз.