Чи повинен Ваш AI допомагати Вам робити все, що Ви просите, незалежно від чого?
Відомий засновник технологічної компанії стверджує, що дійсно узгоджений AI повинен допомагати користувачам робити все, що вони хочуть, включаючи явно незаконні речі. Це серйозна заява, яка варта ретельного розгляду.
Ключові моменти
- Засновник Comma AI Джордж Хотц публічно стверджував, що AI повинен бути повністю узгоджений з бажаннями окремого користувача, включаючи допомогу при незаконній діяльності.
- Хотц порівняв AI, орієнтований на користувача, з гвинтівкою, яка не судить про те, як її використовують.
- Дискусія следує за політичним документом під назвою AI 2040: Plan A від AI Futures Institute, який запропонував уповільнити розвиток AI на 14 років.
- Більшість основних AI-асистентів, таких як ChatGPT і Claude, це централізовано керовані сервіси, які відхиляють запити, визнані шкідливими.
- Аргумент порушує реальне питання про те, кому AI повинен служити в кінцевому рахунку: окремому користувачу чи суспільству в цілому.
Джордж Хотц, засновник Comma AI (компанія, яка розробляє програмне забезпечення для допомоги при керуванні) та відома фігура в спільноті хакерів, опублікував аргумент на вихідних, який, м'яко кажучи, є предметом для активної дискусії.
Його позиція: правильно узгоджений AI, тобто AI, який дійсно служить своєму користувачу, повинен допомагати цьому користувачу робити все, що вони просять. Замовляти підозрілі хімічні речовини. Пояснювати незаконні процеси. Допомагати планувати злочин. Якщо користувач цього хоче, AI повинен допомогти.
Хотц порівняв цей тип AI з гвинтівкою. Гвинтівка не задає запитань.
Він відповідав на політичний документ під назвою AI 2040: Plan A, опублікований AI Futures Institute. Документ пропонує дослідникам AI у всьому світі добровільно уповільнити розвиток на 14 років, щоб дати людству час з'ясувати питання безпеки. Хотц вважає, що це неправильний підхід. Він переконаний, що реальне рішення проблеми безпеки AI – це локальні моделі AI, програмне забезпечення, яке працює на вашому власному пристрої і відповідає лише перед вами, а не перед централізовано керованими сервісами на кшталт ChatGPT або Claude, якими керує компанія та які вона обмежує.
Ця частина його аргументу дійсно цікава. Як зазначалося у висвітленні TechCrunch AI, більшість сучасного AI живе на серверах компаній, формується компанійними правилами та може бути змінено або вимкнено в будь-який момент. По-справжньому персональний AI, той, що живе у вашому телефоні та працює лише для вас, – це зовсім інша річ. Більше схожий на приватний інструмент, ніж на сервіс підписки.
Але Хотц заходить далі за цю розумну думку в складніші території. Його формулювання по суті така: свобода означає відсутність обмежень, точка.
Практична проблема в тому, що свобода ніколи не працювала саме так ні для кого. Дороги, правила безпеки харчових продуктів, контрактне право – все це обмеження, які забезпечують функціонування більш широкої мережі суспільства. Продукти, які використовують мільйони людей, розташовані всередині цієї мережі незалежно від того, чи подобається це їх розробникам.
Ось проста версія: якщо AI допомагає одній людині спланувати щось, що шкодить іншій людині, жертва не давала згоди на такий порядок. Свобода першого користувача закінчується десь біля благополуччя другого.
Для звичайних користувачів це ніяк не змінює те, що можуть робити інструменти AI сьогодні. ChatGPT, Claude та подібні асистенти продовжуватимуть відхиляти запити, які перетинають чіткі юридичні або етичні лінії. Локальні моделі AI існують та поліпшуються, але дійсно потужні з них досі потребують технічного налаштування, яке більшість людей вважатимуть розчаровуючим.
Проте стежте за розвитком подій. У міру того як менші моделі стають більш потужними, питання про те, хто контролює ваш AI та яких правил він дотримується, матиме все більше значення для повсякденного життя.
