ШІ зможе вилікувати рак або утвердити автократію. Вибір за нами

Ключові пункти

• Кетрін Рундел, авторка та оксфордська академіця, попереджає, що ШІ вже перенаправляє багатство та владу до невеликої групи осіб.
• Вона стверджує, що ШІ може використовуватися для поширення дезінформації, масового спостереження та керування зброєю, яка вбиває без людських пілотів чи військових.
• Вона також перелічує реальні переваги: прискорену дослідження раку, краще попередження про лиха, ширший доступ до юридичної допомоги.
• Її основний аргумент, опублікований у The Guardian, полягає в тому, що те, хто контролює ШІ, важливіше за те, що ШІ може робити.

Два майбутніх сценарії живуть усередині однієї й тієї ж технології. Це незручний аргумент, який Кетрін Рундел, авторка та академіця, ставить перед читачами цього тижня, і його важко відхилити.

З одного боку: інструмент, який, за її словами, міг би прискорити лікування раку, допомогти людям з інвалідністю жити незалежніше та дати звичайним громадянам такий обсяг юридичних знань, який зараз коштує сотні фунтів за годину. Системи раннього попередження про повені та лісові пожежі могли б стати точнішими. Вчені могли б виявити закономірності в екосистемах Землі, які жодна людська команда не могла б виявити самостійно.

З іншого боку — щось темніше.

Про що саме попереджає Рундел?

Її найгостріше занепокоєння — концентрація влади. ШІ, як вона пише, вже дозволяє «приголомшливий перерозподіл» багатства від багатьох на користь крихітної групи чоловіків, чиє ставлення до людського життя її лякає. Вона не називає їх на ім'я, але сенс дійде.

Окрім багатства, вона вказує на три конкретні небезпеки. По-перше, дезінформація в масштабах, яких не могла досягти жодна попередня технологія: ШІ може генерувати підроблений текст, зображення та відео без армій людських працівників за ним. По-друге, масове спостереження — здатність урядів чи корпорацій спостерігати та записувати громадян так повністю, що опір стає небезпечним. По-третє, автономна летальна зброя — військові системи, які обирають та вражають цілі без того, щоб людина приймала остаточне рішення.

Разом взяті, ці можливості, як вона стверджує, описують щось близьке до готового набору інструментів для авторитарного правління.

Це означає, що ШІ є поганим?

Рундел каже ні, але вона ставить суворе умовне обмеження. Переваги матеріалізуються лише якщо люди, які контролюють технологію, мають щось подібне до хороших цінностей. Якщо ШІ опиниться сконцентрований у руках «мерзавців та деспотів», медичні прориви стають неважливими.

Це не технічний аргумент. Це політичний аргумент.

Її фокус — освіта: класи — це місце, де наступне покоління виборців, інженерів та розробників політики формує своє розуміння того, для чого призначена технологія. Вона занепокоєна тим, що ці розуми формуються інструментами, побудованими для залучення та ефективності, а не для допитливості та критичного мислення.

Що це означає для звичайних людей?

Практичні наслідки стосуються менше того, яким додатком ви користуєтесь, і більше того, за кого ви голосуєте та які питання ви ставите компаніям, які розробляють ці системи. Текст Рундел — це підказка, а не інструкція.

Для батьків та вчителів більш невідкладне питання, яке вона порушує, полягає в тому, чи версія ШІ, з якою студенти зустрічаються в школі, розвиває їхнє мислення чи тихо його замінює. Ця дискусія відбувається прямо зараз у вчительських кімнатах та в документах політики, і вона не чекатиме.

Часті запитання

ШІ вже використовується для спостереження?

Так. Уряди кількох країн уже використовують розпізнавання облич на основі ШІ та аналіз даних для моніторингу громадян. Технологія не гіпотетична.

Чи ШІ дійсно може допомогти знайти лікування для раку?

Інструменти ШІ вже використовуються в дослідженні раку для аналізу медичних знімків та швидшого, ніж самотні людські дослідники, виявлення кандидатів у ліки. Результати поки що обнадійлюючі, але ліки залишаються роками далі.

Чи мені варто хвилюватися з приводу ШІ та освіти мої дитини?

Дискусія актуальна та невизначена. Найкорисніше, що батько чи матір можуть зробити прямо зараз, — це запитати школу своєї дитини, яка її політика щодо інструментів ШІ та чи все ще явно викладається критичне мислення.