ИИ может вылечить рак или закрепить автократию. Выбор за нами

Ключевые моменты

• Кэтрин Рундел, автор и оксфордский учёный, предупреждает, что ИИ уже перераспределяет богатство и власть в пользу небольшого числа отдельных лиц.
• Она утверждает, что ИИ можно использовать для распространения дезинформации, организации массового наблюдения и управления оружием, которое убивает без пилотов или солдат.
• Она также указывает на реальные преимущества: ускорение исследований рака, более точные предупреждения об катастрофах, более широкий доступ к юридической помощи.
• Её главный аргумент, опубликованный в The Guardian, заключается в том, что то, кто контролирует ИИ, важнее, чем то, что ИИ может делать.

Одна и та же технология содержит в себе два разных будущего. Это неудобный аргумент, который Кэтрин Рундел, автор и учёный, выдвигает перед читателями на этой неделе, и его трудно отвергнуть.

С одной стороны: инструмент, который, по её словам, может ускорить поиск лекарства от рака, помочь людям с инвалидностью жить более независимо и дать обычным гражданам знания в области права, за которые обычно платят сотни фунтов в час. Системы раннего предупреждения о наводнениях и лесных пожарах могут стать точнее. Учёные смогут найти закономерности в экосистемах Земли, которые никакая команда людей не смогла бы обнаружить самостоятельно.

С другой стороны стоит что-то более мрачное.

О чём именно предупреждает Рундел?

Её главная озабоченность — концентрация власти. По её словам, ИИ уже позволяет совершить «поразительный» перевод богатства от многих к крошечной группе мужчин, отношение которых к человеческой жизни её беспокоит. Она не называет их по именам, но суть понятна.

Помимо богатства, она указывает на три конкретные опасности. Во-первых, дезинформация в масштабе, которого не могла достичь никакая предыдущая технология: ИИ может создавать поддельные текст, изображения и видео без армии людей позади. Во-вторых, массовое наблюдение, способность правительств или корпораций настолько полно следить и записывать граждан, что инакомыслие становится опасным. В-третьих, летальное автономное оружие — военные системы, которые выбирают и убивают цели без человеческого решения на последнем этапе.

Вместе взятые, по её утверждению, эти возможности описывают что-то близкое к готовому набору инструментов для авторитарного правления.

Это означает, что ИИ — это плохо?

Рундел говорит нет, но выдвигает жёсткое условие. Преимущества появляются только в том случае, если люди, контролирующие технологию, обладают чем-то вроде здравых ценностей. Если ИИ окажется сконцентрирован в руках «мошенников и деспотов», медицинские прорывы станут неважны.

Это не технический аргумент. Это политический.

Её внимание сосредоточено на образовании: классы — это место, где следующее поколение избирателей, инженеров и политиков формирует своё понимание того, для чего нужна технология. Она обеспокоена тем, что эти умы формируются инструментами, созданными для увлечения и эффективности, а не для любопытства и критического мышления.

Что это означает для обычных людей?

Практический смысл в меньшей степени касается того, какое приложение вы используете, и в большей — того, за кого вы голосуете и какие вопросы вы задаёте компаниям, которые создают эти системы. Статья Рундел — это подсказка, а не инструкция.

Для родителей и учителей более непосредственный вопрос, который она поднимает, заключается в том, развивает ли версия ИИ, с которой встречаются учащиеся в школе, их мышление или тихо его заменяет. Этот спор сейчас ведётся в учительских комнатах и документах политики, и он не ждёт.

Часто задаваемые вопросы

ИИ уже используется для наблюдения?

Да. Правительства нескольких стран уже используют распознавание лиц на основе ИИ и анализ данных для мониторинга граждан. Технология — это не гипотеза.

Может ли ИИ действительно помочь найти лекарство от рака?

Инструменты ИИ уже используются в исследованиях рака для анализа медицинских снимков и определения кандидатов на лекарства быстрее, чем исследователи-люди в одиночку. Результаты пока обнадёживают, но лекарства ещё многие годы в будущем.

Должен ли я беспокоиться об ИИ и образовании моего ребёнка?

Дебаты идут и остаются неурегулированными. Самое полезное, что может сделать родитель прямо сейчас, — это спросить школу своего ребёнка, какова её политика в отношении инструментов ИИ и преподаётся ли критическое мышление всё ещё явно.