Канадский политик случайно прочитал инструкции своего ИИ-помощника во время речи в парламенте
Депутат законодательного собрания Нью-Брансуика произнес строку, предназначенную только для искусственного интеллекта, вслух и под запись. Это небольшой неловкий момент, который указывает на более важную проблему о том, кто на самом деле выполняет работу.
Ключевые моменты
- Билл Оливер, член Законодательного собрания Нью-Брансуика от Прогрессивно-консервативной партии, случайно прочитал инструкцию ИИ-помощника вслух во время парламентской речи.
- Строка «вот более естественный и плавный вариант этого отрывка, который читается как парламентская речь, а не как серия отдельных пунктов» — это классический ответ большой языковой модели, технологии, лежащей в основе чатботов типа ChatGPT и Claude.
- Видеоклип сначала остался незамеченным, но распространился в социальных сетях, включая Reddit и Threads, на этой неделе.
- Канадские издания CBC и The Toronto Star с тех пор подхватили эту историю.
Что именно произошло?
Оливер был в середине речи об ограничениях работы офисов защиты прав, когда что-то пошло не так. Он прочитал одно легитимное предложение о политике, а затем продолжил и произнес вслух то, что должно было остаться незамеченным: инструкцию по форматированию, которую оставил сам ИИ в своем ответе.
Вторая строка о «естественном и плавном варианте», который «читается как парламентская речь», — это не человеческая мысль. Это способ, которым большая языковая модель, программное обеспечение, генерирующее текст в инструментах типа ChatGPT, объясняет пользователю, что она переписала отрывок в другом стиле. Модель оставляет эту заметку прямо в тексте. Оливер, похоже, скопировал все целиком и прочитал каждое слово.
Эта речь произошла в прошлом месяце. Никто не обратил на нее внимание в тот момент.
Почему это привлекает внимание сейчас?
Видеоклип начал распространяться на Reddit и Threads на этой неделе, и история быстро достигла канадских традиционных СМИ. Ars Technica AI была одним из первых изданий, освещавших это на международном уровне.
The Toronto Star назвала это симптомом «растущего разделения в нашем обществе: между элитой, которая охотно делегирует свои обязанности машинам, и массами, которые это находят неприемлемым». Сильные слова, но разочарование легко понять. Парламентская речь должна отражать собственное мышление политика. Если чатбот ее пишет и никто даже не проверяет текст, избирателям есть о чем беспокоиться.
Имеет ли это практическое значение?
С практической точки зрения одна неудачная речь ничего не меняет. Политики всегда использовали авторов речей и помощников-исследователей. ИИ — это просто более быстрая и дешевая версия такой же помощи.
Что изменилось здесь, так это видимость ошибки. Когда ошибается человеческий автор-невидимка, ошибка выглядит как опечатка или неловкая фраза. Когда ошибается ИИ, он оставляет строку, которая явно нечеловеческая — инструкцию по форматированию, написанную для машины, а не для зала, полного избирателей.
Здесь также стоит отметить предвзятость выжившего: мы слышим о политиках, которых поймали. Те, кто внимательно проверяет текст перед выступлением, остаются невидимыми.
Честный вывод: Если вы используете ИИ-инструмент для подготовки чего-либо, что вы собираетесь сказать или подписать, прочитайте каждое слово перед тем, как это оставит ваши руки. Модель полезна. Но она не гарантирует защиту от неловкости.
