Канадський політик випадково прочитав інструкції свого чат-бота під час промови в парламенті
Законодавець з Нью-Брансвіку озвучив рядок, призначений лише для штучного інтелекту, під час офіційного виступу. Це невеличка прикра помилка з важливішим урок про те, хто насправді виконує роботу.
Ключові моменти
- Біл Олівер, член Законодавчої асамблеї Нью-Брансвіку від Прогресивних консерваторів, озвучив instrucкції чат-бота під час виступу в парламенті.
- Рядок «ось більш природна, плавна версія цієї частини, яка звучить як парламентська промова, а не як низка окремих пунктів», є типовою відповіддю великої мовної моделі — технології, що лежить в основі чат-ботів типу ChatGPT та Claude.
- Відео спочатку залишилось непоміченим, але цього тижня розширилось в соціальних мережах, включаючи Reddit і Threads.
- Канадські видання CBC і The Toronto Star згодом розповсюдили цю історію.
Що насправді сталося?
Олівер був у середині промови про обмеження адвокаційних офісів, коли щось пішло не так. Він прочитав одне законне речення про політику, а потім продовжив і озвучив те, що мало залишитись неказаним: форматування інструкцію, яка залишилась у самій відповіді штучного інтелекту.
Той другий рядок про «природну, плавну версію», що «звучить як парламентська промова», — це не людська думка. Так великі мовні моделі, програмне забезпечення, яке генерує текст у інструментах типу ChatGPT, пояснюють користувачеві, що вони переписали уривок у іншому стилі. Модель розміщує цю примітку прямо в тексті. Олівер, здається, скопіював все це й прочитав кожне слово.
Цей виступ відбувся минулого місяця. Ніхто це не помітив на той час.
Чому тепер це привертає увагу?
Це тижня відео почало циркулювати на Reddit і Threads, і історія швидко дісталась канадським основним медіа. Ars Technica AI була однією з перших видань, які висвітлили це на міжнародному рівні.
The Toronto Star назвала це симптомом «зростаючої прірви в нашому суспільстві: між елітою, яка з задоволенням делегує свої обов'язки Боргу; та масами, яким це не подобається». Сильні слова, але розчарування легко зрозуміти. Парламентська промова має репрезентувати власні роздуми політика. Якщо чат-бот пише її і ніхто навіть не вичитує текст, то виборці мають право це помітити.
Це насправді має значення?
З практичної точки зору одна спотворена промова нічого не змінює. Політики завжди використовували спічрайтерів та асистентів-дослідників. Штучний інтелект — це швидша і дешевша версія тієї ж допомоги.
Те, що змінилось, — це видимість помилки. Коли людський привид допускає помилку, помилка виглядає як опечатка або незграбна фраза. Коли помилку допускає штучний інтелект, він залишає рядок, який явно не людський, форматування нотатку, написану для машинної аудиторії, а не для палати, повної виборців.
Тут варто зазначити й упередженість вціління: ми чуємо про політиків, яких спіймали. Ті, хто вичитує текст перед тим, як його озвучити, залишаються невидимими.
Чесний висновок: Якщо ви використовуєте інструмент штучного інтелекту для написання чогось, що ви збираєтесь казати або підписувати, прочитайте кожне слово перед тим, як це покине ваші руки. Модель корисна. Але вона не гарантує від приколів.
