Австралія планує запровадити жорсткі правила щодо того, як уряд може використовувати ШІ при прийнятті рішень про вас

Ключові моменти

• Уряд Албанезе розробляє національний план регулювання використання ШІ в державних департаментах та органах.
• Правила повинні охопити захист прав споживачів, безпеку на робочому місці та приватність.
• План акцентує увагу на справедливості, точності та прозорості в автоматизованих державних рішеннях.
• Окремий законодавчий проект Лейбористської партії про "цифровий обов'язок дбайливості" реалізується паралельно з новим планом.

Коли державний орган вирішує, чи ви маєте право на допомогу, візу чи ліцензію, рішення може прийняти не людина. Це може бути алгоритм — набір комп'ютерних інструкцій, які аналізують ваші дані та виводять відповідь. Федеральний уряд Австралії тепер хоче запровадити жорсткі правила саме для цього процесу.

Старші міністри уряду Албанезе почали розробляти національний план ШІ, про що вперше повідомила The Guardian, який би застосовувався до автоматизованого прийняття рішень у всіх державних департаментах. Автоматизоване прийняття рішень означає, що висновок, який впливає на чиєсь життя, робить комп'ютерна система, а не людина.

Очікується, що план вийде за межі державних офісів. Захист прав споживачів, правила безпеки на робочому місці та гарантії приватності розглядаються серед варіантів.

Цю ініціативу вмотивовує стрімке зростання використання ШІ в державних органах та будівельний бум центрів обробки даних в Австралії — великих складоподібних споруд з комп'ютерними серверами, які зберігають і обробляють робочі навантаження ШІ.

Що це означає для звичайних людей?

Якщо ви коли-небудь отримали відмову від державного органу та задивалися, чому так сталося, ці правила призначені дати вам чіткішу відповідь. Уряд Албанезе каже, що його структура буде акцентувати три речі: справедливість, точність та прозорість. Простіше кажучи, система повинна ставитися до людей рівно, точно встановлювати факти та мати можливість пояснити своє обґрунтування.

Останній пункт найважливіший. Зараз автоматизовані системи можуть відхилити заявку без огляду логіки людиною. Нові правила спрямовані змінити це.

Паралельно з національним планом реалізується окремий законодавчий проект Лейбористської партії про те, що уряд називає законом про "цифровий обов'язок дбайливості". Обов'язок дбайливості — це юридичний обов'язок уникати завдання шкоди. Застосовано до цифрових систем, це означатиме, що компанії та органи, які впроваджують інструменти ШІ, несуть юридичну відповідальність, якщо ці інструменти завдають шкоди людям.

Жодна з цих законодавчих актів ще не остаточна. Правила все ще розробляються.

Звертайте увагу на ці ознаки того, що автоматизовані державні рішення можуть вас стосуватися:

• Лист про відмову, у якому немає конкретної причини, лише номер посилання.
• Рішення, що надійшло незвично швидко, без вказання прізвища посадовця.
• Прохання подати повторну заявку з додатковими документами, але без пояснення того, що пішло не так.

Якщо щось з цього трапиться, у вас є право просити перевірки людиною. Це право вже існує згідно з австралійським адміністративним правом, і новий план розроблений для того, щоб полегшити його реалізацію.

Дослідники та групи громадянського суспільства, які вимагають цих гарантій протягом років, уважно стежитимуть, чи матимуть остаточні правила дійсну силу чи залишатимуться на рівні рекомендацій.