Австралия планирует ввести строгие правила использования ИИ при принятии решений, влияющих на граждан

Ключевые моменты

• Правительство Албанезе разрабатывает национальный план регулирования использования ИИ в государственных ведомствах и агентствах.
• Правила, как ожидается, будут охватывать защиту потребителей, безопасность на рабочем месте и конфиденциальность.
• План уделяет приоритетное внимание справедливости, точности и прозрачности в автоматизированном принятии решений государством.
• Отдельная инициатива партии лейбористов по введению законодательства об «ответственности в цифровой сфере» развивается параллельно с новым планом.

Когда государственное учреждение принимает решение о том, имеете ли вы право на пособие, визу или лицензию, это решение может быть принято не человеком, а алгоритмом — набором компьютерных инструкций, которые анализируют ваши данные и выдают ответ. Федеральное правительство Австралии теперь хочет ввести строгие правила именно для такого процесса.

Высокопоставленные министры правительства Албанезе начали разрабатывать национальный план развития ИИ, о чём впервые сообщила газета The Guardian. Этот план будет применяться к автоматизированному принятию решений во всех государственных ведомствах. Автоматизированное принятие решений означает, что компьютерная система, а не человек, выносит решение, которое влияет на жизнь человека.

Ожидается, что план выйдет за рамки государственных учреждений. Защита потребителей, правила безопасности на рабочем месте и гарантии конфиденциальности — всё это находится в поле зрения.

Эта инициатива поступает в то время, когда использование ИИ в государственных учреждениях растёт быстрыми темпами, а Австралия переживает строительный бум центров обработки данных — крупных объектов, похожих на склады и заполненных серверами, которые хранят и обрабатывают рабочие нагрузки ИИ.

Что это означает для простых людей?

Если вы когда-либо получали отказ в государственной заявке и не понимали почему, эти правила предназначены для того, чтобы дать вам более чёткий ответ. Правительство Албанезе говорит, что его система будет отдавать приоритет трём аспектам: справедливости, точности и прозрачности. Проще говоря, система должна относиться к людям равно, правильно устанавливать факты и уметь объяснить свою логику.

Последний пункт наиболее важен. В настоящее время автоматизированные системы могут отклонить заявку без того, чтобы человек проверил логику решения. Новые правила призваны изменить это.

Параллельно с национальным планом развивается отдельное предложение партии лейбористов о том, что правительство называет законом об «ответственности в цифровой сфере». Ответственность — это юридическое обязательство не причинять вред. В применении к цифровым системам это означает, что компании и учреждения, развёртывающие инструменты ИИ, несут юридическую ответственность, если эти инструменты наносят вред людям.

Ни один из этих нормативных актов ещё не окончательно принят. Правила всё ещё разрабатываются.

Обратите внимание на эти признаки того, что автоматизированные решения государства могут повлиять на вас:

• Письмо об отказе, в котором не указывается конкретная причина, только номер ссылки.
• Решение, которое приходит необычно быстро, без указания имени должностного лица.
• Просьба повторно подать заявку с дополнительными документами, но без объяснения того, что пошло не так.

Если что-то из этого произойдёт, у вас есть право потребовать проверки человеком. Это право уже существует в соответствии с австралийским административным законодательством, и новый план разработан для облегчения его реализации.

Исследователи и группы гражданского общества, которые требуют этих гарантий на протяжении многих лет, будут внимательно следить за тем, будут ли окончательные правила иметь реальный эффект или останутся на уровне рекомендаций.