Когда AI-бот наносит вред, кто платит? Австралийские эксперты по праву указывают на людей, которые его развернули

Ключевые моменты

• AI-агенты — программное обеспечение, способное самостоятельно выполнять многошаговые задачи, не могут нести юридическую ответственность за любой причиненный ими вред согласно действующему законодательству.
• Австралия зафиксировала первый задокументированный инцидент автоматизированного взлома с участием AI-агента.
• Профессор Джини Патерсон говорит, что развертывание AI-агента, причиняющего предсказуемый вред, делает развертывающего его лицо юридически ответственным, даже без умышленного намерения.
• Юридические эксперты предупреждают, что разработчики, а не только операторы, также могут нести ответственность в зависимости от того, как разворачивается ситуация с причинением вреда.

AI-агент причинил вред в Австралии, и никто точно не знает, кто должен за это платить. Это неудобный вопрос, который теперь стоит перед юристами, регуляторами и компаниями, которые начали предоставлять автономные программные инструменты клиентам и сотрудникам.

Что на самом деле произошло?

Австралия зафиксировала то, что эксперты называют первым задокументированным инцидентом автоматизированного взлома с участием AI-агента. Об этом случае сообщила The Guardian AI, хотя конкретная цель и оператор не были названы публично. Детали менее важны, чем правовой пробел, который обнаружил инцидент: программное обеспечение действовало, причинило ущерб и не имело собственного юридического статуса.

AI-агенты отличаются от обычных чатботов. Чатбот отвечает на вопросы. Агент предпринимает действия: просматривает веб-сайты, отправляет сообщения, пишет и запускает код, иногда от вашего имени, иногда без запроса разрешения на каждом этапе. Именно эта автономность усложняет назначение ответственности.

Кто несет юридическую ответственность?

На данный момент — человек или компания, которые развернули агента. Точка.

«Если я развертываю AI-агента и он причиняет вред кому-то еще, я несу ответственность за этот вред», — говорит профессор Джини Патерсон, эксперт по правовой ответственности AI. «Даже если я не имел в виду, чтобы это произошло, это было предсказуемо, и я должен брать на себя ответственность».

Логика согласуется с тем, как действующее законодательство обращается с другими инструментами. Если неисправное оборудование компании ранит кого-то, компания отвечает за это. Оборудование нет. На данный момент AI-агенты подпадают под ту же правовую категорию.

Менее ясно, может ли ответственность распространяться дальше по цепочке на разработчиков, которые создали агента. Эксперты говорят, что это зависит от того, вытекает ли вред из конструктивного дефекта или из того, как использовался агент.

Что это означает для обычных людей?

Если компания развертывает AI-агента, который действует на ваши данные, аккаунты или устройства, и что-то пойдет не так, эта компания — ваше первое обращение, а не компания AI, чьи технологии лежат в основе.

Для компаний, задумывающихся о развертывании агентов: гибкость и скорость, которые предлагают эти инструменты, сопровождаются прямой юридической ответственностью. Агент, который отправляет письма, бронирует встречи или взаимодействует с системами третьих сторон от вашего имени, юридически говоря, — ваше действие.

Более сложный вопрос заключается в том, будут ли суды когда-нибудь смотреть дальше оператора и в сторону лаборатории, которая разработала базовую модель. Этот аргумент еще не был проверен в Австралии и в большинстве других мест.

Часто задаваемые вопросы

Можно ли подать в суд на саму компанию AI?

Не прямолинейно, по крайней мере не пока. Действующая юридическая теория возлагает ответственность на лицо или компанию, которые решили развернуть агента, хотя юридические эксперты говорят, что ответственность разработчика остается открытым вопросом по мере возникновения дополнительных инцидентов.

Должен ли я беспокоиться об AI-агентах, используемых компаниями от моего имени?

Стоит спросить у любой компании, какие автоматизированные инструменты действуют на ваши данные и какой у них процесс подачи жалоб, если что-то пойдет не так. У вас есть те же права потребителя, как и для любого другого сервиса.