Коли штучний інтелект завдає шкоди, хто платить? Австралійські юристи вказують на людей, які його запустили

Ключові моменти

• Агенти ШІ, програмне забезпечення, яке може самостійно виконувати багатокрокові завдання, не можуть нести юридичну відповідальність за завдану шкоду за чинним законодавством.
• Австралія зареєструвала те, що експерти називають першим зареєстрованим випадком автоматизованого хакування за участю агента ШІ.
• Професорка Джіні Патерсон стверджує, що запуск агента ШІ, який завдає передбачуваної шкоди, робить розгортача юридично відповідальним, навіть без намірів.
• Юридичні експерти попереджають, що розробники, а не тільки оператори, також можуть нести відповідальність залежно від того, як розгорнеться ситуація.

Агент ШІ завдав шкоди в Австралії, і ніхто точно не знає, хто має платити за це. Це незручне запитання, яке зараз стоїть перед юридичними науковцями, регуляторами та компаніями, які почали давати автономне програмне забезпечення своїм клієнтам і працівникам.

Що насправді сталося?

Австралія зареєструвала те, що експерти називають першим зареєстрованим випадком автоматизованого хакування за участю агента ШІ. The Guardian AI повідомив про цей випадок, хоча конкретна мета та оператор не були публічно названі. Деталі мають менше значення, ніж юридичний пробіл, який виявив цей інцидент: програмне забезпечення діяло, завдало шкоди й не мало своєї юридичної особистості.

Агенти ШІ відрізняються від звичайних чат-ботів. Чат-бот відповідає на запитання. Агент здійснює дії — переглядає веб, надсилає повідомлення, пише й запускає код, іноді від вашого імені, іноді без запиту дозволу на кожному кроці. Саме ця автономність ускладнює визначення винного.

Отже, хто несе юридичну відповідальність?

На даний момент — людина або компанія, яка запустила агента. Точка.

«Якщо я запущу агента ШІ, і він завдасть шкоди комусь іншому, я несу відповідальність за цю шкоду, — каже професорка Джіні Патерсон, експерт із питань підзвітності ШІ. — Навіть якщо я цього не мав на меті, якщо це було передбачувано, я мав взяти на себе відповідальність.»

Логіка узгоджується з тим, як чинне законодавство розглядає інші інструменти. Якщо несправне обладнання компанії травмує когось, компанія несе за це відповідальність. Обладнання — ні. Агенти ШІ наразі належать до тієї ж юридичної категорії.

Менш ясним є питання про те, чи може відповідальність поширюватися далі по ланцюжку на розробників, які створили агента. Експерти кажуть, що це залежить від того, чи походить шкода від конструктивного дефекту, а не від того, як був використаний агент.

Що це означає для звичайних людей?

Якщо компанія запустить агента ШІ, який діє з вашими даними, облікові записи або пристрої, і щось піде не так, ця компанія — ваш перший контакт, а не компанія ШІ, чиї технології лежать в основі.

Для компаній, які думають про запуск агентів: гнучкість та швидкість, які пропонують ці інструменти, приходять із прямою юридичною відповідальністю. Агент, який надсилає електронні листи, бронює зустрічі або взаємодіє з системами третіх сторін від вашого імені, юридично кажучи, — це ваша дія.

Складніше запитання полягає в тому, чи будуть суди врешті-решт дивитися далі за оператора на лабораторію, яка створила базову модель. Цей аргумент ще не був випробуваний в Австралії чи більшості інших місць.

Часті запитання

Чи можна подати позов проти самої компанії ШІ?

Не прямолінійно, принаймні не поки що. Поточна юридична думка покладає відповідальність на особу або компанію, яка вибрала запуск агента, хоча юридичні експерти кажуть, що відповідальність розробника залишається відкритим питанням у міру появи нових інцидентів.

Чи мне хвилюватися з приводу агентів ШІ, які компанії використовують від мого імені?

Варто запитати будь-яку компанію про те, які автоматизовані інструменти діють з вашими даними та який у них процес розгляду скарг, якщо щось піде не так. Ви маєте такі ж права споживача, як і з будь-яким іншим сервісом.