Тестування справедливості штучного інтелекту легко. Доведення їхньої роботи — це зовсім інша проблема
Нове дослідження показує, що математичний ярлик, який пов'язує два типи аудиту штучного інтелекту, виходить з ладу в момент, коли ви намагаєтесь верифікувати, а не просто перевіряти, що система працює послідовно.
Ключові моменти
- Дослідники Apple ML Research опублікували результати, показуючи, що тестування та верифікація властивостей, інваріантних щодо локалізації, класу математичних правил про те, як системи штучного інтелекту обробляють дані, працюють неоднаково.
- Взаємозв'язок, який робив тестування цих властивостей простим, виявляється марним, коли мета переходить на верифікацію, яка встановлює більш суворий стандарт доказу.
- Розрив важливий для будь-кого, хто намагається сертифікувати, що модель штучного інтелекту послідовно обробляє подібні вхідні дані, що стосується серцевини аудиту справедливості та надійності.
- Робота є теоретичною, але має практичні наслідки для регуляторів та розробників, які покладаються на статистичні ярлики для аудиту поведінки штучного інтелекту в масштабі.
Існує тиха припущення, вбудована в багато аудитів штучного інтелекту: якщо дві математичні задачі виглядають структурно подібними, розумне рішення для однієї повинно перейти до іншої. Нова теоретична робота Apple ML Research припускає, що це припущення може не працювати значимим чином.
Дослідження зосереджується на тому, що називається властивостями, інваріантними щодо локалізації. Це формальна назва простої ідеї: правило про функцію, математичний об'єкт, який відображує вхідні дані на вихідні, що цікавить тільки як часто з'являється кожне значення виходу, а не де воно з'являється. Подумайте про це як оцінювання плейлиста за тим, скільки разів кожна пісня звучить, незалежно від порядку.
Виявляється, що тестування того, чи має функція цей вид властивості, тісно пов'язане з тестуванням того, чи має розподіл ймовірності, опис того, наскільки вірогідні різні результати, має відповідну властивість. Дослідники знали про це роками й вважали це корисним. Це означало, що методи з однієї галузі могли перейти до іншої.
Але нова стаття проводить чітку лінію на верифікації.
Верифікація суворіша за тестування. Тестування перевіряє властивість шляхом вибірки: ви переглядаєте обмежену кількість вхідних даних і вирішуєте, чи, ймовірно, правило виконується. Верифікація означає підтвердження того, що вона остаточно виконується, з огляду на надійний опис системи, яку ви перевіряєте. Дослідники показують, що охайний взаємозв'язок між функціями та розподілами, такий корисний при тестуванні, повністю розпадається в умовах верифікації.
Чому це важливо за межами математики?
Чи повинні аудитори хвилюватися?
Так, у конкретний та практичний спосіб. Розробники та регулятори все більше хочуть сертифікувати, що системи штучного інтелекту працюють послідовно, а не просто припускати, що вони, ймовірно, роблять. Якщо ярлик, який працює для статистичних вибіркових перевірок, не працює для формальних гарантій, то інструменти та методи доказу, побудовані на цьому ярлику, можуть дати помилкову впевненість.
Розрив зберігається в кількох технічних параметрах, які досліджує документ, а не лише в одному граничному випадку. Це робить його структурним висновком, а не цікавістю.
Поки що це теоретичне дослідження. Вона не вказує на неправильний продукт або неправильний аудит, який мав місце в реальному світі. Те, що вона робить, це звужує набір інструментів: методи, які є дійсними для ймовірнісного тестування, потребують окремого, складнішого обґрунтування, перш ніж хтось використовує їх для сертифікації гарантій послідовності.
Для пацієнтів, клієнтів або працівників, чиї життя формуються рішеннями штучного інтелекту, висновок є непрямим, але реальним. Формальна верифікація правил справедливості штучного інтелекту складніша, ніж здається, і цей документ точно пояснює, чому.
