Anthropic вимагає суворіших законів про ШІ. Не всі вважають його мотиви чистими.
Виробник чатбота Claude тиснути держави регулювати передові ШІ системи суворіше, ніж очікував хтось у Силіконовій долині. Компанія говорить, що цього вимагає безпека. Критики кажуть, що це комерційний хід, замаскований під громадський інтерес.
Ключові моменти
- Anthropic, оцінена приблизно в $1 трильйон, активно лобіює американські штати на прийняття суворіших правил щодо найпотужніших систем ШІ.
- Каліфорнія та Нью-Йорк прийняли закони про прозорість у 2025 році, які підтримала Anthropic, але компанія тепер говорить, що ці закони недостатньо строгі.
- Anthropic підтримала міру штату Іллінойс та закон Массачусетсу, які вимагатимуть від компаній ШІ найняти зовнішніх аудиторів для перевірки своїх практик безпеки.
- Законопроекти, які підтримує Anthropic, застосовуються лише до компаній з річним доходом понад $500 млн, які витратили сотні мільйонів на розробку ШІ, що поточно охоплює невеликої групи великих фірм.
- Колишній радник Білого дому з питань ШІ Девід Сакс звинуватив Anthropic у використанні регулювання для послаблення менших конкурентів — звинувачення, яке Anthropic рішуче заперечує.
Компанія вартістю майже $1 трильйон, яка лобіює за жорсткіші правила щодо себе, звучить дивно. Anthropic робить саме це.
Компанія з Сан-Франциско, яка створила помічника ШІ Claude, тихо працює з урядами штатів по всій Америці, щоб прийняти одні з найсуворіших запропонованих правил щодо передового ШІ — найпотужніших систем ШІ, які існують сьогодні. За повідомленням Wired AI, глава відділу Anthropic з питань держустави та місцевого самоврядування Сезар Фернандес підтвердив цю ініціативу в нещодавному інтерв'ю.
«Прозорість та саморегулювання більше не є достатніми заходами безпеки для найпотужніших систем ШІ», — сказав Фернандес.
Отже, чого насправді хоче Anthropic? Компанія підтримала нові закони про прозорість у Каліфорнії та Нью-Йорку в 2025 році — закони, проти яких активно боролася більшість Силіконової долини. Тепер вона говорить, що вони вже застарілі. Вона підтримала законопроект Іллінойсу, який вимагає від лабораторій ШІ залучити сторонніх аудиторів — незалежні зовнішні фірми, які перевіряють, чи насправді працюють практики безпеки компанії. Совсім недавно вона підтримала подібну пропозицію Массачусетсу, яка також дала б генеральному прокурору штату право судити компанії ШІ, якщо вони відмовляться відповідати вимогам.
Ці правила просто розроблені, щоб зашкодити конкурентам Anthropic?
Таке звинувачення висловлюється, і воно походить від авторитетного джерела. Девід Сакс, який служив радником адміністрації Трампа з питань ШІ та залишається технологічним радником президента Трампа, публічно написав в минулому році, що Anthropic проводить «витончену стратегію нормативного захоплення», тобто використовує державні правила як зброю для захисту власної позиції на ринку, а не для захисту громадськості.
Фернандес це заперечує. Він вказує, що кожен законопроект, який підтримує Anthropic, застосовується лише до компаній з річним доходом понад $500 млн, які вже витратили сотні мільйонів на розробку ШІ. «Важко уявити стартап, який відповідатиме цьому порогу», — каже він.
Цей аргумент має слабке місце. Кілька добре фінансованих новіших компаній ШІ, включаючи Mistral, Safe Superintelligence та Thinking Machines Lab, кожна залучила мільярди доларів і могла б досягти цих порогів. Вони також є прямими конкурентами Anthropic.
Більш міцна версія аргументу Anthropic простіша: якщо компанія досить велика, щоб побудувати справді потужну систему ШІ, вона досить велика, щоб завдати серйозної шкоди. Той же ризик, ті ж правила.
Федеральне лобіювання Anthropic також викликає підозри. Минулого місяця компанія відправила лист американському уряду, звинувативши китайського технічного гіганта Alibaba в «атаці дистиляції», по суті стверджуючи, що Alibaba систематично квеснула моделі Anthropic, щоб вилучити знання та побудувати власні інструменти. Деякі дослідники ШІ говорять, що саме це звинувачення є формою нормативного захоплення — спробою переконати Вашингтон заблокувати китайські моделі ШІ з відкритим кодом (моделі, код яких є публічно доступним) і спрямувати американський бізнес у бік Anthropic.
Одна чесна висновок тут практичний. Якщо ви керуєте бізнесом, що використовує інструменти ШІ, стежте за законодавчими органами вашого штату. Вимоги щодо аудиту та правила про відповідальність наближаються, і вони визначатимуть, які продукти ШІ виживуть на ринку США протягом наступних двох-трьох років. Знання того, що в конвеєрі вашого штату зараз, нічого не коштує, але може врятувати від поспіху пізніше.
