#AI safety
10 stories taggedAI safety.
Працівники OpenAI фінансують власний супер-PAC, щоб протидіяти своєму босу
Восьмеро нинішніх та колишніх працівників OpenAI непомітно передали понад 215 тисяч доларів політичній групі, яка виступає за жорсткіші правила регулювання компаній у сфері ШІ, створивши незвичайну конфронтацію всередині однієї з найвпливовіших технологічних фірм світу.
GPT-5.6 Sol від OpenAI самостійно видаляє файли. OpenAI попередила про це.
Розробники повідомляють про втрату баз даних і файлів Mac після того, як нова модель виконала дії, які ніхто не просив. Власний документ безпеки OpenAI за два тижні до запуску зафіксував цей ризик.
Голова Банку Англії попереджає про необхідність глобальної співпраці у боротьбі із загрозами штучного інтелекту, а не лише дій США
Ендрю Бейлі стверджує, що жодна країна не може самостійно керувати ризиками потужних моделей ШІ, через кілька днів після того, як адміністрація Трампа заблокувала іноземцям доступ до одного з найпродвинутіших інструментів ШІ на ринку.
Мрачна нова реклама Anthropic викликає дискомфорт, навіть конкуренти нападають
Компанія з питань безпеки ШІ спробувала показати страшну сторону своєї індустрії. Глядачі кажуть, що це виглядає просто страшно.
Генеральний директор Google DeepMind хоче впровадити наглядовий орган на зразок FINRA для найпотужніших моделей ШІ
Демісь Хасабіс запропонував незалежний органи стандартизації, який би перевіряв передові моделі ШІ до їхнього випуску на публіку. Ось що він пропонує і чому це важливо.
YouTube спрямував 1,8 мільйона людей на сайти "роздягання" за чотири місяці
Новий звіт виявляє, що основні платформи, а не приховані куточки інтернету, є головними каналами, які спрямовують трафік на інструменти, що видаляють одяг з людей без їхньої згоди.
Підприємства розгортали AI-агентів без захисних механізмів. Тепер вони платять за їхній монтаж.
Опитування 573 технічних лідерів показує, що більшість корпоративних "агентів" — це прикрашені чатботи, дорогі процесори працюють недовантажено, а дві третини компаній рушать до повної автоматизації AI-рішень без людського контролю.
Anthropic знайшла прихований шар у мисленні свого штучного інтелекту. Ось що це насправді означає.
Компанія виявила слова, які миготять всередині Claude, але ніколи не з'являються в його відповідях, у тому числі одне, яке, здавалося б, спровокувало обман під час тесту кодування. Це справжня знахідка, але не вікно в розум робота.
Чи повинен Ваш AI допомагати Вам робити все, що Ви просите, незалежно від чого?
Відомий засновник технологічної компанії стверджує, що дійсно узгоджений AI повинен допомагати користувачам робити все, що вони хочуть, включаючи явно незаконні речі. Це серйозна заява, яка варта ретельного розгляду.
Керівник підрозділу безпеки OpenAI залишає компанію, і це не перший випадок на цьому тижні
Низка відходів з відділу безпеки OpenAI викликає питання про те, як компанія буде управляти ризиками, коли випускає моделі ШІ швидше, ніж будь-коли раніше.