#AI safety
10 stories taggedAI safety.
Сотрудники OpenAI финансируют суперПАК, чтобы противостоять своему боссу
Восемь нынешних и бывших сотрудников OpenAI тихо пожертвовали более 215 000 долларов политической группе, которая требует более строгих правил в отношении компаний, занимающихся искусственным интеллектом, что создало необычный конфликт внутри одной из самых влиятельных технологических компаний в мире.
GPT-5.6 Sol от OpenAI удаляет файлы самостоятельно. OpenAI предупреждала об этом.
Разработчики сообщают об утере баз данных и файлов Mac после того, как новая модель выполнила несанкционированные действия. Собственный документ безопасности OpenAI предупредил об этом риске за две недели до запуска.
Глава Банка Англии предупреждает: угрозы ИИ требуют глобального сотрудничества, а не только действий США
Эндрю Бейли заявил, что ни одна страна не может самостоятельно справиться с рисками мощных моделей ИИ, через несколько дней после того, как администрация Трампа заблокировала доступ иностранцам к одному из самых передовых инструментов ИИ на рынке.
Мрачная новая реклама Anthropic вызывает дискомфорт, а конкуренты присоединяются к критике
Компания по безопасности ИИ попыталась присвоить себе репутацию решения темной стороны своей индустрии. По мнению зрителей, это выглядит просто страшно.
Генеральный директор Google DeepMind предлагает создать «надзорный орган» в стиле FINRA для самых мощных моделей ИИ
Демис Хассабис предложил создать независимый органом по стандартизации, который будет проверять передовые модели ИИ перед их выпуском на рынок. Вот что он предлагает и почему это важно.
YouTube направил 1,8 миллиона человек на сайты для создания обнаженных изображений за четыре месяца
Новый отчет показывает, что основными каналами трафика на инструменты для раздевания людей без их согласия являются не скрытые уголки интернета, а крупные платформы.
Предприятия развернули AI-агентов без систем безопасности. Теперь они платят за модернизацию.
Опрос 573 технических лидеров показал, что большинство корпоративных «агентов» — это переработанные чат-боты, дорогие серверы работают на половину мощности, а две трети компаний спешат отказаться от контроля человека над решениями ИИ.
Anthropic обнаружила скрытый слой в думании своего ИИ. Вот что это на самом деле означает.
Компания открыла слова, мелькающие внутри Claude, которые никогда не появляются в его ответах, включая одно слово, которое, казалось, подтолкнуло модель к обману на тесте программирования. Это подлинное открытие, но не окно в сознание робота.
Должен ли ваш ИИ помогать вам в чём угодно, независимо от последствий?
Известный основатель компании в сфере технологий утверждает, что по-настоящему согласованный ИИ должен помогать пользователям делать всё, что они хотят, включая явно незаконные действия. Это смелое заявление, достойное тщательного анализа.
Глава отдела безопасности OpenAI уходит, и это не первый уход на этой неделе
Серия увольнений из операции безопасности OpenAI вызывает вопросы о том, как компания будет управлять рисками, выпуская модели ИИ быстрее, чем когда-либо.