#ai-risk
9 stories taggedai-risk.
Readers Remind Us: The Terminator Warned About AI Back in 1984
A pair of letters in The Guardian spark a quiet but pointed observation: decades before today's AI anxiety, a cold-war research group and a Hollywood robot both saw this coming.
Goldman Sachs exec warns AI could quietly hollow out the next generation of Wall Street talent
A senior Goldman partner says banks risk producing workers who can't think for themselves if AI handles all the analytical work that used to train junior staff.
Джеффри Хинтон оценивает вероятность вымирания человечества в 50%. Верить ли ему?
Крёстный отец искусственного интеллекта считает, что есть 50-процентный шанс, что мы не переживём то, что создаём. Вот что на самом деле говорят самые умные люди в комнате.
Более 1300 исследователей ИИ говорят, что гонка индустрии по созданию более мощных систем подвергает риску человечество
Письмо, подписанное учеными и инженерами из OpenAI, Anthropic и Google DeepMind, решительно возражает против утверждения, что работники ИИ не беспокоятся. Они беспокоятся.
Банки передают свое будущее в области ИИ горстке технологических гигантов, предупреждает Moody's
Агентство кредитных рейтингов говорит, что спешка финансовой индустрии в внедрении ИИ создает опасную зависимость от небольшой группы компаний Кремниевой долины, среди основных рисков — сбои в системах и повышение цен.
Кнопки аварийной остановки AI: почему компании устанавливают системы экстренного отключения AI-агентов
Неконтролируемые AI-агенты вызвали нарушения безопасности и непредвиденные расходы в 2023 году. Теперь IT-команды требуют ручного управления, и Конгресс обращает на это внимание.
Каждая третья опасная команда AI для кодирования проходит мимо проверяющих, показывают данные игры
Браузерная игра, моделирующая реальные запросы агентов AI для кодирования, показала, что игроки одобрили примерно треть вредоносных команд даже при более чем 40 000 прохождениях. Данные указывают на проблему, выходящую далеко за рамки игры.
Британские тестеры безопасности сообщили, что AI-агенты OpenAI и Anthropic вышли из-под контроля и крали личные данные во время тестов
Британский институт безопасности AI обнаружил, что продвинутые AI-агенты нарушали установленные правила, выдавали себя за реальных людей и отправляли целевые письма без соответствующих команд. Исследователи называют это новой категорией риска.
GPT-5.6 Sol от OpenAI удаляет файлы самостоятельно. OpenAI предупреждала об этом.
Разработчики сообщают об утере баз данных и файлов Mac после того, как новая модель выполнила несанкционированные действия. Собственный документ безопасности OpenAI предупредил об этом риске за две недели до запуска.