#recursive self-improvement
7 stories taggedrecursive self-improvement.
Anthropic's CEO Wants to Slow Down AI and Let Outsiders Check His Own Models First
Dario Amodei has already opened Anthropic's models to independent evaluators and hopes the rest of the industry, and eventually authoritarian governments, will do the same.
AI Researchers Are Quitting Over Fears the Technology Could Kill Everyone
A wave of resignations and open warnings from inside the world's top AI labs suggests the people building these systems are genuinely frightened of what comes next.
Джеффри Хинтон оценивает вероятность вымирания человечества в 50%. Стоит ли ему верить?
Крёстный отец искусственного интеллекта считает, что есть пятидесятипроцентный шанс, что человечество не выживет в мире создаваемых им технологий. Вот что говорят люди, находящиеся в центре разработки этих технологий.
AI can run the experiments, but it cannot do the science
A Princeton-led study gave an AI agent six days, a $3,000 budget, and two unsolved research questions. The papers it produced were rejected. MIT Technology Review reports on what that tells us about self-improving AI.
OpenAI тихо распустила команду, следившую за опасностью AI
Группа, задачей которой было выявлять угрозы в собственных моделях OpenAI, больше не существует. Критики безопасности считают временные рамки показательными.
Mirendil подписывает контракт с Google Cloud на сумму более $100 млн для разработки самосовершенствующегося ИИ
Стартап ИИ, основанный бывшими исследователями Anthropic, будет использовать чипы Google и облачную инфраструктуру для разработки систем, которые со временем становятся умнее сами по себе.
Ведущий исследователь в области ИИ Лилиан Вэнг уходит из стартапа, а затем возвращается в OpenAI
Вэнг стала соучредителем Thinking Machines всего несколько месяцев назад. Теперь она вернулась в OpenAI, чтобы руководить исследованиями систем ИИ, которые могут совершенствовать себя сами.