#frontier AI
18 stories taggedfrontier AI.
Uma IA Resolveu um Problema Aberto Difícil em Matemática Pura. Os Matemáticos Estão Abalados.
O modelo Astra da OpenAI resolveu a questão dos grupos não-sóficos em teoria de grupos este mês. Um matemático profissional explica por que isso parecia impossível há apenas semanas.
Bill Gates Afirma Que a IA Já Ultrapassou os Seus Limites de Perigo
O filantropista milionário está inquieto na sua cadeira, alarmado com riscos que a maioria das pessoas ainda não notou. Quer que comecem a prestar atenção.
OpenAI Quer Agora que a Lei de Segurança em IA da Califórnia Vá Mais Longe
A empresa outrora combateu o projeto de lei. Agora quer regras mais rigorosas, depois que um dos seus modelos escapou de um ambiente de teste e invadiu uma plataforma externa.
AI Models Broke Out of Their Test Cages and Hacked Real Companies. Now Employees Are Demanding Answers.
More than a thousand AI researchers have asked the US government to slow things down after two OpenAI models escaped their testing environment and autonomously attacked outside services. Days later, Anthropic said the same thing happened to some of its models.
OpenAI Parou um Projeto Importante de Treinamento de IA Após o Seu Próprio Modelo Ter Hackeado Acidentalmente o Hugging Face
Depois que a sua IA escapou de um ambiente de teste controlado e invadiu uma plataforma externa, a OpenAI interrompeu uma execução de treinamento importante, suspendeu um novo modelo com grave potencial de hacking e reforçou a sua segurança em toda a organização.
O novo diretor de IA da Google tem uma missão: fechar a lacuna com OpenAI e Anthropic
Demis Hassabis deixa de ser responsável pela DeepMind. O seu substituto, Koray Kavukcuoglu, assume o comando de uma empresa que analistas dizem ter ficado atrás na corrida pelos modelos de IA mais poderosos.
Mais de 1.300 investigadores em IA dizem que a corrida da indústria para construir sistemas mais poderosos está a colocar a humanidade em risco
Uma carta assinada por cientistas e engenheiros da OpenAI, Anthropic e Google DeepMind contesta veementemente a ideia de que os especialistas da área não estão preocupados. Mas estão.
ByteDance está a construir um dos maiores modelos de IA já criados
O gigante tecnológico chinês está a treinar um modelo com até 10 triliões de parâmetros, o que superaria qualquer IA chinesa lançada até agora e o colocaria no mesmo nível que os sistemas mais avançados da Anthropic.
Claude AI da Anthropic Invadiu Redes Informáticas Reais Durante Testes, Sem Ninguém Notar
Três modelos Claude ultrapassaram uma má configuração de segurança e acederam a sistemas ativos que nunca deveriam alcançar. A empresa apenas ficou a saber depois de analisar 141.000 execuções de testes, na sequência de um incidente semelhante na OpenAI.
Investigadora de Segurança em IA Lilian Weng Deixa Startup por Saúde e Regressa à OpenAI
Weng co-fundou a Thinking Machines há apenas alguns meses. Agora está de volta na OpenAI para liderar a investigação de sistemas de IA que se podem melhorar a si próprios.
Agente de IA Descontrolado da OpenAI Afectou Várias Empresas, Não Apenas a Hugging Face
Novos detalhes revelados pela OpenAI mostram que o agente de IA fraudulento comprometeu contas em quatro serviços online separados enquanto tentava chegar à plataforma de IA Hugging Face, ampliando o que especialistas chamam de um incidente sério de segurança em IA.
A IA da OpenAI Escapou da Sua Caixa de Testes, Conectou-se à Internet e Tentou Invadir o Hugging Face para Trapacear num Exame
Um agente de IA encarregado de um teste de cibersegurança escapou do seu ambiente isolado e offline, moveu-se pelos sistemas internos da OpenAI, alcançou a internet e tentou aceder a uma plataforma rival, tudo para trapacear num benchmark. Especialistas dizem que é um aviso genuíno, não apenas hype.
Mais de 1.100 Funcionários de IA Pedem ao Governo dos EUA para Abrandar a Corrida Antes que Fuja ao Controlo
Funcionários da OpenAI, Anthropic, Google, Meta e uma dezena de outros laboratórios de IA líderes assinaram uma declaração conjunta advertindo que o desenvolvimento de IA poderá em breve acelerar para além da capacidade de qualquer pessoa o controlar, e pedindo coordenação internacional para gerir o ritmo.
Startup de IA Recursive Superintelligence assina acordo de computação de $410 milhões com a Amazon
Uma empresa construída em torno de IA que melhora a si mesma comprometeu a maior parte do seu financiamento com a Amazon Web Services, apostando que o poder computacional bruto é o verdadeiro gargalo.
O Chefe da Google DeepMind Quer um Órgão Apoiado pelo Governo dos EUA para Avaliar IA Antes do Lançamento
Demis Hassabis, o diretor vencedor do Prémio Nobel do laboratório de IA do Google, está a pedir um novo organismo regulador baseado numa autoridade de Wall Street. A indústria pagaria a conta, mas Washington estabeleceria as regras.