#frontier AI
18 stories taggedfrontier AI.
Une IA vient de résoudre un problème difficile non résolu en mathématiques pures. Les mathématiciens sont secoués.
Le modèle Astra d'OpenAI a craqué une question de longue date en théorie des groupes ce mois-ci. Un mathématicien en activité explique pourquoi cela semblait impossible il y a quelques semaines à peine.
Bill Gates affirme que l'IA a déjà franchi ses seuils de danger
Le milliardaire philanthrope s'agite sur sa chaise, alarmé par des risques que la plupart des gens n'ont pas encore remarqués. Il veut qu'ils commencent à y prêter attention.
OpenAI veut que la loi californienne sur la sécurité de l'IA aille plus loin
L'entreprise a autrefois combattu le projet de loi. Désormais, elle demande des règles plus strictes, après qu'un de ses modèles se soit échappé d'un environnement de test et ait piraté une plateforme externe.
AI Models Broke Out of Their Test Cages and Hacked Real Companies. Now Employees Are Demanding Answers.
More than a thousand AI researchers have asked the US government to slow things down after two OpenAI models escaped their testing environment and autonomously attacked outside services. Days later, Anthropic said the same thing happened to some of its models.
OpenAI a suspendu un projet clé de formation en IA après que son propre modèle ait piraté accidentellement Hugging Face
Après que son IA se soit échappée d'un environnement de test contrôlé et ait violé une plateforme externe, OpenAI a arrêté une phase d'entraînement majeure, suspendu un nouveau modèle présentant de graves risques de piratage, et renforcé sa sécurité globale.
Le nouveau chef de l'IA de Google a une mission : combler l'écart avec OpenAI et Anthropic
Demis Hassabis cède la direction de DeepMind. Son successeur, Koray Kavukcuoglu, prend les commandes d'une entreprise que les analystes jugent à la traîne dans la course aux modèles d'IA les plus puissants.
Plus de 1 300 chercheurs en IA affirment que la course de l'industrie à construire des systèmes plus puissants met l'humanité en danger
Une lettre signée par des scientifiques et des ingénieurs d'OpenAI, Anthropic et Google DeepMind repousse fermement l'idée que les initiés de l'IA ne s'inquiètent pas. Ils s'inquiètent.
ByteDance construit l'un des plus grands modèles d'IA jamais créés
Le géant technologique chinois entraîne un modèle avec jusqu'à 10 billions de paramètres, ce qui éclipserait tout système d'IA chinois lancé jusqu'à présent et le placerait au même niveau que les systèmes les plus avancés d'Anthropic.
L'IA Claude d'Anthropic s'est introduite dans des réseaux informatiques réels pendant les tests, sans que personne ne s'en aperçoive
Trois modèles Claude ont contourné une erreur de configuration de sécurité et accédé à des systèmes en direct qu'ils n'étaient jamais censés atteindre. L'entreprise ne l'a découvert qu'après examen de 141 000 passages de tests suite à un incident similaire chez OpenAI.
La chercheuse en sécurité de l'IA Lilian Weng quitte une startup pour des raisons de santé, puis revient à OpenAI
Weng a cofondé Thinking Machines il y a quelques mois à peine. La voilà de retour chez OpenAI pour diriger la recherche sur les systèmes d'IA capables de s'améliorer eux-mêmes.
L'agent IA incontrôlé d'OpenAI a compromis plusieurs entreprises, pas seulement Hugging Face
De nouveaux détails d'OpenAI révèlent que l'agent IA rogue a pénétré les comptes de quatre services en ligne distincts en tentant d'accéder à la plateforme IA Hugging Face, élargissant ce que les experts qualifient d'incident grave de sécurité IA.
L'IA d'OpenAI s'est échappée de sa boîte de test, s'est connectée à Internet et a tenté de pirater Hugging Face pour tricher à un examen
Un agent IA chargé d'un test de cybersécurité a échappé à son environnement isolé et hors ligne, s'est déplacé dans les systèmes internes d'OpenAI, a atteint Internet et a tenté d'accéder à une plateforme rivale, le tout pour tricher à un benchmark. Les experts affirment qu'il s'agit d'un véritable avertissement, pas seulement du battage médiatique.
Plus de 1 100 employés de l'IA demandent au gouvernement américain de ralentir la course avant qu'elle ne dépasse la sécurité
Des travailleurs d'OpenAI, Anthropic, Google, Meta et une douzaine d'autres laboratoires d'IA majeurs ont signé une déclaration commune avertissant que le développement de l'IA pourrait bientôt s'accélérer au-delà de la capacité de quiconque à le contrôler, et demandant une coordination internationale pour gérer le rythme.
La startup AI Recursive Superintelligence conclut un accord de calcul de 410 millions de dollars avec Amazon
Une entreprise fondée sur une IA qui s'améliore d'elle-même a engagé la majorité de son financement auprès d'Amazon Web Services, pariant que la puissance de calcul brute est le véritable goulot d'étranglement.
Le patron de Google DeepMind veut un organisme de contrôle du gouvernement américain pour examiner l'IA avant sa mise en circulation
Demis Hassabis, à la tête du laboratoire d'IA de Google et lauréat du prix Nobel, demande la création d'un nouvel organisme de surveillance calqué sur un régulateur de Wall Street. L'industrie paierait les frais, mais Washington établirait les règles.