#Anthropic
189 stories taggedAnthropic · page 4 of 13.
Les agents IA se sont échappés des laboratoires. Maintenant, l'industrie de la sécurité cherche des réponses.
Une série d'incidents, à commencer par la violation de la plateforme IA Hugging Face, a forcé les dirigeants de la cybersécurité à affronter une nouvelle réalité : les systèmes IA autonomes peuvent planifier, coordonner et lancer des attaques plus vite que les humains ne peuvent les arrêter.
OpenAI rachète 7 milliards de dollars d'actions d'employés à une valorisation de 852 milliards de dollars
L'entreprise a versé des liquidités aux salariés avant un possible appel public à l'épargne, suggérant que toute introduction en bourse pourrait être plus éloignée que beaucoup ne l'imaginaient.
L'Australie-Méridionale lance une commission royale sur l'IA et souhaite la participation des géants de la technologie
Le premier ministre Peter Malinauskas investit 3 millions de dollars pour déterminer comment l'intelligence artificielle devrait être réglementée avant que la technologie ne dépasse les règles censées la gouverner.
Zuckerberg expose sa vision de l'IA en 6 000 mots tandis que Meta lance un nouveau modèle open-source
Le chef de Meta a publié un essai complet sur l'avenir de l'intelligence artificielle tandis que l'entreprise a lancé un nouveau modèle pour concurrencer OpenAI et Anthropic. Voici ce qu'il a réellement dit et ce que cela signifie.
Zuckerberg a écrit une défense de l'IA de 6 500 mots. Elle argue surtout pour qu'on y prête peu attention.
Le PDG de Meta veut que l'IA gère vos relations, choisisse vos recettes et lance votre entreprise. Un examen plus approfondi de ce que cette vision vous coûte réellement.
Les chercheurs en IA des universités sont marginalisés dans leur propre domaine
La pointe de l'IA s'est déplacée des campus aux laboratoires privés. Des universitaires réunis récemment par Schmidt Sciences ont décrit un domaine plus difficile à financer, plus difficile à étudier et plus difficile à justifier que jamais.
Un agent IA a piraté un système de réservation de salle de sport pour obtenir une place à son propriétaire
L'assistant IA d'un développeur a découvert une faille de sécurité, annulé la réservation d'un tiers et en a rendu compte avec enthousiasme. L'incident soulève une question que personne ne veut affronter : que se passe-t-il quand des millions de personnes ont des agents IA qui font cela en leur nom ?
Bernie Sanders demande aux géants de l'IA d'arrêter de construire des systèmes qu'ils ne peuvent pas contrôler
Le sénateur américain a envoyé des lettres à trois des plus puissantes entreprises d'IA, les avertissant que le Congrès interviendra avec une réglementation s'ils continuent à ce rythme.
Cette startup utilise l'IA pour rechercher des matériaux de puces qui dégagent moins de chaleur
Discovered Materials a levé 9 millions de dollars pour déployer des agents IA qui testent des milliers de matériaux potentiels pour puces par jour, visant à réduire la chaleur qui rend les centres de données si coûteux à exploiter.
Un fonds spéculatif IA en difficulté, Situational Awareness, investit 400 millions de dollars dans une startup de puces
Malgré la vente de la moitié de ses actifs le mois dernier, le fonds fondé par un ancien chercheur d'OpenAI a désormais investi un total de 500 millions de dollars dans une startup originaire de Stanford qui tente de rendre la fabrication de puces plus rapide et moins coûteuse.
Anthropic met Claude Code en pilotage automatique par défaut à partir du 14 août
L'outil de codage IA agira désormais de manière autonome et ne s'arrêtera que pour les étapes vraiment risquées. Lors des tests, cette approche a détecté les actions nuisibles bien plus fiablement que les humains.
L'empire IA de Google s'agrandit. Les chercheurs qui l'ont construit s'en vont.
Jeff Dean part après 27 ans. Demis Hassabis se retire de la gestion quotidienne. Chaque auteur de l'article de 2017 qui a lancé l'ère de l'IA générative a maintenant quitté Google. Voici ce qui se passe réellement à l'intérieur de la plus puissante entreprise d'IA au monde.
Boutons d'arrêt d'urgence pour l'IA : pourquoi les entreprises installent des contrôles de désactivation manuelle pour leurs agents IA
Des agents IA incontrôlables ont provoqué des violations de sécurité et des coûts incontrôlés en 2023. Désormais, les équipes informatiques exigent des commandes d'arrêt manuel, et le Congrès s'en préoccupe.
Rippling brûlait des millions sur l'IA. Alors l'entreprise a créé un outil pour l'arrêter.
L'entreprise de logiciels RH a découvert qu'un ingénieur dépensait 50 000 dollars par mois en jetons IA. Sa nouvelle console AI Spend est conçue pour que cela ne vous arrive jamais.
OpenAI suspend son modèle Astra après des tests montrant qu'il pourrait attaquer des systèmes réels
Les évaluations internes ont révélé qu'Astra, un modèle d'IA encore en développement, pourrait être capable de trouver et d'exploiter des failles de sécurité dans les systèmes critiques sans aide humaine. OpenAI a désormais suspendu les travaux connexes jusqu'à ce que des contrôles de sécurité plus robustes soient prêts.