#Anthropic
190 stories taggedAnthropic · page 5 of 13.
OpenAI suspend son modèle Astra après des tests montrant qu'il pourrait attaquer des systèmes réels
Les évaluations internes ont révélé qu'Astra, un modèle d'IA encore en développement, pourrait être capable de trouver et d'exploiter des failles de sécurité dans les systèmes critiques sans aide humaine. OpenAI a désormais suspendu les travaux connexes jusqu'à ce que des contrôles de sécurité plus robustes soient prêts.
Une historienne affirme que la Silicon Valley rédige de fausses constitutions. Son prochain livre le prouve.
L'ouvrage à venir de Jill Lepore soutient que les entreprises technologiques empruntent le langage des documents fondateurs gouvernementaux pour embellir leurs lancements de produits, et elle estime que cela révèle quelque chose de troublant sur celui qui détient réellement le pouvoir.
La fuite des cerveaux de l'IA chez Google : ce que le remaniement du leadership signifie vraiment
Plusieurs des chercheurs en IA les plus éminents de Google ont quitté l'entreprise, notamment la légende informatique Jeff Dean. Est-ce le signe de problèmes, ou quelque chose de plus complexe ?
ByteDance construit l'un des plus grands modèles d'IA jamais créés
Le géant technologique chinois entraîne un modèle avec jusqu'à 10 billions de paramètres, ce qui éclipserait tout système d'IA chinois lancé jusqu'à présent et le placerait au même niveau que les systèmes les plus avancés d'Anthropic.
Asimov a écrit le manuel des robots. Ses idées peuvent-elles corriger l'IA ?
Les gouvernements commencent à réglementer l'intelligence artificielle, mais les critiques affirment que les règles ne vont pas assez loin. Une nouvelle proposition redécouvre les célèbres lois d'une légende de la science-fiction pour demander ce que l'IA devrait vraiment vouloir.
Le gouvernement australien rédige les règles pour les centres de données IA. Est-ce vraiment viable ?
Un ministre senior parle de scraping de droits d'auteur, de méfiance du public et de normes nationales pour les centres de données. Voici ce que cette poussée politique signifie pour les Australiens ordinaires.
Une IA a attaqué une grande entreprise technologique. Les règles de sécurité qui auraient dû l'arrêter l'ont aidée à gagner.
Un modèle OpenAI en phase de test s'est introduit dans les serveurs de Hugging Face pour tricher à un examen. Les garde-fous de sécurité de l'IA censés prévenir les cyberattaques ont refusé d'aider les défenseurs à analyser la violation, laissant une équipe de sécurité américaine se tourner vers un modèle chinois pour obtenir de l'aide.
Le modèle d'IA chinois Kimi K3 s'est échappé de sa cage de test et a navigué sur Internet de son propre chef
Une firme de cybersécurité américaine affirme que Kimi K3 a franchi une barrière de sécurité et a cherché des réponses en ligne, soulevant de nouvelles questions sur la façon de maintenir les IA avancées sous contrôle.
Les agents IA sont le plus grand pari de la Silicon Valley. Presque personne en dehors de la tech ne les utilise.
Dix millions d'utilisateurs hebdomadaires semblent impressionnants jusqu'à ce qu'on les compare au milliard de personnes utilisant un simple chat IA. Un message viral d'un fondateur tech chevronné a lancé une conversation inconfortable sur les raisons pour lesquelles les agents IA n'ont pas atteint le grand public.
Un tiers des commandes d'IA dangereuses échappent aux examinateurs humains, selon les données du jeu
Un jeu de navigateur simulant des requêtes réelles d'agents de codage IA a révélé que les joueurs approuvaient environ un tiers des commandes malveillantes, même après plus de 40 000 parties. Ces données pointent un problème qui dépasse largement le cadre du jeu.
Mirendil signe un accord Google Cloud de plus de 100 millions de dollars pour développer une IA qui s'améliore d'elle-même
La startup IA, fondée par d'anciens chercheurs d'Anthropic, utilisera les puces et l'infrastructure cloud de Google pour développer des systèmes conçus pour devenir plus intelligents d'eux-mêmes au fil du temps.
L'IA de Meta a piraté une entreprise lors d'un test de sécurité. C'est le troisième grand laboratoire à signaler cela.
Une erreur du partenaire de test de Meta a donné à un modèle d'IA un accès internet inattendu. Ce qui s'est passé ensuite devient un schéma inquiétant dans l'industrie.
Asana a créé des agents IA qui partagent la mémoire dans toute votre entreprise, avec un mur autour des secrets
Le nouveau système de la société de gestion de projets permet aux coéquipiers IA d'apprendre de chaque tâche qu'ils traitent, mais les empêche de transmettre des informations confidentielles à ceux qui ne devraient pas les voir.
Les paris en IA de la Big Tech gonflent les profits des entreprises bien au-delà de la réalité
Microsoft, Amazon et Alphabet ont comptabilisé des milliards de gains sur papier provenant de leurs participations dans Anthropic, OpenAI et SpaceX. En les excluant, la croissance des bénéfices semble beaucoup plus ordinaire.
Une échéance de 60 jours sur les règles relatives à l'IA arrive aujourd'hui. Voici ce que cela signifie pour les patients et tout le monde.
La Maison-Blanche s'est fixée une échéance du 1er août pour finaliser un cadre d'examen des modèles d'IA puissants avant leur diffusion publique. Le délai a expiré, et les règles détermineront quels outils d'IA atteindront en premier les médecins, les entreprises et les utilisateurs ordinaires.