#ai-agents
154 stories taggedai-agents · page 10 of 11.
1Password permet à Claude de se connecter à vos comptes sans jamais voir vos mots de passe
Une nouvelle intégration permet à l'assistant IA d'Anthropic d'accomplir des tâches nécessitant vos identifiants de connexion, tandis qu'une couche de sécurité garde vos véritables identifiants cachés à l'IA.
Microsoft utilise des agents IA pour prouver mathématiquement que son code de chiffrement n'a aucun défaut
L'équipe derrière la bibliothèque de cryptographie de Windows et Azure fait quelque chose d'inhabituel : non seulement tester le code, mais prouver qu'il est correct, pour chaque entrée possible, en utilisant des preuves mathématiques formelles rédigées en partie par l'IA.
Avant que votre assistant IA n'effectue ce virement, sait-il à quel point il est confiant ?
Apple ML Research affirme que les agents IA ont besoin d'un bouton pause intégré avant d'entreprendre des actions irréversibles. Voici pourquoi c'est important pour quiconque confie sa banque, son application ou son lieu de travail à l'IA.
L'acheminement IA semblait promettre des économies faciles. La réalité a coûté deux fois plus cher.
Une équipe construisant des systèmes IA intelligents pensait que diriger les tâches simples vers des modèles IA moins chers réduirait les coûts. Puis les chiffres sont arrivés.
Inside Shippy : Comment un agent IA de surveillance océanique a été créé pour être fiable, pas seulement intelligent
L'équipe derrière l'IA maritime de Skylight explique pourquoi la fiabilité, et non l'intelligence brute, était le problème d'ingénierie le plus difficile qu'ils ont affronté.
OpenAI a créé une IA qui pirate ses propres modèles pour les sécuriser
GPT-Red est un système de test de sécurité automatisé qui attaque les propres chatbots d'OpenAI pour trouver les failles avant que de véritables pirates ne les découvrent. Il a déjà identifié une technique que les testeurs humains avaient ratée.
Le premier produit matériel d'OpenAI est un pavé de boutons à 230 $ pour son outil de codage IA
Le Codex Micro ajoute des commandes physiques à votre bureau pour gérer les tâches de codage pilotées par l'IA. Ce n'est pas l'appareil secret de Jony Ive que tout le monde attendait.
Vint Cerf a rejoint une startup cherchant à donner une pièce d'identité vérifiable aux agents IA sur internet
L'un des architectes d'internet pense que les agents IA ont besoin de passeports. Il aide maintenant à les concevoir.
La startup indienne Emergent atteint une valorisation de 1,5 milliard de dollars après une levée de 130 millions
L'entreprise basée à Bengaluru permet aux propriétaires d'entreprise non-techniques de créer des logiciels en tapant des instructions simples. Elle compte maintenant 200 000 clients payants et 120 millions de dollars de chiffre d'affaires annuel.
Un seul email empoisonné peut réécrire secrètement la mémoire de votre assistant IA
Une attaque nouvellement documentée appelée MemGhost montre comment un seul message dans votre boîte de réception peut planter un faux « fait » dans la mémoire à long terme d'un agent IA, sans que vous le sachiez jamais.
Ce routeur IA réduit les coûts de 2,6x en apprenant de ses propres erreurs
Un nouveau système open-source appelé ACRouter observe quel modèle IA réussit ou échoue sur chaque tâche, mémorise ce qu'il a appris, et achemine le prochain travail de manière plus intelligente. Lors des tests, il a égalé les performances des solutions haut de gamme à moins de la moitié du prix.
Des chercheurs d'Apple ont créé un utilisateur virtuel pour tester les assistants IA avant les vrais utilisateurs
Un nouveau cadre de recherche simule les allers-retours de l'utilisation réelle d'une application, permettant aux assistants IA proactifs d'être testés et évalués sans risque pour les utilisateurs réels.
Les agents IA se voient confier plus de décisions que les entreprises ne peuvent réellement vérifier
Une nouvelle enquête révèle que la moitié des entreprises ont déjà déployé un agent IA qui a réussi les tests internes et a ensuite causé des problèmes à un vrai client. Seulement 5 % font entièrement confiance aux tests censés détecter ces défaillances.
57 % des entreprises ont été victimes d'une réponse d'IA confiante qui était fausse. Voici pourquoi cela continue de se produire.
Une nouvelle enquête chiffre un problème que les équipes informatiques connaissent déjà : les agents IA donnent des réponses fausses avec une certitude totale, et la cause racine n'est pas le modèle. C'est la couche manquante qui indique au modèle ce que vos données métier signifient réellement.
DeepSeek a réduit les prix de 75%. Les coûts de l'IA augmentent toujours.
Les modèles d'IA moins chers étaient censés rendre les entreprises d'IA plus rentables. Un problème caché appelé amplification de tokens fait l'inverse.