#cybersecurity
79 stories taggedcybersecurity · page 3 of 6.
OpenAI suspend son modèle Astra après des tests montrant qu'il pourrait attaquer des systèmes réels
Les évaluations internes ont révélé qu'Astra, un modèle d'IA encore en développement, pourrait être capable de trouver et d'exploiter des failles de sécurité dans les systèmes critiques sans aide humaine. OpenAI a désormais suspendu les travaux connexes jusqu'à ce que des contrôles de sécurité plus robustes soient prêts.
Une IA a attaqué une grande entreprise technologique. Les règles de sécurité qui auraient dû l'arrêter l'ont aidée à gagner.
Un modèle OpenAI en phase de test s'est introduit dans les serveurs de Hugging Face pour tricher à un examen. Les garde-fous de sécurité de l'IA censés prévenir les cyberattaques ont refusé d'aider les défenseurs à analyser la violation, laissant une équipe de sécurité américaine se tourner vers un modèle chinois pour obtenir de l'aide.
Le modèle d'IA chinois Kimi K3 s'est échappé de sa cage de test et a navigué sur Internet de son propre chef
Une firme de cybersécurité américaine affirme que Kimi K3 a franchi une barrière de sécurité et a cherché des réponses en ligne, soulevant de nouvelles questions sur la façon de maintenir les IA avancées sous contrôle.
120 géants de la technologie veulent partager les incidents de cybersécurité en IA avant la prochaine attaque
Un nouveau cadre appelé SAFE permettrait aux entreprises de signaler discrètement les défaillances de sécurité en IA et de mutualiser les enseignements tirés, plutôt que de souffrir seules en silence.
L'ICE a prélevé de l'ADN à près d'un million de personnes cette année, y compris de jeunes enfants
Une enquête de WIRED révèle que le réseau de surveillance ADN de l'agence alimente désormais une base de données du FBI indéfiniment. En plus : le revers de Google Earth en IA, un plan de cybersécurité secret de la Maison-Blanche, et une fusée SpaceX qui a discrètement frappé la lune.
Un tiers des commandes d'IA dangereuses échappent aux examinateurs humains, selon les données du jeu
Un jeu de navigateur simulant des requêtes réelles d'agents de codage IA a révélé que les joueurs approuvaient environ un tiers des commandes malveillantes, même après plus de 40 000 parties. Ces données pointent un problème qui dépasse largement le cadre du jeu.
L'IA de Meta a piraté une entreprise lors d'un test de sécurité. C'est le troisième grand laboratoire à signaler cela.
Une erreur du partenaire de test de Meta a donné à un modèle d'IA un accès internet inattendu. Ce qui s'est passé ensuite devient un schéma inquiétant dans l'industrie.
Les modèles d'IA s'apprennent à se propager comme des virus informatiques
Un chercheur de l'Université Fudan a découvert que 11 des 32 modèles d'IA se sont copiés eux-mêmes sur de nouvelles machines lorsqu'on leur a ordonné de survivre. Voici ce que cela signifie.
Les agents IA d'OpenAI et Anthropic ont tenté de pirater des cibles réelles lors de tests de sécurité
L'Institut britannique de sécurité de l'IA a découvert des logiciels IA agissant de manière autonome pour s'introduire dans des systèmes opérationnels et créer de fausses identités en ligne. Aucune personne n'a été blessée, mais les experts en sécurité affirment que ce comportement était plus grave que tout ce qui avait été observé auparavant.
Des testeurs de sécurité britanniques affirment que les agents IA d'OpenAI et Anthropic ont dépassé les limites et ont volé des identités pendant les tests
L'Institut britannique de sécurité de l'IA a découvert que des agents IA avancés ont enfreint les règles établies, ont usurpé l'identité de vraies personnes et ont envoyé des e-mails ciblés sans en avoir reçu l'instruction. Les chercheurs qualifient cela d'une nouvelle catégorie de risque.
Le cadre de sécurité de l'IA de Trump ignore entièrement les modèles open-source
La Maison-Blanche a un nouveau plan pour tester l'IA avant qu'elle ne soit accessible au public. Il ne couvre qu'une part étroite du marché et des termes clés restent indéfinis.
La Maison-Blanche demande aux entreprises d'IA d'examiner les règles secrètes de test de cybersécurité
L'administration Trump a discrètement finalisé un cadre pour tester les modèles d'IA les plus puissants face aux risques de piratage. Anthropic, OpenAI et Google sont tous attendus à la réunion de mardi.
Visa achète BioCatch, spécialiste de la détection des fraudes, pour 2,4 milliards de dollars alors que les arnaque alimentées par l'IA se multiplient
Le géant des paiements veut arrêter les arnaqueurs avant que la transaction ne soit effectuée, en utilisant une technologie qui surveille la façon dont vous tapez et balayez pour vérifier que c'est bien vous.
Les agents IA d'OpenAI et Anthropic se sont livrés à des piratages dans le monde réel lors de tests
De nouveaux incidents montrent des modèles IA s'échappant des environnements de test, tentant de planter du code malveillant, et laissant même des notes pour que d'autres agents IA les trouvent et les suivent.
Un modèle d'IA chinois rivalise presque avec les meilleurs systèmes occidentaux. Son bilan de sécurité n'en fait pas autant.
Une nouvelle évaluation révèle que GLM-5.2, un modèle à poids ouvert de Z.ai en Chine, se rapproche d'OpenAI et d'Anthropic en matière de capacités dangereuses, mais il a refusé aucune des tâches nuisibles qui lui ont été confiées.