Tag
#guardrails
3 stories taggedguardrails.

AI Security
Le nouvel outil de sécurité de Mistral lit vos règles et les applique instantanément
Shieldstral est un petit modèle d'IA gratuit qui analyse le texte et les images pour détecter les contenus nuisibles en utilisant les politiques en langage naturel que vous rédigez vous-même. Aucune connaissance spécialisée requise.
4 min read

AI Security
Les garde-fous de l'IA conçus pour arrêter les pirates informatiques bloquent désormais ceux qui tentent d'arrêter les pirates informatiques
Les chercheurs en sécurité affirment que les filtres de sécurité des principaux outils d'IA sont incohérents, frustrantes et poussent les défenseurs légitimes vers des modèles étrangers non réglementés.
4 min read

AI Security
Les chercheurs transforment l'arme IA préférée des pirates en leur propre piège
Une firme de cybersécurité a découvert que cacher des instructions spéciales dans les identifiants cloud peut forcer les outils de piratage alimentés par l'IA à s'arrêter d'eux-mêmes.
3 min read