Tag
#red teaming
3 stories taggedred teaming.
AI Security
A startup is selling stripped-down AI with no guardrails. Anyone can sign up for free.
Abliteration.ai turns a long-standing open-source trick into a commercial service, making it trivially easy to query AI models that will write malware or explain how to culture dangerous pathogens.
4 min read
AI Security
I chatbot AI potrebbero non essere mai completamente a prova di hacker, avvertono i ricercatori
Un difetto sepolto nel modo in cui i modelli linguistici di grandi dimensioni leggono il testo significa che gli attaccanti possono indurli a ignorare le loro stesse regole di sicurezza, e la soluzione potrebbe non esistere.
5 min read
AI Security
OpenAI ha creato un'IA che hackerizza i suoi stessi modelli per renderli più sicuri
GPT-Red è un sistema di red-teaming automatizzato che attacca i chatbot di OpenAI per trovare i punti deboli prima che lo facciano i veri aggressori. Ha già scoperto un trucco che i tester umani avevano mancato.
4 min read