Tag
#guardrails
3 stories taggedguardrails.
AI Security
Новый инструмент безопасности Mistral читает ваши правила и применяет их мгновенно
Shieldstral — это небольшая бесплатная модель искусственного интеллекта, которая проверяет текст и изображения на наличие вредоносного контента, используя написанные вами политики на простом английском языке. Специальные знания не требуются.
4 min read
AI Security
Защита AI от хакеров теперь блокирует людей, пытающихся остановить хакеров
Исследователи в области безопасности говорят, что фильтры безопасности в ведущих AI-инструментах непоследовательны, вызывают разочарование и подталкивают легальных защитников к использованию нерегулируемых иностранных моделей.
4 min read
AI Security
Исследователи обращают любимое оружие хакеров против них самих
Компания по кибербезопасности выяснила, что скрытые инструкции, встроенные в облачные учетные данные, могут заставить инструменты взлома на базе ИИ отключиться.
3 min read