120 技術大企業がAIサイバーインシデント共有フレームワークを提案

主要なポイント

• Open Secure AI AllianceのThank120以上の組織が、ラスベガスのBlack Hatセキュリティカンファレンスの初日である2025年8月6日にSAFEフレームワークを提案しました。
• SAFEはShared AI Findings Exchangeの略で、AIセキュリティインシデントを産業全体で収集・共有するためのガイドラインです。
• NVIDIA、Cisco、CrowdStrike、Amazon、Visaはツールを提供し、アライアンスに参加しているメンバーの一部です。
• Linux Foundationは公開コメント期間を調整しており、組織がガイドラインを最終化する前に形成することができます。
• 参加企業はまた、AIエージェント向けに特別に構築されたフリーのオープンソースセキュリティツールを数十個リリースしています。

120以上のテクノロジー企業の連合は、AIセキュリティを個人的な恥ずかしさではなく共有の問題として扱う方法を提案しています。

Open Secure AI Allianceと呼ばれるこのグループは、水曜日にSAFEフレームワークの公開コメントのためのリクエストを公開しました。SAFEはShared AI Findings Exchangeの略です。簡単に言うと、AIエージェント（会議の予約、コードの作成、ネットワークのスキャンなど、自動的に複数ステップのタスクを実行できるソフトウェア）に関するセキュリティインシデントの機密報告、何が間違ったかの分析、そしてすべての組織が利益を得ることができるようにレッスンを公開するためのルールセットです。

この発表は、研究者が新しい攻撃方法と防御を明かす年次サイバーセキュリティカンファレンスであるBlack Hatの初日に着陸しました。

これは普通の人にとってなぜ重要なのですか？

AIエージェントは職場で急速に進出しています。銀行、病院、保険会社、小売業者はすでに彼らをデプロイしています。1つが失敗したり、トリックされたりすると、ダメージは急速に広がる可能性があります。

現在、AIセキュリティの失敗を経験するほとんどの組織は、それについて静かにしています。その沈黙は、次の企業が同じ間違いを犯すことを意味します。SAFEは、名前を挙げることなく何が起こったかを共有するための信頼できるチャネルを作成することでそれを変え、防御者はどこでもより速く学習します。

フレームワークは4つの具体的なことを提案しています：AIインシデントとニアミスを機密で収集・分析し、影響を受けた人に通知し、コントロール失敗のパターンを特定し、システミックリスクを削減するための証拠ベースの推奨事項を公開します。

どのツールがすでに共有されていますか？

SAFE提案を超えて、アライアンスメンバーは現在フリーツールをリリースしています。

NVIDIAは、その貢献をNVIDIAの独自の発表で指摘しました。いくつかのアイテムをリリースしました。Garakは無料の脆弱性スキャナーで、データリーク、プロンプトインジェクション（AIを欺く隠れた指示をその入力に忍び込ませるタイプの攻撃）、ジェイルブレーク（モデルがセーフティルールを無視するようにする試み）などの弱点についてAIモデルをチェックするツールです。 ランタイムモデルが稼働する前に。NeMo Guardrailsはランタイムでセーフティポリシーを実行します。NVIDIA OpenShellランタイムは、エージェントがシステム内で実際に到達または変更できるものを制限します。

貢献者	ツール	それが何をするか
NVIDIA	Garak	デプロイ前のAIモデルの脆弱性をスキャンします
Microsoft	PyRIT	AIシステムの自動レッドチームテスト
Amazon	Cedar	エージェントができることについて検証可能で監査可能な制限を設定します
Capital One	VulnHunter	AIが生成したコードのセキュリティフローを見つけます
Visa	Vulnerability Agentic Harness	チームがエージェントセキュリティ問題を検出して修正するのに役立ちます
Cisco	Antares SLMs	コードベースの脆弱性を特定するために訓練された小言語モデル

Amazonは発表と同じ日にアライアンスに参加し、2つのツールを提供しました：Strands Agents（AIエージェント構築用のオープンソースツールキット）とCedar（エージェントが許可されていることと許可されていないことについて厳密で監査可能なルールを設定するためのオープンソース言語）です。

Visaもアライアンティックシステム向けに特別に構築された脆弱性テストハーネスを提供して参加しました。

次は何が起こりますか？

SAFEフレームワークはまだ提案です。Linux Foundationは最終バージョンが公開される前にフィードバックを収集しています。

すでにAIエージェントを使用しているビジネスの場合、実際の結果は、検証されたセキュリティツールが今日利用可能であることです。セキュリティチームは、Garak、PyRIT、またはCedarを使用してすでにデプロイされたものを強化する前に、ガイドラインが最終化されるまで待つ必要はありません。

よくある質問

このフレームワークは必須ですか？

いいえ。SAFEは自発的なガイドラインセットです。どの組織でも、オープンフィードバック期間中にそれを採用する、無視する、またはコメントを送信して形成することを選択できます。

インシデントデータの共有は、プライベート企業情報を公開することを意味しますか？

提案は特に機密収集と分析を呼び出しており、その意図は、どの企業が被害を受けたか、またはその内部システムがどのように見えるかを識別するのではなく、パターンとレッスンを共有することです。

これらのツールはお金がかかりますか？

発表で言及されているすべてのツールはオープンソースです。これは、ダウンロードして使用するのは無料です。それらはGitHubなどのプラットフォームで公開され、任意のセキュリティチームが検査してデプロイできます。