NVIDIAは2026年7月27日、Linux FoundationやMicrosoft、Hugging Faceなどの創設メンバーとともに「Open Secure AI Alliance」を設立したと発表した。AIソフトウェアやAIエージェントを守るための技術、ツール、研究成果をオープンに共有し、脆弱性の発見や修正を進める。

• Industry Leaders Unite in Open Secure AI Alliance for AI Safety and Security - NVIDIA Blog

このほか、創設メンバーにはAdobe、Cisco、Cloudflare、CrowdStrike、Databricks、HPE、IBM、Palo Alto Networks、Red Hat、Salesforce、SAP、ServiceNow、Snowflakeなど、AI、クラウド、サイバーセキュリティ、エンタープライズソフトウェア、オープンソースに関わる企業・団体が名を連ねる。政府、企業、研究機関にも参加を呼びかけている。

モデルだけでなく⁠、AIエージェント全体を守る

Open Secure AI Allianceは、AIモデル単体ではなく、AIエージェントを構成するシステム全体を対象とする。AIエージェントは、モデルに加えて、外部ツールとの接続や処理の流れを管理する「エージェントハーネス⁠」⁠、ID、権限、ガードレール、ログ、評価などから構成される。こうした要素を検査、追跡、監査しやすくすることを目指す。

参加組織は、それぞれ異なる防御領域の技術を持ち寄る。NVIDIAは、AIエージェントをテスト、追跡、監査、統制しやすくするオープンソースプロジェクト「NVIDIA Labs Object-Oriented Agents（NOOA）」を公開した。エージェントをPythonのクラスとして構成し、型付きの入出力や明示的な状態、実行履歴などを扱えるほか、フレームワークのコードに加えてテストや評価手法も提供する。現時点では既存のエージェントハーネスを置き換える製品ではなく、実験的な研究基盤と位置付けられている。

NVIDIAの発表では、参加組織による関連技術の例も紹介している。HPEは、AIエージェントやサービスのIDを暗号学的に検証するSPIFFE/SPIREなど、複数のオープンソースプロジェクトに以前から貢献している。Hugging Faceは、モデルの読み込みに伴う任意コード実行の危険を避けるよう設計したモデルデータの保存形式「Safetensors」を、PyTorch Foundationに提供する意向を示している。IBMとRed HatのLightwellは、脆弱性を修正したオープンソースの依存パッケージを、デジタル署名付きで企業へ提供する。Microsoftが5月に発表したMDASHは、複数のAIエージェントを使って脆弱性を発見・検証する。SpaceXAIのターミナル向けAIコーディングエージェントGrok Buildも、すでにオープンソース化されている。

NVIDIAは、オープンモデルにはガードレールの解除やサイバー攻撃への転用といったリスクがあることも認めている。ただし、こうしたリスクはクローズドなシステムにも存在すると指摘している。そのうえで、防御側がモデルやツールを自ら検査、改良、運用できる環境を整え、強力な安全対策や評価、脆弱性の迅速な修正と組み合わせる必要があるとしている。

防御側がモデルを自ら運用できる必要性を示す例として、NVIDIAとLinux Foundationは、7月に発生したHugging Faceへの侵害[1]を挙げている。Hugging Faceの報告によると、侵入時にAIエージェントが残した1万7000件を超える操作記録を分析するため、当初は商用API経由のフロンティアモデルを利用した。しかし、記録に攻撃コマンドやエクスプロイトが含まれるため、分析要求は安全対策によって拒否された。同社は代わりに、オープンウェイトモデル「GLM 5.2」を自社環境で動かし、侵害の時系列を再構成した。この方法には、攻撃データや認証情報を外部へ出さずに分析できる利点もあった。

オープンウェイト支持の共同書簡に各社が賛同

アライアンス設立の数日前にあたる7月24日には、オープンウェイトモデルの意義を訴える共同書簡「Open Weights and American AI Leadership」が公開された。署名者には、NVIDIA、Microsoft、Google、OpenAI、Meta、Hugging Face、Linux Foundationなどが名を連ねる。共同書簡によると、オープンウェイトモデルは、誰でも重みをダウンロードし、自らの環境で検査、変更、実行できるAIモデルを指す。利用者がモデルを自ら扱えることで、AIへのアクセスが広がり、競争が促され、データや技術を管理しやすくなるとしている。

NVIDIA CEOのJensen Huang氏はXでの初投稿で共同書簡を紹介し、「⁠世界には最先端のクローズドモデルとオープンモデルの両方が必要だ」と述べた。この投稿を引用し、OpenAI CEOのSam Altman氏はオープンソースモデルとプロプライエタリモデルの両方で米国がAIをリードすることを望むと投稿した。Google CEOのSundar Pichai氏も、同社がオープンソースから恩恵を受けてきたことや、Gemmaをオープンウェイトで提供してきたことに触れ、Googleを代表して支持を表明した。Microsoft CEOのSatya Nadella氏も、オープンウェイトモデルは健全なAIエコシステムに不可欠だとXで述べ、同じ共同書簡を紹介している。

共同書簡とOpen Secure AI Allianceは別の取り組みだが、オープンなモデルやツールをAIの安全性とサイバー防御に活用するという問題意識を共有している。Linux Foundationは、アライアンスへの参加を発表したブログ記事で、オープンであることだけで信頼性が保証されるわけではなく、厳格なテスト、安全対策、安全なインフラ、明確なガバナンス、人による監督も必要だと強調した。

Anthropicはオープンウェイトモデルの利点を認めつつ⁠、高能力モデルの公開前評価を求める

Anthropic CEOのDario Amodei氏は7月27日、同社の立場を説明する記事を公開した。背景には、米国政府関係者の一部が米企業による中国製オープンウェイトモデルの利用禁止を検討しているとの報道や、Anthropicも禁止を支持しているとの批判がある。

• Our position on open-weights models - Anthropic

Amodei氏は、危険な能力を持たないオープンウェイトモデルを「公共財」と評価し、一律禁止には反対すると表明した。共同書簡が挙げるアクセス拡大、一部の用途での競争促進、利用者による管理という利点にも同意している。

一方、オープンウェイトモデルは、ガードレールを外して監視の及ばない環境で実行でき、いったんダウンロードされると開発元が回収することもできない。このため、危険な能力を持つ場合は、クローズドモデルよりリスクが高まる可能性があると指摘した。モデルの能力への幅広いアクセスが、常に攻撃側より防御側を有利にするとの見方にも疑問を示している。

Anthropicは、オープンかクローズドかを問わず、一定以上の能力を持つモデルに対し、サイバー、生物学、アラインメント上のリスクに関する公開前評価を義務付けるよう求めている。加えて、高性能AI半導体や半導体製造装置の中国への輸出を制限し、他社モデルの出力を大量に使う産業規模の蒸留を取り締まるべきだと主張する。同社は、モデルがオープンかクローズドかだけで安全性を一律に判断せず、個々のモデルの能力とリスクを検証し、具体的な危険に対処すべきだとしている。