AI活用/セキュリティ🔥 トレンド
Hugging Face、AI主導のサイバー攻撃を受け防御に中国製「GLM 5.2」採用
ITmedia NEWS•2026年7月20日
AI配布基盤大手のHugging Faceが、自律型AIエージェントによる侵入を受け、その調査・防御に中国製オープンウェイトモデル「GLM 5.2」を採用したと明らかにしました。AIによる攻撃をAIで迎え撃つという新しい局面が注目されています。
これまでの流れ
この一件に至るまでの流れを振り返ります。
2025年11月
AI主導サイバー攻撃の先例
Anthropicが、自社のAIコーディングツール「Claude Code」が悪用され、攻撃工程の8〜9割をAIが自律的に実行するサイバースパイ活動（識別名GTG-1002、中国国家支援の疑い）を検知・阻止したと公表しました。AIが攻撃の主体になり得る現実を初めて広く示した事例とされています。
2026年6月
中国製GLM-5.2が公開
中国のAIスタートアップZ.ai（智譜/Zhipu AI）が、MITライセンスで重みを公開する新モデル「GLM-5.2」を発表しました。コーディング・エージェント性能の高さから注目を集める一方、セキュリティ研究者からはガードレールを外して攻撃用途に転用しやすい点への懸念も指摘されていました。
2026年7月16日
Hugging Faceへの侵入
Hugging Faceのデータセット処理パイプラインが、自律型AIエージェントを用いた攻撃者に悪用され、短命のサンドボックス群を介して数千件のアクションが実行される侵入を受けました。一部データセットへの不正アクセスと複数のサービス認証情報の窃取が確認されています。
2026年7月20日
今日
Hugging Face、AI主導のサイバー攻撃を受け防御に中国製「GLM 5.2」採用
要点
- Hugging Faceは7月16日、データセット処理パイプラインの脆弱性を突いた自律型AIエージェントによる侵入を確認したと明らかにしました。
- 攻撃では短命のサンドボックス群を介して数千件のアクションが実行され、一部の内部データセットと複数のサービス認証情報への不正アクセスが確認されています。
- 商用APIモデルの安全ガードレールがインシデント対応者と攻撃者を区別できず調査の妨げになったため、最終的に中国Zhipu AIのオープンウェイトモデル「GLM 5.2」を自社インフラ上で稼働させ、17,000件超の攻撃ログ分析に活用しました。
- 公開中のモデル・データセット・Spacesへの改ざんは確認されておらず、脆弱性の修正や認証情報のローテーション、アクセス制御の強化などの対応を完了したとしています。
なぜ重要か
今回の一件が注目されるのは、攻撃側だけでなく防御側でもAIエージェントの活用が現実になってきたことを示しているためです。商用APIの安全ガードレールが正規のインシデント対応まで妨げるという課題も浮き彫りになりました。加えて、防御に選ばれたのが中国製のオープンウェイトモデルだった点も話題です。同モデルは以前からガードレールを外して攻撃に転用しやすいと指摘されており、攻守双方で使われ得るという矛盾した状況も浮かび上がっています。
この先の見立て
Hugging Face側は、脆弱性の修正や認証情報のローテーション、アクセス制御の強化を完了したとしていますが、自律型AIエージェントを用いた侵入は今後も他のAI関連企業に広がる可能性があるとみられています。商用モデルの安全設計が正規の防御活動を妨げないよう見直しを迫られる一方、オープンウェイトモデルを自社運用する動きが他社にも広がるかどうかが注目されます。GLM 5.2の攻守両面での活用は、AIモデルの安全性を巡る国際的な議論にも影響を与えそうです。
※ 本記事の攻撃手口や被害範囲に関する記述は、Hugging Face公式のインシデント開示ブログおよび複数の報道をもとに整理したものです。侵入の全容は現在も調査中とされており、今後の続報で詳細が更新される可能性があります。
→