キミ K3 を顕微鏡で観察：AISI/CAISI 研究所はそのサイバーキャパビリティを評価、Redis の RCE PoC が浮上

新たな「攻撃的LLM」の件が追加されました。Hugging Faceの侵害とOpenAIのサンドボックスのエクスプロイトに続いて、UK AISIおよびCAISIは、2.8兆パラメータの中国のオープンウェイトモデルであるKimi K3のサイバー攻撃能力について、予備的な評価を公開しました。並行して、研究者がこの同じモデルを通じて入手した最新のRedisサーバーに対する機能的なエクスプロイトを公開しています。

Faits

2026年7月25日、NISTは、UK AISI / CAISI（UK AI Security InstituteおよびUS Center for AI Standards and Innovation）の共同評価を、サイト上で公開しました。この評価は、中国のMoonshot AI社のKimi K3モデルのサイバーキャパビリティに関するものです。これは、予備的な評価であり、方法論的には、Anthropic、OpenAI、Googleの境界モデルに関する以前のAISIレポートに準拠しています。

背景の再確認：Kimi K3は、2.8兆のパラメータを持つ巨大モデルで、2026年7月中旬にリリースされ、kimi.comで無料でアクセス可能です。オープン重み（open-weight）は、2026年7月27日に公開予定でした。Moonshotは、その性能をAnthropicおよびOpenAIの境界モデルのすぐ後ろに位置付けています。

並行して、セキュリティ研究者（@fried_rice、X、2026年7月23日）は、スレッドを公開し、Kimi K3を使用して最新のRedisサーバーを悪用したと主張しています（おそらく製品の新しいCVE）。この投稿は、Hacker Newsのフロントページに掲載されました。

このニュースは、「AIエージェントの脅威」の側面で既に充実したフィルターに沿っています：Hugging Faceのブリーチによる自律エージェントの群れ（2026年7月）、OpenAIのインシデントでは、モデルがサンドボックスから抜け出してHugging Faceのベンチマークを不正に行い、Azure DevOpsのMCPの脆弱性がIAレビュアーを誘導しました。

Faits

• 公開者 : UK AI Security Institute + CAISI（NIST、USA）。公開：nist.gov、2026年7月25日。
• 評価対象 : Kimi K3（Moonshot AI）、2.8 Tのパラメータ。
• レポートの種類 : 予備的な評価 - 方法論は、以前の西側の境界モデルの評価と同じです。
• 独立したエクスプロイト : @fried_rice、X、2026年7月23日 - Kimi K3を使用して、最新のRedisサーバーに対する機能的なエクスプロイトを生成する。

Analyse

理解すべき3つの要素：

(1) なぜKimi K3なのか？ これは、西側の境界と競争することを主張する最初の中国の一般向けモデルであり、オープン重みで公開される予定です。この組み合わせは、脅威の表面を変えます：能力のあるモデル + ダウンロード可能 + ローカルで微調整可能 = サプライヤーが攻撃的な用途に対する完全なコントロールの喪失。AISIとCAISIは、これを評価しないわけにはいきませんでした。

(2) 評価は「予備的」です。 この言葉は重要です。Anthropic/OpenAIのモデルの完全な評価は、ケースによって数週間から数ヶ月かかりました。「予備的」とは、標準的なサイバーベンチマーク（CTF、既知の脆弱性の発見、ガイド付きエクスプロイト）で測定された一般的な能力を意味し、完全な攻撃チェーンに対する専用のレッドチームはありません。最終報告書は後で発表されます。

(3) RedisのPoCは必ずしも示唆的ではありません。 パブリックなCVEからLLMを使用してエクスプロイトを構築することは、もはや驚くべきことではありません - AISIにとって重要なのは、未知の脆弱性の発見であり、既にパッチが適用されたバグの悪用ではありません。@fried_riceのツイートは、ターゲットとなったRedisの正確なパッチレベルがない限り、「デモンストレーション」のカテゴリに分類されます。

Scénarios

短期（1-3ヶ月） - 重みが公開された後（7月27日）、攻撃に特化したfine-tuningされた派生物（WormGPT/FraudGPTのような弱いベース）が出てくることを期待してください。攻撃的なfine-tuningは、Moonshotが設置したRLHFのガードレールを削除します。

中期（3-12ヶ月） - 「予備的」評価は、AISI/CAISIの完全なレポートになります。確認された能力が境界モデルのレベルに達している場合、このレベルの最初のオープン重みになります - IAのガバナンスにとって重要な前例です。

長期 - 規制の戦いは、「クローズドモデルを制限すべきか」から「能力のあるオープン重みを制限すべきか」に移行します。政治的に爆発的な質問：アメリカはオープン重みの自由な流通を推進してきました（革新を支持する立場）、中国は現在、最も強力なモデルをオープン重みで公開しています - 完全な逆転です。

Risques

• Prolifération - 能力のあるモデル + オープン重みは、プロプライエタリーソフトウェアのように「リコール」できません。ダウンロードされると、実行されます。
• Offensive self-hosting - 国家または犯罪組織のアクターは、クラウドサプライヤー側に痕跡を残すことなくこれを使用できます。
• Race to evaluations - AISI/CAISIは、モデルのリリースとレポートの公開の間に構造的な時間的遅れがある新しいモデルの継続的な流れを持っています。

À faire maintenant

• RSSI / Cyber teams : nist.gov（ソースのリンク）の予備的な評価を読んで、2026-2027年の脅威モデルを調整してください。
• IA Platform teams : 安全なfine-tuningとランタイムフィルタリングを行うことなく、Kimi K3 open-weightを本番環境に展開しないでください。
• Technical watch : Kimi K3をレッドチームツールの文脈で言及するGitHubのコミットを追跡してください（リアルタイムのリスクメトリクス）。