AI安全はモデル・ソフトウェア・国家安全保障をつなぐ – 10月25日デイリー

今日は、AI安全と国家政策の境界が同時に動いている様子を記録する。あるモデル企業は学習段階で攻撃能力を下げようとし、中国では一部モデルの海外公開・ライセンスが登録手続きと結びついた。英国はバイオセキュリティ研究に資金を投じ、米国は技術だけでなく投資にも及ぶ規制案を示した。私は企業の自己評価、政府発表、まだ提案段階の規則を分けて見る。

1. Moonshot、Kimiの攻撃的サイバー能力を学習段階で下げたと発表

Moonshot AIは10月24日、新モデルKimi K3.1 Proを紹介し、一般的なコーディング能力を保ちながら攻撃的なサイバー能力を抑えようとしたと発表した。同社によると、学習データと強化学習環境からサイバー攻撃関連の情報を除いた。脆弱性の発見・悪用を測る社内ベンチマークでは、対策を施していない比較モデルが90.5%、K3.1 Proが81.0%だった。いずれも会社が公表した内部評価で、独立検証はされていない。重みは11月4日に公開する予定だという。Reuters報道の再掲載

私が注目するのは、モデル外部のフィルターだけでなく、学習過程で特定能力を下げようとした点だ。オープンウェイトは一度配布されれば、利用者が推論時の安全策を外せる。しかし学習データを調整しただけで、攻撃能力がなくなると証明されたわけではない。脆弱性を見つけて修正する力と、それを悪用する力は、コーディングや推論を多く共有している。

この点数は安全認証ではなく、モデル別評価の出発点として扱いたい。実際の製品ではコード実行を隔離し、秘密情報をエージェントの入力から分け、ネットワーク接続を必要な範囲に制限する必要がある。学習時の調整と実行環境の制御は、別々の問題を解決する。

2. 中国のMiniMax、一部モデルの海外公開に向け輸出登録

Reutersによると、MiniMaxは10月23日、一部の既存・今後のモデルをオープンウェイトで公開し、海外でライセンスするため、中国商務部への技術輸出登録を完了したと発表した。中国国営放送CCTV系のSNSアカウントは、MiniMaxとDeepSeekがモデルの海外利用承認を得たと伝えたが、DeepSeekはReutersの問い合わせにすぐには回答しなかった。中国商務部は、AI技術の大半は引き続き自由に輸出でき、オープンソース公開や中国企業による海外自社計算拠点の運営は手続きを簡素化すると説明した。Reuters報道の再掲載

私はこれを、中国がモデル輸出を一律に閉ざしたというより、どのモデルをどの形で公開・許諾するかを登録で管理し始めた動きとして見る。ただし、MiniMaxが自社の登録を確認したことと、CCTV系アカウントがDeepSeekの承認を伝えたことは、情報源を分けて読む必要がある。

開発者や企業は「オープンウェイト」だから国境を越えた利用に制限がないと考えない方がよい。モデルごとの輸出登録、ライセンス、海外ホスティング条件を確認し、API利用条件とダウンロードした重みの条件も別々に管理したい。政策はモデルの性能だけでなく、どこで誰に提供できるかにも影響し始めている。

3. 英国、AIバイオセキュリティ研究に資金を投入

英国政府は10月24日、AI Biosecurity Labの設立を発表した。政府は1億ポンドを拠出し、OpenAIとAnthropicは計最大2億ポンド相当の計算資源、モデルへのアクセス、技術支援を約束した。Reutersは、病原体への対抗策開発に向けた6,500万ポンドなどを含む、約6億ポンド規模のAI安全保障投資を報じた。同研究所はAIで生物学的脅威を早期に検知し、ワクチンや治療法などの研究を支援する計画だ。英国政府の発表、Reuters報道の再掲載

この発表は、AI安全がモデルの危険な回答を防ぐ話から、公衆衛生と国家の備えへ広がっていることを示す。ただし、見出しの総額すべてが一つの研究所にすでに支払われたわけではない。政府の資金、企業の約束、より広い安全保障プログラムは分けて読む必要がある。

AIは病気の兆候を見つけたり治療法の探索を助けたりできる一方、同じ生物学的知識が悪用される懸念もある。データ、モデル、研究者の権限、成果物の確認を一連の運用として管理することが重要になる。研究所の価値は発表金額より、それらの約束を安全で実効性のある研究へどう結びつけるかで決まるだろう。

4. 米国、投資規制の拡大を提案し、中国は反発

米財務省は10月22日、対外投資安全保障プログラムの更新案を公表した。半導体、AI、量子技術、高性能コンピューティング、極超音速システムに加え、バイオテクノロジーも規制対象に加える内容だ。現時点では意見募集を行う規則案であり、最終規則ではない。中国商務部は10月24日、計画の停止を求め、対抗措置を取る権利を留保すると述べた。米財務省の提案、中国側の反応を伝えたReuters報道

この提案は、半導体やモデルが国境を越えるかだけでなく、米国資本が懸念国の特定技術開発を支えるかも問題にする。ただし、中国企業へのあらゆる投資を一律に禁じるという意味ではない。対象範囲や例外、最終文言は今後変わる可能性がある。

企業や開発チームがすぐにすべきなのは、見出しだけで全ての協業を止めることではない。どの法人、投資、研究、モデル、データ、計算資源がどの国・地域の間を移動するのかを把握することだ。その経路を記録しておけば、最終規則が具体化したときに影響を受ける取引を見分けやすくなる。

今日のメモ

私はこの四つのニュースに共通する流れを見る。学習段階でモデル能力を調整し、一部モデルの越境配布を登録手続きで管理し、バイオセキュリティ研究への資金や対外投資審査に公的主体が関わり始めている。企業の内部評価、企業が確認した登録、資金の約束、まだ確定していない規則は証拠の性質が異なる。その違いを消さないことが大切だと思う。

暗号資産・ブロックチェーンでは、直近の株式トークン化の話題と区別できる新しい動きが見当たらなかったため、項目を無理に足さなかった。投資に関する記述は市場構造を考えるための記録であり、特定資産の売買推奨ではない。