AI バブルは能力バブルではありません。期待バブルですね。国家安全保障のリーダーたちは、AI が実際には依然として人間の判断、セキュリティ管理、コスト規律を必要とする気まぐれな加速層であるにもかかわらず、アナリスト、エンジニア、業界の代替品として扱っています。
AI の現在の状態は、誇張された仮定によって定義されています。プロバイダーは容量を過大評価し、ユーザーは裁量権を過剰に委任し、政策立案者は制御されたデモンストレーションに対して、あたかも現実世界の運用力を表しているかのように反応します。 Mythos/Fable 事件は、この混乱がいかに早く政策に転化するかを示しています。米国政府は商用モデルへのアクセスを国家安全保障の移転として扱い、Anthropic に主要システムへのアクセス制限を強いました。
問題はミュトスが強すぎることではない。問題は、各機関がマーケティングコピーが現実であるかのように意思決定をし始めていることです。これらのシステムは強力ですが、独立した思想家ではありません。
AIは驚異的なスピードで情報を表示できます。文書を要約し、コードを生成し、外国語資料を翻訳し、パターンを認識し、反復的なタスクを自動化することはできますが、新しいグランドトゥルースを作成することはできません。情報が信頼できるかどうか、サイバー作戦が合法かどうか、分析結果が戦略的に適切かどうかを判断することはできません。
ここが国家安全保障に関する議論が間違っているところだ。議論は引き続き、モデルの機能を運用機能と呼んでいます。それらは同じではありません。脆弱性を説明できるモデルは、それを悪用できるオペレーターと同じではありません。ドキュメントを要約できるモデルは、ドキュメントを評価できるアナリストと同じではありません。これらのシステムが強力になるほど、区別はより危険になります。
AI は判断を下したり、タスクの状況を理解したり、責任を負ったりすることはありません。これはアクセラレーション レイヤーであり、訓練を受けたユーザーが使用すると、時間を短縮し、到達範囲を延長します。成果を真実と取り違える機関の手にかかると、誤り、過信、悪い政策が加速することになる。
バブルは崩壊したが、AIが失敗したからではない
AI バブルがはじけているのは、組織が間違った話を買ったからです。彼らは代わりの労働力を購入していると考えていた。彼らが実際に購入したのは、高価で自信過剰なジュニアアシスタントでした。インタビューや初稿では印象的でしたが、判断、状況、説明責任が必要なワークフローに配置されると信頼できません。
AI が仕事を代替するというレトリックにもかかわらず、企業はより厳しい現実に直面し始めています。これらのシステムは仕事をスピードアップできますが、仕事を理解する人材の必要性を排除するものではありません。危険なのは、AI が貧弱な出力を生成することだけではありません。危険なのは、各機関がこの出力を完全な分析であると誤解することです。
AIは安い労働力ではない
人工知能は、安価な代替労働力として販売されることがよくあります。現実はさらに微妙です。積極的には、これは依然として人間の判断、レビュー、修正が必要な高価なアクセラレーション レイヤーです。 Shadow Nexus では、ソリューションの一部として AI を統合していますが、それは機能そのものではありません。この方法で AI を使用すると、手動でアクセスするのが難しいデータ内の隠された情報を明らかにすることができます。しかし、それがうまく機能したのは、私たちのツールが修正とコースの検証を提供するすべての段階で人間の関与を必要としたからです。
これが、「完全自律型」という売り文句が誤解を招きやすい原因です。実際のところ、自律性はチェックされていないと間違いを犯し、コストが膨らむ傾向にあるシステムです。
Microsoft の研究者は最近、委任された作業プロセスで中央モデルがどのように機能するかを調査しました。彼らは、フロントエンド モデルであっても、20 往復の対話後にドキュメント コンテンツの平均 25 パーセントが破損するのに対し、テストされたすべてのモデルの平均は約 50 パーセントの劣化であることを発見しました。ドキュメントのサイズが大きくなり、やり取りが長くなり、気が散るファイルが増えると、劣化はさらに悪化しました。
テストは簡単でした。モデルにドキュメントを与え、編集してもらい、その後、元の状態に戻すよう依頼しました。信頼できる遺言書は、文書を元の形に近づけて復元します。むしろ、元の写真がゆっくりと消えてしまうまで写真を作成し続けるなど、エラーはさらに悪化します。
この問題は、価格モデルが絶えず変化することによってさらに悪化します。 Anthropic の Opus 4.7 トークナイザーは、トークンの使用量を最大 35% 増加させました (つまり、Opus 4.6 で入力した同じテキストに必要なトークンは 35% 少なくなります)。そしてわずか数か月後の Fable 5 の導入により、Anthropic は発行されたトークンの価格を 2 倍にしました。
この急速な成長は、企業と政府の顧客にとって同様に深刻な調達問題を表しています。代理店はシート、ライセンス、永久契約の予算を立てることができます。コンテキストの増大、ツールの呼び出し、再試行、失敗したタスク、人間による再作業によって予期せず拡大するエージェント ワークフローの予算を立てることは、はるかに困難です。単なるステッカーショックではありません。不透明度計です。
トレードクラフトの問題
コストは問題の半分にすぎません。予測可能なコストであっても、AI にはさらに微妙なリスクがあります。AI は大規模な洗練されたエラーを生成します。そして、分析環境では、洗練されたエラーは明らかなエラーよりもはるかに危険です。
AI の幻覚はチャットボットだけの問題ではありません。生成されたテキストがソースレベルの検証なしに公式文書、フォレンジック分析、またはインテリジェンスレポートに入力されると、組織的なリスクになります。デロイト オーストラリアは最近、オーストラリア政府が作成した報告書に、存在しない参考文献や連邦裁判所判事からの捏造された引用など、人工知能によって生成された誤りが含まれていることが判明したことを受け、オーストラリア政府に一部賠償することに同意した。
諜報活動の場合、この類似点は明らかです。幻想的な引用は設計ミスではなく、ソースの欠陥です。そして、幻想的なソースチェーンは判断を汚染し、意思決定者を誤解させ、タスクを危険にさらす可能性があります。誤解しないでください。これは、AI を諜報活動から締め出すべきだという意味ではありません。これは、技術が進化する必要があることを意味します。
AI は、研究、翻訳、リンク分析、反復的な分析タスクを加速するために使用すると、大きな力を発揮しますが、分析者の代替として扱うべきではありません。彼にはより大きな文脈の概念がありません。つまり、法的権限、運用上のリスク、または任務の真の文脈を理解できないのです。この責任は今も（そしてこれからも）人々にあります。適切なモデルは「アナリストの代わりに AI 」ではなく、アナリストがワークフロー内で AI を使用することです。まったく新しい考え方を取り入れるには、職業を変える必要があります。
政府のクライアントを不可能な状況に陥らせるのは、完全に信頼できず正確に予算を計上できないツールをどのように採用し、依存するのでしょうか?
政府による導入と台頭する中国問題
政府ユーザーと商用ユーザーの両方にとって、AI コストの上昇に対する明らかな対応策は、一般公開されている「オープンソース」モデルに移行することです。 GLM-5.2 や Qwen-3.7 などのシステムは現在、最先端の商用モデルと競合しており、政府管理のインフラストラクチャ内で機密性の高いワークフローを維持しながらコストの予測可能性を向上させています。問題点: これらはすべて中国で設計され、中国から出荷されています。
これが、人類最後の戦いを非常に明らかにしている理由です。今年初め、国防総省は、米国に本拠を置くAnthropic社を、そのモデルのセーフガードと軍事利用をめぐる紛争を受けて、サプライチェーンのリスクに指定したと報じられている。中国のGLM-5.2は、Anthropic社のFable 5に次ぐ市場トップシステムにランクされており、AlibabaのQwenもそれに遠く及ばない。
これが政策論争の皮肉だ。政府は完全には理解していないテクノロジーを規制しようとしているが、その恐怖の多くはマーケティングによって引き起こされている。 Fable 5 は強力ですが、Opus と GPT-5.5 も強力です。経験豊富なユーザーの手に渡れば、GPT-5.5 も同様に機能します。他の新しいテクノロジーと同様に、危険はツールではありません。これがユーザーです。
その間、漂流はすでに始まっています。米国がDeepSeekのブラックリスト登録をサプライチェーンのリスクとみなしているにもかかわらず、Microsoftは最近、中国のDeepSeekモデルを活用する可能性があることを示唆した。組織がライバル国によって開発され管理されているモデルに移行していることがトレンドで示されている場合、サプライチェーンのリスクを米国企業に割り当てることは異常であるように感じられます。
AI は消えることはなく、ブランド争いやアクセス制限がそれを変えることはありません。米国は人工知能を分析および運用作業のための新しい標準ツールとして扱うべきである。しかし、それは単なるツールです。最良の場合、これは出発点であり、大量の情報を明確にし、研究を加速し、より迅速に進めるための方法です。ここは、その人へのメッセージを伝える必要がある場所でもあります。
マイクロソフトの調査とデロイトの訴訟は警告だ。放っておいても、生成 AI は設計どおりの動作を行い、精度に関係なく妥当な出力を生成します。政府機関がクローズドループの米国モデルを超えて、ライバルが構築したオープンウェイトシステムに目を向ける場合、そのリスクはさらに悪化する。
モデル自体がその答えを、静かに、他の誰かが選んだ方向に押し進めるように訓練されている場合、何が起こるでしょうか?この種のゆっくりとした意図的なデータポイズニングは、捕らえられなかった場合、サポートするように設計された作業そのものを破壊する可能性があります。これがサプライチェーンにおける本当のリスクです。
本当の仕事は、どのモデルの使用を許可するかを選択することではなく、それらを使用するための判断力を構築し、国家安全保障戦略におけるモデルの名前を間違えないようにすることです。
Cipher Brief は、この主題に関するさまざまな視点を公開することに取り組んでいます。 国家安全保障 深い専門家によって提出されたトピック 国家安全保障 専門家。表明された見解は著者の見解であり、The Cipher Brief の見解や意見を表すものではありません。
国家安全保障の経験に基づいて共有すべき視点はありますか?に送ってください 編集者@thecipherbrief.com 出版検討のため。
専門家による国家安全保障の洞察、展望、分析について詳しくは、次の URL をご覧ください。 暗号の要約