5 つの諜報機関が声を揃えて発言することはほとんどありません。脆弱性が現れる期間は数カ月にまで縮まったと彼らは警告しているが、本当の問題は防御側が脅威と同じ速さで行動できるかどうかだ。
私は諜報業界で長年働いてきたが、ファイブ・アイズのパートナーが共同で公の警告を発した例を一度も覚えていない。したがって、警告を発する場合、そのメッセージは言葉だけでなく行動にも表れる。情報機関は彼らの評価を守り、それを控えめに共有し、ほとんど公に共有することはありません。つまり、米国、英国、カナダ、オーストラリア、ニュージーランドが共同で参加すると、 6月22日に警告 重大なサイバー攻撃が可能なフロントエンド AI モデルが広く利用可能になるまであとわずか「数カ月」であること、その統一性自体が明確なメッセージでした。 「タイムラインは数年ではなく、数か月だ」と彼らは書いている。
ファイブ・アイズのパートナーが共有する警告は具体的です。これらは、専門家でなくても複雑な侵入（最近まで偵察、搾取、ステルスを制御する熟練したチームが必要だった仕事）を調整できるようにするシステムです。この能力は先進国家の手には及ばず、中級犯罪集団やその他の敵対者の手の届くところにある。高度な運用への障壁が下がるにつれて、標的のリストは増大しており、最も危険にさらされているシステムは、病院、水道および電力インフラ、コミュニティ銀行、港湾、およびそれらにサービスを提供する請負業者なしでは国が実行できないシステムです。
注意点が 1 つあります。モデルを検討した外部の専門家らは、これらのモデルはまったく新しい脅威ではないと主張しており、各政府機関は、基本を修正し、より迅速に修正し、アイデンティティとアクセスを制御するという主な解決策はよく知られたものであることを認めている。依然としてファンダメンタルズがほとんどの結果を決定します。変わったのはスピードであり、スピードに伴って潜在的なボリュームも変化します。脆弱性は常に存在していましたが、人工知能がより速くそれを発見し、その特技をより多くの手に移すだけです。
国家安全保障の企画者にとって、「数カ月」という言葉は注目すべき言葉だ。戦略は時間を想定しており、重要なインフラを保護するアーキテクチャの多くは、有能な侵入が有能な組織を奪う時代に向けて構築されました。 AIはこの前提を崩壊させます。最初のテストの前に 3 年間書かれた防御態勢は回避でき、最も遅いリンク (レガシー システムや遅いパッチ システム) が攻撃者が最初に到達するポイントになります。
ワシントンは反応を始めた。 大統領令 144096 月 2 日に署名されたこの文書は、AI フロンティアの国家安全保障の枠組みにおける始まりの動きとして読むことをお勧めします。この法案は、モデルのサイバー能力が「国境保護モデル」となる場合、NSAとCISAに対し機密設定で実行するよう指示し、開発者に対し、そのようなモデルへのリリース前に自発的に最大30日間のアクセス権を政府に与えるよう求めている。脆弱性の発見と修復を調整するために財務省主導の人工知能サイバーセキュリティクリアリングハウスを設立し、米国のコンピュータシステムに対して人工知能を指示した者を訴追するよう司法省に指示している。また、地方の病院、地域銀行、地域サービスなど、自分自身を守る能力が最も低い機関に防御型 AI を導入することも推進しています。
この命令は、より広範な競争における動きでもある。下院国土安全保障委員会の委員長を務めるアンドリュー・ガーベリーノ下院議員はその週、中国が「米国に匹敵する最先端のAI能力を達成するまで、数週間とは言わないまでも数カ月はかかる」と述べた。米国政府はすでに、国家安全保障を理由に主要な前線モデルの輸出を制限する動きを見せている。これらの能力を最初に置く人、そしてそれらの能力を評価し制御するための条件を設定する人が、他の人が従わなければならないルールを形作ることになります。この競争は、ライバルがターゲットとするモデルや重要なインフラを構築する民間企業を直接介して行われます。
これらすべてが本当のテストを示しています。フロンティア AI が攻撃をスピードアップできれば、ディフェンスもスピードアップでき、より早くディフェンダーを装備した側が有利になります。 Anthropic の Project Glasswing や OpenAI のサイバー防御アクセスの取り組みなど、防御 AI を重要なインフラ運用者の手に委ねるプログラムは、防御者が悪用される前に欠陥を発見して修正する上で有利なスタートを切れるようにする初期の試みです。さらに難しい問題は人材です。モデルは単独では機能せず、サービス制御室や病院のネットワークにおいてモデルを指示するための専門知識が不足しており、最もリスクが高いセクターに正確に不均等に分散されています。
ここで、国家安全保障と民間部門は別個の話ではなくなります。ほとんどの重要なインフラは私的に所有され、運営されています。これは、国防の最前線が現在、投資家や株主に対する第一の義務を負っている企業を通じて行われていることを意味します。自分が依存している AI システムに名前を付け、敵が有能な副操縦士を乗せていると想定し、マシン速度の侵入に対する防御をテストできるオペレーターが、最も優れた成果を上げることができます。
これらすべてが、共通の目標に基づいて、政府と業界の間に異なる協定を結ぶことを主張しています。大統領令 14409 が示唆するように、大手開発者、重要部門の運営者、および国家安全保障機関は、最も危険な能力に早期かつ誠実に取り組むべきです。そして、米国のシステムの防御者が攻撃者と歩調を合わせることができるように、国は防御用の AI とそれを所有する人々に投資しなければなりません。
私はインテリジェンスの世界で何十年も過ごしましたが、その多くは、間違いによるコストがお金以上のもので測られるリスク管理に携わっていました。ファイブ・アイズが今月発した警告は、専門家が真剣に受け止めるものだ。スケジュールは厳しく、目標は会社が運用されているシステムです。フロンティア AI は次の時代の国力を定義します。未解決の問題は、攻撃者が副操縦士の配備を完了する前に、防御側が副操縦士を確保できるかどうかです。
Cipher Brief は、この主題に関するさまざまな視点を公開することに取り組んでいます。 国家安全保障 深い専門家によって提出されたトピック 国家安全保障 専門家。表明された見解は著者の見解であり、The Cipher Brief の見解や意見を表すものではありません。
国家安全保障の経験に基づいて共有すべき視点はありますか?に送ってください 編集者@thecipherbrief.com 出版検討のため。
専門家による国家安全保障の洞察、展望、分析について詳しくは、次の URL をご覧ください。 暗号の要約