人工知能
米国は中国にAIホットラインを求めた。それが通報するはずの事案は、すでに起きている
スコット・ベセント財務長官は日曜のニューヨークでの協議のあと、米中が国家安全保障のレベルに達するAI関連事案についての「通報メカニズム」を協議したと語った。署名された文書はなく、中国側も確約していない。だが、この仕組みが想定する種類の失敗は、その3日前にすでに明るみに出ていた。
MAI
スコット・ベセント財務長官は日曜、ニューヨークのJPモルガン・チェース本社で中国の何立峰(か・りつほう)副首相と会談したあと、記者団に対し、両国が通報メカニズムを軸とする「米中AI対話」の立ち上げについて協議したと述べた。人工知能が関わる何かが国家安全保障上の事案の水準に達したとき、互いに知らせるための回線である。
「われわれが求めているのは、共通の目標と共通の脅威についての共通の認識だ」とベセント氏は述べ、「世界第1位と第2位のAI大国のあいだで、不透明な状態からより高い透明性へと移ることは非常に重要だ」と付け加えた。
署名されたものは何もない。存在するのは一方の側が公表した提案であり、しかも習近平国家主席のホワイトハウス訪問の3日前という時点での公表である。これは冒頭ではっきり書いておく価値がある。発表された内容と合意された内容とのあいだの隔たりこそが、この話のすべてだからだ。
実際に俎上に載っているもの
| 協議された内容 | 常設の米中AI対話、および「国家安全保障のレベル」に達するAI事案についての通報メカニズム |
| 定義されていない点 | 何を事案と数えるか、双方の窓口は誰か、応答時間、拘束力の有無 |
| 中国側の立場 | 新華社は双方が「AIに関連する問題」を議論したと報じ、協議を「率直で、突っ込んだ、建設的なもの」と表現した。それ以上の確約はない |
| 次の段階 | トランプ大統領と習主席が木曜にホワイトハウスで会談。ベセント氏はフィナンシャル・タイムズに、双方はおよそ2カ月後に再び会う見通しだと語った |
トランプ大統領の技術顧問マイケル・クラツィオス氏はフォックス・ニュースに対し、「重要な点」は「共有されたリスクを避けること」だと述べた。カーネギー国際平和財団のスコット・シンガー氏はこの構想を「双方にとって明白な利益」と呼び、「競争と協力は両立しうる」と述べた。アジア・グループのコンサルタントはAP通信に対し、このメカニズムは他国が追随しうる先例をつくるだろうと語った。
その仕組みが想定する事案は、すでに起きている
こうした回線を設けるべき最も強い論拠は、どちらの政府も公には口にしていないものであり、しかも協議の3日前に表に出ていた。
CNNは9月18日、米特殊作戦コマンドのアナリストがAIチャットボットを使って、ある中国籍船舶に関する公開情報と機密情報を統合させたところ、そのツールが核兵器計画向けの部品を積荷目録に記載しているという情報を捏造した、と報じた。アナリストはさらに同じツールに、その結論を公式文書のような要約に整形させ、それが指揮系統を通じて流通した。米当局者が誤りに気づいて作戦を中止させた時点で、軍用機はすでに武装任務のため飛行中だった。事案は2026年春のものである。
丁寧に読めば、この一件は中国の行動についての話ではまったくない。船は何もしていない。誤りは米国のシステムの内部で生まれ、米国のシステムの内部で行動に移され、米国のシステムの内部で――数分の余裕を残して――捕捉された。通報メカニズムがあっても、そのどれ一つとして防げはしなかっただろう。
変わったはずなのは、誤りとその帰結とのあいだの時間である。ホットラインは、軍用機がまだ空にいるあいだにワシントンが電話をかける先を与え、北京には、説明のつかない発進に応答する前に一拍おく理由を与える。これは狭い機能だ。そして危機回線において歴史的に最も意味をもってきたのも、まさにこの機能である。危機回線は信頼を築くためというより、信頼が問題にならなくなる数分間を買うために存在してきた。
先例は、語り口ほど厚くない
両国にはすでに危機回線がある。1997年にはクリントン大統領と江沢民主席のもとで直通の秘話電話回線が設けられ、軍同士のホットラインは2008年以来、名目上は運用されている。後者について繰り返されてきた不満は応答の遅れである。回線は存在するのに、その回線が存在する理由となるまさにその場面で、中国側が確実に出てきたわけではない。
AI通報メカニズムは、この問題を引き継いだうえに、固有の問題をもう一つ抱え込む。核や軍のホットラインが扱うのは、双方が独立に観測できる事象である。発射、迎撃、衝突といったものだ。これに対してAI事案は、一方の意思決定の内部で完結し、他者からは見えず、開示すれば体面を損なうものでありうる。春の一件はその明快な例である。相手側が一度も探知しなかった失敗を報告する義務を政府に負わせるものは何もなく、「事案」の定義を欠いたメカニズムは、その義務をまったく供給しない。
それは通商交渉のなかから出てきた
AI回線はこの週末の主要議題ではなかった。双方は、5月にトランプ大統領と習主席が北京で会談した際に持ち上がった「通商委員会(Board of Trade)」を実際に動かすことで一致し、ジェイミソン・グリア通商代表は、どの「非センシティブ」品目――消費財、農産品、エネルギー、医療機器――の関税を下げうるかについて交渉が続いていると述べた。
この文脈は両様に働く。進行中の関税交渉に紐づいた安全メカニズムには、その背後に取引材料としての力がある。大半のAIガバナンス提案がもたない強みである。同時にそれは、首脳会談前の雰囲気づくりのために発表され、その後いつまでも文書にならない、という類の発表でもある。
試金石は木曜である。二人の大統領が名を連ねる文書のどこかにAI対話が現れ、「事案」に定義が与えられるなら、これはそのシステムをつくっている二つの国家のあいだで初めて具体化したAI危機回線となる。そうならなければ、通商交渉の一ラウンドにおける話題の一つだったということであり、春に飛び立った軍用機が、このメカニズムが何のためにあるのかを示す唯一の記録された事例であり続けることになる。
Sources: Bessent: US proposes AI incident alert system in talks with China (AP via ABC News) · Bessent Says U.S. And China Discussed AI Dialogue And 'Notification' For Safety Incidents (Forbes) · US and China to seek AI dialogue to communicate shared concerns (Euronews) · What's the US-China AI hotline that Trump plans to pitch to Xi? (Al Jazeera) · US proposes AI safety notification mechanism in talks with China (Al Jazeera) · US military had close call after using AI for false intelligence report (CNN) · AI hallucination nearly triggers US military operation (TechCrunch)