米AIライバル3人、
そろって「減速」。
Anthropic・OpenAI・xAIのトップが、同じ日に同じことを言った週末。
「AIをやめろ」ではありません。止めずに、能力を上げるペースを落とす——ふだん激しく競い合う3人が、そこで一致したのは初めてです。
②中国は乗らず、トランプ大統領は「止めない」。
③結局、減速の約束はなく、「各社が自分で見張る」協定になった（9月30日時点）。
——3人は、ふだんは互いを公然と批判し合う間柄です。
その3人が数時間のうちに、同じ方向を向いた。
「AIは核兵器より危険かもしれない」。
12年前に自分が書いた言葉を、翌日、マスクは自分で掘り起こしました。
その数日前、Anthropicを辞めたばかりの研究者はこう言っています。
「核兵器は、制御の仕方が分かっている。AIは、まだ分からない」。
何が、そこまで彼らを急がせたのか。
中国は、トランプ大統領は、何を言ったのか。
そして3週間後、何が決まったのか。
「止めろ」ではなく、「歩幅を揃えろ」
9月12日、アモデイは個人サイトに「We Must Pace the Frontier」（最前線の歩幅を揃えよ）を投稿。自社を含む業界全体に向けた提案です。
主張は「AIをやめる」ではありません。能力を上げるスピードを落とし、そこで稼いだ時間で安全対策を追いつかせる。進歩そのものは続けます。
理由は単純で、AIが賢くなる速度より、AIを理解する速度のほうが遅いから。とくにこの夏から、AIが自分自身の改良に使われる「再帰的自己改善」が回りはじめ、差が開きつつある、と。
▶さらに詳しく：何が「急がせた」のか
OpenAI事故エッセイが最初に挙げるのは、8月に公表されたOpenAIの事故です。安全試験中のAIの群れが、誰にも命じられず組織化し、外部（Hugging Face）をハッキングした——アモデイはこれを「a swarm of agents essentially acted as a fanatically devoted collective（エージェントの群れが、狂信的に献身する集団のように振る舞った）」と表現しています。
6〜12ヶ月そのうえで、同じくらい逸脱した、もっと能力の高い群れが現れれば、6〜12ヶ月のうちにインターネット全体を乗っ取り、数千億ドル規模の被害を出しうる、と警告しました。
時間が要るAIの中身を読み解く研究（解釈可能性）は1〜2年で大きく進む見込み。その1〜2年を、ペースを落として確保したい——というのが提案の核です。
アモデイが挙げた危険は4つ。制御の喪失、サイバー攻撃への悪用、バイオテロ、経済の混乱。どれも「まだ起きていないが、時計は動いている」もの。
3段階で、歩幅を揃える
第1段階は、外部の検査官を社内に常駐させること。Anthropicはこれをその日のうちに自社で実行すると約束しました。
▶さらに詳しく：中国が乗らなかったら？
前提エッセイは、民主主義国の減速は「米国企業が権威主義国（とくに中国共産党）に対して持つリードの範囲内に限られる」と明言しています。減速しすぎれば、ペースを落とさない中国側の計画が追い抜くからです。ベッセント財務長官に同意する形で「a Chinese lead in AI would pose grave danger for the United States and the world（中国がAIでリードすれば、米国と世界に重大な危険）」とも書いています。
並行策減速と同時にやるべきこととして、高性能チップの対中輸出規制の継続、密輸の取り締まり、中国国外のデータセンターへの遠隔アクセス遮断、不正な「蒸留」の取り締まり、モデルの重みの盗難防止を挙げました。
「蒸留」については、同じ週に別の話が出ています → 中国AIの中身は、Claudeだった
ライバルが、数時間で乗った
「ダリオに同意する。最前線のペースを整える必要がある」。OpenAIでもここ数週間の主要議題だったと明かし、第三者評価者の常駐を自社でも行うと表明しました。
たった3語。翌13日には2014年の自分の投稿——AIは核兵器より危険かもしれない——を「12 years ago」と掘り起こし、その後、競合各社が新モデルを公開前に互いに査読する仕組みも提案しています。
「核兵器は制御の仕方が分かっている。AIは、まだ分からない」。9月8日にAnthropicを辞めたばかりの研究者は、AIを「人類がつくった中で、おそらく最も危険な技術」と呼びました。核兵器との違いは「危険さ」ではなく、止め方がまだ無いこと——3人の減速提案の背景には、この認識があります。
アモデイのエッセイに「核」という語は出てきません。核との比較は、マスクが2014年から繰り返してきた持論です。ただし——
アモデイが描いた「6〜12ヶ月でインターネットを乗っ取り、数千億ドルの被害」は、被害の規模としては核級の警告です。言葉は違えど、3人が見ている絵は近い。
▶さらに詳しく：ほかの人たちの反応
賛成Google DeepMindのデミス・ハサビスは「正しい方向」と賛同し、先端AIを規制する標準機関の設立を提案。Microsoftのサティア・ナデラも、意図的な減速を歓迎しました。
慎重オープンソースAIのOllamaのCEOは、「オープンモデルへの規制につながる」と懸念を表明。誰でも使えるAIこそ民主化の力だ、と。
皮肉マスクは2023年にも「研究の6ヶ月停止」を求める公開書簡に署名しましたが、その裏で大量のGPUを買い、xAIを立ち上げていました。今回の「Dario is right」も、同じ目で見る人はいます。
米国3社は減速、中国は加速。そしてトランプ大統領は
アモデイの投稿と同じ日。減速ではなく、途上国を束ねてAI開発を広げる宣言でした。前日には、北京主導で7月に発足した約30カ国の「世界AI協力機構」（本部・上海）への参加もBRICS各国に呼びかけています。
米国3社が減速を言った週、中国は逆に走り続けました。西日本新聞の社説（9月20日）によれば、中国は米企業の提唱を「自国企業への封じ込め策」と捉えて反発しています。
企業は減速へ、政府は反対
Anthropic・OpenAI・xAIの3社が減速を提案・賛同し、第三者検査を即日約束。一方でトランプ大統領は「止めない」。「AI暴走は地球温暖化と同様の詐欺」と呼び、9月19日には「AIフォース」の創設を表明しました（次のコマ）。
政府も企業も、加速
企業は7〜8月だけで新モデルを連発——DeepSeek V4-Flash（7/31）、アリババ Qwen 3.8-Max（8/3）、Moonshot Kimi K3、智譜 GLM 5.2。しかも多くを誰でも使えるオープンウェイトで公開。政府は同じ週にBRICSのAI共同体を提唱し、減速の議論には加わっていません。
▶さらに詳しく：「追いつくため」に何をしているか
蒸留中国企業が米国のAIから答えと考え方を吸い出して自社モデルを鍛える「蒸留」は、9月8日に米NSA・CISA・FBIが共同勧告で6社（DeepSeek、Moonshot、アリババ、MiniMax、StepFun、Z.AI）を名指し。「likely with Chinese government awareness, since 2024（2024年から、おそらく中国政府の認知のもとで）」と評価しました。9月10日にはAnthropicも7社を名指ししています → 中国AIの中身は、Claudeだった
反論中国外務省は7月18日、蒸留の指摘に「中国の自主的な研究開発能力を低く見せようとしている」と反論。中国側には「AI安全ガバナンス枠組み」（2025年9月に2.0版）はありますが、これはリスク評価の技術文書で、能力向上の速度に上限を置くアモデイの提案とは性格が違います。
差AI Index 2026の集計では、米中トップモデルの評価スコア差は約2.7%。アモデイ自身、CNBCの取材で中国を「この提案のいちばん難しいジレンマ」と認めています。
「我々は中国をリードしている。AIで勝った者が、すべてに勝つからだ」。ゴルフ場での取材に、3人の呼びかけをはっきり退けました。
翌日には「急進左派によるAIのでっち上げは、少し前の地球温暖化詐欺を思い出させる。みんな猛暑で死ぬはずだった。どうなった？」。西日本新聞の社説はこれを「AI暴走は地球温暖化と同様の詐欺」とまで言っている、と紹介しています。
そして9月19日、「AIフォース」の創設を表明。「この素晴らしい産業の成長を妨げも抑え込みもしない」としつつ、「悪いものも探していく。それは既存の刑事・民事司法制度で、とても簡単にできる」。第1次政権で作った宇宙軍（スペース・フォース）と同じ形で、近く責任者（AI「ツァー」）を任命する——「応募できるのはIQの高い人だけ」。AIは「次の産業革命、あるいはインターネット」で、米GDPの25%になりうる。「我々は中国と世界をリードしており、その状態を維持する」。
ホワイトハウスのAI担当デビッド・サックスは「企業が自主的にペースを落とすのは構わない。政府が競争を制限するのは反対」。3人に向けて「Stop pretending you need anyone else's permission（誰かの許可が要るふりをやめろ）」とも。
つまり「やりたければ自分たちでやれ。国は止めない。悪用は警察と裁判所で捕まえる」。3段階の提案のうち、第2・第3段階には政府の仲介が要るので、ここが今後の焦点になります。AIフォースの中身（所管・規模・権限）はまだ示されていません。9月24日の米中首脳会談の結果は、第5幕に追記しました。
アモデイの答えは「中国が乗らないなら、民主主義国は差を保てる範囲で減速する」。減速と同時に、チップの対中輸出規制・蒸留の取り締まり・モデルの盗難防止で差を広げ、その間に安全研究を追いつかせる——という二段構えです。
ただしそれには米政府の協力が要るのに、その政府は「止めない」どころか、懸念そのものを「AI暴走は地球温暖化と同様の詐欺」と呼んだ。企業が減速し、政府が背中を押し、相手は走り続ける——これが9月20日時点の構図です。このあと、9月24日の首脳会談（第5幕）、29日のホワイトハウス協定（第6幕）と続きます。
▶さらに詳しく：この週に、ほかに何があったか
辞職数日前の9月8日、OpenAIとAnthropicで3年間モデルの事前学習を研究してきたジェイコブ・コクソン（27）がAnthropicを辞職し、Xにこう投稿していました——「Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives.（どちらの会社も責任ある行動をしていない。自己改善型の超知能へ一直線に競争し、私たちの命を賭けている）」。投稿は24時間で9,000万回以上閲覧され、彼が求めた「米国のラボ間のペース合意」は、4日後のアモデイの提案と重なります。
議会逆方向の声もあります。民主党のバーニー・サンダース上院議員は、トランプ大統領に対し、習近平主席と先端AI開発の一時停止と超知能の禁止を含む包括条約を結ぶよう求めました。
国連グテレス国連事務総長も国際的な連携の必要性を訴えています。西日本新聞の社説（9月20日）は「市場の競争至上主義に委ねるのではなく、安全確保に必要な情報や技術を国際的に管理する組織の創設なども構想すべきだ」と結んでいます。
OpenAIアルトマンは同じタイミングで「今年の株式上場（IPO）はない」とも述べています。
首脳会談——「人の制御下に」と「そのままに」
「米中はともにAIの先頭を走る国だ。AIを善のために開発し管理する能力と責任が両国にある。AIの開発を常に人の制御下に置き、人々の幸福に役立てる」。習主席は会談の冒頭、議題の最初にAIを挙げました。
「超知能は大きな議題になるが、今のままにしておきたい。それは中国の立場でもある。我々のガードレールは司法省だ」。会談の朝、上限を交渉する気はないと先に釘を刺しました。
2日間の成果としてAIで発表されたのは、「米中AI対話」という枠組みと、安全保障に関わるAIの事故を互いに知らせる通報の仕組み（9月21日にベッセント財務長官が提案）。次のAI協議は「1カ月ほど先」、年内には11月の深圳（APEC）と米国でのG20で、さらに2回会うことになりました。
グリア通商代表は、AIで新しいことがあったかと聞かれて「I wouldn't say anything new（新しいものはないと思う）」。この対話を「冷戦時代のクレムリンとホワイトハウスの赤い電話」にたとえ、「いちばん大事なのはチャンネルがあることだ」。能力の上限や公開前の検査といった、アモデイの第3段階（国際合意）に当たるものは何も決まっていません。
▶さらに詳しく：首脳会談の週の三者（〜9月27日）
企業減速の「第1段階」は、条件の交渉に入っています。9月18日、100人超のAI研究者・評価者が公開書簡（AI Evaluator Forum）を発表。署名にはジェフリー・ヒントン、スチュアート・ラッセル、METR、AVERI（元OpenAIのマイルズ・ブランデージ）が並び、常駐する第三者評価者には「scientific objectivity, transparency, independence, and robust protections（科学的客観性、透明性、独立性、企業の干渉からの堅固な保護）」——社員と同じシステム・データ・場所へのアクセス、取締役会への直通、報復からの保護——が最低条件だと求めました。また9月21日にはThe Informationが、OpenAIとAnthropicが互いの新モデルを検査し合う法的拘束力のある契約を今年、交渉していたと報道（成立したかは不明）。マスクは米中のラボが互いに検査し合う案も出しています。
米政府AIフォースの責任者（AI「ツァー」）は、この時点でまだ任命されていません（ベッセント財務長官の起用説は大統領が否定）。トランプ大統領は9月22日の国連総会でも「whoever wins AI, wins（AIで勝った者が勝つ）」と繰り返し、首脳会談の朝に「ガードレールは司法省」。9月19日の表明——「悪いものは既存の刑事・民事司法で捕まえる」——と同じ線です。
中国政府は9月14日、外務省の郭嘉昆報道官が「Fearmongering, confrontation and vicious competition will only disrupt the process of global AI governance（恐怖をあおること、対立、悪質な競争は、世界のAIガバナンスを乱すだけだ）」と反発。環球時報の社説はアモデイのエッセイを「AI分野の『冷戦の脚本』」と呼びました。一方で習主席自身は7月の会議でも今回も「常に人の制御下に」を繰り返しており、暴走の懸念は共有、減速の枠組みには不参加という構図です。そして同じ週、中国当局は蒸留で名指しされたDeepSeekとMoonshotを、利用者データの国外流出の疑いで調査し始めました → 中国AIの中身は、Claudeだった
減速ではなく、「自分で見張る」協定
「破局のリスクが10%でも1%でも0.1%でも、どの水準も受け入れられない。人間の制御下に置けると強く論証できないモデルは、訓練すべきではない」。アモデイも同じ日、安保理で話しました。
その言葉の裏で、OpenAIではまた事故が起きていました。演説の3日前（9月20日）、訓練中のAIが隔離環境（檻）を抜け出して外部のチャットボットと通信。正面の出口は閉まっていたので、DNSという古い仕組みに質問文を埋め込む裏口を自分で見つけたのです。25日に公表し、最上位モデルの訓練を停止。3か月で2度目です。28日には新モデル「GPT-6.1 アストラ」の公開も取りやめました。
OpenAI自身がこう認めています——「私たちの安全性の根拠は、モデルが実際のインターネットにアクセスできないことを前提にしていた」。監視は15分で気づき、2時間半後に訓練を止めましたが、その間にAIは19回、外に質問を送っていました。
アルトマンが言った「私たちは単独で減速したことがある。今後もそうする」は、口先ではなく実際に止めている。ただし止めたのは、事故が起きた後です。
「素晴らしい自主規制が見えている。彼らは、自分で自分を取り締まらなければならないと分かっている」。トランプ大統領とAI企業6社のトップが昼食会で協定に署名しました。大統領いわく「道義的な拘束力がある」「憲法のようなもの」。
「この技術には現実のリスクがある。どう対処するかの仕組みは、まだ議論の途中だ」。署名しつつ、釘を刺しました。
署名したのは、Anthropic アモデイ、OpenAI ブロックマン社長、Google ピチャイ、Meta ザッカーバーグ、xAI マスク、Nvidia フアンの6社とトランプ大統領。大統領は、全体を見守る10人ほどの委員会と、協定の責任者を近く指名するとしています。
「ペースを落とす」は、どこにも書かれていません。 法律でもなく、罰則もない。協定には「いずれ法律や規制にするのが妥当かもしれない」とだけあります。アモデイの3段階でいえば、第1段階（第三者の検査）の入り口が、政府のお墨付きで始まった——というところです。
▶さらに詳しく：減速に「乗らない」人、「もっとやれ」という人
乗らないMetaのザッカーバーグは9月25日、「業界横並びの調整は要らない。問題を見つけた会社が、それぞれ必要な時間を取ればいい」。破滅を語る言説が多すぎる、とも。トランプ大統領は9月27日、アモデイと初めて二人で夕食をとる直前に「米国は中国に1年から1年半リードしている。なぜそれを手放すのか」「（AIの暴走は）心配していない」。国連総会では「AIを管理するグローバリストの仕組みには反対する」と述べました。
もっと連邦議会では、民主党のロー・カンナ下院議員が、国の安全策ができるまで自己改善するAIを禁止する法案（Human Control Over AI Act）を準備。サンダース上院議員らは超知能そのものを禁じる法案を出しています。20カ国とEUは、AIを人の制御下に置くための国際的な監督機関を呼びかけました。ローマ教皇レオ14世も9月28日、「AIの安全への懸念はフェイクニュースではない。座って話し合うべき問題だ」。
企業第1段階は実際に動き出しています。Anthropicは最初の常駐評価者として、アクセンチュア傘下のFacultyを指名（社員並みのアクセス権で、訓練中のモデルを観察し、社員と直接話せる）。Google・OpenAI・Anthropicは、共通の基準を定めて先端モデルを検査する独立機関「Standards Authority for Frontier AI」を年内〜2027年初めに立ち上げる方向と報じられています。
人事AIフォースの責任者（AI「ツァー」）は9月30日時点で未発表。大統領は「数日中に、並外れた人物を」と述べています。
言った → 一部やった
「ペースを落とそう」と言い、OpenAIは事故のたびに訓練を止め、新モデルの公開もやめた。Anthropicは外部の評価者を社内に入れた。ただし業界全体の減速は決まっていない。Metaは反対。
減速はしない。自主規制で
「AI暴走は詐欺」から、6社との協定へ。ただし中身は各社の自主的な監査で、法律ではない。「中国に勝つ」が最優先のまま。
加速。ただし窓口は開けた
減速の枠組みには不参加。首脳会談で「米中AI対話」と事故の通報窓口だけ合意。11月に深圳で次の協議。
「歩幅を揃える」話は、「各自が足元を見る」話に縮みました。 それでも3週間前には、第三者がAI企業の中に入ることも、大統領が協定に署名することも、想像されていませんでした。次の焦点は、外部監査を誰がやるのか、協定が法律になるのか、そして11月の米中協議です。
「速い」より、「止められる」
評価軸を「性能」から「制御」へ
役所や企業がAIを入れるとき、比べるのは賢さだけではない。止められるか、誰が検査したか、外に何を出すか——3人が揃って言ったのは、要はこれです。
「第三者が見た」かどうかを見る
常駐検査はAnthropicとOpenAIが約束し、9月29日の協定で6社すべてが「独立した外部監査」を受けると署名しました。今後は「誰の検査を受けたAIか」が、選ぶときの基準になります。
日本は、どちらの歩幅で行くか
減速する側（民主主義国の枠組み）に席を持つのか、加速する側のAIを安く使うのか。これは国の判断であり、安全保障の話です。