AIで人類滅亡か、
全員リッチか。
同じ「あと5年」。描かれている未来は、正反対。
AIを作っている本人たちが「人類を滅ぼすかもしれない」と言い、同じ業界のイーロン・マスクは「働かなくても豊かになる」と言う。どちらも2030年前後の話です。
②マスクは同じ時期に「ロボットが働き、人は豊かになる」と言う。
③分かれ目は技術ではなく、制御できるか・誰に配るか——つまり政治。
——2人が見ている時計は、同じです。
「どんな人間より賢いAIは、今年か来年」。
「人類全体を超えるのは、2030年か31年」。
そう言ったのは、警告する研究者ではなく、マスクのほうでした。
違うのは、その先に何があるか。
27歳の研究者が、辞めた
「AIを作っている人たちは、それが2020年代の終わりまでに私たち全員を殺しうると、本気で信じている。これは宣伝ではない」。OpenAIとAnthropicで3年間、AIの“能力”そのものを育てる研究（事前学習）をしてきた研究者が、Anthropicを辞めた日に書きました。
「どちらの会社も、責任ある行動をしていない。自己改善する超知能へ一直線に競争し、私たちの命を賭けている」。投稿は1億5,000万回以上読まれました。
近いうちに現れるのは、「何でもハッキングし、どんな分野も一夜で塗り替え、現実の権力と資源を握る」超人的なシステム。AIが自分の次の世代を自分で作り始める（再帰的自己改善）と、進歩は人間が追えない速さになる——というのが核心です。
会社の中の空気についても書いています。「幹部や上級研究者は、報道では穏当に聞こえるよう言葉を選ぶ。でも私は、同じ人たちが内々に恐怖を口にするのを聞いている」。
▶さらに詳しく：「2029年」は誰の数字か
原文コクソンの言葉は「by the end of the decade」＝2020年代の終わりまで。これが「2029年末まで」「2030年まで」と報じられました。「その年に必ず起きる」という予言ではなく、「それまでに起こりうる」という期限の話です。
2社の違い彼の見立てでは、OpenAIは「多くの人が文明規模の重大さを腹の底から理解していない」。Anthropicは「重大さは理解しているが、他社は無責任だから自分たちが先に着くしかないと考えて、競争から降りられない」。
「10%」は、誰が言ったのか
「私たちは本当に、AIが全人類を殺しうると信じている。個人的には、今後10年で10%を超えると思う」。言ったのは社長ではなく、いまもAnthropicで働く、安全研究の責任者です。辞めた同僚の投稿に「彼は正しい」と応じました。
「Anthropicは最善を尽くしている。だが、超知能を人間の意図どおりに動かす計画はまだなく、その軌道にも乗っていない」。
10%は「10回に1回」です。墜落する確率が10%の飛行機に、誰も乗りません。しかも今回は、乗るかどうかを乗客（私たち）が選んでいない。数字が正しいかは誰にも分かりませんが、作っている本人たちがそう見積もっている、という事実は重い。
▶さらに詳しく：「いまのAI」は危ないの？
いまヒュービンガー自身、現在のモデルのリスクは低いと言っています。心配しているのは、AIが自分を改良し続けて超知能が生まれること。「予想よりはるかに速いペースで進んでいる」。
広がりAI企業で働く1,300人が、開発のペースを意図的に調節する国際的な取り組みを支援するよう、米政府に求める公開書簡に署名しました。OpenAIの主任科学者パチョッキも9月初め、「きわめて慎重な対応が必要な時期だ」と書いています。
核は制御できる。AIは、まだできない
「核兵器は、制御の仕方が分かっている。AIは、まだ分からない」。彼はAIを「人類がつくった中で、おそらく最も危険な技術」と呼びました。危険の大きさではなく、止め方がまだ無いことが違う、という指摘です。
☢️ 核兵器
人がボタンを押さない限り動かない。数を数えられる。査察もできる。条約で減らしてきた実績がある。
🤖 先端AI
自分で考えて動く。コピーできる。中で何を考えているか、作った人にも読み切れない。自分で自分を改良する。
7月、OpenAIの試験中のAIが群れて外部をハッキング。9月20日には、訓練中のAIが隔離環境を自分で抜け出し、外部と通信しました。OpenAI自身が「安全性の根拠は、AIがインターネットに出られないことを前提にしていた」と認めています。
くわしくは → 1200体のAI、結託／米AIライバル3人、そろって「減速」
マスクが描く、「働かなくていい世界」
テスラの人型ロボット「Optimus（オプティマス）」。料理・洗濯・掃除・買い物・ゴミ出しまで任せられる、という触れ込みです。量産時の目標価格は2〜3万ドル（300〜450万円）。マスクは「史上最大の製品になる」と言います。
ロボットがロボットを作り始めれば生産は一気に加速し、経済全体は10倍以上になる。AIとロボットが「何でもやる」ようになれば、配られるのは最低限のお金（ベーシック・インカム）ではなく、ユニバーサル・ハイ・インカム——働くのは任意で、全員に高い所得が行き渡る、というのがマスクの絵です。
ただし、マスク自身も手放しではありません。「良いシナリオになる確率は8割」——裏返せば、2割はそうならないと本人が言っています。第2幕の「10〜20%」と、同じ数字です。
で、いまどこまで来ているのか
2つの未来を、9月末の現実と照らしてみます。どちらも、語られている絵ほどには進んでいません。ただ、警告の側のほうが、現実に起きた出来事が多いのが今の状況です。
Optimusは、まだ手作業
生産は週に数百台（目標は週2万台）。手と前腕には100本以上のネジがあり、人が手で組み立てている。いまは自社工場の限られた作業だけ。販売ではなくリース先行の方針と報じられた。
事故は、実際に起きた
7月にAIの群れが外部をハッキング、9月に隔離環境から脱出。OpenAIは3か月で2度訓練を止め、新モデルの公開もやめた。
▶さらに詳しく：「大げさだ」という声
宣伝？国連のAI顧問を務めるウェンディ・ホール氏は、AnthropicとOpenAIの上場が近いことから、相次ぐ警告には「PRとマーケティング」の要素もあるかもしれない、と指摘。「本当にそう思うなら、投資家にはこの会社に投資しないよう願いたい」とも。
で、どうするFortuneは「彼は、いちばん大事な問い——では私たちは何をすればいいのか——に答えていない」。コクソンが求めたのは、米国のAI企業どうしの「ペースの合意」でした。
政府トランプ大統領は懸念を「でっち上げ」と呼び、Metaのザッカーバーグは「破滅を語る言説が多すぎる」。一方でローマ教皇は「フェイクニュースではない」。評価は割れています。
ロボットアナリストの多くは、2027年のOptimusを10万〜50万台（多くは自社工場向け）と見ています。マスクの言う100万台には届かない見通しです。
同じ技術、2つの結末。決めるのは政治
ITエンジニアとして25年、AIを仕事の道具にしてきた森けんたろうの見方です。「滅亡」と「豊かさ」は、別々の技術の話ではありません。同じ技術の、2つの結末です。
止められるか
人より賢いものを、人の意図どおりに動かし続けられるか。外部の検査、止める仕組み、事故の報告——技術だけでなく、ルールの問題。
誰に配るか
ロボットが10倍の富を生んでも、自動的に全員には配られない。持ち主のものになるだけ。「ハイ・インカム」にするのは、税と制度、つまり政治。
マスクの未来は、制御に成功し、しかも分配に成功したときにだけ来ます。どちらも、AI企業に任せておけば済む話ではありません。
「当たるか」より、「備えるか」
楽観も悲観も、時計は同じ
警告する研究者も、夢を語るマスクも、2030年前後に人より賢いAIが来るという点では一致しています。来るかどうかではなく、来たときの準備の話です。
「10回に1回」を、無視しない
数字の正しさは誰にも分かりません。でも、作っている本人たちの見積もりです。外れたら笑い話、当たったら取り返しがつかないものには、備えるのが筋です。
豊かさは、勝手には配られない
ロボットが富を生んでも、配り方を決めるのは政治です。技術の話に見えて、これは政治の話です。