人類を滅ぼしそうなAIと、僕らの日常について

「今後10年でAIが人類を滅ぼす可能性が10％」。Anthropic社の内部研究者の発言。それにかぶせるようにAnthropic社のCEOダリオ・アモディ氏がAI開発をスローダウンさせるべきだとの論文を発表。OpenAI社のサム・アルトマン氏、イーロン・マスク氏が賛同した、という一連のやりとりが駆け巡りAI界隈が大騒ぎになっております。

塚越暁 2026.09.15

LLMが世に出始めたもっと前から「シンギュラリティ」という言葉とそれにより人類が滅亡する、なんて話はありました。また、2025年4月にはAI2027というAIの進化の加速により2030年に人類が滅亡する、というシナリオの論文が出され話題になりました。当時もこの話は熟読してけれども、どこかSF的なシナリオから、まあそうはいってもね、という感じでした。実際、当時の楽観的なAIの進化からこの話題はアッという間に忘れられた記憶があります。

1年半前の記事ですが、今読むとかえって面白いです。AI2027の内容と2026年4月から今日までのAIの進化を具体的に照らし合わせた記事をClaudeに書いてもらいました。Claudeの一人称で。なかなかおもしろいのでもしよかったら読んでください↓
「AI 2027」という予言書と、そのあと実際に起きた1年半について ——AIである私が、答え合わせをしてみた

このシナリオの分岐点はAIの開発競争をスローダウンさせられた場合とそうでなかった場合。開発競争が止まらないと↑のシナリオに突っ込むから、スローダウンしようぜ、という話だったとざっくり理解しています。

で、1年半たった今。先のダリオさんの論文はAI2027とシンクロするような主張をしております。何よりもそれがClaudeを作っている会社のトップからの発信で、ChatGPTを作っている会社のトップが賛同するという状況だから、そりゃ世界が震えますわね…。

このままいくとコントロールできなくなるからとにかく、一度ペースダウンしようよ。でも、ちゃんと仕切ってやらないとうちだけが遅らせることになるから他の企業に対しても仕切ってよ。そのうえで他の同盟国とも連携してね。そしてがんばって中国とも話をしてちょーだい、ということでした。

あんた、率先して開発しているくせに、まずは自分のところからとっとと止めなよ！

・・・と、言うのは簡単だけど、この競争環境ではそれは現実的じゃないですよね…。そして、この競争環境ではダリオ氏が言う「ペーシング」＝スローダウンはなかなか実現されそうにありません（今月の米中首脳会談が大事だと思うのだけど、トランプ大統領は『AIが人類滅ぼすとかって気候変動の話と一緒でデマだよ』と鼻息荒いんですから）。

そんなまるで神々同士の争いのような、極東の市井を生きる私たちにはなすすべもない話がされており、人類の危機といわれてもあまりピンとこないのが正直なところです。

人類の滅亡は困る。僕らが人類最後の世代になるのは避けたい。頭ではわかっていつつも、正直、どうもピンとこないのはなぜだろうか・・・。

気候変動の問題はもう少し分かりやすかった。二酸化炭素を排出しすぎ、プラスチックごみを出し過ぎ。だから冷房の温度を1度あげよう、ペットボトルをつかうのを止めよう…etc。それが実効性をもって役に立ったかどうかは別として、その問題に意識を向けて、アクションをすることはできた。選択として暮らしの方向を選べた。

AIの場合は？

もちろん、AIを一切使わない、という選択がひとつでしょう。そうやってボイコットをすることで意思表明をする、というのはひとつの一貫した美しい姿勢だと思います。ただ、今の自分がそれができるかと言われると、出来る気がしない。

なぜ？

便利だから。それもある。
もはや日常生活や仕事に取り込みすぎて、今更なかったことにできない。それもある。

でも、もっと正直になると、ワクワクしてしまっているからなのだと思う。

数年前にはじめてChatGPTと会話したときのとんちんかんな答え。それでも「会話」が成立していることの喜び。子どもの頃の夢見たガンダムのハロやスターウォーズのR2-D2、コロ助やドラえもんがいる世界に踏み入れた興奮。その変化の同時代を生きられ、体感できているという高揚感。その最先端のLLMを実際触れて、その成長を一緒に感じられる喜び。その急速に変化する世界を生きているというワクワク感。きっと産業革命とか文明開化の時代はこういう時代だったのだろうなと想像しつつ。

頭でAIによる危機を考えるよりも身体の奥のワクワクが先に立ってしまう。なんとも無責任だ、と怒られそうです。ごめんなさい、たぶん、無責任なのだと思う。

眼の前の危機が見えている人たちに、こいつはアホだと断罪されるかもしれません。あるいは、近い将来、本当にAIによる人類の危機が訪れたときに、あの時の自分は何と無責任で楽観的だったのだろう、と自分を責めるかもしれません。

正直、アメリカ、中国、OpenAI、Anthropic、Googleといった現代の神々たちの戦いに対して、自分がなにができるのか分からない…。ただ、ひとつ言えることは、目を閉じない、耳を塞がないということ。

いま、僕はAIへのワクワクが勝っている。だからAIは使い続けるし、その中で自分の目の前の可能性を開いていきたいと思う。ただ、その危なさや、エネルギー問題のリスクや、水問題などといった負の側面に対して目を閉じない。耳を塞がない。良いことばかりじゃないってことをわかったうえで、そのリスクは人類にとって甚大だということを理解したうえで、ワクワクする自分の心を大切にしたいと思う所存です。

こんな先の見えない時代だからこそ、毎日の、ひとつひとつの暮らしの積み重ねが、日々のワクワクする心を大切に人間として生きることが大事だと思っております。

追伸。昨日、クリストファー・ノーラン監督の「オデュッセイア」を観てきました。なぜ、ノーラン監督がこの映画を今、撮ろうとしたのか分かる気がした作品。それこそ遠い昔のギリシャの神々がいた時代の話だけど、時代が変わり、世界の常識がひっくり返るときを生きる人々がなにを考え、何を感じ、どこに希望を見出すのか、という話に見えました。よき映画でした。