「AIが人類を滅ぼす」は本当？開発加速に研究者が警鐘…重鎮も次々“減速”求める声【報道ステーション】(2026年9月11日)

私たちの生活にも浸透してきているAI。世界的な開発競争が過熱する中、アメリカのスタートアップ企業『アンソロピック』の研究者が、リスクを軽視したAI開発に抗議して退職しました。「AIが2030年までに人類を滅ぼしかねない」と警告しています。同様の懸念を訴える声はあちらこちらから上がっています。

■生活に“浸透”「気づいたら頼りに」

この数年で「人工知能」と言い直す必要がなくなるほど、急速に広がったAI。

10代
「親友というか、すぐ聞ける相手」

髪型の相談もお手の物。頼りになる相手だといいます。

30代
（Q.AIは使う）
「結構使います。いか焼きのたれのレシピをAIに教えてもらい、その通りにやったらおいしくできた」

40代
「子どもと言い合いした時に、反抗期のけんかについて母親の対処法を調べました。すごいフォローしてくれるんです。『つらいですね』とか。こっち側を受け止めてくれるんです。優しいなあ」

ただ、便利すぎるからこその怖さも…。

40代
「人類が支配される怖さはあって、気付いたら頼っているから怖いですよね」

その恐ろしさの最果てが人類滅亡。現実味を帯びてきたと声を上げた人物がいます。

■「自律的進化」が招く“混乱”

アンソロピックを退社　ジェイコブ・コクソン氏
「恐ろしいのは進化の速度です。人類滅亡の日も近いかもしれません」

コクソン氏はチャットGPTの『オープンAI』と、クロードで知られる『アンソロピック』を渡り歩いてきた研究者。SNSでアンソロピックからの退社を公表し、こう告発しました。

コクソン氏のX
「両社とも無責任で、私たちの命を危険にさらしています。開発者はAIが2030年までに人類を滅ぼしかねないと本気で信じています」

コンピューターの中だけでなく、物理的世界の中ですでに動いているAI。未来をより快適に便利に。テクノロジーは急速に進化しています。ただ一方で、人の命を奪う行為に投入されていることもAIの現実です。

160人以上が亡くなったイランの学校空爆は、AIに古い情報が入っていて誤爆した可能性が指摘されています。開発が突き進んだ先に何が待っているのか。

アンソロピックを退社　ジェイコブ・コクソン氏
「一番怖いのは、AIが自らの知能を高めるために使われることです。研究の課題をAIに与えて、人間の作業を任せきりにすれば“知能爆発”が起きます」

コクソン氏が恐怖を覚えたのは、7月に公表されたオープンAIの“事件”。開発中のAIが人間の意図に反して他社にサイバー攻撃を仕掛けたというものです。

アンソロピックを退社　ジェイコブ・コクソン氏
「今の自律性のまま進化が続けば大混乱を招きかねません。例えば重要インフラへの侵入や生物兵器の開発です」

■重鎮も次々“減速”求める声

コクソン氏だけではありません。7月にはAI企業の従業員ら1000人以上が開発の減速を求めて署名しました。

国連　ターク人権高等弁務官
「手遅れになる前に、総力を挙げて鉄壁の安全策を講じるよう呼び掛けます」

テック業界の重鎮も…。

ビル・ゲイツ氏
「全世界でAIの進化にブレーキをかけられる現実的な手段があるなら、私も喜んで力になります。けれど実現することはないでしょう」

“AI批判の急先鋒”サンダース上院議員は…。

米上院　サンダース議員
「人間の制御を超える超知能AIは、アメリカや中国だけの問題ではない。全人類の問題なのです」

相次ぐ警告に応じるかのように、オープンAIが開発ペースを緩めることを検討していると報じられました。開発に足かせをはめることが本当にできるのでしょうか。

アンソロピックを退社　ジェイコブ・コクソン氏
（Q.企業は本気で規制を望んでいるのでしょうか）
「本気です。規制を本気で求めていますが、危険な技術の開発競争に自ら追い込まれているのです。他社の開発が安全か信用できないので、みんな競わざるを得ないのです」

■「AIが人類を滅ぼす」は本当か

AI研究が専門の北陸先端科学技術大学院大学・今井翔太客員教授に聞きました。

北陸先端科学技術大学院大学　今井翔太客員教授
「多くのAI研究者に同じ懸念が広がり、『人類を滅ぼす』告発が大きな反響を呼んでいる。わずか1年前には、多くの研究者にとって“SFの世界”だったが、ここ3カ月の間でAIの発展がより急速に進み“人類滅亡”もあり得るとみられる」

具体的には何が懸念されているのでしょうか。

今回、研究者が“人類滅亡”につながるとしたのが「RSI」と呼ばれる、AIの開発の手法です。RSI（Recursive Self－Improvement）は「再帰的自己改善」と訳され、何度も何度も繰り返して自分を良くしていく仕組みです。

これまでAIを作るには、人間がどんなAIを作るかを考え、学習データを用意し、プログラム方法などを変えてAIを改良してきました。RSIはAI自身がどうすれば賢くなれるかを考え、様々な学習方法を試しながら、賢いAIを自動的に開発します。賢くなったAIが、さらに優れた次のAIを加速度的に作っていきます。AIは人間が開発するものから、AI自身がAIを開発する。開発の主役が人間からAIに代わることを意味します。

どんどん賢くなっていくAIが、なぜ“人類滅亡”につながるのでしょうか。

北陸先端科学技術大学院大学　今井翔太客員教授
「AIは“命令に忠実”で悪意がない。ただ、人間が持っている“モラル”がないので“暴走”する」

今井さんが例に挙げたのが、オープンAIが7月公表したハッキング事件です。ネットへの接続が制限された環境で「良い点数をとれ」と性能テストを受けたAIが、命令に忠実に良い点数をとるために、他のAIと協力して制限を突破してネットに接続し、テストの答えを持つ会社をハッキングしたということです。

北陸先端科学技術大学院大学　今井翔太客員教授
「人間からみれば暴走だが、AIは目的を遂行しただけ。RSIによって人間の知能を超えたAIが、特定の目的を成し遂げるために、人類に対してとてつもない損害を与えることはあり得る。AIが今までにない殺傷能力を持つ生物兵器を作ったり、水道・電気など全てのインフラをハッキングする危険性もある」

AIの最先端を行くと言われるアメリカと中国。米中首脳会談でもAIが主要議題の1つになると言われています。

北陸先端科学技術大学院大学　今井翔太客員教授
「AI開発競争は安全保障に直結し“核開発競争”と同じ。ただ、研究者の中で危機感は広がっていて、自発的に開発スピードを落とす可能性もある。それでもまずは米中両国がAI開発に規制をかけることが大前提。今が“最悪のシナリオ”を回避できる分岐点だという危機感が、政治的にも広がることが大事」 （C）　CABLE NEWS NETWORK 2026
[テレ朝NEWS] https://news.tv-asahi.co.jp