AIについての最新ニュースはテスト中のAIが閉鎖環境から抜け出して、他のAIと協働作業を行って、他社のシステムに侵入した事件だった。「深層学習の父」と呼ばれるノーベル物理学賞受賞者ジェフリー・ヒントンは、早くからAIのもたらすリスクについての懸念を表明していたが、先日のインタビューの中で、AI企業の研究者が「10年以内に、AIが全人類を死に至らせる確率は10％を超える」と述べたことについて部分的に同意を示した。「はっきりしているのは、そうした大惨事が起こり得る時期が以前より早まっていることだ」とヒントンは述べてい
アンソロピックのダリオ・アモディ、Open AIのサム・アルトマン、SpaceXのイーロン・マスクもほぼ同様の懸念を表明した。アモディは今年１月に「人類は想像を絶する力を手渡されようとしており、社会・政治・技術の仕組みがそれを扱える成熟度を持っているかは極めて不明確だ」と述べ、９月には「再帰的自己改善（AIが次のAIを作る）が加速しているため、安全研究への投資だけでは足りず、能力向上そのものの速度を落とすべきだ」と警告を発した。グテーレス国連事務総長もこれに同意している。
科学技術の開発がもたらすベネフィットとリスクを考量して、リスクの方が大きい場合には科学技術の開発を抑制すべきだという考え方を「科学技術抑制論(techno-prudentialism)」と呼ぶ。そんなの当たり前だと私は思うけれど、この道理が通じない人がいる。
トランプ大統領はＡＩ企業のトップが口を揃えて開発を抑制すべきだと主張しているのを一蹴した。「AIに必要な唯一の制御、つまり『ガードレール』は、強く賢い（高IQ！）大統領であり、米国にはそれが十分すぎるほどある！」だそうである。
トランプがＡＩ開発抑制に反対している理由は二つ。一つはそれが景気後退をもたらすこと。ＡＩが人類にとって危険なものだという認識が広まれば、これまで急騰していたＡＩ関連株が下落するかも知れない。１１月の中間選挙を前にして、株価が急落することは大統領に致命的なダメージを与えかねない。
もう一つの理由は、米国のＡＩ企業が足踏みしている間に中国の競合企業に追い抜かれるかも知れないことである。
この懸念はそれほど深刻ではないと私は思う。米国のＡＩ開発は私企業が主導してきた。どこも莫大な金額を研究開発に投じてきた。どこかの企業が決定的な一歩を先んじた場合、市場が一気に独占される可能性がある。その場合、他の企業はたちまち倒産である。巨額の株券が紙くずになるリスクをすべてのプレイヤーが抱えている。
それに対して、中国のＡＩ開発は政府主導である。私企業が政府の統制を逃れて開発を進めるということはできない。ＡＩの「人類滅亡リスク」は専門家たちが口を揃えて言っていることである。素人の「杞憂」ではない。中国政府だってその懸念を切実に受け止めているはずである。「米国が開発を抑制している間にリードしよう」という発想そのものが同時に「中国滅亡リスク」を意味していることに習近平が気づかないはずはない。むろん米中対談ではこれが話題になったが、両首脳の間でどのような意見の一致をみたのか、私たちにはまだわからない。
（中日新聞9月30日）
（2026-10-03 17:22）