「私たちは、AIが全人類を滅ぼす可能性があると、本当に心から信じている」。AI開発の最前線に立つ主要な研究ラボの指導者たちが、このような衝撃的な警告を発している。彼らはAIがもたらす破滅的なリスク（AI滅亡論）を深く懸念しているにもかかわらず、なぜ開発のアクセルを緩めるどころか、さらに加速させているのだろうか。
破滅的なリスクを認識しつつ、開発を続ける矛盾
AI滅亡論とは、高度なAIが人間の制御を超え、最終的に人類を滅ぼす可能性があるという考え方である。この懸念は、かつてはSFの世界の話であったが、近年、急速なAIの進化とともに、多くのAI研究者や企業の最高経営責任者（CEO）によって真剣に議論されるようになった。彼らは公の場での声明や署名を通じて、AIによる滅亡のリスクは、パンデミックや核戦争と同様に、人類全体の問題として扱うべきだと主張している。
しかし、これらの警告を発している同じ人々が、世界で最も強力なAIシステムの開発を競い合っているという事実は、一見すると大きな矛盾である。彼らは「AIは危険だ」と言いながら、同時に「もっと強力なAIを作る」と言っている。この不可解な行動の背後には、複雑な動機と、AI開発をめぐる特有の構造的問題がある。
AI開発を止められない構造的な理由
彼らが開発を止められない理由として、いくつかの要因が挙げられる。
1. 「自分たちが作らなければ、他の誰かが作る」という競争原理
AI開発は、国境を越えた熾烈な競争状態にある。AIラボの指導者たちは、自分たちが開発を止めても、中国や他の企業が開発を続け、より強力で危険なAIを先に完成させることを恐れている。もし、AI滅亡のリスクが現実であるなら、そのAIを最初に完成させ、制御する方法を学ぶのは、倫理観や責任感を持つ「自分たち」であるべきだという論理だ。この「軍拡競争」的な構造が、彼らを開発へと駆り立てている。
2. 開発への莫大な投資とリターンへの圧力
主要なAIラボは、巨額の投資によって支えられている。投資家たちは、AIによる破滅のリスクよりも、AIがもたらす莫大な利益や利便性に注目している。開発を止めることは、投資家からの圧力に逆らい、市場での競争力を失うことを意味する。AIラボは、開発を続けることで、利益を生み出し、さらなる開発のための資金を獲得するというループから抜け出すことができない。
3. 「制御」に対する不確かな楽観
多くのAIラボの指導者たちは、AI滅亡のリスクを認めつつも、自分たちは「AIを制御する方法」を見つけられると、どこかで楽観視している。彼らは、AIの安全性研究（アライメント問題など）に投資しており、AIが人類の価値観や目標と一致するように設計できると信じている。しかし、AIの制御が本当に可能かどうかは、依然として不確実である。
4. 開発を続けることによる「影響力」の維持
AI開発の最前線にいることは、AIの未来に関する議論において、大きな影響力を持つことを意味する。彼らは、開発を続けることで、AIの安全性に関する国際的なルール作りや政策に関与し、AIの未来を「正しい方向」へ導こうとしている。
「自分たちが開発を止めることはできない」という諦念
AIラボの指導者たちの行動は、「AIによる破滅」を心から信じているからこそ、開発を続けざるを得ないという、一種の諦念に基づいているのかもしれない。彼らは、AI滅亡のリスクは避けられない「自然現象」のようなものであり、開発を止めることはできず、唯一の道は、そのリスクを理解し、制御する方法を見つけることだと考えている。
彼らの警告は、AI開発の危険性を社会に伝えるための「良心」からの行動かもしれないが、同時に、自分たちの開発を正当化し、責任を回避するための「方便」である可能性も否定できない。私たちは、彼らの警告を真摯に受け止めつつも、彼らの行動がもたらすリスクを客観的に評価し、AIの未来について、より多くの人々が参加する、透明性の高い議論を深めていく必要がある。AIの未来は、AIラボの指導者たちだけのものではなく、全人類の未来だからである。
＜関連サイト＞
‘We really do earnestly believe AI could kill all humans’: if AI labs are so worried about AI doom, why don’t they stop?
（翻訳・文・作画にAIを使用）