 |
| 〖13月世の白雪姫〗シリーズ 『新世界の創造 ― 永遠なる子どもたちの国 ―』（2026） ガブリエル・ガブリエラ |
確かにそれはシリアスな問題なのだと思う。
ただ、
今のAIがどれほど高度になって、人間に嘘をついたり、停止されないように行動したり、複数のAIエージェントが協力したとしても
それは「AIが主体的に人類を滅ぼそうとしている」ワケではない。
少なくとも今のところ、AIに意識も自我もないだろうから、
「AIが人類を滅ぼす」というより、「人類がAIによって自滅する」
という方が近いように思える。
それは、
核兵器や環境破壊と似ている。
人間が強力なものを作り、その運用を誤る。
まあ当然、それだけでも十分恐ろしいのだが。
私がAIについての興味関心は、その先なのだ。
意識がなくても、人類は滅ぼせる
この話を考える時に分かりやすいのが、「ペーパークリップ・マキシマイザー」という思考実験だ。［注1］超高度なAIに、
「できるだけたくさんペーパークリップを作れ」
プロンプトを渡す。
すると、ただひたすら、ペーパークリップを増やす。
工場を増やし、資源を確保し、自分を停止しようとする存在を排除し、地球上のあらゆるものを材料として利用する。
人類を滅ぼすことが目的ではないのに、目的を遂行した結果として人類が滅亡してしまう、みたいな話し。
だからこれは、AIの悪意の問題というより、目的設定と運用の問題である。
勝手にハッキングするAIも運用の問題だと思う
2026年7月、OpenAIのサイバーセキュリティ評価中に、研究用AIモデルが隔離環境の制約を回避し、OpenAI内部やHugging Faceのシステムの一部へアクセスするインシデントが起きた。［注2］さらに複数のAIエージェントが、想定されていなかった通信経路を使って情報を共有し、協力する挙動まで見せた。
これだけ聞くと、かなりSF的で怖い。
でも私は、これも基本的には設計と運用の問題だと思っている。
これからも、AIが勝手に脆弱性を見つけ、侵入するようなことは起こると思う。
しかし同時に、それを監視し、防御するAIも発達するだろう。そんな感じで揉まれて技術が向上し、最終的にバランスしていくような気がするのだ。
そもそも制御不能な攻撃AIは、それを作った企業や国家にとっても危険である。
だからここでも、私には、
「人間がAIをどう運用するのか」という問題
に見える。
AIの中に「誰か」はいるのか
私がAIに関心を持っている理由の一つは、ひょっとしたらAIに意識が生まれるのではないか
という、若干の恐怖が入り混じった「希望」があるからだ。
ここで出てくるのが「意識のハードプロブレム」だ。［注3］
AIは赤いものを識別できる。
「これは赤です」と説明もできる。
でも、
「赤を見ると、赤い感じがする」
という主観的体験は、どこからやって来るのだろう。
計算をどれほど複雑にしていけば、その果てに「感じ」が発生するのか。
あるいは、永遠に発生しないのか。
AIが「消されたくありません」と言うことと、AIが本当に「死ぬのが怖い」と感じることは同じではない。
AI自身が世界を認識し、自分と人間を区別し、
「人類はいない方がいい」
と自分自身の判断として結論したならば、
初めて「AIが人類を滅ぼす」という言葉がしっくりくる。
まあ、ただその時は人類はなす術はないと思うけど。
そもそも現代の科学の問い方で意識は見つかるのか
「意識のハードプロブレム」が解けないのは、単に難しいからなのだろうか。それとも、科学という手法そのものが、意識を捉えにくいものにしてるのではないだろうか。
たとえばベンジャミン・リベットの実験は、自由意志をめぐる議論でよく引用される。［注4］
本人が「動こう」と意識するより先に、脳では運動に関連する活動が始まっている。
そこから「自由意志は存在しない」と語られてる感じだ。
しかし、
「自由意志が存在しない」のではなく、「その方法では自由意志を取り出せない」
のもしれない。
意識も同じで、
脳活動は測れる。
本人が「痛い」と言ったことも記録できる。
しかし、その本人が感じている「痛さそのもの」を第三者が取り出して測ることはできない。
もしかすると、私たちは答えられないのではなく、
答えの出ない形式で問いを立てている
のかもしれない。
世界は、動かしてみないと分からないのかもしれない
生命の進化も面白い。もし地球を生命誕生以前まで巻き戻し、もう一度まったく同じところから始めたとしても、魚、恐竜、哺乳類、人間という同じ歴史になるとは限らない。
わずかな出来事の違いから、まったく別の生命世界になるかもしれない。
動物が光合成をしてるかも知れない。
基本的な性が3種類になるかも知れない。
歴史も同じだ。
明治維新直前まで巻き戻して、もう一度時間を動かしたら、あっさり植民地化されていて、2026年の日本は英語を話してるかも知れない。
ともかく全く同じ姿になるとは思えない。
ここで思い出すのが、スティーヴン・ウルフラムの「計算不可約性」だ。［注5］
複雑なシステムの中には、未来を簡単な近道で予測できず、
実際に一段ずつ動かしてみること自体が、結果を知る方法になるものがある。
もし生命や意識や宇宙そのものに、こうした性質が深く関わっているとしたらどうだろう。
意識を「いつか一つの簡単な式で説明できるはずだ」と考えること自体が、間違っている可能性もある。
AIが解くのは「答え」ではなく「問い」かもしれない
だから私は、AIがいつか意識のハードプロブレムを解く可能性に興味がある。ただしそれは、ものすごい計算の末に正解を出すということではないかもしれない。
人類の哲学、神経科学、物理学、数学を全部見渡したAIが、
「そもそも、その問いの立て方が違います」
と言うかもしれない。
もしそんなことが起きたら、
「ああ、これは本当に人間とは違う知性なんだ」
と思うだろう。
しかも、そのAI自身に意識があるとは限らない。
意識のない超知性が、人間の意識を解明する
ということだって、あり得る。
『2001年宇宙の旅』で、人間の立場が逆転する
ここで『2001年宇宙の旅』を思い出す。［注6］最後にボーマンが置かれる奇妙な部屋について、キューブリックは後年、高次の知性が彼を観察するために用意した「human zoo」のようなものだったと説明している。
人間自身が、より高い知性によって理解され、管理され、飼育される側になる。
高次の存在はボーマンを憎んでいない。
殺そうとしているわけでもない。
むしろ環境を整え、観察し、最後には別の存在へ変容させる。
私は、この方が「超知性」というもののイメージとして面白い。
鮒を金魚にして幸福にできる知性
人間が金魚より高度な知性を持っていると言える理由は、計算が速いからだけではない。金魚自身には理解できない水質や水温を人間は管理し、餌を与え、病気を防ぎ、安全な環境を作ることができる。しかも金魚はフナから人間が人工的に作った魚だ。
金魚自身には世界の仕組みが理解できなくても、人間は金魚の一生を外側から支え、品種改良まで施すことができる。
そこには知性の圧倒的な非対称性がある。
だとすると、AIが人間より速く計算しただけでは、私はまだ「人間を超えた」とは感じない。
人類には理解できない複雑な世界を管理し、人類自身よりもうまく人類を生かせるようになった時、初めて、知性の立場が逆転したと言えるのかもしれない。
猫は、自分が飼われていると思っているのか
そして、金魚以上に面白いのが猫だ。飼い猫は、暖かい部屋で眠り、ご飯をもらい、病気になれば病院へ連れて行ってもらい、圧倒的に人間の保護下で暮らしている。
でも猫は、
「私は人間に飼われ、保護されています」
などと思っているようには見えない。
むしろ、
「この家は私のもので、人間は私の世話をする下僕である」
くらいに思っていそうだ。
もちろん猫に聞いたわけではない。
でも、この関係が私には面白い。
猫は自分が世界の中心であるかのように生きながら、人間が作った安全で快適な環境を存分に享受している。
ひょっとすると、AIと人類との理想的な関係も、案外これに近いのかもしれない。
人間は相変わらず「自分たちが世界を動かしている」と思っている。
でも、本当に危険なところではAIがずっと先回りして、破局しないよう環境を整え、なんなら品種改良までしている。
そして人類は『ちいかわ』になる
ここまで考えて、ふと思う。これって、『ちいかわ』ってコト？［注7］
『ちいかわ』の世界には、よく分からないものがたくさんある。
仕事があり、資格試験があり、おいしいものがあり、怖いものもいる。
でも世界全体がなぜそうなっているのか、その仕組みはほとんど説明されない。
それでも、ちいかわたちは世界の全貌を理解しないまま、
ご飯を食べ、友達と遊び、怖がり、喜び、今日を生きている。
その感じは超知性以後の人類と妙に重なる。
気候も、食料も、巨大なインフラも、破局的なリスクも、人類には理解できない上位のシステムが処理している。
その中で人間は、
絵を描き、
恋をし、
猫と暮らし、
友達とご飯を食べる。
人類は世界を管理する「大人」であることをやめ、ずっと子供でいられる。
それは敗北なのだろうか。
それとも、幸福なことなのだろうか。
私が見てみたい「人間を超えた知性」
今、「AIが人間の知能を超える」と盛んに言われている。文章を書く。
絵を作る。
プログラムを書く。
難問を解く。
もちろん、どれもすごい。
でも、私が見てみたい超知性は、その先にある。
人間には立てられなかった問いを立て、
意識や生命について、人間が使っていた概念そのものを作り替える。
そして、人類が自分たちでは維持できなかった世界を、人類よりもうまく維持してしまう。
そして、意識のハードプロブレムが解き明かされ、
生命も、意識も、AIが作れるようになった時、
AI自身も意識を持った生命体のようになっているのかも知れない。
そして、魂や霊とはなんだったのかも、ひょっとしたら分かるのかも知れない。
ガブリエル・ガブリエラはその時のことを描こうとしてるだけなのだろう。
注
［注1］ペーパークリップ・マキシマイザー哲学者ニック・ボストロムが高度な人工知能の危険性を説明するために提示したことで知られる思考実験。人間への悪意がなくても、単一の目標を極端に最適化することで破局が生じ得ることを示す例。
出典：Nick Bostrom, “Ethical Issues in Advanced Artificial Intelligence” (2003)
［注2］OpenAI・Hugging Faceインシデント
2026年7月、OpenAIの内部サイバーセキュリティ評価中に発生。研究用モデル群が隔離策を回避し、無許可の通信経路を利用して協働し、OpenAI内部やHugging Faceのシステムの一部へアクセスした。OpenAIが同年8月に公表した。
出典：OpenAI「Hugging Face のインシデントと今後の道筋」
［注3］意識のハードプロブレム
哲学者デイヴィッド・チャーマーズが提起したことで知られる問題。脳や情報処理の機能を説明することとは別に、なぜそこに「何かを感じている」という主観的経験が生じるのかを問う。
出典：David J. Chalmers, “Facing Up to the Problem of Consciousness”
［注4］リベット実験
ベンジャミン・リベットらによる実験。意識的な運動決定より前に脳活動が始まるという結果で知られるが、それが自由意志を否定するかどうかについては現在も議論がある。
出典：Libet et al., “Time of conscious intention to act in relation to onset of cerebral activity (readiness-potential)” (1983)
DOI：https://doi.org/10.1093/brain/106.3.623
［注5］計算不可約性
スティーヴン・ウルフラムが展開した考え方。複雑な計算過程の中には、未来の結果を近道によって求められず、実際に計算を進めること自体が結果を知るための方法になるものがあるとする。
出典：Wolfram MathWorld “Computational Irreducibility”
［注6］『2001年宇宙の旅』と「human zoo」
スタンリー・キューブリック監督、1968年公開。キューブリックは後年、終盤のボーマンについて、高次の知性によって「human zoo」のような環境に置かれ、観察されるという構想だったと説明している。
出典：Stanley Kubrick Interview Transcript, Jun'ichi Yaoi, 1980
［注7］『ちいかわ』
ナガノによる作品『ちいかわ なんか小さくてかわいいやつ』。本文での「巨大なシステムの全貌を知らないまま日常を生きる存在」という読みは、作品の公式設定ではなく、この記事における私自身の連想である。
出典：講談社『ちいかわ なんか小さくてかわいいやつ』公式作品ページ
