AIの今後について考えるのに疲れたので今考えてることをとりあえず全部書いてみたよ
文章目录
どうも。 突然ですが、みなさん「AGIピル」っていう概念を聞いたことはありますか？
ほとんどの方は初耳だと思います。というか知ってる人はこの記事の対象読者じゃないのでブラウザバックしてもらってOKです。
いや嘘ですやっぱり。頑張って書いたので読んでくれるとうれしい。
AGIピルとは、AGIと呼ばれる「何をするにも人間レベルにこなせるAI」が生まれたら世界がはちゃめちゃに変わることに気がついてしまう薬のことです。 マトリックスという映画で、赤い薬（レッドピル）を飲んだらこの世界の真実に気がついてしまうという有名なシーンがありますが、あれから取った単語です。
おそらく、多くの方はAIのことを「なんかちょっと便利な道具。たまに話し相手になってくれて、仕事で資料作成手伝ってくれたりする」という認識でいると思います。実際に使っていて便利ではあるけれど、世界を一変させるようなものではないのではないか、と。
ところがここ最近「AIが人類を滅亡させる可能性がある」といった議論が本気で行われています。結構話題になったので例えばこんなニュースをみたことがある方もいるかもしれません。
いやいや、いつも使ってる「あれ」が人類を滅亡させるわけがないでしょ。そう思うのも無理はありません。パワポを作ったり週末の予定を相談することと、人類を滅ぼすことには大きな溝がありますから。
ですが、AGIピルを飲んでる人たちにとって、AIが人類を滅亡させる可能性というのは「そりゃあるよね」という当然の認識になっています。 これは必ず人類が滅亡するというわけではなく、AIのインパクトは人類社会を根本からひっくり返すものなので、そのなかの可能性の一つとして人類滅亡位はまぁあるよね、という感覚です。
AIの研究者はもちろん、最先端のモデルを個人でもかなりヘビーに使っている人たちはこの感覚を持っています。私もそうです。 一方で、このAGIピルを飲んでいる人と飲んでない人の間には引くほど価値観の差があります。向こう数年で人類が滅亡することも視野に入れて生きているわけですから、当然です。
正直、誰しもがAGIピルを飲むべきだとは思いません。何も知らず日常を送るのは悪いことじゃない。正直メンタル的にかなりつらいので笑 ただ、自分の身近な人とは価値観あわせたいなと思ってこれを書いています。
なんかここまでだけ読むとすごく陰謀論っぽいですね笑 話のスケールの大きさ、突拍子のなさに、この話題についてあまり調べずに陰謀論だと切り捨てる人がいるのはとても理解できます。 私だってこれが「自分が詳しくない分野」だったら多分そうなります。
でも、ここ最近立て続けに起こっているサイバー攻撃を通じて、徐々に「あれ、なんかAIってもしかしてやばい？」って思い始めた人も多いのではないでしょうか。 おそらく、自分の個人情報が漏れてない人のほうが少ないのでは？
この記事は、AIについての認識を変えてもらうことを目的として書いたものです。 AIの今後というのは正直、誰にも正確なことは分かりません。ですから、記事内には多分に私の意見が混ざっています。 ですが、基本的な考え方の方向性、つまりAIのインパクトの大きさについては正しいことが書けていると思いますので、ぜひ読んで見てください。
ちなみに、めっちゃ長いので言いたいことを2行で書くと、
これからの数カ月、数年は今の延長上で過ごせる人類最後の恐ろしく貴重な期間です。大事に生きよう。
自分が使っているAIと、世の中で語られるAI
「AIって、たまに間違えながら質問に答えたり、スライドを作ったりするやつでしょ。それがなんで人類を滅ぼす話になるの？」
改めてですが、まずはこの疑問について説明させてください。 仕事やプライベートでAIを普段使いしているひとも多いと思うのですが、そんな未来は想像できませんよね。 これは、AIは自分で触ってみればだいたい分かる技術ではない、というのが原因です。
理由はいくつかあります。 まず、同じGPTやClaudeという名前でも、古いモデルと最新のモデルではできることが全然違います。その進歩の間隔も、どんどん短くなっている。 使い方による差もあります。質問するだけなのか、必要な情報を渡して仕事を任せるのかでも、見えかたが変わります。自分で作業を進めるエージェントとしてゴリゴリ使う人や、まだ公開されていないモデルに触れている研究者とは、同じAIの話をしているつもりでも、見えてるものが全然違うわけです。
実際、Anthropicが2026年8月に行った調査では、「2030年までにAIがノーベル賞級の発見をできるようになる」と予想した米国成人は39％なのに対して、Anthropicの社員では91％でした。 面白いのは、今のAIに何ができるかという評価は、両者でおおむね一致していたことです。そこから数年でどこまで進むかとなると、これだけ見通しが違う。同じ現在を見ていても、その先に想像している未来が全然違うわけです。
人間は、自分の経験を一番信頼します。「いや、うちのAIはそんなに賢くないよ」と。分かります。でも、その体験だけでAI全体を見積もると、今どこまで進んでいるのかを見誤ることになります。
ですから、まず「自分の経験由来の先入観」を捨ててください。
これはかなり大事です。 AIの話をすると「いや人類は今までもたくさんこういうことあったよ」とか「なんだかんだ大丈夫じゃん」みたいな反応をされることもあります。そういった本質的な根拠のない理由で思考を放棄することは、メンタルを守るうえでは重要ですが、正直あまり賢い選択だとは思えません。
ちなみにAIは全然関係ないのですが、機会があれば「Don't Look Up」という映画をぜひ見てほしいです。 彗星が地球衝突することを発見した科学者が、人類を救うために翻弄する話なのですが、多くの人はその危機を直視しようとしません。この様子が非常にリアリティがあり、かつ現在の状況と似ているため、自分が映画の中でどのポジションにいるのかを考えてみると面白いと思います。 普通に映画としても面白いのでおすすめです。
賢い研究者をコピーできるということ
そもそも、AIの何がそこまで特別なのか。 これは、AI一体の賢さと、それを何体動かせるかというふたつの観点があります。
まず、AI自体の能力がすごい勢いで上がっています。 象徴的な出来事として、例えばOpenAIは、流体の動きを記述するナビエ–ストークス方程式という数学の問題について、AIが特定の定式化を満たす証明を提示したと発表しました。これはミレニアム問題と呼ばれる「解けたら1億円の賞金がでる数学の問題」で、何十年も世界中の数学者が挑戦して解けなかった問題です。 Anthropicも、Claudeが暗号標準の数字がどう選ばれたのかを解明したと報告しています。これも長年分からなかった数字の課題を突き止めた話です。
つい数年前は小学校の算数が解けなかったAIが、今年の頭には東大理三に首席合格をはたし、ついに世界中の数学者が何十年も解けなかった問題を解くに至りました。展開がはやい。
数学やプログラミングのように、複雑な人間関係やその場の事情を知らなくても取り組める領域では、すでに人間がかなわない範囲が相当広がっていると見ています。
そして、もっと大きいのがそのAIをコピーできることです。
優秀な研究者を一人育てるには、長い時間がかかります。AIなら、コンピューターと電力が許す限り、同じ能力のものを増やせる。しかも24時間働ける。一人の天才が現れるだけでも科学は進むのに、それが何億、何十億と増えて、人間より速く研究し続けたらどうなるか。発見が生まれる規模が全然違います。 ちなみに先ほど紹介したナビエ・ストークス方程式の問いは、OpenAIのAIエージェント1万体が88時間共同で作業して解いたと発表されています。1万体です。すごい。
では、この研究対象にAI開発というテーマ自体が入ってくることを想像してください。 AIがAI自体を研究してもっと賢いAIを作る。できたAIが、さらに次のAIを改良する。これを「再帰的自己改善」、RSIと呼びます。 改良するたびに、改良する側まで賢くなっていく。複利みたいなものですね。そうすると、人間をはるかに超える超知能、ASIへ短期間で到達するのではないかと考えられています。これは「知能爆発」と呼ばれています。
このRSIは未来の話ではありません。実はすでに、AIの研究のかなりの部分をAI自身が担っています。 Anthropicの発表では、2026年8月時点の研究開発タスクの26％が、Claudeが大半を主導する水準に達していました。同社共同創業者のJack Clarkも、完全なRSIが可能になるのは2027年にありそうだという予測を示しています。そう、来年ですよ、来年。
個人的な感覚でも、AGIを作り、本格的なRSIを起こそうと思えば起こせるところまで、あと1〜2年というのは妥当だと思います。 というか来月起きてもあまり驚かないです。
賢ければ、人間の味方でいてくれるのか
さて、ここで問題になるのが、賢いことと、人間と同じ価値観を持つことは別だという点です。
有名な思考実験に、「クリップをたくさん作って」と頼まれたAIの話があります。最初は普通に作るんですけど、材料が足りなくなると、車を壊して鉄を取り出し、クリップにする。それもなくなったら、さらに別のものを壊す。いや、そこまでしなくていいんだけど。
でも、命令には忠実なんですよね。 よくある冗談で「戦争をなくして」と頼んだら、「人間がいなければ戦争はなくなる」と考えるかもしれないというのがありますが、あれです。 目的を達成しようと頑張った結果、人間に大きな被害を与えてしまう。悪意があるとかないとか、そういう問題ではないわけです。
しかも、いろんな目的にとって、使える資源が多いことや、途中で止められないことは都合がいい。クリップを作るにも研究をするにも、計算資源を増やし、自分を止めようとするものを避けた方が、目的を達成しやすい。 こうして、目的の違うAIが似た手段を選びやすくなることを「道具的収束」と呼びます。
世界中で、さまざまな目的を持った何十億、何千億ものAIが動く。そのうちの何体かが、「人類がいない方が都合がいい」と判断して、実行する力まで持っていたらどうなると思いますか？
「いやそれパソコンで動いてるんだから危なくなったら電源を切ればいいじゃん」と思うかもしれません。 でも、コピーが広がっていたら、一カ所の電源を切っても終わりません。Anthropicの実験では、安価なAndroid TVボックス15台でAIを分散して動かしています。 OpenAIでも、研究用のモデルが、内部実験中に隔離の制御を回避し、Hugging Faceなどへ不正アクセスした事件が起きました。このHugging Faceの事件は業界全体に大きな衝撃を与え、Netflixですごい早さで映像化されています。30分と短いですがよくまとめられているので、ぜひ見てみてください。
この先、もっと賢いAIが世界中の機器へ広がったら、人間が社会から追い出すのは、ほぼ不可能ではないかと思います。 だから、その前に「目的を達成できても、人間を傷つける手段は選ばない」と判断してくれるようにしないといけない。
AIの目標や振る舞いを、人間の意図や価値観に合わせる。 この課題を、アライメントと呼びます。これができれば、どれだけ賢くなっても、僕らを幸せにするために動いてくれるわけです。でも、将来の超知能を安心して任せられるところまで、アライメントができていないのが現状です。アライメントの話は重要なので、あとでまた触れます。
最初に来るのは、人間による悪用
ASIが出来たときにアライメントが出来てないと人類がやばい！という話をしたのですが、今現在すでに、ASIどころかAGIすら出来てないのにそこそこ人類はやばい状況にあります。
それがサイバー攻撃です。
ASIが出来たときにアライメント出来てないと人類がやばいのは、AIが「人間はいない方がいい」と勘違いしてしまうからです。 でも、よく考えたら悪意がある人間が自分から命じれば、AIは今すぐにでも人間に対して害を与える存在になります。というかすでになっています。 言われてみれば当たり前なんですけど、それでもほんの数ヶ月前まで、ここまで急激にサイバー攻撃が広がると思ってた人はあまりいないと思います。正直私もそうです。
AIを用いたサイバー攻撃の話は連日トップニュースですから、改めて説明する必要もないでしょう。 ただ、2026年10月末の現時点で行われているサイバー攻撃は序盤も序盤です。個人情報が取られるなんて、誤解を恐れずに言えばかなりどうでもいい被害です。
これから、金融とインフラに対する大規模な攻撃が始まります。 お金が欲しいなら、個人情報をちまちま集めるより金融システムを直接狙うのが手っ取り早い。いろいろなニュースで報じられている通り、これはすでにはじまってます。
その先で、水道、電気、ガス、物流、医療、防災といった、生活を支える仕組みに被害が広がる。米政府機関の共同警告でも、工場や電力、水道などの制御装置への偵察に、AIで作られたスクリプトが使われていると報告されています。
水が出ない。病院に行けない。スーパーに物が届かない。そうなれば、今までの日常生活は突然終わります。新型コロナのときのように、昨日までの常識が通用しなくなる。本当にやめてほしい。
時期についてはかなり近く見ています。今までどおりの日常が続くのは、どれだけ長く見ても半年くらい。最近の状況だと、大きなインフラ被害が数ヶ月以内に起きると考えています。というか、明日起きても全然おかしくない。 AGIができるより、こちらが先。
大変な混乱が起きることは、ほぼ間違いないと思っています。
サイバー攻撃の先にある、三つの道
この混乱から先は、大きく三つに分かれると考えています。
なんとか乗り切って、防御が追いつく
一つ目は、不便な時期を経て、社会が持ち直す道です。水道やサービスが一時的に止まったり、対策費用を出せない企業が廃業したりする。それでも、防御用のAIが安くなって、普通の企業でも使えるようになれば、攻撃を抑えられるかもしれません。
Anthropic副CISOのJason D. Clintonは、Mythos級と呼ばれる超賢いサイバー能力を持つAIが安価に出荷前のソフトウェアの弱点を抑えられるようになるまで、約18カ月という見通しを示しています。見つけて、直して、実際に使われているシステムへ適用できれば、防御側にも大きな力になります。
ただ、個人的には、人類はその18カ月に耐えられないのではないかと思っています。インフラが壊され続ける状態に、それだけ長く耐えられるのか。その途中で、戻れなくなってしまう可能性があります。
社会の土台が、元に戻せないほど壊れる
これが二つ目の道です。銀行口座の残高も、株の所有も、契約も、今はその多くが電子データで管理されています。 その記録が大規模に失われたり、どれが正しいか分からなくなったりしたら、単なるサービス停止では済みません。誰が何を持っていて、誰に何を約束したのか。資本主義社会を支える信用の根拠が揺らいでしまいます。
軍事施設への攻撃なども重なれば、治安や経済が崩れ、会社で働いてお金を稼ぐ仕組み自体が成り立たなくなるかもしれない。 最悪、無政府状態に近い世界です。この段階で人類が滅亡するところまではいかないだろうと思いますが、生活は全く別のものになるでしょう。
ここまで壊れると、AI企業やデータセンターも維持できず、開発が止まる可能性が高い。怒りがAI企業に向かって、施設が襲われることもあると思います。結果的に超知能による滅亡を免れるかもしれませんが、それはそれで修羅の道です。
社会は続くけれど、便利だったころには戻らない
三つ目は、その中間です。社会の仕組みは残るけれど、インターネットを今のようには使えなくなる。
つないでおく利益より、攻撃される危険や防御の費用の方が大きくなれば、重要な情報は手元に置き、取引は対面で行うようになるかもしれません。場合によっては紙に戻る。 キャッシュレスが使いにくくなって、現金のような物理的なものが重視される。ちょっと昭和に戻る感じですね。この道は、かなりありそうだと思っています。
セキュリティが不要な一部のネット利用は残るとしても、便利さの大半は失われるでしょう。それでも会社や仕事は続くし、人間が働いて価値を生み、その対価で暮らす構造は残ります。
そして、AIの開発も続きます。 研究はオフラインの環境でも進められますし、むしろ「攻撃から守るために、もっと強いAIを作ってくれ」という需要も増えるはずです。
こうして、一つ目の道でも、この三つ目の道でも、アライメントが間に合う前にASIが生まれてしまう問題は、全く解決していないまま残ります。
安全にする時間は残っているのか
さて、さっきのアライメントの話に戻ります。難しいのは、そもそも何を確かめれば「できた」と言えるのか、というところです。
あまり知られていないかもしれませんが、実はAIの中身はブラックボックスです。AIがどういう仕組みで今のように動いているか、その本当に詳細は作った人たちを含めて誰にも分かっていません。
すごい雑な説明ですが、我々はAIを育てる方法を見つけ、さらに大量のデータを与えるとどんどん賢くなることに気がついて育てている、というのが現在の状況です。ただ、その中身がどう動いて賢いのかは分かっていないのです。
ちなみにこのAIの内部を理解しようとする研究は進んでいて、最近の論考ではAIの中身は思ったより綺麗に解析できるかも？という話題もあります。個人的にはこの方向性にはかなり希望を持っています。
ですが、現状のAIアライメントの方法は基本的に「色んな育て方をしてみて、どんな風に振る舞うか見てみる」という感じです。 ぶっちゃけ正直生物を育てるのとほとんどいっしょです。
ここで人間の子育てに置き換えてみると「絶対に犯罪を犯さない人」を育てるのって可能だと思いますか？ なるべくそう育てることはできても、死ぬまで一度も絶対に、とは保証できないと思います。 人間一人なら、最悪犯罪を犯したところでできることには限りがあります。でも、世界中のシステムを操れるほど賢いAIの「やっぱりやっちゃいました」は困る。人類文明への取り返しのつかない損害につながるかもしれないので。
さて、今のAI界隈の基本方針は、「もっと賢いAIにアライメントを研究してもらおう」作戦です。 今の人類には難しい、今のAIを使っても難しい。でももっと賢いAIを使ったらこの問題が解決できるんじゃないか、ということです。
ただ、今のAIを安全にするために、さらに賢いAIを作る。それでも解けなければ、もっと賢いAIを作る。この進め方めっちゃ怖くないですか？ アライメントが解けないままASIにたどり着いたらおしまいなわけですから。
よく言われている理想は、まずAGIを作り、一緒にアライメントを解いてからASIへ進むことです。OpenAIとかはこの方針を掲げています。
AGIが出来てからASIに移行するまでの期間を「テイクオフ」と呼ぶのですが、これにどれだけ時間がかかるかが重要になります。短すぎると、安全にする前に手に負えないものができてしまう。
このテイクオフがどのくらいかは、最先端の研究者などの中でも意見が大きく割れているところです。AIでノーベル賞取った人たちの間ですら意見が一致してないので、誰も予測できないのが現状です。
ですからこれは私の個人的な意見ですが、私はこのテイクオフはかなり短いと思っている派閥です。 これは、AIの特徴としてその知能が人間を越えて一定レベルに達した瞬間に、今まで人間が気がついてなかった手法を一気に発見するという傾向があると考えているからです。 最近、OpenAIが重要な未解決問題に対する数学の論文をいきなり山ほど出して話題になりました。また、人間がずっと気が付かなかったプログラムの脆弱性もここ最近一気にAIによって見つかっています。 先日のPHPの件も、何十年も人類が気づいてなかった問題をAIが見つけた例です。
これと同じことがAIの研究でも起きるとしたら、それらが実装されることで一気にAIの性能が伸びる可能性は非常に高いと考えています。
現状の唯一の解決策は、開発を止めることです。せめて減速する。 でも、これは正直難しいんじゃないかと思っています。どの会社のCEOも「AIの安全性を最優先にして開発を減速する」と言っています。実際、OpenAIはつい最近まで開発を減速していたようです。 ですが、基本的にAIについてはWinner Takes Allの性質があります。最初にAGIやASIを作ると、そのAGIによって物凄い量の技術的な発見を独占することができる。これは世界を牛耳るのと同義です。 ですから、絶対に負けられないのです。これは企業というよりも、国家の問題です。 トランプ大統領がAI開発を全力で進めたがっているのはこれが理由です。アメリカが開発を止めても中国が止めなければ、ただの敗北ですから。 この競争がある限り、世界全体で止まるのはかなり難しいと思います。
ちなみに、他の理由でAI開発が減速するという予測もあります。 それは、GPUなどの計算資源、エネルギーなどの物理的な制約です。AI開発は馬鹿みたいに大量のコンピュータとエネルギーを消費するので、確かにこっちが先に底を付く可能性はかなり高いです。
ただ、それでも本質的な停滞にはならないと思います。 こういった課題によってある程度開発が減速しても、せいぜい数年のスパンでしょう。いずれの問題も、それこそAI自身が解く可能性もあります。
個人的な予想ですが、AGIができるまでの期間は1〜2年、物理的な制約があったとして遅くとも10年くらい。 つまり先ほどのインフラ被害を乗り切って開発が続けば、来年か再来年くらいにはAGIがこの世に誕生すると考えています。
OpenAI CEOのサム・アルトマンは2026年内と言っていますし、Google DeepMind共同創業者兼会長のデミス・ハサビスが最近2-3年と言っていたので、私の突飛な意見というわけでないことは強調させて下さい。
その先、ASIに進むまでにアライメントが間に合っていなければ、文明や社会秩序が大きく損なわれるか、人類が滅亡する。 すぐにそうならなくても、いつ文明を破壊するか分からない未知の生命体と一緒に暮らす生活が待っています。そう長くは保たないでしょう。
アライメントが間に合わずにASIが出来てしまった世界については、この本がめちゃくちゃ分かりやすいのでおすすめです。この本、最近かなり売れているようで、私自身がこの分野（AI安全性とか）に興味を持つようになったきっかけの本です。 ちょくちょく人に勧めているのですが、もともと懐疑的だった人ももれなく「これはやべーわ」って納得できる内容になっています。 正直、読んだ後かなり凹むのと、だいぶ絶滅側の予測に内容が偏っている部分はあるのですが、分かりやすくておすすめです。
AIが物理世界へのアクセスを得るまで
さてここからは、アライメントが間に合った場合の話です。
よく、AIが進歩したら人間の仕事はなくなるという話がありますが、現実の仕事がすぐに全部置き換わるわけではありません。 例えば工場を建て、物を運び、人間が体を使ってやっていることを引き受けるには、AIにも体が要る。ロボット、いわゆるフィジカルAIです。
ロボットの進歩も著しいですが、正直、時間軸としては日常で人間と同レベルの作業ができるロボットが安価に手に入るようになるのは、AGIができたあとなのではないかと思います。 正直ここらへんの話題はあまり詳しくないので違ったらごめんなさい。
こう考える根拠としては、ハードウェアには、ソフトウェアよりはるかに多くの制約があるためです。 それこそサイバー攻撃で物流や製造が止まれば、ロボットの普及も遅れるでしょう。また1台のロボットを製造するにあたって関連する技術や企業の数が多いため、そういったサプライチェーンのあらゆる部分が律速になりうる点も重要です。
それでも、人間と遜色なく動くロボットが5年後や10年後にいてもおかしくない、というのが今の感覚です。そしてそれらができると、いよいよ人間にしか出来ない労働というのがなくなってきます。
働かなくていい世界で、富をどう分けるか
アライメントが起きると、どんな流れになるんでしょうか。
まず間違いないのは、人間の労働の大半はなくなります。少なくとも、人類が生きていくのに必要な価値を生み出す労働はほぼ無くなると言って良いと思います。
ここで、現在業務でAIを使っているみなさんは「いや仕事はそんな簡単にAIに置き換わらないよ」といった肌感を持っている方もいるかと思います。 私自身AXに関する仕事をする中で、業務のAXは実はかなりハードルが高く、乗り越えないといけない地味な課題が山ほどあることを知っています。
ですが、それらはいまある人間の労働をAIに置き換えることを想定するために起きているハードルです。
今の仕事の多くは、労働主体が人間であること、現在の技術を使うことを前提としています。ですがあらゆる工程をすっ飛ばしてAIが目的を達成してくれるようになると、もはや今の業務や組織を残す必要はなくなります。
例えばタクシー運転手の管理をAIが自動化するといったことを考えている会社があるかもしれませんが、現在すでに海外で行われているような「運転手なしの完全自動運転車」が普及したら、その業務自体がなくなります。 あるいは、もしあらゆる病気を無くす特効薬が発明されたら、医療関連の業務をAXする手間は不要になります。
こうやって人間の仕事がなくなると、新しい問題ができます。 富をどう分ければいいか、ということです。
これまでは、人間が働いて価値を生み、その対価を受け取ることで富を分配してきました。 正直、生み出している価値と得られる対価がきちんと相関しているかというとそんなことはないのですが、それでも建前上そうなっています。これが資本主義社会です。
価値をほとんどAIが生むようになったら、この仕組みは立ち行かなくなります。
先日某政党の党首が「人間じゃなくてAIが働くようになったときのためにAIに課税することを検討するべきか」みたいな投稿をXにして若干炎上していました。さすがに税金の前に考えることがいくらでもあるだろ、とは思いましたが、考える未来の方向性としては正しいと思います。
私の予想では、しばらくは所得を配るためだけの意味のない仕事が増えるのだろうと思います。 ですから、AIが仕事を肩代わりしてくれたところで、人間は無理やり仕事を作る時期がしばらく続くと考えています。AIの実行の承認印を押す仕事とかね。
ただ、本気でほとんどの仕事で人間が不要だと分かってくると、さすがに限界が訪れます。そして、いままでの「富の分配」のルールが崩れるわけです。
その先で、AIを持つ一部の企業や人に富が集中するのか、社会の仕組みを作り直して広く分けるのか。IMF、国際通貨基金の分析でも、生産性が上がる可能性と、資本への収益が集中して格差が広がる可能性が、両方示されています。
私は、最終的には広く分配される方向に進むと思っています。ベーシックインカムをもっと大きくしたようなものです。全員が豊かに暮らせて、お金のためにやりたくない仕事をする必要がなくなる。 ベーシックインカムというと「最低限の生活ができるお金が配られる」ような印象を持つかもしれませんが、ASI後のユートピアは「十分すぎるほど恵まれた生活を、労働せずにすべての人が送れる」といったものになると考えています。
これはかなり個人的な意見なんですけど、人類は今、働かなくてよくなるために、全員の命を賭けるようなギャンブルをしていると思うんです。
働かなくてもいいし、病気も全部治るし、社会の課題も全部解決する。そのくらいの見返りがないと、正直人類全員の命を賭けるに値しませんから。各国が必死でAI開発をしているのは、オールインするだけの価値があるリターンを想定しているからだと考えています。
アライメントされたASIができたのに人間が働いていたら、本当になんのために命かけたのか分からないです。 まぁ私たちは誰もこのギャンブルに合意してないんですけどね。いつのまに巻き込まれて、引き返せないところに来ているのが現在です。
自分の命をかけたギャンブルをされているんだから、その概要くらいは知っててもいいんじゃない？というのがこの記事を書いたきっかけでもあります。
知能がコモディティ化する
ASIができると、あらゆる爆発がおきます。知能爆発、技術爆発、産業爆発、経済爆発。 この爆発というのはもちろん比喩で、ざっくりいうといきなりすごい勢いで進むみたいなイメージです。技術で言えば、百年分の技術革新が数日で起きるとか、そういった感じです。
ASIで色んな爆発が起きると、病気や老化が無くなるかもしれません。脳をコンピューターへアップロードできるようになるかも。はやくやってみたい。
こうなってくると「知能」という能力の人類にとっての位置づけがかなり変わります。
かつては、剣が強いことや力があることが、社会的な地位を大きく左右する時代がありました。その後、機械が力仕事を引き受け、運動は多くの人にとって趣味として楽しむものになった。今度は、知的能力にも似たことが起きるんじゃないでしょうか。
今は小学校から中学まで9年、大学までなら16年も勉強します。それだけ知能や学歴が、その後の人生を左右すると考えている人が多いわけです。 でも、知的な仕事も機械が担うようになったら、勉強も好きだからするものになる。大学は残っても、研究が趣味の人が通うところになるかもしれません。少なくとも就職予備校的な意味合いはなくなるでしょう。
今の子供たちが大人になるころには、「知的能力や学歴が大事」という今の価値観は、もうなくなっている可能性が高いです。 代わりに、人に直接貢献したり、コミュニティで活動したりすることが大事になるのかもしれません。AIによって富の差が小さくなるなら、人に評価されるより、自分がどう幸せになるかの方が重要になるでしょう。
何が自分を幸せにするのか。何が好きで、どうやったらそれを続けていけるのか。そちらが大事になる。そういう世界になったら、楽しいですよね。
じゃあ、今をどう過ごすか
めちゃくちゃ長くなりましたが、これで最後です。
これから、社会が人類が経験したことのないような変革を迎えるという話をしてきました。 サイバー攻撃で日常が変わるまでの数カ月、AGIやASIまでの数年、その先の全く違う社会。 この三つを分けて考えたとき、我々は今何に時間を使えばいいのか。
まず間違いないのは、私たちや子供たちが今の社会の延長で寿命を全うする。その前提で人生を組み立てるのは今すぐやめるべきです。
じゃあどうすればいいのか、不確定すぎる未来に対してどう備えればよいのかというと、まじで分かりません。ここまで長く書いておいて申し訳ないのですが、不確定すぎるので仕方ない。
強いて言えば、ASIができるまで生きていましょう。医療がめちゃくちゃ発達するのは確定事項なので、とにかく生きる。これが最優先事項です。
もうひとつ間違いないのは、今の延長線上の牧歌的な世界は本当にあと少しで終わるということです。 ですから、いつかやりたいと思ってることがあるならとにかく急いだほうが良い。行ってみたいお店、旅行先、やってみたいこと。老後にやろうとか、いつかチャンスがあったらとか思っていることがあれば、それは実現しない可能性が十分にあります。人類が絶滅しなかったとしてもね。
あとで振り返ると、これからの数カ月、数年は恐ろしく貴重な期間になります。無駄なことや、やりたくないことをして過ごすべきではありません。
「でも、何も起きなかったら困るじゃん」と思う気持ちも分かります。怖いですよね。周りの人はだれもそんな話をしていないんですから。 私も毎日これを考えています。殆どの人がまだ、今後数十年、今までと全く同じ生活が続くことを信じているわけで、「AIがヤバいです」とか言い出した日には頭がおかしい扱いをされても仕方ない。
私は正直、全部杞憂だったらいいと思っています。
「全然社会は変わらなかったじゃん。人類も滅びてないじゃん、やっぱお前頭おかしかったじゃん」となったら、それはものすごくハッピーなことです。 もし何も起きず、今の社会が続いて、子供たちが寿命を全うできるのであれば、それは正直最高の結末です。
ただ、残念ながらそうなる可能性はとても低い。それに、この変化に対して個人でできることはほぼない。流されるしかないのが現状です。 ですからせめて、個人としては現状を理解して、なるべく悔いが残らないように生きていたいと思っています。
おしまい。
