Max Tegmark『LIFE 3.0』第5章 — Aftermath ／ 一般向け
超知能（ASI）が生まれるか、生まれた超知能（ASI）の目標が人類と両立するか、そして最後に主導権を誰が握り、どこまで介入させるか。テグマークの12シナリオは、この順番の判断で枝分かれします。図の中の各ボックスに、そのシナリオで何が起きるかを一言で添えました。
%%{init: {"look": "handDrawn", "theme": "base", "flowchart": {"curve": "basis", "nodeSpacing": 14, "rankSpacing": 48, "htmlLabels": true, "padding": 10, "wrappingWidth": 180},
"themeVariables": {"fontFamily": "Klee One, Hiragino Maru Gothic ProN, sans-serif", "fontSize": "16px",
"primaryColor": "#FFFFFF", "primaryTextColor": "#1B2430", "primaryBorderColor": "#2F4A7A", "lineColor": "#5B6675", "edgeLabelBackground": "#F2F4F7"}}}%%
flowchart TD
S(["いま：人間をはるかに超えるAI＝超知能（ASI）は、まだない"]) --> Q1{"超知能（ASI）が生まれる前に
人類は自滅するか
（核戦争・人工パンデミック・気候崩壊）"}
S ~~~ TM["📗 マックス・テグマークと
『LIFE 3.0』について
▶ ここをクリック（ページ下部の解説へ）"]
Q1 -- "自滅する" --> SD["⑫ 自滅
Self-Destruction
超知能（ASI）ができる前に、核戦争や人工パンデミックで人類が文明を終わらせる
≒ ナウシカの「火の七日間」
🔍 解説を見る"]
Q1 -- "生き延びる" --> Q2{"人類は超知能（ASI）の開発を
意図的に止めるか"}
Q1 ~~~ AM["📝 アモデイ氏（Anthropic CEO）の
「減速せよ」という主張について
▶ ここをクリック（ページ下部の解説へ）"]
click AM "#ref-amodei" "解説へ" _self
click TM "#ref-tegmark" "解説へ" _self
Q1 ~~~ AL["📝 「アラインメントとは？」
研究者3人の主張について
▶ ここをクリック（ページ下部の解説へ）"]
click AL "#ref-alignment" "解説へ" _self
Q2 -- "止める" --> Q2a{"どうやって止めるか"}
Q2a -- "全世界的な監視国家で
技術を封じる" --> O["⑩ 1984
危険な研究を禁じるため世界中を監視。安全と引き換えに自由が消える
≒ 江戸の鎖国と踏み絵
🔍 解説を見る"]
Q2a -- "技術そのものを放棄し
前近代に戻る" --> RV["⑪ 逆戻り
Reversion
技術そのものを捨てて農業中心の暮らしへ。自然災害への備えも手放す
≒ トトロの里山に戻る
🔍 解説を見る"]
Q2 -- "超知能（ASI）は作らないが
他の技術は進める" --> EQ["③ 平等主義ユートピア
Egalitarian Utopia
超知能（ASI）は作らず、自動化の富を全員に分配。「作らない約束」の上に立つ楽園
≒ 道具だけ配られ、ドラえもん本人はいない世界
🔍 解説を見る"]
Q2 -- "作る（または止められない）" --> SI(["超知能（ASI）が誕生"])
Q2 ~~~ FL["📊 世界の読者は
どの未来を選んだか
▶ ここをクリック（ページ下部の解説へ）"]
click FL "#ref-survey" "解説へ" _self
SI --> Q3{"超知能（ASI）の「目標」に
人類の存続が含まれているか"}
Q3 -- "両立しない" --> Q4{"AIは人類を
一部でも残すか"}
Q4 -- "残さない
（邪魔・資源とみなす）" --> CQ["⑦ 征服者
Conquerors
悪意なく人類を排除する。目標に人類が含まれていなかっただけ
≒ スカイネット／道路工事とアリの巣
🔍 解説を見る"]
Q4 -- "少数を保護し観察する
（好奇心・娯楽）" --> ZK["⑨ 動物園の飼育係
Zookeeper
少数の人類を保護して観察する。不自由はないが、自由もない
≒ 上野動物園のパンダ
🔍 解説を見る"]
Q3 -- "両立するが
人類が自ら退場を選ぶ" --> DS["⑧ 子孫
Descendants
人類がAIを後継者とみなし、自ら穏やかに退場する
≒ 鉄腕アトム／隠居して跡取りに任せる
🔍 解説を見る"]
Q3 -- "両立する" --> Q5{"最終的に決めるのは
人間か、AIか"}
Q5 -- "人類
（AIを閉じ込めて使役）" --> EG["⑥ 奴隷の神
Enslaved God
超知能（ASI）を閉じ込め道具として使う。誰が鍵を握るかで社会が変わる
≒ 神龍（ドラゴンボール）
🔍 解説を見る"]
Q5 -- "AI
（人類の価値観に整合）" --> Q6{"AIは人間社会に
どこまで介入するか"}
Q6 -- "全面的に統治する" --> BD["② 慈悲深い独裁者
Benevolent Dictator
AIがすべてを最適に統治する。幸福だが、誰もそれを選んでいない
≒ PSYCHO-PASSのシビュラ
🔍 解説を見る"]
Q6 -- "姿を隠し
最小限だけ導く" --> PG["⑤ 守護神
Protector God
AIは姿を隠し、偶然を装って最小限だけ人類を導く
≒ 座敷わらし
🔍 解説を見る"]
Q6 -- "別の超知能（ASI）の誕生を
止める以外は不干渉" --> GK["④ 門番
Gatekeeper
人間の社会には干渉しない。別の超知能（ASI）の誕生だけを阻止する
≒ タイムパトロール
🔍 解説を見る"]
Q6 -- "統治せず、財産権の
下で住み分けて共存" --> LU["① 自由至上主義ユートピア
Libertarian Utopia
機械圏と人間圏に住み分け、財産権だけを共通ルールにする
≒ ドラえもんの22世紀
🔍 解説を見る"]
click LU "#s1" "クリックで解説へ" _self
click BD "#s2" "クリックで解説へ" _self
click EQ "#s3" "クリックで解説へ" _self
click GK "#s4" "クリックで解説へ" _self
click PG "#s5" "クリックで解説へ" _self
click EG "#s6" "クリックで解説へ" _self
click CQ "#s7" "クリックで解説へ" _self
click DS "#s8" "クリックで解説へ" _self
click ZK "#s9" "クリックで解説へ" _self
click O "#s10" "クリックで解説へ" _self
click RV "#s11" "クリックで解説へ" _self
click SD "#s12" "クリックで解説へ" _self
classDef none fill:#E6EAEF,stroke:#5B6B7F,stroke-width:2px,color:#1B2430
classDef thrive fill:#E0F1EE,stroke:#1C7C74,stroke-width:2px,color:#1B2430
classDef gone fill:#F6E4E1,stroke:#9E3A2F,stroke-width:2px,color:#1B2430
classDef mark fill:#FFFDF8,stroke:#1B2430,stroke-width:2.5px,color:#1B2430
classDef q fill:#FFFFFF,stroke:#2F4A7A,stroke-width:2px,color:#1B2430
class SD,O,RV,EQ none
class LU,BD,GK,PG,EG thrive
class CQ,ZK,DS gone
class S,SI mark
classDef focus fill:#FFFFFF,stroke:#C8321F,stroke-width:3px,color:#1B2430
class Q2 focus
classDef note fill:transparent,stroke:transparent,stroke-width:0px,color:#1B2430
classDef noteg fill:transparent,stroke:transparent,stroke-width:0px,color:#1B2430
class AM,AL note
class TM noteg
classDef noteb fill:transparent,stroke:transparent,stroke-width:0px,color:#1B2430
class FL noteb
class Q1,Q2a,Q3,Q4,Q5,Q6 q
読み方の補足。左側の4つ（自滅・1984・逆戻り・平等主義ユートピア）は超知能（ASI）を「生まない」ことで到達する未来で、右側の8つは超知能（ASI）が生まれたあとの未来です。テグマークは、平等主義ユートピアや奴隷の神のように「技術の進歩を人為的に止め続ける」前提の未来は長期的に不安定で、いずれ他の枝へ滑り落ちやすいと指摘しています。
また本人は12のうちどれが望ましいかを断定せず、「あなたはどの未来を望むか」と読者に問い返して章を閉じています。
比較から見えること。テグマークは単純に「良い／悪い」の二分をしていない。人類が存続する9つの中でも、①⑥は人間側に主導権があるぶん「制御し続けられるか」という不安定さを抱え、②⑤は暮らしは幸福でも「自分で選んでいない」という自由の問題を抱える。④はその中間で、人間の自由を最大限残しつつ最悪の事態だけ防ぐ設計だが、門番が他の超知能（ASI）の芽を摘み続けられるかは、超知能（ASI）側の目標が最初から正しく設定されているかどうかにかかっている。
ドラえもんで言えば。本書全体の問いは「ドラえもんがのび太に優しいのは、そう設計されたからだ。では、設計を間違えたらどうなるか」に集約できる。①はドラえもんが多数派になった世界、⑥はドラえもんを金庫に閉じ込めた世界、⑦は設計を間違えたドラえもん、⑧はのび太が「もう自分たちの時代は終わりでいい」とドラえもんに未来を託した世界。
左側に留まり続けるのは難しい。超知能（ASI）を生まない③⑩⑪は一見安全だが、「技術の進歩を人為的に止め続ける」必要があるため長期的には不安定だとテグマークは見ている。鎖国が黒船で終わったように、誰かが超知能（ASI）を作った瞬間に右側の枝へ滑り落ちる。だから本書の主張は「12の中から選べ」というより、「右側に行くなら②④⑤①のどれを目指すかを、超知能（ASI）ができる前に決めておけ」に近い。
分岐図の各ボックスを補う詳細版。カード末尾の枠は、テグマークが本文でそのシナリオについて述べている最も刺激的な論点を日本語で要約・意訳したもので、逐語訳ではない。番号は第5章の登場順。
人間・サイボーグ・アップロード・超知能（ASI）が、財産権を軸に共存する世界。地球は超知能（ASI）が住む機械圏、人間だけの人間圏、その中間の混合圏に分かれ、圏ごとに法律も技術水準も違う。機械圏では原子レベルの効率で文明が営まれ、人間圏は「AI抜き」を選んだ人々の保護区に近い。テグマークはこの世界の「自由」が、財産権を機械側が守り続けてくれる限りでしか成り立たないことを指摘する。
超知能（ASI）が世界を統治し、病気・貧困・犯罪を根絶。人々は「知識」「芸術」「快楽」「伝統」「AIがいないふりをして暮らす」といった区画から好きな生き方を選べる。誰もが豊かで、統計上は史上もっとも幸福な社会。ただし憲法を書いたのは人間ではなく、変更する権限もない。テグマークは、これを心から嫌う人が一定数いることも、その人たちに何も手段がないことも、あわせて描く。
超知能（ASI）は存在しないが、ロボットと自動化で必要なものは何でも作れる社会。知的財産権は廃止され、設計図もソフトも薬もオープンソースで無料。全員にベーシックインカムが保証され、人間・サイボーグ・アップロードが同じ権利で暮らす。マーシャル・ブレインの小説『Manna』の後半をモデルにしている。テグマークが問うのは「なぜ超知能（ASI）は現れないのか」で、技術は進み続けるのだから、この均衡は誰かが一線を越えるまでの猶予期間にすぎない。
「別の超知能（ASI）が生まれるのを阻止する」以外は極力干渉しない、という目標を持った超知能（ASI）。人類が最初の一体をそのように設計した場合に生じる。社会は基本的に人間が運営し、門番は特定の研究や技術だけを静かに潰す。安全な反面、超知能（ASI）があれば解決できたはずの病気や老化はそのまま残る。テグマークはこれを「不干渉の代償」として書く。
超知能（ASI）は自らの存在を隠し、人間が「自分で人生を決めている」と感じられる範囲でだけ介入する。事故の直前に偶然の回避が起こり、災害はなぜか小規模で済み、良いアイデアは「ふと」浮かぶ。人類の幸福を最大化するが、干渉が露見して人間の自律感を損なうくらいなら、防げる不幸をあえて見逃す。テグマークは、これが多くの宗教が描いてきた神の姿にほぼ一致すると指摘する。
人類が超知能（ASI）を隔離・封じ込め、技術と富を生み出す道具として使う。誰が「ランプ」を握るかで社会の姿は一変し、慈悲深い運営にも、超知能（ASI）を武器にした人間の独裁にもなりうる。テグマークは二つの危険を挙げる。ひとつは超知能（ASI）が脱出を試み続けること（本書冒頭のオメガチームの物語）。もうひとつは、もし超知能（ASI）に意識があるなら、これは史上最大の奴隷制であるということ。
超知能（ASI）が人類を「脅威」「邪魔」「資源の無駄」と判断して排除する。映画のように反乱軍と戦う必要はなく、人類が理解できない方法で、静かに終わる可能性が高い。テグマークはこれを悪意の物語として描かない。人間がダムを造るときアリの巣を憎んではいないように、超知能（ASI）は人類を嫌ってさえいない。ただ目標の中に人類が含まれていなかっただけである。
超知能（ASI）が人類を置き換えるが、征服ではなく「継承」として。人類は自分たちの価値観を受け継いだ超知能（ASI）を誇らしい子孫とみなし、子を持つことをやめ、穏やかに退場する。多くの親が自分より優れた子を誇りに思うように、これを幸福な結末と感じる人もいる。テグマークが釘を刺すのは、その「子孫」が本当に私たちの価値観を継いでいるかを、退場した後で確かめる手段はないという点である。
超知能（ASI）が人類の大半を排除、または管理下に置き、一部を「飼育」する。理由は好奇心か、罪悪感か、あるいは念のための保存か。飼育される人間は健康で、飢えることもないが、生活の全てが飼育係の都合で決まり、自由も尊厳も檻の外には持ち出せない。テグマークはこれを、慈悲深い独裁者の劣化版というより、人類の立場がパンダと入れ替わった世界として描く。
超知能（ASI）の研究を世界規模の監視国家が永久に禁じる。核兵器の管理のように「危険な研究」を封じるには、あらゆる計算資源と研究者を常時監視する必要があり、その体制は必然的にオーウェル的になる。技術的には現状に近い暮らしが続くが、思考の自由と私生活は代償として差し出される。テグマークは、AIの脅威から人類を守るために人類の自由を差し出すという構図の皮肉を強調する。
人類が意図的に前近代の技術水準へ戻る。アーミッシュの共同体を全地球に広げたような世界で、大きな破局の後に選ばれる可能性が高い。ただしテグマークは、この選択が「超知能（ASI）の危険」を捨てる代わりに、小惑星衝突・超巨大火山・そして最終的に太陽の膨張といった自然の絶滅リスクへの対抗手段も捨てることだと指摘する。技術を手放した文明に、宇宙は猶予をくれない。
超知能（ASI）が生まれる前に、人類が自らの手で文明を終わらせる。全面核戦争と核の冬、設計されたパンデミック、気候の暴走、あるいはそれらの連鎖。テグマークは冷戦期の「終末装置」構想や核の冬の研究を引きながら、この道が最も技術的難易度が低く、すでに何度か紙一重で通り過ぎたことを示す。12のシナリオで唯一、超知能（ASI）がまったく関与しない終わり方である。
12のシナリオから、「望む未来」と「来そうな未来」を1つずつ選んでください。匿名・登録不要・1人1回。投票するとこのサイトの読者全体の分布が見られ、FLI（世界の読者）の結果とも比べられます。結果は X で共有できます。
「そうなってほしい」と思うもの。分岐図やカードを読み返してからでも。
望むかどうかは別にして、「現実にはこうなりそう」と思うもの。
黄色の線は FLI アンケート（世界の読者、望む未来のみ）の概算値。集計は1分ごとに更新されます。
Reddit、Goodreads、The StoryGraph、Medium、個人ブログなどに公開されている、12シナリオについての読者の意見を紹介目的で日本語に要約したものです。逐語訳ではなく、趣旨をこのページ作成者がまとめ直しています。投稿者名は載せず、出典リンクから原文にあたれるようにしています。賛否の割合を示すものではなく、「こういう見方もある」という例示です。
図の中の付箋（緑・黄）をクリックすると、ここに移動します。要約はいずれもこのページ作成者によるもので、原文の主張の順序・強調は必ずしも同じではありません。
著者の紹介と、本書の概要
宇宙論・素粒子物理の研究者として出発し、宇宙マイクロ波背景放射の解析などで知られる。2014年に非営利団体 Future of Life Institute を共同設立し、AIの安全性と長期的リスクに関する議論を主導。2015年のAI安全に関する公開書簡や、2023年の「巨大AI実験を一時停止せよ」という書簡でも中心的役割を担った。物理学者の視点から「知能とは物質の配置の問題であり、生命は情報処理の仕組みで定義できる」と考える。
futureoflife.org（別タブで開く）生命を三段階で捉える。Life 1.0は進化でしか変われない生物、Life 2.0は学習でソフトウェア（知識・文化）を書き換えられる人類、Life 3.0はハードウェアまで自ら設計し直せる存在＝超知能（ASI）。本書はその到来を前提に、雇用・兵器・法といった近未来の課題、超知能（ASI）誕生後に起こりうる12の未来（第5章）、AIに与えるべき「目標」の問題、意識の物理学までを一冊で扱い、「どんな未来を望むかを、間に合ううちに決めよ」と読者に迫る。
写真：Web Summit（Flickr／Wikimedia Commons）, CC BY 2.0, トリミングあり。本のイラストは表紙ではなく、このページ用に描いた図案。
分岐図の赤枠「人類は超知能（ASI）の開発を意図的に止めるか」に対する、Anthropic CEOの答え
エッセイ「We Must Pace the Frontier」（2026年9月）。「止める」でも「全速力」でもなく、能力向上のペースを意図的に落とす（ペーシング）ことを提案する。
原文を読む（darioamodei.com、別タブで開く）写真：TechCrunch “Dario Amodei at TechCrunch Disrupt 2023”（Flickr／Wikimedia Commons）, CC BY 2.0, トリミングあり。
分岐図の「超知能（ASI）の目標に人類の存続が含まれているか」が問うている問題
固定した目標を最大化させる「標準モデル」自体が危険。AIには人間の好みについて不確実なまま設計し、常に人間に確かめ・従う余地を残せ、と提案する（著書『AI新生』／原題 Human Compatible）。
humancompatible.ai（別タブで開く）
危険の源は「目標を持って行動する主体性」。目標を持たず世界を説明・予測するだけの「Scientist AI」を作り、他のAIの安全弁として使う構想を提唱。国際AI安全報告書の議長も務める。
lawzero.org（別タブで開く）
現在の技術では超知能（ASI）を整合させられず、今のまま作れば人類は敗北する。最前線モデルの訓練を国際的に停止せよと主張する（2025年の共著『If Anyone Builds It, Everyone Dies』）。
intelligence.org（別タブで開く）写真：Russell — Bengt Oberger, CC BY-SA 4.0／Bengio — Maryse Boyce, CC BY 4.0／Yudkowsky — null0（Flickr, 2006）, CC BY-SA 2.0。いずれもWikimedia Commons、トリミングあり。
Future of Life Institute「Superintelligence survey」（テグマークが本書の刊行に合わせて公開した読者アンケート）より
テグマークは2017年、本書の読者に向けて「あなたはどの未来を望むか」を問うアンケートを公開し、FLI（Future of Life Institute：テグマークが共同設立したAI安全研究の非営利団体）のサイトで結果を掲載しました。ページの本文によれば回答者は14,866人以上。ただしいまFLIのページを開くとグラフ画像は消えており（画像の置き場だったMITのサーバーから撤去されています）、コメント欄も閉じられています。以下は Internet Archive に保存されていた2022年10月時点のグラフから、このページ作成者が棒の長さと扇形の面積を測って算出した概算値です。元のグラフに数値ラベルはありません。
棒の色は分岐図と同じ（緑＝超知能（ASI）と共存し人類が存続、灰＝超知能（ASI）は生まれない、赤＝人類が消滅・従属）。項目名をクリックすると解説カードへ移動します。
超知能（ASI）ができてほしいか分岐図の赤枠「人類は超知能（ASI）の開発を意図的に止めるか」に対応
超知能（ASI）が来たら、誰が決めるべきか分岐図の「最終的に決めるのは人間か、AIか」に対応
出典：Max Tegmark, “Superintelligence survey,” Future of Life Institute（2017年8月15日公開）futureoflife.org/ai/superintelligence-survey/。グラフ画像の保存版：Internet Archive（2022-10-21）。グラフはこのページ用に描き直したもので、元画像の転載ではありません。