テクノロジーは、人類の歴史の中で何度も生活を一変させてきました。最初期の石器からインターネットに至るまで、快適さやコミュニケーション、医療、経済成長を大きく押し上げてきました。しかし、その恩恵と並んで、もっと厳しい問いも浮かび上がります。「ある種の進歩は、むしろ大惨事を“起こしやすく、早く、止めにくく”してしまうのではないか？」というものです。
その不穏な発想こそが「脆弱な世界（vulnerable world）」という考え方です。これは、技術発展がある段階に達すると、文明がほとんど「自動的に」壊滅してしまいかねない状況を指します。つまり、ある種の道具や発見が、あまりに危険で制御も難しく、通常の社会システムでは大惨事を防ぐのが困難になる、というイメージです。
これはテクノロジー全体を否定する話ではありません。テクノロジーは長く、人間の福祉や豊かさと結びついてきました。同時に、公害を生み、雇用を揺さぶり、政治的対立を激化させ、新たな倫理問題も持ち込んできました。「脆弱な世界」というアイデアは、この緊張関係を極限まで押し広げます。つまり「将来の発明が“副作用”どころではなく、たった一度の失敗で文明を取り返しのつかない形で損なうほどのリスクを生み出すとしたらどうなるのか？」と問うのです。
DeepSwipe でストーリーを見る
「脆弱な世界」とは何か
この概念は、哲学者ニック・ボストロムが2019年に提唱したものです。ある水準の技術発展に到達すると、よほど強力な防護策がない限り、文明がほぼ確実に壊滅してしまうような世界を指します。
重要なのは、「危険がある」というだけの話ではないことです。人間社会は常に危険にさらされてきました。より深刻なのは、技術の進歩がやがて、破壊的な力をあまりにも多くの主体に与えたり、有害な行為をあまりにも簡単にしてしまうことで、「何もしなければ破滅するのが普通」という状態になりかねない、という懸念です。
この考え方は、「技術の進歩は基本的に良いものだ」という現代の一般的な前提に疑問を突きつけます。また、「科学は原則としてオープンであるべきだ」「危険な技術が実際に現れてから対策を考えても間に合う」といった楽観的な見方にも疑念を投げかけます。
実存的リスク：人類規模の危険
「脆弱な世界」という発想を理解するには、「実存的リスク（existential risk）」という考え方を押さえておくと役に立ちます。実存的リスクの研究者たちは、人類の絶滅や文明の崩壊につながりうる脅威を対象にしています。これは通常の危機とは次元が違う話です。人類の未来を永続的に損ないうる、桁違いの危険が問題になります。
ケンブリッジ大学の「実存的リスク研究センター」やスタンフォード大学の「実存的リスク・イニシアティブ」といった研究組織が、この種の問いに取り組んでいます。彼らは、先端技術がいかにしてそうしたリスクを生み出しうるのか、そして人類がそれにどう備え、レジリエンス（しなやかな強さ）を高められるのかを検討しています。
ここでいうレジリエンスとは、強い衝撃に耐え、そこから回復し、全面的な崩壊を避ける力を意味します。極度の脅威を前にしたときに、文明を壊れにくくする能力のことです。
どのようにテクノロジーが破局を容易にするのか
将来のテクノロジーの中には、人工汎用知能、生物兵器、核戦争、ナノテクノロジー、人為的な気候変動や地球温暖化など、実存的リスクに関係しうるものがいくつもあります。「脆弱な世界」の枠組みが強調するのは、ぞっとするような共通パターンです。つまり、強力なテクノロジーは、悪用を意図して設計されていなくても危険になりうる、という点です。単に、悪用があまりにも容易であったり、統治が極めて難しかったり、広く普及した途端に社会を不安定化させてしまうだけでも十分なのです。
例としてよく挙げられるのが、バイオテロによるパンデミックです。バイオテロリストとは、生物学的な手段を用いて政治的な目的のために害をもたらそうとする主体のことです。危険な生物学的能力へのアクセスが容易になった世界では、ごく少数のグループでも、世界規模の壊滅的被害を引き起こしうるかもしれません。
別の例は、相互確証破壊のバランスが崩れた後に、新しい兵器技術によって引き起こされる軍拡競争です。相互確証破壊とは、冷戦期の考え方で、「敵対する双方が核兵器で相手を壊滅させる能力を持つなら、どちらも先制攻撃するインセンティブを持たない」というものです。もし新技術がこの均衡を崩せば、「反撃される心配なく一方的に攻撃できる」と指導者たちが信じる状況を生み、かえって戦争の可能性を高めてしまうかもしれません。
どちらのケースでも問題は、技術そのものだけではありません。技術と政治制度、人間のインセンティブ、そして変化のスピードがどのように相互作用するかが核心にあります。
なぜ「進歩」への信頼を揺さぶるのか
近代史は、人々が「進歩」を信頼しがちな理由を多く与えてきました。蒸気機関は産業革命の引き金となり、第2次産業革命では電気、電球、電動モーター、鉄道、自動車、飛行機などが登場しました。20世紀にはデジタル計算機、トランジスタ、インターネット、そして強力な医療診断・治療技術が生まれました。
こうした発明は社会の姿を塗り替え、多くの場合、生活の質を向上させました。テクノロジーは、長期的な経済成長の最大の原動力だとも言われています。知識へのアクセスを広げ、コミュニケーションの障壁を下げ、医療の進歩にも貢献してきました。
しかし、同じ大きな流れの中で、テクノロジーが害をもたらすこともはっきりしています。公害や資源の枯渇を引き起こし、自動化を通じて労働市場をかき乱し、デジタル技術を通じてプロパガンダや偽情報、分断やヘイトスピーチを強めることもあります。生命倫理からAI倫理に至るまで、新たな倫理的対立も生んでいます。
「脆弱な世界」というアイデアは、こうした懸念をさらに一歩進めたものです。「テクノロジーにマイナス面があるかどうか」を問うのではなく、「通常の適応では吸収しきれないほどのマイナスが生じる時点が、将来どこかで訪れるのではないか」と問うのです。
政策上の問い：危険が現れてから備えても間に合うのか
実存的リスクの議論から引き出される最も重要な教訓の一つは、「待つことは無謀かもしれない」という点です。危険なテクノロジーがすでに発明されてから対策を講じても間に合う、という暗黙の前提を、政策立案者は疑ってみるべきだと促されています。
「緩和策」とは、災害が起きる確率を下げたり、被害の大きさを抑えたりするための手段です。安全装置や監視、制度改革、制限措置、緊急時対応の計画、レジリエンス向上などを含みます。
なぜこれが重要かというと、技術開発はしばしば急速に進む一方で、政治システムや法律、国際合意は動きが遅いことが多いからです。もし文明の根幹を揺るがす技術が、十分な対策が整う前に登場してしまえば、「発明」と「ガバナンス」の間に生じるギャップが致命的になりかねません。
この問題が特に厄介なのは、イノベーションの多くが科学知識の最前線で起き、事前に予測しづらいからです。多くの技術は、上から綺麗な順番で計画的に現れるわけではありません。エンジニアリングや試行錯誤、偶然のひらめきなどから生まれます。そのため、どの技術が社会を大きく変えるのか、どれが破滅的な不安定要因になるのかを、あらかじめ見抜くのは一層難しくなります。
オープンサイエンス、秘密主義、そして厳しいトレードオフ
科学のオープン性は、しばしば発見や教育、共有された進歩と結びつけられてきました。文字の発明は文化的知識を蓄積・伝達する手段となり、歴史や図書館、学校、科学研究の基盤となりました。大学は科学的アイデアや方法論の普及に大きな役割を果たし、印刷技術は知識の流通を飛躍的に高めました。インターネットはコミュニケーションの敷居を劇的に下げました。
しかし「脆弱な世界」では、オープンであることの代償が、より鋭く問われるかもしれません。もしある種の知識が、「文明を脅かす能力」にそのまま変換できてしまうのであれば、完全な公開はもはや無害では済まされないかもしれません。
だからといって、「すべてを秘密にすればよい」という単純な話にもなりません。むしろ、これまで当然視されてきた前提を、そのままでは擁護しにくくなる、ということです。実存的な規模のテクノロジーと向き合う世界では、「知識をどう共有し、どう統治し、どう守るのか」を、根本から再考する必要が出てくるかもしれません。
脅威であり、同時に盾でもあるテクノロジー
「脆弱な世界」という概念は、決して悲観だけを語るものではありません。テクノロジーは、人類が実存的リスクを乗り越えるための手段にもなりえます。高度な技術は、小惑星衝突やガンマ線バーストといった宇宙規模の脅威を緩和する助けにもなるかもしれません。
小惑星衝突とは、その名の通り、地球と宇宙空間の巨大な天体が衝突する現象です。ガンマ線バーストは、強烈な放射線を放つ巨大な宇宙爆発のことです。いずれも発生頻度は低いものの、ひとたび起きれば壊滅的な影響を与えうる現象であり、技術の進歩によって、将来より早く探知したり、防御手段を講じたりできるようになるかもしれません。
この「二重の役割」は非常に重要です。テクノロジーは単にリスクの源であるだけでなく、人類の主要な防御手段のひとつでもあります。問題は、守りを築く同じ文明的創造力が、新たな脆弱性も同時に生み出してしまうところにあります。
テクノロジーと社会をめぐる、より大きな論争
「脆弱な世界」というアイデアは、テクノロジーが人間の生に何をもたらすのかという、より古くからの議論とつながっています。技術哲学の分野では、「テクノロジーは主として人を解放する力なのか、それとも文化や価値観、自由を歪め、抑圧的になりうるのか」という問いが繰り返し論じられてきました。
ある思想家たちは、「テクノロジーが社会変化を一方的に駆動する」という技術決定論を唱えました。これに対し、「テクノロジーの姿は、法や政治、経済、文化的価値観によって形づくられ、決まった軌道をたどるわけではない」とする社会構成主義の立場もあります。最近の研究では、モノや人、慣行、意味が組み合わさった「社会技術システム（sociotechnical systems）」としてテクノロジーを捉える見方も広がっています。
この広い視野は、「脆弱な世界」を考える上でも有益です。脆弱な世界は、ガジェットや単体の技術だけから生まれるわけではありません。それを取り巻く制度、インセンティブ、社会規範、アクセスのあり方、秘密と公開のバランス、法律、そして地球規模での協調といった「全体のシステム」から立ち現れてくるのです。
なぜ今このアイデアが重要なのか
ナノテクノロジーやバイオテクノロジー、ロボティクス、3Dプリンティング、ブロックチェーンといった新興技術は、新たな能力がどれほど急速に出現しうるかを示しています。人工知能もまた現在の議論の中心的テーマであり、とりわけ長期的に見たとき、雇用や権力構造、社会秩序にどんな影響をもたらすのかは、依然としてはっきりしません。
テクノロジーが高度化するほど、それを支える高度な専門教育や複雑な組織、周辺分野の支援インフラへの依存度も高まります。その複雑さは一面では力の源泉ですが、同時に脆さの原因にもなりえます。高いレベルに発達した社会は、強力で、緊密に結びつき、全体像を完全に把握したり制御したりすることが難しいシステムに頼らざるをえない場合が多くなります。
「脆弱な世界」という発想が重要なのは、それが「後追い」ではなく「先回り」して考えることを求めているからです。人類は、革新を続けながらも、無謀なほど脆くなることを避けられるのか。レジリエンスは、発明のスピードに追いつけるのか。そうした問いを投げかけています。
進歩は私たちに石器や火、道路、水道橋、印刷機、電気、コンピュータ、インターネットをもたらしました。そして今後は、誤用や不十分なガバナンスひとつで文明を終わらせかねない道具までもたらすかもしれません。本当に問われているのは、「進歩か停滞か」という二者択一ではありません。「人間の創意工夫が、破滅を“標準設定”にしてしまわないような未来を、どう築くか」という問題なのです。
