迫るホモ・デウス降臨
今日の世界は、コロナ以後、政治的経済的不安や社会的不平等の拡大、そして二つの不条理な戦争のなかで、新たな混沌に包まれている。時代遅れの日本の政治にも、ほとほと愛想が尽きた人は多いだろう。
その背後で、人工知能（AI）が、不気味なほどたんたんと進化を遂げている。もう、政治も経済もその判断は「AIに任せた方がいい」のではないか、ブレイン・マシン・インタフェース（BMI）でAIと脳を接続すれば、人間のバカさ加減も治る、そう考えているかもしれない。
エネルギーや環境や食糧などについての世界規模の問題や、人間の認識を超えたハイパーオブジェクトといわれる人工物は、もはや生身の人間の思考では対応できず、プロメテウス的に、テクノロジーでその知的能力を拡張して対応する「運命」にあるのかもしれない。
ユヴァル・ノア・ハラリがいう、テクノロジーにより超人化したヒトである「ホモ・デウス」1の降臨は、もう間近に迫るのかもしれない。
サイバネティクスの生みの親「ウィーナー」の危惧
けれども、そうした期待の背後にある考え方が、この混乱を永遠に続けさせることになるとしたらどうだろうか。つまり、人間のより高い知能や「最適解」を求める機械的思考、そのための有用なツールを求める欲求こそが元凶だとしたら。
イスラエルは最新のAI兵器を用いて効率的にパレスチナ住民の殺戮を行なっている2が、哲学者のハンス・ヨナスが言うように、その使い手がどんな目的を掲げていようと「有用ならば価値があることになる」という、テクノロジーの「没価値的有用性3」の問題がそこにはある。哲学者のユク・ホイは、「わたしたちの行なっているテクノロジーの進歩が避け難く次の戦争につながるであろうことは明白である」とベルクソンを引用しつつ『WIRED』読者に問いかけている4。
そうしたAIの背後にある「サイバネティクス」の生みの親である米国の数学者ノーバート・ウィーナーも、次のような言葉を残している。
いま話題の映画『オッペンハイマー』では、量子物理学の発展に貢献した科学者たちが、同様の問題に苦悩する姿が描かれているが、現代のAIの基礎となる考えを考案したウィーナーもまた、サイバネティクスが道徳的に悪い結果をもたらすことを危惧していた。科学的な成功は必ずしも人間によってよい結果をもたらさない。
こうした現実を前に、わたしたちは何をなすべきなのだろうか。今回は、この「サイバネティクス」という発明がもたらした功罪と、今後どうすべきかを考える。
サイバネティクスとは何か？
サイバネティクスは、いわゆる現代の情報科学の黎明期にウィーナーが考案した概念で、情報理論のクロード・シャノン、コンピューター理論のフォン・ノイマンと並んで、その後のIT技術の前提となった概念だ。
サイバネティクスは一言でいえば、自然や生命のような予測不可能な対象を、できるだけ予測可能にし、さらには制御可能にするための科学だ。ウィーナー自身は次のように述べている。
人類は、このサイバネティクスを用いて、不確定要素の多い自然を克服し、安定した人工環境をつくってきた。弾道計算に始まり、天気予報や病院での生命維持装置、自動運転などあらゆる領域に応用してきた。そして、特に現代のいわゆる第3次AIブーム以後のAI、例えばOpenAIのGPTなどすべての大規模言語モデル（LLM）は、このサイバネティクスの結晶だ7。人間の求める答えを学習していて、会話もそれっぽくなる。GPT-4は、少なくともうちの5歳児のチューリングテストはパスしている。
「われわれは今これまで以上にサイバネティクスの時代に生きている8」のだ。
サイバネティクスが引き起こす「意味の転換」
そして、ここから極めて重要な、そして不気味な「意味の転換」が連続的に起きていく。ユク・ホイがいう「第三次予持」だ。
「第三次予持」の概念の背景には、現象学の祖であるフッサールの時間論における「把持」と「予持」と、それを技術論に応用したベルナール・スティグレールの諸概念がある9。ホイは、それらをもとに「絶えず過去を評価することで未来を予料し、それがさらに現在を規定する」ようになることとして「第三次予持」を意味する10。
先日、突然発生した春の嵐を天気予報は正確に予測した。わたしは、その非現実的な天候の変化が現実となることが信じられなかったが、現実は天気予報のシミュレーション通りだった。予測された時間に予測された降水量と風速の通りの風雨となった。わたしはそのあまりにも正確な予測にゾッとした。シミュレーションがわたしの現実感を上回り、正確な現実を予測したからだ。シミュレーションがリアルにぴたりと合わさりその境界が溶けるSF的未来を垣間見たのだ。
予測されたものが、それそのものとして立ち現れるようになる、これこそが「第三次予持」だ。未来においては、まだ生まれていない子どもの将来から国家の政治、さらには宇宙の未来や生命進化までシミュレーション可能になるだろう。こうした機械の新たな「予料能力」をホイは「第三次予持」と名づけたのだ。
さらに、未来において、もはやAIがつくり出すシミュレーションと寸分たがわないと思わせる人工現実が生成される、つまり、完全な「予料能力」をAIがもち、完全な「デジタルツイン」が誕生するかもしれない。
そうなると、このサイバネティクスは「再現」の手法から「実現」の手法へと意味が変換され、同時に「制御できないもの」であったはずだった自然や生命などの対象も「制御可能なもの」へと認識が変わることになるだろう。進化すら制御が可能なものとされる未来だ。
これを読んで、そうした未来は近いと、そう思った人も少なくないのではないか。
バーチャルがリアルを勝るとき
さらにこの転換は、次の「価値の転換」も生むだろう。
例えば、あなたの健康や性格などをAIのほうが知っていて、より「正しいこと」を提示するようになる。そうなると、わたしが考えたことよりもAIが判断したことのほうが、「実質的に意味や価値がある」とされるようになるだろう。
そして、伊藤計劃の『ハーモニー』など、SFで往々にして描かれてきたような、人間にとって生存のための知識はAIがもたらす社会が誕生する。現代の医療の研究のみならず、ウェルビーイング研究ですら、すでにデータ中心主義の方向に向かっているように見える11。もはや、あなたの適性を自分で知る必要性をほとんど感じられなくなる社会だ。
さらに、その「再現」は、人間の知能というレベルを超えた演算能力をもったAIが余力をもって行なうものだ。そのため、実際のAIの知能の総体はもはや人間には理解不可能なものとなっているだろう。
哲学が終わるとき
こうなると、もはや哲学の主要テーマであった、価値、存在、認識といったテーマを考える主体もAIになり、人間が哲学をする意味はなくなる。
これが、1966年に『シュピーゲル』誌の記者から、哲学のあとに来るものはなにかと問われたハイデガーが、ひとこと「サイバネティクス」と答えた12理由だ。その引き金を引いた概念がサイバネティクスというわけだ。
わたしたちはどうしたらいいのだろうか。このことに関連して、ウィーナーは以下のように危惧していた。
この「人間の実際の資質」にヒントがある。サイバネティクスの問題は、人間をデータとしてしか見れなくなることにあるのだ（この問題は、前回の連載で書いたハイデガーのゲシュテルの問題と同種の問題だ）。
ネオ・サイバネティクス
この問題に関連するある論考集がこの2月に発表された。ユク・ホイが編纂した論考集 “Cybernetics for the 21st Century 1: Epistemological Reconstruction14” だ。そこでは、さまざまな研究者がこれからのサイバネティクスについて概念的な考察を行なっているが、日本人としてただひとり、そこに論考を収めたのがホイの『再帰性と偶然性15』（青土社）の訳者でもある原島大輔だ（ “Life-in-formation: Cybernetics of the Heart”［こころのサイバネティクス］という論考を発表している）。
原島によれば、ウィーナーが提唱したサイバネティクスは、本来、「ある生物にとっての意味すなわち価値16」を扱うもので、「未知の偶然的な環境の只中に置かれたシステムがいかに目的を達成するかを探求する学問17」だ。上掲のウィーナーの定義にもその根拠が隠されているという18。
そうした考えから出発し、道徳的な破綻をしないようにサイバネティクスの再構築を探求してきたのが、オートポイエーシス論などを生んだネオ・サイバネティクスの系譜だ。そこでは、ウィーナーのいう疎外された人間の資質を、この生命性に見出す。
このネオ・サイバネティクスは、ホイがいう一般器官学の試みと通じる。一般器官学は、サイバネティクスが扱うような「機械的な再帰性」を、「生命そのものという根拠ないし地に添付し直す19」企てだとホイは言う。ここには、サイバネティクスの問題を現代技術に限定せずに、より大きな生命と技術をめぐる問題に定位し直す狙いがある20のだ。
野生のサイバネティクス
こうしたネオ・サイバネティクスや、ホイの言う一般器官学を参照しつつ、問題を抱えたままのサイバネティクスが世界を覆う時代に、わたしたちは何をなすべきだろうか。そのヒントを探るために、最近話題のキーワードのひとつ「再野生化（rewilding／リワイルディング）」とサイバネティクスの関係を最後に考えよう。
近年、森林や動物の保護のために実践されている「再野生化」の考え方の基本は、自然のことは自然に任せた方がいい、という考えにある。自然は、軌道に乗れば、環境を自ら再帰的に学習して、外部からの管理を必要とせず、豊かな森を自律的に取り戻すことができる21。
一般にこの再野生化は、森や動物が対象とされるが、人類にも適用可能だろうか。人類にもその能力はあるはずだ。しかし、普通に考えると、「人類の再野生化」はひどいイメージだろう。「野蛮」を克服し、脱野生化した歴史を逆戻りするのはまっぴらだと。人類に再野生化を求めるならその「再定義」も必要となろう。その鍵が、第3回でも触れた、“pirmitive cyborg”の考え方にあるとわたしは考える。
サイボーグ（cyborg）というのは、サイバネティクスと一体となった有機体（Cybernetic Organism）という意味だが、「ホモ・サピエンス」という種は、これまでも見たように、その原初から道具や技術を必要とする「生まれながらのサイボーグ（natural born cyborg）」だ。そのため、その学習は、道具や技術を通して行なわれてきた22。そうなのであれば、人間にとっての「再野生化」は、「サイボーグとしての再野生化」だ。単にテクノロジーを手放し原始状態に戻ることではない。
しかし、AIと一体となったサイボーグであっても再野生化することは可能なのだろうか？ すっかり技術に飼いならされたわたしたちは、「野生のサイバネティクス」の能力を取り戻すことはできるのだろうか？ また、そもそもそれは具体的にはどういうことだろうか？
いま求められる「知恵」とは？
わたしは、その答えを探るべく、原島大輔やスペキュラティブデザインの長谷川愛らとともにある実験的プロジェクトに取り組んでいる。『WIRED』のPodcastでもリコメンドさせていただいた、Iriomote JUNGLE CLUBのプロジェクトだ23。
その人類の再野生化の実験的プロジェクトは、もうすでに十分に「サイボーグ化」したわたしたちが、「野生のサイバネティクス」の能力をいかに発揮できるかを実地で試すものだ。ホイの一般器官学に寄せて言うならば、都市で生きるために身につけた「機械的な再帰性」の知恵を、「生命そのものという根拠ないし地に添付し直す」プロジェクトと言えるだろう。
メンバーはまずインフラのない奥地で、最低限のツールとテクノロジーを携え、“pirmitive cyborg”となって、自分を含めたさまざまな「命」と向き合うことになるサバイバル的滞在を定期的に行なう。そうして、ジャングルと都市を往復することで生まれる、「テクノロジーの引き算と足し算の感覚」を通して、各々にとってよりよく生きるための、人間と自然、自然とテクノロジー、テクノロジーと人間の関係について再帰的な学習が自ずとなされる。
また、現地でも単にテクノロジーを排除するわけではない。そうでなければ、ただの原始生活を営むだけのサークルとなりかねない。なんなら、Starlinkとソーラーパネルとバッテリーで、ジャングルから大学で担当する授業をオンラインですることも、変わらずオンライン会議もできる。けれども、その周囲はジャングルに囲まれ、食事は、自分たちで仕留めさばき焚き火で調理した獲物だ。そもそも「最低限必要なテクノロジー」とは何だろうか。その線引きはどこにあるのか。それをどう定義するのか、その再帰的学習によってどこにたどり着くのか、それもまたプロジェクトの目的となる。
技術哲学者のシャノン・ヴァラーは、知恵こそが、機械には発揮できない人間固有のもので、AI時代において重要になるのは、知識（knowledge）でも知能（Intelligence）でも悟性（understanding）でもなく、知恵（wisdom）なのだという24。
現代、テクノロジーがわたしたちの存在を条件づけていることを受け入れつつも、そのテクノロジーに応答していくための「知恵」が求められているだろう。あまりにもどっぷりと現代生活に浸った心と身体をどうにかするには、強引にでも野へと解き放ち、その身体に眠る野生の知恵を解き放つことが必要なのではないか。またそこには、ハイデガーがいう哲学の終焉を超えた新たな哲学の可能性があるのではないだろうか。
これまでの、機械を中心としたサイバネティクスを、サイボーグとしての人間を中心としたサイバネティクスへと転換する知恵が問われている。
次回は、デイヴィッド・J・チャーマーズの『リアリティ＋』をひもとき、「シミュレーション仮説」をとりあげながら、そうした思想の背後にユク・ホイが『再帰性と偶然性』で扱うもうひとつのテーマである「有機体論」、つまり、テクノロジーや自然、生物などあらゆる現象を有機的なシステムとして理解しようとする試み（例えば人工生命など）全般が内包するある問題点を解説したうえで、さらなる現代のテクノロジー思想の超克を模索することを通して、テクノロジーの哲学の理解を深めていく。
※連載「テクノロジーをデザインする人のための技術哲学入門」のバックナンバーはこちら
七沢智樹 ｜TOMOKI NANASAWA
Technel合同会社代表・東京大学情報学環客員研究員・SPT2023（国際技術哲学会2023）運営委員。企業での技術開発の経験をいかし技術哲学を研究している。日本の技術哲学者が集う「技哲研」や、亜熱帯原生ジャングルで厳選されたツールとともにサバイバル的滞在を実践する「Iriomote JUNGLE CLUB」を運営。共訳書に『技術哲学講義』（マーク・クーケルバーク）。
.jpg)
雑誌『WIRED』日本版 VOL.52
「FASHION FUTURE AH!」は好評発売中！
ファッションとはつまり、服のことである。布が何からつくられるのかを知ることであり、拾ったペットボトルを糸にできる現実と、古着を繊維にする困難さについて考えることでもある。次の世代がいかに育まれるべきか、彼ら／彼女らに投げかけるべき言葉を真剣に語り合うことであり、クラフツマンシップを受け継ぐこと、モードと楽観性について洞察すること、そしてとびきりのクリエイティビティのもち主の言葉に耳を傾けることである。あるいは当然、テクノロジーが拡張する可能性を想像することでもあり、自らミシンを踏むことでもある──。およそ10年ぶりとなる『WIRED』のファッション特集。詳細はこちら。