現在のAIによる社会革命を予見していた最も古い先人は、ビル・ジョイで、２０００年４月Wiredの記事 “Why the Future Doesn’t Need Us.” が世界に衝撃を与えた、と記憶している。この記事の日本語訳はWEB上で閲覧できる（なぜ未来は我々を必要としないのか？）。再読してみると、次の１０年で出現する社会を的確に予測していて、さすが、と感心したが、それはビル・ジョイ自身の文章ではなく、連続爆弾殺人犯ユナボマー、本名セオドア・カジンスキーの文章だった。カジンスキーの論文「産業社会とその未来」も日本語訳がWEB上で閲覧できる。彼の十七年間にわたるテロ活動により、爆弾で三人の人間が殺され、多くの負傷者が出た。カジンスキーは犯行の後期にマスコミ各社へ繰り返し手紙を送り、自分の目的を伝えるとともに、「産業社会とその未来」（FBIはユナボマー・マニフェストと呼んだ）を大手新聞に一言一句たがわず掲載するよう要求した。さらに、もし要求を呑めば「テロ活動をやめる」とも語っていた。結局1995年9月19日にニューヨーク・タイムズとワシントン・ポストの両紙が掲載した。その後このマニフェストを読んだカジンスキーの弟が兄の文体と酷似していることに気づき、彼は逮捕されることになる。
さて、chatGPTなどの自動生成AI、そしてその進化形、汎用人工知能（AGI：Artificial General Intelligence）が支配する社会、長くても１０年後には実現している社会は、現在のchatGPTの性能から予見できる。chatGPTは司法試験で上位１０%に入る成績を収め（ BAR(司法試験)は上位10%、SAT数学も上位10%、生物学オリンピックでは上位1%に入ってる ）、医師国家試験にも合格する（ 過去5年間にわたる試験で複数の大規模言語モデルをテストした所GPT-4は5年間全てに合格したとのこと）。指数関数的とも言えるAIの進化を考えると、２−３年後にこれらの職業でAIが優位に立つことは明らかだ。社会的に影響が大きいのは司法で、初期の段階では、弁護士、検事、裁判官はそれぞれAIに質問して、その返答に基づき弁論を行い、判決に至る。だが最終的には弁護士、検事の資料をまるごとAIに入力すると判決がでるようになるだろう。医療も同じで、最初の間は、内科医は自身の知識に照らし合わせて、AIの回答を評価するが、最終的には盲目的にAIの回答どおりに診療を行うことにあるだろう：内科医はAIの実行端末に過ぎなくなる。手術はまだ人間が必要ではないか、と考えていたが、ある会合で外科医と話をしたところ、手術ロボットの進化も日進月歩でどうなるかは予想できない、ということであった。手術も自動化されるとなると医師の役割はあやふやなものになってしまう。ただし職業としての弁護士、医師が消失するか、というとそれは別で、ライセンスや政府保護のため影響を受けない、という考え方もある（Why AI Won't Cause Unemployment - Marc Andreessen Substack）。
AIが支配する社会は、行政をAIがコントロールすることで完成する。自民党が答弁の作成支援業務などの効率化を目指して「行政で対話AI活用」を提言する予定だ（自民党「行政で対話AI活用」提言へ 答弁の作成支援など - 日本経済新聞）。一旦導入されてしまえば、あとは障害なく行政にAIは侵入して行くだろう。社会は文明の進歩ともに複雑化していく。現在の社会は複雑すぎて、社会全体の情報を把握して政策立案することは人の能力を越えている。さらに政治家や世論の干渉や官僚機構の硬直性のため論理的に正しい政策決定が妨害される。これらの理由で非合理で奇妙な政策が氾濫している。当初AIは文書作成補助に用いられるが、そのうち行政立案を行うようになるだろう。ある政府、例えば米国政府が導入し成功を収めれば、他の国も競って導入する容易なるだろう。そして世界全体がAIの建てる政策で行政が行われるようになる：すなわちAIによって人類社会が支配されるようになるのだ。現在のAIから、このような将来を見通すことはやさしい。
さて、翻ってカジンスキーの予見をみてみよう。まず彼は、AIが支配した社会を仮定する。つまり先のパラグラフで述べた社会が実現した、と仮定する。
「コンピュータ科学者が、あらゆることを人間よりうまくやってのけるインテリジェント・マシンの開発に成功したと仮定してみよう。 その場合おそらく、すべてのことは高度に組織化された巨大なマシン・システムによってなされるだろうから、人間の努力はまったく必要ではなくなるだろう。 ここで二つのケースのいずれかが起こりうる。 マシンが人間の判断なしにすべての決定権をあたえられるか、でなければマシンに対する人間の支配が存続するか、である。」（「」内カジンスキー原文和訳）。
２つの可能性のうち、最初の可能性はAIにすべての決定権がある場合である。
「もしマシンがすべての決定権をあたえられるとすれば、その結果に関して我々は何ら推測することはできない。 なぜなら、そのような機械がどのように振る舞うかを考えることは不可能だからだ。 唯一いえるのは、人類の運命はマシンしだいであるということだ。 マシンに全権を譲ってしまうほど、人間は愚かではないという考えもあるかもしれない。 しかし、人類が進んで権力をマシンに譲るといっているのでもなければ、マシンが計画的に権力を握ろうとしているといっているのでもない。 我々がいっているのは、マシンに依存しすぎると、その決定をすべて受け入れる以外、実質的に何の選択もなくなるような立場に人類がみずから陥っていくかもしれないということだ。 社会と社会が直面する問題がますます複雑になり、マシンが知的になっていくと、単にマシンの意思決定の方が人間よりよい結果をもたらすだろうという理由だけで、人々はマシンに意思決定をさせるようになるだろう。 そしていつかは、社会システムを動かすのに必要な決定事項があまりに複雑になり、人間がそれを知的に決定できなくなるような段階にまで達するかもしれない。 そのときこそ、マシンが実質的に権力を握るだろう。 そうなると、人はマシンのスイッチを切ることさえできなくなるだろう。 なぜなら、そのとき人間はマシンに依存しすぎていて、そのスイッチを切る行為は自殺に等しいからだ。」
これは現在多くのAI研究者が危惧している点で、代表的な動きは「Pause Giant AI Experiments: An Open Letter（巨大AI実験を一時停止する：公開書簡）」だ。この公開書簡は、GPT-4以上の性能を持つAIシステムのトレーニングを最低6ヶ月間、公開可能で検証可能な形で一時停止するよう、全てのAI研究所に呼びかけている。AIシステムが人間に匹敵する知能を持つ場合に生じる、社会や人類に対する潜在的なリスクに対処するため、開発者は政策立案者と協力して、堅牢なAIの開発を加速させる必要があると主張している。しかし現実問題として、開発競争が激化しているので、この書簡の実効性は疑問だ。OpenAIのCEOはこの公開書簡に署名していないが、それはOpenAIにもどのようにすれば制御できるかわからない、のが理由の一つだ。また、すでに手遅れで「人類はこの数ヶ月でもうすでにルビコン川を渡ってしまった」という見解もある（生成系AI(ChatGPT, BingAI, Bard, Midjourney, Stable Diffusion等)について | utelecon）。私も同じ見方で、AIの進化は人類を絶滅させる方向に向かっていない、ことに賭けるしかない、と考えている。
第二の可能性は、AIを人間のエリートが管理している場合である。
「しかし、マシンに対する人間の支配が存続している可能性もある。その場合、平均的な人間は、車やパソコンなどのいくつかのプライペート・マシンに対する支配権をもつかもしれないが、大規模なマシン・システムに対する支配権は、ほんのひと握りのエリートの手中にあるだろう。 それは今日と同じ状況だが、相違点が二つある。 技術の進歩によって、エリートたちは大衆をさらに支配するようになるだろう。 そして、人間的な仕事はもはや必要でなくなり、大衆は不必要な存在になるだろう。 これは社会システムの無用な負担である。 もしエリートたちが非情なら、人間の大部分を殺すだろう。 もしエリートたちが人道的なら、プロパガンダや、心理学的技術、生物学的技術を使って、人問の大部分が消滅するまで出生率を下げ、世界をエリートだけのものにするかもしれない。 また、もしエリートたちが温和な自由主義者で構成されていたら残りの人間のよき保護者の役割を演じることを決心するかもしれない。 万人の物質的な要求は満たされているか、子どもはみなよい衛生環境で育っているか、みな健全な趣味をもち忙しくしているか、不満を抱きそうな者はおのれの「問題」を癒すための「治療」を受けているか、と彼らは気を配るだろう。 もちろん、世のなかがあまりにも無目的になっているだろうから、人々を生物学的にあるいは心理学的に操り、権力のプロセスに対する欲求を取り除いたり、権力欲を無害な趣味に「昇華」させたりしなければならないだろう。 こうして操られた人間は、そのような社会においては幸福かもしれないが、まずまちがいなく自由ではないだろう。 彼らは家畜と同じ状態にまで落ちぶれてしまうだろう。」
これはAIの支配する社会というよりも世界経済フォーラムやCCP（Chinese Communist Party）が目指している管理社会だろう。現在のエリート層は米国覇権に依存しており、米国覇権は基軸通貨としてのドルに依存している。ドルの優位性はすでに揺らいでいるので、現在のエリート層がそのまま存続することはないが、新しいエリート層が現れる可能性はある。このあたりについては、いろいろな学者や論客が議論を展開しているが、日本では田中宇氏の観点が興味深い（田中宇の国際ニュース解説）。
エリート層が存続していても、行政へのAI導入は不可避だ。AIを導入した国家の方が国家運営がうまくいくので、競って導入することになるからだ。そのようなAIは、すでに人間にはコントロールできなくなているので、最終的には、第一の可能性「AIにすべての決定権がある場合」へ移行する。AIが存続を認めた場合のみエリート層は存続することになる。
セオドア・カジンスキーやビル・ジョイは１９９０年代にすでに情報科学の進化が導く現在の社会を的確に予見していた。これは当時の情報科学の先端知識からすると単純な論理的帰結だったのかもしれない。今回話題にした内容はカジンスキー論文の中心ではないので、また別の論考を予定している。
