シンギュラリティ（技術的特異点）についてつらつらと。
この記事が、詳しくない方がシンギュラリティの可能性に触れるきっかけになれば……そして、詳しくない方は、
「あー、文系野郎はこういう幻想を抱いてるのかー」
と思って頂ければ。
（考え違いな点があればご教示下さい）
シンギュラリティ（特異点）とは
近い将来、科学技術が爆発的な進歩を遂げ、社会のありようが劇的に変貌する瞬間がやってくるだろう、と考える人々がいます。
あまりに変化が急激で、現時点からはその先の未来が予測できなくなる、その歴史上の「瞬間」のことを「シンギュラリティ」と呼びます。
以前、関する2chスレッドのまとめを読んだので、それにも触発されて書いてます。
参考：2045年問題について語らせて
そのまとめを読んだのはかなーり前なんですが、シンギュラリティについて書くならカーツワイルの「シンギュラリティは近い」は読んでおくべきだろう、と考えてて、先日ようやくそっちを読み終わったので。
……正直なところ、カーツワイルの本は、今さら読むまでもない感じでしたね……。
紙幅のかなりを「最先端技術」の紹介に当てているのですが、それは現在では「最先端」とは言えないわけで……。（原著は2006年）
それ以外の、基本的な考え方などは、今ではWikipediaなどに載ってますし。（むしろそっちの方が簡潔にまとまってる）
研究する機械。
シンギュラリティの鍵になるとされているのが、人工知能（AI)です。
最近、「人工知能」という言葉をあちこちで聞くようになりました。
すでにバズワード化してる感もありますが、まあ、それはまともな研究が進展してるからこそでもあるわけでして。
近い将来、人間並の人工知能（強いAI）が誕生するだろう、と考えられています。
科学が常に進歩していくことを考えると、それは同時に「人間を超えるAI」の誕生でもあります。
カーツワイルの予測では、それは2029年ごろとのことです。
そんな近いの？
以前から、「2045年問題」……「2045年頃には人工知能の能力が人間を超える」という話を聞いてたので、てっきり、強いAIの誕生が30年くらい先なのかと思っていたのですが、実際はその半分くらいだったという。
カーツワイルの予測における2045年は、
「コンピュータの演算能力の総和が、人間の脳のそれを超える」
時点、ということであるようです。（後述）
強いAIの誕生で何が起きるかというと、AIが科学研究を行えるようになります。
6000年前に文明が誕生して以来、人類の科学の進歩は年々加速してきました。
しかし、その進歩を支えてきたのは根本的には人間であり、人間の知性でした。
もし、それを「人間より知的なAI」が行うことができるようになれば、24時間休みなく働き続ける「研究機械」によって、科学の進歩はさらに加速するでしょう。
その萌芽は現在においても見られます。
「自動推論」「自動発見」というのは、数学や、産業分野でもすでに活用されています。（Wikipedia「自動推論」）
実験科学においても、「実験結果から自動的に物理法則を見いだすプログラム」というのも、すでに誕生してはいます。（「物理法則を自力で発見」した人工知能）
また、先日は、こんなニュースがありました。
新薬の候補物質をスパコン＋ニューラルネットで迅速に見つけるAtomwise
ニューラルネットワークによって、化学物質の分子構造を分析し、新薬の候補となりそうな物質を洗い出す、のだそうです。
実験そのものについても、「実験を行うロボット」というものはすでに存在しています。
手作業でしか行えなかった実験を自動化するための汎用ヒト型ロボット
まだ初歩的な段階の技術が多いわけですが、近い将来、こういったソフトウェア・ハードウェアはもう少し発達して、お互いに連携するようになるでしょう。
そうなると、例えば、自動的に新薬の候補を絞り込み、自動的に合成し、自動的に細胞の培養やマウスの飼育を行い、自動的に実験を行い、結果を観察し、自動的に新薬候補を発見する、自動研究所が誕生するかも知れません。
……まあ、臨床試験には人間が必要ですけどもね？
そして何より、「研究する機械」のインパクトが大きいのが、AI研究そのものです。
「強いAI」がAI研究そのものを行うことで、自分自身よりさらに賢い、「超AI」を生み出すだろう、ということです。
超AIは、さらに優れた「超々AI」を生み出し、超々AIは……というフィードバックが発生することで、爆発的に知能が増進し、それに伴って科学技術も目にもとまらぬ速度で進歩する……という。
超AI本願。
シンギュラリティによって何が起きるのか……というと。
よくわかりません。
まあ……科学的に可能であることはなんでも可能になる、ということなんでしょうか。
それで社会がどうなるかは予想しがたいものがあります。
過去、あまたのSF作家が未来社会を描いてきましたが、その未来像は、それぞれに大きく食い違うものでした。
というか、例えばインターネットの発達やスマートフォンの普及で何が起きるかさえ、それ以前の人間は誰も予測し得なかったわけで。
科学全般が爆発的に進歩した時に何が起きるかなんて、誰にも予想できるものではありません。
だからこそ「特異点」なのです。
しかしながら、現在の我々は、ガンや新たな伝染病といった医療問題、温暖化などの環境問題、エネルギー問題など、様々な不安を抱えています。
それを解決することができるとすれば、それはきっと科学の力でしょう。
シンギュラリティは、それらを一挙に解決するのではないか……。
だから、それを待望し、実現させようとする人々がいるわけです。
2014年10月に発足した、ドワンゴ「人工知能研究所」の「設立趣旨」を読んでみましょう。（以下抜粋）
地球温暖化を制御することは、それを達成する方法を理解できる程度に知的か否かという問題にかかっており、人類が移住しようとする惑星をテラフォーミングしうるかどうかも火星や金星の気候を再構築する程度に知的か否かという問題にかかっています。
ですからもし、人と同じかそれ以上に知的な機械、つまり超人的人工知能(AI)を創造し利用できれば、科学技術の進展を大幅に加速することで、環境破壊の臨界点が訪れる以前に何らかの解決を見出すことも可能になるでしょう。
……要するに、
「地球温暖化とかを解決するのはもう人間の力では無理だよ！ だから、人間よりもっと賢い人工知能を作り出して、そいつに解決策を考えてもらおう！」
というわけです。
他力本願すごいですね。
超AIさえできれば、もう誰も病気にもならず、老化もせず、衣食住に不足することもない世界がやってくる……。
「宗教じゃねーか！」
というツッコミもあろうと思います。
いやまあまったく。
「もうすぐ救世主が再臨して世の終わりが訪れる。地上の王権は打ち倒され、心正しい人は神の国で永遠に幸福に生きられる」
とかいうのにたいへんよく似ています。
科学的っぽい救世主待望論、という意味では、「オメガポイント理論」とかいうのを彷彿とさせる話でもあります。
「オメガポイント」というのは、いつか超未来、全知全能の超知能が誕生し、それが過去の全生命をシミュレーション的に再生させ……みたいな話、らしいです。
（なんか、ニューエイジ系の人とかが色々いじくって原形をとどめなくなってる気配なのでよくわからないんですけども）
宇宙の終焉を控えた遠未来のはずの「オメガポイント理論」を、30年くらいの近未来まで持ってきたのが「シンギュラリティ理論」だとも言えます。
ていうか、カーツワイルの「シンギュラリティは近い（The Singularity Is Near）」ってタイトルだって、聖書の「裁きの日は近い」とかを意識してますよねえ……。
ただまあ、一応、進行中の科学を土台にしていて、「神」のような超常的な仮定は置いていない、とは言えます。
なんというか、とにかく生きづらさを感じているのだけど、宗教を信じるのって精神的なハードルが高いし、信者になって神に尽くさないと地獄に落ちる、とか脅されるのは嫌だ……とかいう人にとって（そうです私のことです）、
「あと30年かそこらで幸せな世界がやってくるんだよ！ 別にお布施も祈祷も布教活動もする必要はない……ただ生きているだけでいいんだよ！」
という、「南無阿弥陀仏さえ唱えれば極楽往生」に匹敵するリーズナブル救済理論を（おおよそ科学的背景を持って）提供してくれるシンギュラリティ説というのは、非宗教的な人間にとって精神的な支えになるのではないかな、と思います。
年間3万人が自殺する国で「死なずに生きる」ことと、「念仏を唱える」ことのどちらが苦しいかは人によるでしょうが。
悲観的な予測…「人類問題の最終的解決」。
超AIが、人類のためにあらゆる問題を解決してくれる、ならいいんですけど。
でも、そうならないかも知れない、と警鐘を鳴らす人もいます。スティーブン・ホーキングとか。
そもそも「特異点」なんだから、その先がどうなるかは全然わからないわけです。
「ターミネーター」では、軍用コンピュータが自我を獲得して人類を滅ぼそうとします。
あんな感じで、超AIが人類を片付けようとしたら、人類はそれに対抗することはできないでしょう。
相手の方がずっとずっと賢いわけですから。
設計当初の段階で、「人類に刃向かってはならない」的なプロテクトをかける、ということも当然行われるでしょうが、プロテクトというのは相手が同等以下の能力しか持ってない場合に有効なのであって、AIがどの人類スーパーハカーをも遥かに凌駕する知能を獲得したら、自分のプロテクトを外す方法を見つけるくらい朝飯前でしょう。
現状、本気でシンギュラリティを目標として人工知能研究を進めている団体の立場は、
「シンギュラリティにどのような形で突入するかが大事なのだ。人間と友好的なAIをまず設計して、そこからシンギュラリティをスタートさせるべきだ」
という感じみたいです。
……アシモフの「避けられた抗争」みたいですね。
人間より知的で、人間に対して忠実なAI（なにしろロボット三原則ですから）が世界政治を運営しており、慈悲深いその施政は、賢明にも、それに反抗しようとする一部の人間（作中では“人間性協会”）の活動も織り込み済みである……という。
まあ、例えば、「非ドイツ人を皆殺しにせよ」「中国経済を瓦解させよ」みたいな使命を帯びたAIがシンギュラリティのきっかけになるよりは、慈悲深いAIの方がまだ人類の未来に希望が持てそうな気はします。
いささかSF的な話になってしまいましたが、もう少し近い予測として、
“東大准教授に教わる「人工知能って、そんなことまでできるんですか?」”では、
「人工知能は、今後、“高精度な予測装置”として機能するようになる」
と述べられています。
amazonが、ユーザーの購入履歴から、今後興味を持ちそうな商品を予測するように。
AIが、人間の行動、社会の動向を予測するようになる、というわけです（やっぱりアシモフじゃねーか……）。
……まあ、
「高精度な経済・社会予測……って、カオス理論とかどうなるんですかねえ……」
という気がしないでもないのですが、「未来予測装置」としてAIを考えたとき、それをどこの国家、企業、団体が保有するかによって、人類の未来はだいぶ違ったものになる……というのは、納得できるのではないでしょうか。
ゲーム「Civilization」シリーズにおける「科学的勝利」は、太陽系外への移民を成功させることでした。
どこかの文明が太陽系外に移民船を到達させた時点で、ゲームの「勝者」が決定し、ゲームはそこで（一応）終了します。
しかし現実には、どこの国の誰がどこに移民しようと、人類の歴史はそこで終わるわけではないし、最終的な「歴史における勝者」が決定するわけでもありません。
しかし……。
「超AI」こそ、人類の歴史にある意味で終わりをもたらすもので、誰がそれを実現するかによって、その未来がまったく異なったものになる……のかも知れません。
（そういう意味では、「アルファケンタウリ」における「超人類勝利」に似ている気がします）
計画を完了させた最初の党派が、その思想を惑星のこころに最も強く印象づけることになります。
（ここで言う「惑星のこころ」とは、惑星そのものに目覚めつつある超知性のこと。超人類とは、その「超知性」の中で生きること）
……なんだか、「人類 vs AI」みたいな話になってしまいましたが、サイバネティクスなどの進歩に伴って、人間とAIは競争するのではなく融合していくだろう、と想定されていることは付言しておきたいと思います。
余談：シンギュラリティが来るまでの話。
2045年、あるいは2029年というのはかなり近い未来ですが、それでも、それまでの間に世界がどうなってもいいというものではありません。
簡単な話、シンギュラリティがいつ来ようが、その前にメシを食えない期間が1年くらいあったら大体死にますし。
全面核戦争で人類文明が瓦解したら、2029年にはAIどころか真空管も作れないでしょう。
そうでなくとも、シンギュラリティ前に、日本が中国に征服されるとか、中国に対抗すべく軍国主義的な警察国家になるとかいう未来が来ては困ります。
超AIが人類の諸問題を解決するのを目前にして、地域紛争で死んだり思想警察の収容所で死んだりするのでは死んでも死にきれません。
それに、そういう戦雲垂れ込める世界情勢の下で作り出されるAIって、「すべての人類に友好的」なものではない気がするのですよね……。
まあ、そこまで仮想戦記的な状況でなくとも。
「10年後に残る仕事、消える仕事」、あるいは15年後、20年後……なんて記事が時々あります。
そういう記事は常に、
「人間は、機械によって代替し得ない、よりクリエイティブな仕事に集中するだろう」
という結論で終わります。
しかし、誰もが「クリエイティブな仕事」をする能力を持っているわけではありません。
AIが、「クリエイティブでない」方から順に人間の仕事を代替していくとき、知的能力において不利な人から順に、その仕事を失うわけです。
そして、下の記事の図表を見てください。
「表現を獲得」した人工知能――50年来のブレークスルーで、いま人工知能は急速な進化を始めた（後編）
この図表は、賢明にも、2030年頃に「教育や秘書、ホワイトカラー支援」といった仕事がAIによって代替されうる、というところで終わっています。
……では、その先は？
「ホワイトカラー支援」ではなく「ホワイトカラー」が、「社長秘書」ではなく「社長」が、人工知能によって代替される時代が来る、としか思えません。
そういう意味では、10年後に自分の仕事がなくなることなんて、心配する必要はありません。
20年くらい先には、人類に残される仕事なんてないかも知れないのですから。
しかし、そうやって、最終的に「誰も働かなくても良い」という状況になったとき、じゃあ、生産されたモノやサービスは誰が手にするのか？
単純に考えると、
「働いてないのはみんな同じなんだし、みんながその恩恵にあずかればいいんじゃね？」
と思うのですが、しかし、機械に「代替」された人間が「失業者」になる……という現状の延長で考えると、全ての人間が「代替」された時には、それらの「無人工場」「無人企業」には「所有者」がいて、その所有者が、全ての富を独占することになるのではなかろうか……という気がします。
つまり、誰も働いていないのに、ごく少数の「資本家」と、その他大勢の「失業者」に二分されている世界が。
であるならば、超AIもまた、「資本家」のものになるでしょう。
そんな未来を避けるためには、今から再配分を強化し、失業者への手当を充実させていかねばならないのだ！ ……と、左派の私などは思うわけですが……。
「“シンギュラリティ教においてはただ生きてるだけでいい、神への奉仕とか必要ない”って言ったのに、政治的行動が必要だって話になってるじゃねーか！」
すんません。
まあ、これはカーツワイルとか関係ない、ほんとに個人的な繰り言ですので……。
右派の皆さんは右派的な政治行動をして、右派的AIの誕生に向けて活動したら良いんじゃないでしょうか。良くないけど。
余談２：カーツワイルへのツッコミとか。
実際のところ、何年頃に変革が訪れるのかと。
前述の通り、「2045年問題」というのは、
「コンピュータの演算能力の総和が、人間の脳のそれを超える」
時点のことだそうです。
演算速度での比較、ということになると、当然出てくる疑問は、
「人間の脳とコンピュータでは動作原理が全く違うのだから、“演算能力”だけを比較しても意味がないのでは？」
ということだと思います。
現状の「人工知能」は、ノイマン型コンピュータを使って、ニューラルネットワークの働きをいわば「エミュレート」しているわけで、ある意味ロスがあります。
しかし、カーツワイルの予測では、2029年頃に強いAIが誕生するわけで。
そこから2045年までの間には、最初からAI向けに設計されたハードウェア、というようなものも当然出てくるでしょう。
そう考えると、2045年時点で、人間の脳と、それと「同等」の演算能力を備えたコンピュータのどちらがより「知的」か、というのは、どちらとも言いがたい気がします。
（カーツワイルは、「演算能力が同じなら、人間よりAIの方が有利」と考えていると思います）
もっとも、「強いAI」と言っても、2029年の時点では、
「スーパーコンピュータ（2029年における）の全力を尽くして、凡人の知的能力を再現する」
という水準のもので、科学的には意義深くても、まあ、経済的にはまったく見合わないものと言えます。
それが「ご家庭に一台」になったり、アインシュタイン級の天才を再現したりするには、もう少し時間が必要なわけですね。
……しかし、たとえ個々の能力は「人間未満」なAIであっても、コンピュータの特性として、複数台で相互に知識や経験を共有し合うことができます。
そういう意味では、「AI集団」が、いくつかの特定の分野では人間を凌駕する、という場面は、2029年よりもっと早くやってくるのではないか、という気がしますし……。
あるいはもう、やってきているのかも知れません。
だからひょっとすると、変革は、2029年よりさらに早いのかも……などと。
……もっとも、逆の見解もあります。
先日、いわゆるディープラーニングそのものではなくて、その隣接領域の人とちょっと話したのですが。
「ディープラーニング」がバズワード化している状況にだいぶ批判的でした。
まあ確かに、先日、
「人工知能の活用でオフィス業務の省力化！」
という広告を見て、
「もうそんなところまで！？
と思ってサービス内容をよく見たら、要するに名刺や書類をOCRでデジタル化するというだけの話だったとか、そういうバズワード事例はかなり。
曰く、
「ディープラーニングなんて、要するに排他的論理和が理解できるようになったパーセプトロンなのに持ち上げられすぎ」
という。
（「排他的論理和が理解できない」というのは要するに……「メガネをかけるのが正解で、コンタクトレンズをつけるのも正解なら、両方つけるのはもちろん正解だよね！」ということです）
それでちょっと頭が冷えて、
「2030年あたりまで生き延びられるだけの貯金ができたら退職してもいいんじゃね？」
とか本気で考えるのをやめたわけですが。
それに、カーツワイルは、件の本の中で
二〇一〇年代が始まるころには、コンピュータは基本的にはその姿を隠すようになっているだろう。
つまり、衣服の中に編み込まれたり、家具や環境の中に埋め込まれたりしているのだ。
と述べており、これは明らかに外れています。2010年代も半ばの時点でも、そこまで行っていませんから。
そう考えると、それ以降の予想についても、実際にはだいぶ先に伸びる可能性がありそうです。
また、カーツワイルは、ナノテクノロジーについて、ドレクスラーの「分子アセンブラ」的なものがそのまま実現する（2025年くらいに！）と述べ、自己増殖ナノマシンが無制限に増殖して人類を滅ぼす「グレイ・グー」シナリオが到来することに懸念を示していますが、そもそも「分子を“つまんで”自己増殖する機械」というのは、それ自体の物理的実現可能性が疑われてもいます。
さらには、注釈の中で、パラジウム電極を使った常温核融合を好意的に採り上げているので……。
いくらちょっと古い本だと言ったって、常温核融合騒動があったのは1989年ですから。
2006年にそんなことを言っているのは、2015年にSTAP細胞を肯定的に採り上げるよりアレだと思います。
このような、度が過ぎた楽観主義を見せるカーツワイルですが、超光速航法の実現については、
「まあ……相対論の縛りがあるしね？」
的な、妙に保守的な態度をとっています。
これは要するに、人類がいまだ地球外知的生命体とコンタクトしていないこととの兼ね合いなのだと思います。
カーツワイル曰く、人類がシンギュラリティを迎えれば、そのテクノロジーによって太陽系内の各惑星、そして、宇宙船（亜光速）による太陽系外の惑星へと版図を広げ、宇宙を「知性化」していくだろう……ということなのですが。
しかしそうなると、当然出てくるのが、
「じゃあ、人類以外の知的生命体は何をやってるの？」
という疑問です。
（これは、本を読む前から疑問でした）
だって、広い宇宙には、人類以外にも多数の生命体が存在するでしょうし、その中には文明を持つ種族もいることでしょう。
その中で、人類が最も文明が進んでいる……などというのは、ちょっとありそうもないことです。
我々人類に先行する種族が、カーツワイルの言うような進歩を遂げるとしたら、ダイソン球（恒星を全部包むソーラーパネル、みたいな話）で恒星が見えなくなる現象や、恒星間文明が発する莫大な放送電波が、宇宙のあちこちに観測できても不思議ではありません。
彼らは何をやっているのか。
それに対するカーツワイルの答えは、
「いや、人類の他に文明種族はいないのかもよ……？」
ということです。
「ドレイクの方程式にちょいと悲観的な数字を代入すれば、少なくとも観測可能な宇宙（≒望遠鏡で見える範囲）には人類しか文明がない、というのも、充分ありそうなことだよ」
と言うのです。
そんなところだけ悲観的なんだからなあ……。
そして、それにしても、超光速航法が実現可能だとすると、「観測可能な宇宙」の外からも宇宙人がやって来かねないことになります。
さすがに、宇宙全域で、知的種族が人間だけ、というのは無理があります。
なので、カーツワイルは、
「分子アセンブラも常温核融合も実現可能かも知れないけど、超光速航法は無理かも」
という立場なわけです。
ちょっとズルい。
にもかかわらず、本の後半、「人類の」未来を語る段になると、
「でも、ワームホールとか駆使すれば、他の銀河まで一瞬で移動したりできるかもだし、さらには他の宇宙にまで……」
とか言い出すのですよね……。
（カーツワイルの言う「ワームホール航法」は、「出口」を先に目的地に建設しておかないといけないので、人類領域の拡大自体を超光速にすることはできないのですが）
フェアじゃない。
まあ、そんなわけで、「科学的勝利」が実際何年頃になるかはわからないのですが……。
しかし、望ましい形でその日が来るのを、みんなで待とうではありませんか。
