人工意識について④－人工意識の開発に向けた取組

４．人工意識の開発に向けた取組

（１）コンピューターの意識の判定

　人工意識を開発する場合に、どのような状態になれば、人工意識を開発できたと言えるのでしょうか。
　人工意識が開発できたことを認めてもらうためには、コンピューター（人工知能）が意識を持っているかどうかを判定するための基準が必要になります。
 
　コンピューターが知性を持っているかどうかを判定するテストとしては、「チューリングテスト」がよく知られており、知性の前提として意識が必要ならば、チューリングテストは、コンピューターに意識があるかどうかも判定できることになります。
 
　チューリングテストは、イギリスの数学者アラン・チューリングによって考案され、1950年の論文「計算する機械と知性（Computing Machinery and Intelligence）」の中で、機械が知性を持っているかどうかを判定するテストとして発表されました。
 
　チューリングテストは、次のような手順で行います。
　まず、人間の判定者を相手の姿が見えないように隔離し、キーボードとディスプレーを介して、一人の人間と一台のコンピューターのそれぞれに対して通常の言葉での会話を行います。
　次に、判定者が両方の受答えを観察して、どちらが人間でどちらがコンピューターかを判定します。
　そして、コンピューターが人間であると判定されるケースが十分に多ければ（一般的には、30%を超えれば）、このコンピューターは知性を持っていると判定されます。

 　なお、2014年に英国レディング大学で行われた実験において、ウクライナ在住の13歳の少年という設定で参加した「ユージーン・グーツマン」というチャットボットがチューリングテストに初めて合格したとして話題になりました。

　このチャットボットは、ロシア人のウラジミール・ヴェセロフ氏らがスーパーコンピューター上に構築したもので、この時のテストでは、審査員の33％がユージーン君を人間だと判定しました。
　ただし、この判定については、英語が母国語でない少年という設定が巧妙だった、審査員に専門家が入っていなかったなどの批判もあります。
 
　チューリングテストの判定は、本当にコンピューターが知性や意識を持っていることを示しているのでしょうか。
 
　チューリングテストに対する反論としては、アメリカの哲学者ジョン・サールが1980年の論文「心、脳、プログラム（Minds, Brains, and Programs）」の中で発表した「中国語の部屋」という思考実験が有名です。
　この思考実験は、中国語を理解できない人を小部屋に閉じ込め、完璧な中国語質問への回答マニュアルに従って、回答を返す作業を行わせれば、質問者から見ると、中にいる人が中国語を理解しているように見えるというものです。
 
　サールは、この思考実験によって、コンピューターがその内容を理解していない記号を処理するだけでも、チューリングテストに合格することは可能であるが、内容を理解していないのであれば、人間と同じ意味で思考しているとは言えないと主張し、チューリングテストは、コンピューターが知性を持つかどうかを判定するものではないと結論づけました。

　コンピューター上で働く人工意識を開発した場合に、コンピューターが意識を持っているかどうかの判定は、外部からの観測に頼ることになります。
 
　サールの中国語の部屋の思考実験は、チューリングテストに合格するためにコンピューターが知性を持つ必要がないことを示し、チューリングテストが知性や意識の存在を判定する妥当性に疑問を投げ掛けました。
 
　また、プロ棋士よりも強い将棋AIや囲碁AIが出現した現在、コンピューターに最高性能を発揮させないで、わざと人間がよく打つような手を打たせたり、ミスをさせたりした方が人間らしく見えるという問題もあり、チューリングテストで判定している知性とは何なのだろうかという疑問も生じます。
　実は、チューリングテストは、人間が持つ知性が最高の知性であるという前提で知性を判定していますが、実際には、人間の真似の上手さを判定しているだけだとも考えられます。
 
　このように、コンピューターが意識を持っているかどうかを判定する上で、チューリングテストには限界がありそうだということも分かってきました。
　しかし、人間の意識による振る舞いは多岐にわたっているため、判定の客観的な基準を定めることは困難であり、チューリングテストに代わる判定方法は、まだ見つかっていません。
 
　なお、第3章で説明した統合情報理論が正しければ、ある程度客観的にコンピューターが意識を持つかどうかを判定できそうですが、その場合も、コンピューターがどのような内容及びレベルの意識を持っているのかまで判定することは難しいでしょう。

（２）自己意識を持ったロボットの開発

　意識の物理的な仕組みを明らかにするためのアプローチの一つとして、実在するロボットに意識の働きをするプログラムを実装するという研究があります。

　2006年に米国コロンビア大学のホッド・リプソン教授が「自己意識」を持ったロボットを発表しました。 
　リプソン教授は、自己意識を「自分自身のシミュレーションを行う能力」と定義し、自己モデルを持って自分自身のシミュレーションを行うことができる初歩的な「自己意識」を持つロボットの実装に成功しました。
 
　リプソン教授によれば、意識は段階的なものであり、アメーバのように全く自己意識を持たないようなものから、人間のように完全に自己意識を持ったものまで、意識にも幅があります。
 
　また、リプソン教授は、自己意識とは、現在を離れて、頭の中で未来や過去に旅をすることができる「メンタルトラベル」と呼ばれる哲学的な概念に相当し、それを実現するためには、自分自身についてのシミュレーションができなければならないと考えています。

　現時点では、ロボットがそれ自身の身体の動きをシミュレーションするだけですが、さらに、将来の特定の状況において自分自身がどのように感じるかを想像するなどの精神活動のシミュレーションを実行できるようになれば、より高度な自己意識を持つことができるとリプソン教授は言います。

　現在のところ、ロボット自身の精神活動のシミュレーションをどのように実現するのかは不明であり、また、そのことが人間のような高度な自己意識をロボットが持つことと同じ意味になるのかは判定できませんが、人工意識の開発に向けた具体的なアプローチ方法を示した興味深いアイデアであり、今後、さらにこの方針に基づいた研究開発及び実験が発展し、意識の解明につながっていくことを期待します。

（３）意識を持った汎用AIの開発

　脳神経科学と情報理論を融合させて、脳に意識が生まれる原理の解明や人工意識の開発を目指している日本のベンチャー企業があります。

　そのベンチャー企業は、「株式会社アラヤ」と言い、英国サセックス大学等で脳神経科学の研究を行っていた金井良太氏が2013年に立ち上げました。
　同社は、特に脳構造画像の解析の分野で世界をリードしています。

　金井氏は、「汎用AI」を実現するために、AIに意識の機能を持たせることが必要だと考えています。
　現在実用化されているAIは、プロ棋士に勝利した囲碁AIのAlphaGoや画像認識AI、自動翻訳AIなどの限定された課題に特化して処理を行う「特化型AI」ですが、汎用AIは、こうした特定の課題のみに対応したAIと異なり、人間と同じように様々な課題を処理することができます。
　汎用AIが実現すれば、これまで人間でなければ対応できなかった様々な用途にAIを利用することが可能となり、製造業、農業、医療、教育などあらゆる分野の産業や社会の劇的な発展につながるものと期待されています。

　人間は多くの行動を無意識のうちに実行していますが、環境が変わった場合には、新しい状況に上手く対応するために意識を呼び起こして意識的に行動する必要があり、こうした点から、汎用AIを実現するために必要なのは意識の機能だと金井氏は結論づけています。

　金井氏は、AIに意識の機能を持たせるために、認知神経科学の理論を参考にした以下の3つの仮説をAIに応用しようとしています。
　① 情報生成理論
　② グローバル・ワークスペース理論
　③ クオリアのメタ表現理論

① 情報生成理論

　人間は、意識によって自分の周りの世界を知覚し、自分が行動すると周りの世界がどのように変化するのかを予想することができます。
 
　「情報生成理論」とは、外部から取り入れた視覚情報などを基にして脳内に現実世界のモデルを構築し、このモデルを利用してシミュレーションを行うことにより、自分の行動で周りの世界がどう変化するのかを予想するという意識の機能を実現しようという理論です。
 
　ここで、人間のように短時間で外部環境を把握できるようにするためには、少ない入力情報から効率的にモデルを生成する仕組みが必要です。
　このように現実世界を効率的にモデル化する手法として注目されている技術の一つに、Google傘下のDeepMind社が2018年に発表したGQN(Generative Query Network)があります。
　GQNは、目に見える情報から見えない部分を推測して3Dモデルを生成する技術であり、室内の数か所から撮影した2次元画像を入力するだけで、部屋中のあらゆる位置から見た画像を出力することができます。
 
　GQNに機械学習を行わせるためにDeepMind社が利用したのは、VAE (Variational AutoEncoder) と呼ばれるディープラーニング技術であり、画像を入力するとエンコーダーにより画像データを圧縮して特徴を抽出し、更にそこからデコーダーにより再び画像を復元して、元の画像と比較するという仕組みで学習を行わせます。
　こうすることで、膨大な情報量の画像から余計な部分がそぎ落とされて、少量の本質的な情報が残っていくと考えられています。

　このVAE技術などを応用して世界モデルを構築し、利用するシステムとして、アラヤでは、カメラを搭載したロボットを利用して忘れ物を探すシステムを開発しています。

　このシステムの特徴は、ロボットが好奇心に従って探索する場所を選択することです。
　知らないところに興味を惹かれる疑似的な好奇心の仕組みを導入することによって、ロボットが世界モデルの不確かな部分を重点的に探索し、効率的に探し物を見つけることができます。
 
　このシステムによって、ロボットが把握できる環境は、未だごく限られた範囲に留まり、人間の持つ広範な能力には遠く及びませんが、こうした取組により、目で見た映像から現実世界のモデルを構築して、自分が行動したときの環境の変化を予想するという意識の機能をAIに持たせることを目指しています。

② グローバル・ワークスペース理論

　「グローバル・ワークスペース理論」は、第3章で紹介したグローバル・ニューロナル・ワークスペース理論のもとになった理論で、視覚、聴覚、運動、言語などの特定の機能に特化した脳内の複数のモジュール間の情報を共通の領域（グローバル・ワークスペース）で橋渡しする役割を意識が担っているという理論です。
 
　この理論を応用して、AIに意識の機能を持たせるための方策として、特定の機能のモジュールをディープラーニングで学習させたニューラルネットワークを複数作成し、それぞれのニューラルネットワークの間をつなぐ仕組みをコンピューター上にグローバル・ワークスペースとして実装することが考えられます。
 
　一般に、ニューラルネットワークの入出力は、用途ごとにバラバラであるため、情報を共有するためには、特定の機能を持つニューラルネットワークの出力情報を他のニューラルネットワークが活用できる形式の入力情報に翻訳する必要があります。
 
　例えば、現在でも、画像を入力すると、その画像の内容を文章で説明する画像キャプション生成システムが開発されていますが、このシステムは、エンコーダーによって画像を潜在変数（機械学習により抽出した特徴を表すデータ）に変換し、デコーダーで、この潜在変数を利用して文章を生成することにより、機能を実現しています。

　この仕組みを利用して、時々刻々と変化する部屋の状況を視覚や聴覚の機能を担当するモジュールからグローバル・ワークスペースに伝え、それらの情報を潜在変数に変換して、運動機能モジュールに伝えることによって、効率的に部屋の探索を行うロボットを開発することなどが考えられます。
 
　グローバル・ワークスペースで潜在変数に変換されて、他のモジュールに伝達される情報は、いわば「意識の内容」に相当する情報であり、これは現在実行中のタスクに応じて決まります。
　この現在実行中のタスクと、そのタスクのために変換して伝達されるモジュールの情報をマッチングするために、最近、機械翻訳などのディープラーニング技術で注目されている「Attention機構」の仕組みが使えると金井氏は考えています。

　Attention機構は、自然言語処理や画像認識などで利用されるディープラーニングの要素技術の一つで、Attention機構を利用したTransformerなどの言語モデルは、機械翻訳や文章生成などの分野で最高水準の精度を達成しています。
　Attention機構は、入力データのどの部分に注意を向けるべきかを指示する仕組みであり、これによって、現在実行中のタスクの内容に関連した情報を効果的に処理に取り込むことができます。

　コンピューター上にグローバル・ワークスペースを実装するアイデアは、様々な機能を協調させて複雑なタスクの実行を可能にするものであり、汎用AIの開発に向けて大きな効果が期待できそうです。
　一方で、グローバル・ワークスペースの実装がAIに意識を持たせることに繋がるのかどうか、意識の存在をどのように確認するのかについては、現時点では明らかではありません。
　こうした課題については、実際にグローバル・ワークスペースを実装したAIモデルが完成してから、そのモデルの動作を観察して、考察を深めていくことになるのでしょう。

③ クオリアのメタ表現理論

　金井氏は、汎用AIを実現するための意識の機能として、既に獲得している機能を用いて、これまでに遭遇したことがない環境に対応できるようにすることを挙げています。
　この意識の機能をコンピューター上で実現する方法として、様々な機能のニューラルネットワークを潜在変数に変換し、その値を空間内の座標とみなして、その座標を「クオリア空間」と呼ぶ空間内に配置するというアイデアを金井氏は提案しています。
　そして、このクオリア空間が、AIが感覚を意識する場になる可能性があると金井氏は考えています。

　それぞれの座標の位置には、もとになったニューラルネットワークの特徴が反映されており、クオリア空間内の各座標の位置関係は、ニューラルネットワークの機能の間の関係を表現しています。
　つまり、クオリア空間内の座標は、それぞれのニューラルネットワークの機能を一段上の視点から眺めた「メタ表現」となっています。
　クオリア空間が多様な機能の集合から構成されていれば、新しい機能もこの空間内の座標として表現することができ、この空間内を探索することで、新しいタスクに対処する機能を持ったニューラルネットワークを生成することができます。

　このようにメタ表現を利用して、新しいタスクに対応したニューラルネットワークを生成する技術の例として、米国マサチューセッツ工科大学が開発したMeta-Learning Autoencoderがあります。
　Meta-Learning Autoencoderでは、予め多数のタスクのデータセットで学習させた「メタ認識モデル」に、新しいタスクの入出力のデータを数例入力するだけで、そのタスクに対応したニューラルネットワークの潜在変数を出力することができます。
　そして、この潜在変数を「メタ生成モデル」に入力すれば、該当するニューラルネットワークのパラメータに変換することができます。
 
　アラヤでも、ニューラルネットワークを潜在変数で表す基礎的な研究を始めており、学習済みのニューラルネットワークのパラメータから学習に使ったデータセットを判別できることを実証しています。

　ニューラルネットワークの機能を座標として配置した「クオリア空間」は、AIが持つあらゆる機能のメタ表現となっています。
　このクオリア空間には、視覚や聴覚などあらゆる感覚の機能が埋め込まれており、人間の意識と同じように、色、音、匂いなどの五感や人間の表情、心地よさから痛みまでの様々な感覚がそれぞれの類似度に応じて分布しています。
　例えば、視覚に対応する領域には、「赤さの感覚」「青さの感覚」「紫色の感覚」といった個別の感覚が互いの感覚の近さ・遠さの関係が分かるように配置されています。
 
　クオリアとは意識に上る感覚の体験を指し、意識の現象的な側面そのものと言われています。
　そして、クオリアが発生するためには、感覚の情報をそのまま表現するだけではなく、感覚の間の関係性を捉えたメタ表現が必要になるとの主張があります。
　この主張が正しいとすると、感覚の間の関係性を捉えたメタ表現が存在する場所が正にクオリア空間であり、クオリア空間こそがクオリアが発生する場所、すなわち、AIが感覚を意識する場所になるのではないかと金井氏は考えています。 

④ 意識を持った汎用AIの開発に向けて

　金井氏は、認知神経科学の成果を基に導き出した① 情報生成理論　② グローバル・ワークスペース理論　③ クオリアのメタ表現理論の3つの仮説を中心に構成したシステムをAIに実装することにより、意識の機能を盛り込んだ汎用AIの実現を目指しています。
 
　自分の行動で周りの世界がどう変化するのかを予想し、視覚、聴覚、運動、言語などの様々な機能を協調させて複雑なタスクを実行し、既に獲得している機能を用いて、初めて遭遇した環境にも対応するという意識の機能を実現すれば、これまで人間でなければ対応できなかった様々な用途にAIを活用することが可能となり、産業や社会の発展に大きく貢献することでしょう。
 
　しかし、意識の機能を実現できたことをもって、人工意識の開発に成功した、すなわちAIが意識を持ったと言えるのかどうかは、依然疑問が残ります。
　ジョン・サールの「中国語の部屋」の批判が正しければ、意識の機能を実現できたとしても、人間と同じ意味で意識を持ったとは言えないことになります。
　この問題については、人工意識の開発というのは手段であり、人間と同じ仕組みでなくても意識の機能を実現できればよいという機能主義的な考え方と、それでは意識の発生する仕組みを解明したことにはならないという真理を探究する科学の観点からの考え方があります。
 
　後者の科学的真理を探究する観点からは、意識の機能（の一部）を持つAIモデルを開発して、その動作を観察・分析するとともに、脳の仕組みを明らかにする脳科学の研究をさらに進めていくことにより、互いの成果をフィードバックし合いながら、意識の発生する仕組みはどうなっているのかという正解に近づいていくことになると思います。

【参考】アラヤ研究内容紹介　「『意識』の機能を持った汎用AIの実現」

【全体構成】

1. 意識とは何か

2. 意識研究へのアプローチ

3. 意識の発生に関する理論

4. 人工意識の開発に向けた取組

5. ELSI（倫理的、法的、社会的課題）と人工知能の人権

6. まとめ