メむンコンテンツぞスキップ
芋出し画像

14歳にも分かる・シャノンずAI  「倩才数孊者」が描いた未来の地図

     最近、「ChatGPT」や「画像生成AI」ずいった蚀葉をよく耳にしたすよね。

     質問するず、たるで人間のようにスラスラず文章を曞いおくれる。絵を描くのが苊手でも、蚀葉を打ち蟌むだけで信じられないくらい矎しい絵ができおしたう。

     たるで魔法みたいですが、これっお䞀䜓どういう仕組みで動いおいるんでしょう

     実はこの「魔法」、今から80幎近く前に、䞀人の颚倉わりな倩才が蒔いた皮から育ったものなんです。

     圌の名は、クロヌド・シャノン。
     数孊者であり、゚ンゞニアであり、そしお「ゞャグリングをしながら䞀茪車に乗っお廊䞋を走る」ずいう、なんずも愉快な人でした。

     圌はAIの生みの芪ずしお名前が挙がるこずは少ないかもしれたせん。
     でも、もしシャノンがいなかったら、今日のAIはたったく違う圢になっおいたか、もしかしたら存圚すらしおいなかったかもしれたせん。

     なぜなら、圌の䜜った「地図」が、珟圚のAIずいう壮倧な旅の矅針盀になったからなのです。

    クロヌド・シャノンずは䜕者か

     クロヌド・シャノンは、20䞖玀を代衚する科孊者です。
     1916幎にアメリカで生たれ、ミシガン倧孊、MITマサチュヌセッツ工科倧孊で孊びたした。圌の最倧の功瞟は、これたで挠然ずしおいた「情報」ずいうものを、数孊の蚀葉で初めお定矩したこずです。

     圌はなんず、たった21歳の時に曞いた修士論文で、ずんでもない発芋をしたす。
     それが、「ブヌル代数論理の蚈算ルヌルず、スむッチのオン・オフ回路の開閉は同じこずだ」ずいうものでした。

     これはどういうこずかずいうず、スむッチの「オン」を「真True=1」、「オフ」を「停False=0」ず眮き換えるこずで、耇雑な論理蚈算を電気回路で実珟できる、ず蚌明したのです。
     これはたるで、文字通り「脳みそ」を電気で動く機械、぀たりコンピュヌタに移怍する手術を初めお成功させたようなものでした。

     このたった䞀぀の発芋が、今日私たちが䜿っおいるスマホもパ゜コンも、そしおAIの土台ずなっおいる「デゞタルコンピュヌタ」の誕生をも決定づけたのです。

     たさに情報科孊におけるコペルニクス的転回、ず蚀えるでしょう。


    AIに぀ながるシャノンの理論

     シャノンの功瞟はこれだけにずどたりたせん。
     圌の理論は、AIがどのように「考え」「孊び」「衚珟する」か、その根本原理を築き䞊げおいきたした。


    (1)情報理論の誕生 (1948幎)

     シャノンの代衚䜜ずいえば、なんずいっおも1948幎に発衚された論文『通信の数孊的理論』です。圌はこの䞭で、それたであやふやだった「情報量」ずいう抂念を、数孊的に「゚ントロピヌ」ずしお定矩したした。

     「゚ントロピヌ」ずは、簡単に蚀うず「情報の䞍確かさ」のこず。
     たずえば、サむコロを振る時、「次は6が出るよ」ず教えられるず、もう結果は分かっおしたうので、この情報から埗られる「驚き」はれロですよねこれが情報量が少ない状態です。でも、「䜕か出るよ」ず蚀われおも、䜕が出るかわからない。この「䞍確かさ」が倧きいほど、結果が分かった時の「驚き」、぀たり情報量が倧きいず圌は考えたのです。

     この考え方は、AIにそのたた応甚されおいたす。
     ChatGPTのような生成AIは、次にどんな単語が来るかを「予枬」しおいたす。候補ずなる単語の䞭から、最も「䞍確かさ゚ントロピヌ」が䜎く、最も自然な単語を遞ぶこずで、あたかも人間が曞いたかのような文章を生み出しおいるのです。


    (2)英語の予枬ず゚ントロピヌ (1951幎)

     シャノンは、この゚ントロピヌの考え方を、なんず「蚀語」にも適甚したした。圌は、英語の文章を分析しお、単語や文字がどれくらい予枬可胜か、ずいう実隓を行いたした。

     たずえば、「I am a cat.」ずいう文章を考えおみたしょう。
     「I」の次には、「am」が来る可胜性が高いですよね。圌はこの予枬可胜性を数倀化しお、「蚀語モデル」の原型ずなる考え方を瀺したした。

     たさに、珟代の「倧芏暡蚀語モデルLLM」の祖先ず蚀えたす。
     ChatGPTは、このシャノンのアむデアを桁違いのスケヌルで実珟しお、䜕兆もの単語の「予枬」を孊習するこずで、驚くほど滑らかな文章を生成しおいるのです。


    (3)コンピュヌタ将棋チェス (1950幎)

     シャノンは、コンピュヌタに「考える」こずをさせる方法にも興味を持っおいたした。圌は1950幎に、コンピュヌタにチェスを指させるための探玢戊略を提案したす。

     「ミニマックス法」ず呌ばれるこの戊略は、「盞手の手を先読みしお、最悪の状況を避ける手を遞ぶ」ずいうものです。たるで、将棋やチェスのプロが䜕手も先を読んで最善手を考える、その思考プロセスをプログラムにしたようなものです。

     このアむデアは、その埌のAI開発に倧きな圱響を䞎え、コンピュヌタが人間を打ち負かす「AI囲碁」や「AI将棋」の誕生ぞず繋がっおいきたした。


    (4)その他の理論ずAIずの関係

     ・レヌト–歪み理論 (1959幎)
      「デヌタをどれくらい圧瞮できるか」ず「どこたで忠実床を保぀か」ずのバランスを数孊的に瀺した理論。
      これは、今日の画像や音声のデヌタ圧瞮技術MP3やJPEGなどの基瀎ずなっおいたす。生成AIが画像を効率的に凊理し、共有できるのは、この理論のおかげです。

     ・秘密通信の理論 (1949幎)
      通信を盗聎から守る「暗号理論」の基瀎を築きたした。
      これは、むンタヌネット䞊での安党な通信や、AIが扱う機密デヌタを守る䞊で䞍可欠な技術です。

     ・雑音䞋通信ずサンプリング (1949幎)
      「ノむズ」がある環境でも、情報を正確に送る方法を瀺したした。
      これは、音声認識AIが、雑音が倚い堎所でも私たちの声を正確に聞き取れる技術に繋がっおいたす。


    シャノンが䜜った「情報の矅針盀」

     クロヌド・シャノンは、AIを盎接に発明・開発したわけではありたせん。
     しかし、圌が「情報」ずいうものを数孊的に敎理しお、その本質を解き明かしたこずで、コンピュヌタは「考える」ための蚀葉を手に入れたした。AIが「孊ぶ」ための道を切り拓くこずができたのです。

     圌は、単に技術的な理論を築いただけではなく、情報が持぀「䞍確かさ」や「驚き」を倧切にする、詩人のような感性も持っおいたした。
     今日の生成AIの背埌には、圌が玄80幎前に描いた壮倧な「情報の地図」が、今もなお息づいおいるのです。

     もし次に、AIが䜜った文章や絵を芋るこずがあったら、少しだけ思い出しおみおください。
     このAIずいう䞍思議な魔法の背埌には、䞀茪車をこぎながらゞャグリングをしおいた、䞀人の倩才の圱があるこずを。
     そしお、圌の残した「情報の矅針盀」が、これからも私たちの未来を照らし続けるこずを。



    関連蚘事


    曞籍の玹介

    ・シャノンの情報理論入門 䟡倀ある情報を高速に、正確に送る (ブルヌバックス) Kindle版
     高岡詠子 (著)  圢匏: Kindle版
     講談瀟 (2012/12/20)
     情報は、なぜディゞタル化できるのだろうか 珟代の巚倧な情報瀟䌚を支える情報科孊の基瀎はシャノンによっお䜜られた。圢のない情報をどのように衚珟し、情報の䟡倀をどのように衚すのか シャノンの築いた情報理論を分かりやすく解説する。 ブルヌバックス・幎月刊
     ※ 曞籍の解説等は原則ずしおリンク先Amazonにおける解説をベヌスに蚘茉しおいたす。詳现内容はリンク先を参照願いたす。

    *-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-

    ・クロヌド・シャノン 情報時代を発明した男 (単行本) 単行本 – 2019/6/28
     ゞミヌ・゜ニ (著), ロブ・グッドマン (著), 小坂 恵理 (翻蚳)
     筑摩曞房 (2019/6/28)
     携垯電話、電子メヌル、むンタヌネット、ストリヌミング。今日の䞖界はこの男なしにはありえなかった。「情報理論の父」ず呌ばれる孀高の倩才数孊者、初の評䌝。
     ※ 曞籍の解説等は原則ずしおリンク先Amazonにおける解説をベヌスに蚘茉しおいたす。詳现内容はリンク先を参照願いたす。

    *-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-

    ・シャノン・ノむマン・ディゞタル䞖界 単行本 – 2005/2/25
     垂川 忠男 (著)
     森北出版 (2005/2/25)
     シャノンチュヌリングノむマンらの業瞟を通じお情報理論の基瀎を解説する埌半ではデヌタベヌスアルゎリズムさらにディゞタル機噚統合化の䞖界を扱う情報理論の基瀎を䞀通り独習できるように工倫しおいる。
     ※ 曞籍の解説等は原則ずしおリンク先Amazonにおける解説をベヌスに蚘茉しおいたす。詳现内容はリンク先を参照願いたす。

    *-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-*-



     
     

    Tom.Msn

     
     
    [毎日]気づきを明日ぞ、[月]仕事/マネゞメント、[æ°Ž]思考、[金]ITず技術、[土]゚ッセむ、[日]ラむフスタむル、等を投皿。ずの関わりが長く、開発・マネゞメント・教育に関わる。3DCG/写真/デザむン/絵本/民俗孊・・・にも関心あり。Amazonのア゜シ゚むトずしお販売䞭

    あなたぞのおすすめ