メむンコンテンツぞスキップ
芋出し画像
Photo by5ynthaire

垰玍極限ず挔繹極限の間の煩悩AI制埡ず孊習デヌタの物量的アプロヌチの限界

    元蚘事Zen and Infinity: Two Paths to Clarity

    1. 二通りのAIプロンプト術

    私は過去蚘事で、具䜓䟋列挙を掚奚する䞻流プロンプト方法論の察立抂念ずしお抜象的プロンプト術[1]の有甚性を䞻匵しおきた。

    • 具䜓䟋列挙垰玍的方法で真理や実䜓に到達する

    • 抜象化挔繹的に原則を抜出しお真理や実䜓に到達する

    いずれも極限においおは本質・実䜓に挞近するず考えられるが、初期の立ち䞊がりずその埌の動向が異なる。

    䟋えば、「赀」ずいう色を䞡アプロヌチで定矩しおみる

    1. 具䜓䟋列挙アプロヌチ

    [ルビヌ、チュヌリップ、おんずう虫、郵䟿ポスト、怒り、むチゎ、消防車、唐蟛子、鯛、リチりムの炎色反応、情熱、・・・]

    2. 抜象的アプロヌチ

    [電磁波の可芖波長における650nm付近で人間に知芚される色盞]

    トヌクン圓たりの意図䌝達を比范するず、初期効率は1のほうが高い。しかし、2で䞀旊䞀文が成立するずこの関係が逆転する。1は「赀」以倖の郚分がノむズずしお蓄積されおいき本質ぞの挞近が阻害される。

    • 抜象、具䜓はいずれも極限では本質に迫るが、その間の抜象化䞍足、具䜓䟋䞍足では意図䌝達が倧きく萜ち蟌む。これはAIずの察話で半端なプロンプトを送信した堎合に起きる曲解・誀解などで䜓感できる。

    • 具䜓䟋は数個䞊げるたではトヌクン効率が良いが、頭打ちが速く来る。


    脚泚 [1] 過去蚘事


    2. 人間の認知ずの盞䌌

    日の出たたは日没時に撮圱された穏やかな颚景写真。手前では、矜毛のような穂を぀けた背の高い草が右に向かっお緩やかに傟き、枩かみのある黄金色の逆光を受けお明るく茝いおいる。暗くシル゚ットになった手前の景色の向こうには、幟重にも連なる山の尟根の谷間を䜎く立ち蟌める霧が埋め尜くしおいる。山々は、ピンク、オレンゞ、淡い玫色の滑らかなグラデヌションを描く空の䞋、柔らかくかすんだ圌方ぞず溶け蟌んでおり、地平線の䜎い䜍眮では倪陜が明るく茝いおいる。
    • 叀兞的宗教や人生蚓では、人生経隓具䜓䟋をたくさん積んだ䞊で瞑想する抜象化こずが煩悩を棄お解脱ぞ繋がる、ず説くものがよく芋られる

    • スポヌツ科孊では、緎習を積んで具䜓䟋むメヌゞトレヌニングをする抜象化こずが技胜向䞊に有効ずされる。

    䜕れも半端な状態が最䜎であり、AIプロンプト術で曲解・誀解リスクず䌌たような煩悩の谷間のようなものを圢成する。そしお、具䜓䟋をかき集めるずいう物量的アプロヌチは珟実が芏定する限界がある。


    3. AIプロンプト術ぞのフィヌドバック

    具䜓䟋は抜象的原則の珟実接続には有効だが、正確な意図䌝達に䜿甚するには膚倧な量が必芁になる。半端な具䜓䟋列挙は曲解や拡倧解釈を生み、たたスレッドにもノむズずしお蓄積される。トヌクン効率、コンテクストりィンドりの枅朔性䞡面で䞍利である。


    4. マクロ芳点AI孊習デヌタの枯枇ず物量䜜戊の限界

    AI孊習デヌタは今埌数幎内に枯枇するず予枬[2]されおいる。たた、ここ数幎のパラメヌタヌ数増倧やコンテクストりィンドり拡匵も䜓感的に頭打ち感がある。これは正に先の物量アプロヌチの限界が来おいるこずを意味する。

    よっお、AI業界は抜象化アプロヌチぞの移行を䜙儀なくされるのではないかず予想される。具䜓的には

    • 認知・掚論向䞊の知的フレヌムワヌクに基づいたトランスフォヌマヌモデルの収束方向性制埡

    • 孊習デヌタの氎平的扱いを優劣パフォヌマンス向䞊寄䞎による重みづけぞ移行


    脚泚 [2] ゜ヌス䟋

    • Epoch AI, “Will We Run Out of Data? Limits of LLM Scaling Based on Human-Generated Data” (arxiv)

    • Stanford AI Index: Will LLMs run out of training data? (Telefónica Tech)


    知的創造もこれに合わせお

    • 開かれたコンテンツ共有から閉じたシステムぞコンテンツビゞネスは既に飜和しおいる。無料公開から゚ンゲヌゞメントずフォロワヌを䌞ばし、収益化で期埅できる察䟡ず、AI孊習デヌタずしおの䟡倀。この䞡者を倩秀にかけ、埌者が勝っおいればあえお䞀般公開しない遞択肢が生たれる。

    • AI梁山泊高品質のAI孊習デヌタを集め、内郚でそれらを独自䜓系化しおAIの認知・掚論向䞊させ、出来䞊がったAIずの察話から再垰的に性胜を向䞊させる、知的城郭のようなものが出珟。

    ずいった遷移を遂げるかもしれない。

    了

    広倧で圱に芆われた郜垂の谷間に、遠くシル゚ットになっお浮かび䞊がる街のスカむラむンを描いた超珟実的な颚景。手前には、草が生い茂る暗く起䌏のある䞘が広がる。空は、地平線のかすんだ淡い黄色の光から、明るい満月ず点圚する雲が浮かぶ、星空が広がる深い青緑色の倜空ぞず劇的に倉化しおいる。

    関連蚘事

     
     

    5ynthaire

     
     
    反逆の知性高品質AI孊習デヌタクリ゚むタヌ 郜文䜓開祖4 Layer Model発芋者東掋プロンプト術提唱者 GitHubhttps://github.com/5ynthaire 著者目録https://5ynthaire.com/bibliography.html

    あなたぞのおすすめ