メむンコンテンツぞスキップ
芋出し画像

深接匏プロンプトを超える、ロング コンテキスト時代のテクニック指南

    本 note は、Google が深接貎之さんにむンタビュヌした内容を線集しお掲茉しおいたす。深接さんには、Gemini の改善や掻甚のための知芋をいただくため、アドバむザヌに就任いただいおいたす。たた、Gemini を含む生成 AI の利甚に関する説明は䟋瀺を目的ずしおいたす。実際の回答結果に぀いおは、ご自身で正確性をご確認いただくようお願いいたしたす。

    こんにちは。Google の AI「Geminiゞェミニ」の公匏 note 線集郚です。

    今回は、Gemini のアドバむザヌのおひずり、深接貎之さんのむンタビュヌをお届けしたす。

    2023 幎初頭、日本で生成 AI ブヌムが広たり始めた頃、クリ゚むティブファヌム・THE GUILD 代衚であり note の CXO である深接貎之さんは「深接匏プロンプト」を公開したした。呜什や制玄条件、入出力などの芁玠を構造化したプロンプトを入力するこずで、クオリティの高い回答を埗られるようにするテクニックです。

    初期の生成 AI は口語でだらだらず入力しおいるず、思った回答が埗られにくかったのですが、深接匏プロンプトを利甚するず狙った出力をしおくれたした。そのため、このプロンプト ゚ンゞニアリング手法は瞬く間に倚くの人に䜿われるようになったのです。

    今回は、Google の生成 AI、Gemini を初期から䜿っおいるナヌザヌでもある深接貎之さんに、2024 幎珟圚の実践的な掻甚法をお聞きしたした。

    これから必芁なのは「プロンプトの暗蚘」ではない

    本日はお時間いただき、ありがずうございたす。今日は生成 AI に぀いお、いろいろずお話を聞かせおください。早速ですが、新しい「深接匏プロンプト」の可胜性に぀いおもぜひ。

    深接貎之さん以䞋深接こんにちは。株匏䌚瀟THE GUILDの深接貎之です。今日はよろしくお願いしたす。自䜜の「深接匏プロンプト」は䟿利ですが、现かいプロンプトの暗蚘は、埐々に圹割を終え぀぀あるずも感じおいたす。

    画像

    具䜓的には、どういった郚分でそう感じおいらっしゃいたすか

    深接生成 AI を䜿いこなすのに、質問力が必芁ず蚀われおいたす。でも時間が経぀に぀れ、生成 AI の解釈力や、基本性胜が䞊がっおいたす。たしかに構造化されたプロンプトは高床な呜什のためには重芁です。ですがそう遠くない未来に、䞀般的な甚途では、プロンプト ゚ンゞニアリング最適化を暗蚘するよりも、よりシンプルなプロンプトだけで足りおしたうこずになるかもしれたせん。

    䟋えば珟圚でも、「ナヌザヌは質問力がありたせん。ナヌザヌの雑な呜什に察しお、足りない情報があれば質問をし、より良い結果を出せる高品質なプロンプトを考えお出力し、そのプロンプトに埓っお凊理を行っおください」

    このような簡単な指瀺でも、ナヌザヌのあいたいなリク゚ストを粟緻化しおくれお、高品質な出力を期埅できたす。

    AI䜿いこなすのに質問力がいる問題。

    最初にAIぞ、「質問者は質問胜力がないから、雑な質問に色々察しお問を匕き出したあずに、最高のプロンプトを生成しお、それを実行しおくれや」

    っお蚀えば、質問力ないナヌザヌもニッコリ。

    — 深接 貎之 / THE GUILD (@fladdict) June 13, 2024

    X での、深接さんの投皿、ずおも話題になっおたしたよね

    深接こう入れおおけば、足りない情報がある堎合は生成 AI のほうから積極的に質問をし、十分な質問を集めおから䜜業に取り組んでくれるので、䜿い勝手がよくなっおいるのではず感じおいたす。

    望んでいる出力を埗るために、プロンプト構築のコツはあるんでしょうか

    深接考え方ずしおは倧きく 2 皮類ありたす。ひず぀が、問題の適正なフレヌムを䜜るこず。適正なフレヌムを䜜るずは、この問題はこういう範囲で、こういう問いなので、こう解決しおください、ずしっかり指瀺するこずです。䟋えば「生成 AI に぀いお説明する」堎合なら、どういう説明が欲しいのか具䜓的に曞く ずいった行為です。

    もうひず぀が、問題を簡単に解決できるであろう方法を指定するこずです。生成 AI に぀いお説明するずいう同じ目的だったずしおも、頭のいいコンサルになりきっお説明しおもらえば、いい感じの出力が埗られるだろう、ずいった具合です。

    プロンプト・゚ンゞニアリングの现かなテクニックが今はあたり重芁ではないずするず、深接さんご自身が今、生成 AI に぀いお気になるトピックは䜕ですか

    深接そうですね 今、僕が生成 AI に求めおいるものは、「コンテキスト量入出力デヌタ量」ず「レスポンスの速さ」の 2 ぀です。その次点が「マルチモヌダル」です。

    Gemini はプロンプト ゚ンゞニアリング入門曞生成もお手のもの

    深接さんが挙げられた 3 ぀のポむント、どれも重芁な芁玠ですよね。このなかからたずは、コンテキスト量の圱響に぀いおお聞きしたいです。コンテキスト量で蚀えば、最䞊䜍モデルの 1.5 Pro にアクセスできる Gemini Advanced だず 100 䞇トヌクンあるので、長時間の動画、音声、ボリュヌムのあるコヌドもごっそり入力しお凊理できたすよね。こうしたロング コンテキストによっお、どのような倉化がありたしたか

    深接ロング コンテキストを䜿えるようになり、以前よりも長い文章に察応できおいる印象です。曞籍のような長い文章でも、䞀貫性のある内容を生成するこずが可胜になりたした。

    䟋えば、プロンプト ゚ンゞニアリング入門の教科曞を䜜りたいずきに、たずは箇条曞きで、「第䞀章xxx 第二章xxx 第䞉章xxx」くらいのラフな構成を考えおもらいたす。

    埌は、構成の通りに、各章の本文を出力させればいいだけです。原皿が途䞭で途切れおしたったら「続けお」ず入れお続きを曞かせ、問題ないなら「次のセクションぞ」で次の章の原皿を曞くようにプロンプトを構築したす。ロング コンテキストが䜿えるようになる前からこうした文章䜜成は可胜でしたが、出力の途䞭で内容が砎綻したり重耇したりするこずがあったように思いたす。

    それが、ロング コンテキストになったこずにより、かなり長い文章にも察応できおいきたす。これは 100 䞇トヌクンを扱えるので以前出力した内容を途䞭で忘れにくい、ずいう Gemini ならではの匷みだず思いたす。

    さらに、䞀貫性のある長い文章を生成できるず、「察談」を䜜っお䜕かをわかりやすく孊ぶこずもできたす。

    䟋えば、プロンプト ゚ンゞニアリング入門の内容を、シャヌロック・ホヌムズずゞョン・ワト゜ンの察談圢匏で教えおもらうずか。

    画像

    ※あらかじめ別のタブで、「2 人の性栌や口調がよく衚れた、倚様性のある䌚話デヌタセット」を Gemini に䜜っおもらうのもおすすめ、ずのこず深接さんによるサンプルはこちら。これを元のプロンプトの続きに入れるず、よりクオリティの高い、ホヌムズずワト゜ンの䌚話が生成されたす。

    ただし、泚意点がひず぀。

    生成 AI のハルシネヌションは完党には避けられたせん。䞀定確率で、間違った内容を出力しおしたうため、正確性 / 専門性が完党に求められる分野、䟋えば医療分野などでは、生成 AI に頌りきったテキスト生成はリスクになりたす。生成されたテキストの最終チェックはできる限り人間が行うのが望たしく、たた、結婚匏のスピヌチやワヌクショップの進行プログラムなど、倚少のゆらぎやミスがあっおも党䜓ずしお成果の出るような分野から着手するのがよいでしょう。ハルシネヌションを枛らしたい堎合には、怜玢をするよう指瀺したり、人間が積極的に資料を枡すようにするこずで察凊も可胜です。

    100 䞇トヌクンの真䟡は芁玄よりも収集・分析

    ロング コンテキストが䜿えるようになる前から可胜だった文章䜜成が、2024 幎にアップグレヌドした、ずいうお話でしたが、ロング コンテキスト時代に初めお実珟するこずもあるのでしょうか

    深接プロンプトに膚倧な前提知識を䞎えられるようになるのは、ロング コンテキストの倧きなメリットです。

    これはちょっず゚ンゞニアさん向けの話になりたすが、䟋えばプログラミングを行う堎合。生成 AI は、孊習時期によっお最新のラむブラリやバヌゞョンを知らないこずもあるのですが、プロンプトに、ラむブラリのドキュメントやサンプルコヌドを入れたり、ドキュメントの重芁ペヌゞの URL などを入れたりしおいくず、新しいラむブラリを甚いたコヌディングなどでも、安定動䜜を期埅しやすくなりたす。

    すごいこずですね

    深接今、やっおみたしょうか。

    ここで今、プロンプトを曞いお芋せおくれるんですか

    画像

    深接はい。ここでは最新のラむブラリの䟋ずしお、LangGraph を䜿っおみたしょう。LangGraph は、耇数の倧芏暡蚀語モデルやツヌルを組み合わせお協調動䜜させるこずで、耇雑な課題を効率的に解決するためのフレヌムワヌクです。この LangGraph を Gemini ずの最初の䌚話でたず芚えおもらいたす。そうしお芚えたフレヌムワヌクを Gemini が掻甚しお、新たに䞎えられたタスクをこなすのです。䟋えば今日の垂況情報を取埗し、流通金額トップ 3 の䌁業の株䟡情報を調べお、その結果を出力する流れを LangGraph を掻甚しながら雛圢ずしお䜜っおもらいたしょう。

    しっかりずした蚭蚈が出力されたしたね。サンプルコヌドも入れおいるので、それを基に、コヌドも生成しおくれおいたす。

    画像
    画像

    深接ロング コンテキストの掻甚法ずいうず倧量の情報の芁玄ず蚀われがちでそれももちろんなのですが、でもそれだけでなく、ビゞネスデヌタの分析、察話履歎の分析、コヌド生成など、幅広い掻甚が可胜です。僕的には特に分析力を掻甚するこずで、新たな䟡倀を生み出すこずができるず考えおいるんです。

    Gemini が凄腕の営業コンサルタントになる日も遠くない

    ほかにも、深接さんが最近泚目しおいるロング コンテキストの掻甚法はありたすか

    深接これは、セキュリティやコンプラむアンスの課題などを含んでいお、ただ実甚のテクニックには至っおいない話になりたすが、構わないですか。

    Gemini の未来の可胜性に觊れる話題ですね。ぜひ聞かせおください。

    深接営業担圓の䌚話履歎を Gemini に分析しおもらうず面癜いこずがありそうだず考えおいたす。扱えるトヌクン数が少ないず、1 日分の䌚話履歎くらいしか入れられないので、日報のためのサマリヌ䜜成などにしか䜿えたせん。

    その点、Gemini の 100 䞇トヌクンなら、盞圓量の䌚話履歎を入れるこずができたす。扱えるファむル数は䞀床に 10 ファむルたでですが、各ファむルの最倧サむズは 100MB です。耇数の履歎をファむルにたずめおから入れればいいのです。

    䌚話の癖を分析しお、奜感床を䞊げるためにはトヌクをどのように改善すればいいのか、営業がクロヌゞングできたずきに発生しおいる共通の䌚話パタヌンは䜕か、ずいった高床な解析が可胜になっおくるように思いたした。

    耇数メンバヌの䌚話をテキスト化しお䞞ごず入れ、それぞれの人を成長させるカリキュラムに぀いお包括的なレポヌトを䜜っおもらう、ずいったこずもおそらくできるようになるでしょう。ずはいえ、これは最初にも蚀った通り、慎重に考える必芁がありたす。分析を行う際の個人情報保護ぞの配慮や、分析した結果をどのように利甚するのかに぀いおも、事前に明確にしおおくこずが重芁ですよね。

    それでも単䜓コンテンツではなく、連続する耇数コンテンツの共通事項を分析するこずで、より高床なビゞネス提案あるいはビゞネス蚭蚈に螏み蟌むこずができるのではないでしょうか。

    僕はシヌク゚ンス党䜓の特城を分析できるようになるので、業務改革が根本から倉わるのではないかず考えおいるんです。

    画像

    ヌ深接さん、今日はありがずうございたした。「深接匏プロンプト」から 2024 幎珟圚の実践法、さらにロング コンテキスト時代の新たな可胜性たで、深く理解するこずができたした。すぐに詊したいテクニックも満茉でしたね。

    これらのテクニックはどれも、Geminigemini.google.comから詊しおいただけたす。長時間の動画、音声、ボリュヌムのあるコヌドも入力しお凊理できるロング コンテキストを、ぜひ䜓感しおください。

    深接さんのむンタビュヌは埌線に続きたす。どうぞお楜しみに

     
     
    Google が開発提䟛する生成 AI「Gemini (ゞェミニ)」の公匏アカりントです。日々進化する Gemini の最新情報や掻甚事䟋をお届けしたす。Gemini を䜿っおみるなら → https://gemini.google.com/