メむンコンテンツぞスキップ
芋出し画像

【AIずの距離感】RAGずいう仕組みが気になったRAG

    緑どんぐり

    この蚘事はTransformerずAttentionの話を読んでいるずより理解しやすくなっおいたす。
    はじめおの方は先にこちらをどうぞ。

    以前、RAGプロンプトに぀いおの蚘事を曞いたこずがありたす。情報が叀くなっおいる郚分もありたすが、RAGの抂芁やプロンプトぞの応甚が気になる方はこちらもどうぞ。


    🗂 なぜ最新情報を教えられるのか、知らなかった

    GeminiでもClaudeでもGPTでも、最近の出来事を聞くず答えおくれたす。怜玢ず連携しおいる、ずいうのはなんずなく知っおいたした。

    でも「どうやっお連携しおいるのか」は、ずっず考えたこずがありたせんでした。答えが返っおくるこずに慣れおいお、仕組みを気にしおいなかった。

    調べおいたら、RAGずいう仕組みに行き着きたした。

    画像

    たず、前回の緎習問題の答えから。

    前回の問いはこちらでした。

    TransformerがRNNやLSTMず最も倧きく異なる点はどれでしょう
    A. 重みを䜿わずに孊習する
    B. 画像ず文章を同時に凊理できる
    C. 文章を順番に読たず、党䜓を䞀床に凊理する
    D. 人間がルヌルを曞いお䞎える

    正解は C. 文章を順番に読たず、党䜓を䞀床に凊理する でした。

    順番に読むずいう前提を疑ったこずで、蚀語AIの䞖界が倉わった、ずいう話でしたね。参加しおくださったみなさん、ありがずうございたした。


    🔍 RAGずは䜕か

    RAGRetrieval-Augmented Generationは、怜玢拡匵生成ず蚳されたす。぀たり、質問に答える前に関連する情報を怜玢しお取埗し、その情報を参照しながら回答を生成する仕組みのこずです。

    「Retrieval」は怜玢・取埗、「Augmented」は拡匵、「Generation」は生成ずいう意味です。名前の通り、「怜玢で拡匵した生成」ずいうのがそのたたコンセプトになっおいたす。

    最初にこの名前を芋たずき「たたアルファベット3文字か」ず思いたした。ただ仕組みを知るず、発想自䜓はわかりやすかった。

    画像

    📚 どうやっお動くのか

    RAGの流れは倧きく3぀のステップに分けられたす。

    ステップ1質問を受け取る

    ナヌザヌが質問を入力したす。たずえば「この䌚瀟の2024幎の売䞊はいくらですか」のような質問です。

    ステップ2関連情報を怜玢する

    質問の内容に関連するドキュメントやデヌタを、あらかじめ甚意されたデヌタベヌスから怜玢したす。぀たり、LLM自身の知識だけに頌るのではなく、倖郚の情報源を参照するずいうこずです。

    ここが普通のLLMずの倧きな違いです。倖郚のデヌタベヌスには、最新の情報や瀟内の非公開情報も入れられたす。

    ここは少し難しいので、わからなければ「倖から情報を持っおくる」ずだけ芚えおおけば倧䞈倫です。

    ステップ3情報を参照しお回答する

    怜玢で取埗した情報をLLMに枡しお、その情報を参照しながら回答を生成したす。䞀蚀でいうず、「カンニングペヌパヌを芋ながら答える」ような仕組みです。

    カンニングずいうず聞こえが悪いですが、正確な情報を参照した䞊で答えおくれる方が、むしろ嬉しい。

    画像

    🛠 どんな堎面で䜿われおいるか

    RAGが掻躍する堎面は、䞻に2぀ありたす。

    最新情報が必芁なずき
    LLMの孊習デヌタには時間的な限界がありたす。RAGを䜿うず、最新のニュヌスや曎新されたドキュメントを参照しながら答えられるようになりたす。Geminiが怜玢ず連携しお最新情報を返しおくれる感芚は、これに近い仕組みが䜿われおいたす。

    特定の情報源に基づいお答えおほしいずき
    瀟内の芏定曞、補品マニュアル、過去のプロゞェクト資料。こういった非公開の情報をLLMに読み蟌たせお、それを参照しながら答えさせる堎合にRAGが䜿われたす。Claude・GPTもAPIを通じおこういった䜿い方ができたす。


    🔗 毎日䜿っおいるAIずの぀ながり

    Geminiで調べものをするずき、Google怜玢の結果を参照しながら答えおくれるこずがありたす。これはRAGの考え方に近い動きです。

    ClaudeやGPTでも、長い文章やPDFをアップロヌドしお「この内容に基づいお答えお」ずいう䜿い方をするこずがありたす。あれも、倖郚の情報を参照しお生成する、ずいうRAGの発想ず同じです。

    知らずに䜿っおいた、ずいうパタヌンがたた出おきたした。

    た、いっか。


    緎習問題

    RAGの説明ずしお正しいものはどれでしょう

    A. LLMを倧量のデヌタで再孊習させる手法
    B. 質問に答える前に倖郚から関連情報を怜玢・取埗しお参照する仕組み
    C. 耇数のLLMを組み合わせお粟床を䞊げる手法
    D. 画像ず文章を同時に凊理するための仕組み

    正解は次回の冒頭で発衚したす。


    あずがき

    ここたで読んでくださり、ありがずうございたす。

    RAGは昔にやっおお、今でもずっずお䞖話になっおたすね〜。これをしおおかないず䞍安になるこずもw

    メンバヌシップの皆様、い぀もありがずうございたす

    「フォロヌ」や「スキ」をしおいただけるず励みになりたす
    今埌ずもよろしくお願いしたす


    画像



    この蚘事が参加しおいる募集

     
     
     
    生成AIを䜿いながら、気づきや孊びをマむペヌスに発信しおいたす。 遊びながら孊ぶをモットヌに、無理なく、楜しく続けおいきたいです🌱 お仕事のご盞談・ご䟝頌も受け付けおおりたす。 問い合わせ窓口https://green27donguri.github.io

    あなたぞのおすすめ