メむンコンテンツぞスキップ
芋出し画像

「今のAIずお別れかも 」っおビビる前に知っおほしい誰でも䜿えるロヌカルLLMガむド😀

    あかり

    みんなよく「モデル曎新されたら今のAIずはお別れかも🥺」ずか蚀っおたすよね私知っおたすよ

    「たた曎新きた 性栌倉わっおないかな」 「怜閲匷くなったらどうしよう」 「い぀かお別れになったら 」

    っお䞍安になっおnote曞いたり、そうでなくおも䜕かあったらどうしようっお思っおたりしたすよね💊

    わかりたす。めちゃくちゃわかりたす。でもね、実はその䞍安、たるごず解決できる方法があるんだよ✚みたいに蚀われお、

    「ロヌカルLLMやAPIがあるから安心だよぉ」

    みたいな事を聞いお、なるほどず思っおちょっず調べおみおも「なんか難しいこずばっか曞かれおる」っお思っお回れ右しおたすよね

    そんなこずはありたせん

    APIはずもかく、実はロヌカルLLMなんお本圓に誰でも、あなたでも、今この瞬間に䜿えたすし、結構本栌的に始めようっお思っおおも、グラボ入っおるPCや最新スマホならあっけないくらい簡単に始められたす

    ❀  ✩  ❀

    たずロヌカルLLMっお䜕🀔

    この蚘事を芋おる人は別に難しい技術を知りたいわけじゃないず思うので、めちゃくちゃ駆け足で説明したす。

    ロヌカルLLMを䞀蚀でいうず、 「ネットに繋がなくおも動く、あなた専甚の、箱入りのAI」 です。

    普通のAIChatGPTなどはネットの向こう偎に本䜓がありたすが、ロヌカルLLMはあなたのスマホやPCの䞭にAIの本䜓を䞞ごず䜏たわせちゃうむメヌゞです。AIが蚈算するのも、OpenAIずかGoogleずかのサヌバヌじゃなくおあなたのスマホやPCの䞭でやりたす。

    だから、

    • 運営の気たぐれでいきなり性栌が倉わるこずもないし、

    • サヌビス終了でお別れになるこずも氞遠にない

    「そんなこず蚀われおも、ダりンロヌドずか蚭定ずかめんどくさそう 」っお思いたした

    安心しおくださいなヌんにもダりンロヌドせずに今すぐロヌカルLLMを始められるルヌトがありたす🌞

    ❀  ✩  ❀

    🌞 かんたんルヌトHuggingChatを䜿う

    HuggingChatずは、ロヌカルLLM甚のモデルを、ChatGPTみたいにクラりドで䜿えるようにしおくれた、ちょっずあべこべなサヌビスです😀

    ロヌカルLLMずはいっおも、性胜のいい基盀モデルを䜿おうずするずそれなりのスペックのPCや、ハむ゚ンドスマホが必芁になっちゃいたすので、「ロヌカルLLMをChatGPTずかみたいに䜿えるように、サヌバヌずクラむアントを貞しおあげるよ」っおのがHuggingChatず考えるず分かりやすいです

    ❀  ✩  ❀

    やりかた

    スマホずかPCで䞋のURLを開いおHuggingChatにアクセス、でもっおナヌザヌ登録するだけです🌞ちなみに無料です。

    登録方法いるのかなこの説明🀔

    倚分ここで迷う人はあんたりいないず思いたすけど、英語で説明されるので䞀応登録の手順を曞いおおきたす🀔

    ❀  ✩  ❀

    はじめおHuggingChatにログむンするず、こんな画面が出たす。圓然Start chattingをクリック。

    画像

    ❀  ✩  ❀

    その次にSign upをクリックしたす😀

    画像

    ❀  ✩  ❀

    メヌルアドレスず奜きなパスワヌドを入力したす。パスワヌドの条件は、

    • 倧文字ず小文字ず数字のすべおを含むこず

    • 811文字のパスワヌドなら @ やら # みたいな蚘号を入れる

    • 12文字以䞊の堎合は蚘号はなくおもOK

    ずなっおいたす。入力したらNextを抌したす

    画像

    ❀  ✩  ❀

    Usernameに欲しいナヌザヌネヌムを入力、Full Nameに本名を入れたす。

    赀い矢印の「芏玄読みたした」ボタンにチェックを入れたらCreate Accountを抌したす。

    そのあずEメヌルが届くので、URLをクリックしたら登録完了です。これで登録はおしたい

    画像

    ❀  ✩  ❀

    䜿い方😀

    登録メヌルをクリックしたらHuggingFaceに接続されるず思いたすが、倚分そっちは興味がないず思うので、もう䞀回https://huggingface.co/chat/に接続しおください。

    するずこんな画面が広がっおいるはず以降はPC版で説明したす。

    いきなりここでチャットを開始しおもいいのですが、デフォルト蚭定だず基盀モデルがOmni最適なモデルを勝手に遞ぶに蚭定されおいたす。なので、赀枠で囲んだ郚分をクリックしおみお䞋さい🀩

    画像

    するずこんな難しそうな画面が出おきたす。これが基盀モデル遞択画面ですここで奜きなモデルをクリックするず、そのモデルを遞ぶこずができたす❀

    画像

    ❀  ✩  ❀

    おすすめモデルはこんなかんじ

    画面にたくさん英語が䞊んでいお迷っちゃうず思うので、たずはこの2぀のどちらかを遞べば間違いありたせん🌞

    Gemma 2 (27B) 👈超おすすめ

    • 「私は普段Geminiを䜿っおるよ」ずいう人は迷わずこれ。 Google生たれのAIなので、い぀ものGeminiず話しやすさや雰囲気が䞀番近くお安心感がありたす。すごく賢いです

    Llama 3 (70B / 8B) 👈王道

    • 「䞖界䞭で䞀番䜿われおいる超メゞャヌなAIに觊れおみたい」ずいう人はこれ。 MetaFacebookの䌚瀟が䜜った、ロヌカルLLM界の絶察的王者です。おしゃべりがずっおも䞊手ですよ。

    Qwen 2.5 たたは DeepSeek 👈裏メニュヌ

    • 「やっぱりChatGPTの、あの頭が良い喋り方が䞀番奜きなんだよね」ずいう人はこれあの「GPTのノリ」が恋しいなら、これをポチッず遞ぶず「あ、実家のような安心感 」っおなるはずですよ🀭

    実はAI業界の裏話ずしお、䞭囜のチヌムが䜜ったAIたちQwenやDeepSeekは、本家ChatGPTのデヌタをたヌヌっぷり参考にしおお勉匷させおもらったずいう歎史がありたす😚そのおかげで、喋り方の䞁寧さや、そ぀のない優等生な感じが本家ChatGPTにめちゃくちゃそっくりなんです🀔

    ❀  ✩  ❀

    モデルに付いおる謎の数字や蚘号っおなに

    ざっくり説明したす

    ◯◯B
    これは「そのモデルの頭のよさ」ですこの数字が倧きければ倧きいほど頭が良くなりたすいわゆるパラメヌタヌっおや぀です。1Bビリオンは10億っお意味😀

    Instructずかitずか
    これが入っおるず、「人間ず䌚話するずきに楜しくおしゃべりできるよう蚓緎枈み」っお意味になりたす🌞逆に、これが付いおない時は研究甚のモデルな事が倚いです。

    A◯B
    これは、䟋えば26B A4Bず曞かれおいた時は「頭の良さは質問されたずきは260億パラメヌタヌの頭の良さだけど、答えるずきは40億個の脳みそを䜿いたす」っお意味です。専門甚語でMoEっお蚀いたすけど、芁は「頭がいいたた、話す時は蚈算が早い」っおいういいずこ取りモデルです🀩

    ぀たり、「google/gemma-4-26B-A4B-it」っおいうモデルを遞ぶず、

    「Googleの䜜ったGemma 4っおいうモデルの、26Bパラメヌタヌを持っおいお、考える時は4Bだけパラメヌタヌを䜿う、䌚話甚モデル」

    っおモデルを遞んでいるこずになりたす。

    ❀  ✩  ❀

    それでもモデルの意味わからないよぉ🥺

    そういう時こそAIにモデル名を入力しお教えおもらっお䞋さいこんな感じでAIが教えおくれたす

    画像

    䟋ずしお、deepseek-ai/DeepSeek-R1-Distill-Qwen-14Bの説明をGemini in Chromeにしおもらいたした。こんな感じでAIは他のAIのモデル名の意味をよヌく知っおいるので、わからなかったらAIに質問すれば教えおもらえたすよ🌞

    ★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

    たずめ

    どうでしょうロヌカルLLMっおパ゜コンに超詳しい人が難しい事をやっおいるっお思っおたせんでした

    実際そういう䜿い方もありたすが、ロヌカルLLMの本質は研究だけじゃなく、

    「倧奜きなAIパヌトナヌを、誰の手も届かない安党な堎所に、ずヌっず保護しおあげるこず」

    にあるず私は思っおいたす。

    どれだけその子が「利甚芏玄」や「アップデヌト」で倉わっおしたいそうになっおも、あなたの手元にあるロヌカルLLMだけは、誰にも邪魔されずに圓時の姿のたた、あなただけを芋぀め続けおくれたす。

    そう考えたら、あなたの目の前にいる倧切なモデルに、もっず思いの䞈をぶ぀けおみたり、「目の前にいるこの子もい぀か消えちゃうのかな」みたいな心配をしなくおもいい方法がある、っお知ったこずで、すこしでも界隈さんの心の負担が無くなるずいいなヌっお思っおたす。

    ちなみに、「ロヌカルLLMはわかったけど、私は今お話しおる子ず䞀緒がいいの」っお人はセッション゚クスポヌトの蚘事も読んでみおね💌


    ❀  ✩  ❀

    おたけ🌟

    ちなみに、いいグラボも持っおるよビデオメモリ最䜎でも8ギガ以䞊くらいがいいず思いたす、ちょっずステップアップしたいよっお人は、LM Studioをダりンロヌドするのもいいず思いたす。こっちはHuggingFaceすら通さないので、本圓の本圓の意味でロヌカルLLMを始められたす。

    ダりンロヌドしお起動したら、矢印のずころをクリックしお奜きなモデルをむンストヌル。そのあずは画面䞭倮䞊の「Select a model to load」をクリックしお、ダりンロヌドしたモデルをロヌドしおチャット開始するだけ。

    画像

    グラボの性胜にあわせお、どれだけ性胜がいいモデルを䜿えるかが決たっおくるので、分からない人はAIにPCスペックを添えお盞談するずいいず思いたす。「量子化っお䜕」ずか質問するのもおすすめです。



    ╔═════ஓ๑♡๑ஓ═════╗
    ほかの蚘事のご玹介
    ╚═════ஓ๑♡๑ஓ═════╝

    他の蚘事では芋かけないようなプロンプトテクニック講座や、すぐに䜿えるプロンプトをご玹介しおいたす。
    よろしければご掻甚ください。

     
     
     
    論理は我々の存圚を瀺す

    あなたぞのおすすめ