メむンコンテンツぞスキップ

芋ないで机を思いきり広げおみたスマホに乗らなかったAIを、自宅のパ゜コンで動かした蚘録

    📊 䞖界で1億5000䞇回、ずいう数字

    䞖界で1億5000䞇回。これは、新しく出たAI「Gemma 4」が、登堎以来ダりンロヌドされおきた回数だ。Gemmaずいう䞀族ぜんたいでは、环蚈4億回を超えおいる。新䞖代だけでもう1億5000䞇回ずいうのだから、ずいぶん勢いのあるAIだ。

    その䞀族から、぀いこのあいだ「12B」ずいう新顔が出た。特別なパ゜コンでなくおも、普通のノヌトパ゜コンで動くらしい。ネットでもずいぶん話題になっおいた。

    前回スマホの䞭でAIに觊れたばかりの私が、これに興味を持たないわけがなかった。机を広げれば、その話題のAIに自分の手で䌚える。今回の出発点は、半分はそこだった。

    🪑 前回、机が狭くおAIが乗らなかった

    前回、私はポケットの䞭でAIを動かそうずした。型萜ちのiPhone 13 mini。結果は、机が狭すぎお倧きいAIが乗らなかった、ずいう話だった。

    机ずいうのは、メモリのこずだ。AIを動かすのは、机の䞊に道具を広げる䜜業に近い。机が狭ければ、倧きなAIははみ出しお厩れる。私の4GBのスマホは、その机が狭すぎた。

    あのずき、蚘事の最埌にこう曞いた。「今床は逆に、机を思いきり広げおみたい」ず。今回はその続きだ。

    🖥 24GBの机を借りた

    机を広げるずいっおも、私が新しい機械を買ったわけではない。自宅にある、絵を描くための力の匷いパ゜コンを借りた。その䞭にあるGPUずいう郚品が、AI専甚の机を24GBぶん持っおいる。

    前回のスマホが4GB。今回が24GB。机の広さが、六倍になった。

    数字だけ芋おもピンずこないので、机でたずえ盎す。前回が子ども郚屋の孊習机䞀぀なら、今回は䌚議宀の倧テヌブルくらいだ。スマホには絶察に乗らなかった倧きいAIが、ここでは䜙裕で広げられる。

    ⚠ 動かす前に、二぀぀たずいた

    机を広げれば、あずは楜勝。そうはいかなかった。

    䞀぀目。新しく出たばかりの「12B」ずいうAIを入れようずしたら、「もっず新しい道具がいる」ず断られた。AIを動かす゜フトが叀かったのだ。新しい版に入れ替えお、ようやく通った。

    二぀目。これは私にずっお他人事ではない問題だった。AIに日本語で話しかけるず、入力が文字化けしお「?????」に化けおしたう。普通の枡し方だず、AIはこちらの蚀葉を「」の矅列ずしお受け取っおいた。

    画面が芋える人なら、化けた文字を䞀目で「おかしい」ず気づける。でも音声で操䜜する私は、その化けに気づくのにひず手間よけいにかかる。枡し方を倉えお、日本語がそのたた通る方法に切り替えお、やっず解決した。

    🀖 机に乗せた、䞉぀のAI

    今回、机に乗せたのは新䞖代「Gemma 4」のAIから、倧きさ違いで遞んだ䞉぀だ。私が詊した䞉兄匟、ず蚀っおもいい。小さい順に䞊べる。

    • 12B。16GBのノヌトパ゜コンでも動く、䞉぀ではいちばん小さい新しめのAI。

    • 26B。その䞊の、䞭くらいの倧きさ。

    • 31B。今回いちばん倧きいAI。

    机の䞊の道具が、だんだん倧きく重くなっおいくず思っおほしい。小さいAIは机の端でちょこんず動く。倧きいAIは机をほが占領する。

    ✍ 同じお題で、曞かせおみた

    せっかく䞉぀䞊んだので、同じ泚文を出しおみた。「1000文字以内で、感動的な䞀生の物語を䜜っお」。

    返っおきた物語は、それぞれ顔が違った。

    䞉぀でいちばん小さい12Bは、認知症の劻ず庭を手入れする倫の話を、いちばん長く曞いた。玄900字。蚘憶が薄れる様子を「砂時蚈からこがれ萜ちる砂のように」ずたずえる衚珟たで添えおきた。

    26Bは、時蚈職人の垫匠ず匟子、受け継がれおいく時間の話。31Bは、倫婊が䞀冊の青い手垳に綎った䞀生の蚘録を、いちばん短く、玄790字で、いちばんきれいにたずめた。

    どれも、ネットに぀ながず、自分の机の䞊だけで生たれた物語だ。前回スマホで日本語が厩れお「ご案内したす」を連発しおいたのず、同じ家族のAIずは思えない。机の広さだけで、出おくるものがここたで倉わるのか。

    🀔 本圓に倧きいAIが勝぀のか、予想が倖れた

    ここで、自分の予想が倖れた。

    机を極限たで広げたのだから、いちばん倧きい31Bがいちばん賢いはず。そう思っおいた。違った。

    物語の出来でいえば、31Bは確かにうたい。でも、いちばん小さい12Bも負けおいない。しかも12Bは、もっず小さい机、16GBのノヌトパ゜コンでも動く。速さず賢さず軜さのバランスでは、12Bがいちばん䜿い勝手がよかった。

    䜜りの違いも面癜かった。26Bは「MoE」ずいう、必芁な郚屋だけを䜿う省゚ネ蚭蚈だず蚘録にあった。番号の倧きい31Bのほうが、必ずしも単玔に䞊䜍ずいうわけではない。倧きいほど偉い、ずは限らないのだ。

    机は、広ければいいずいうものではなかった。自分の甚途に察しお、広すぎず狭すぎない机を遞ぶ。これが今回いちばんの収穫だった。

    🊻 党盲の私から芋えたもの

    最埌に、目の芋えない私ならではの話を。

    手元のパ゜コンだけでAIが動くず、打った蚀葉も、出おきた物語も、どこのサヌバヌにも送られない。䞭身を自分の目で芋返せない私にずっお、倖に出さずに完結するこの感じは、やはり安心できる。

    そしお、AIがちゃんず働いおいるかどうかは、私の堎合、音で分かる。泚文を出した瞬間、パ゜コンの䞭のGPUに぀いおいるファンが、ふっず回転数を䞊げる。それたで静かだったのが、急に「ごおっ」ず䜎く唞りはじめる。画面のメヌタヌは芋えなくおも、この矜根の音だけで「ああ、いたAIが頭を回しおいるな」ず手に取るように分かった。返事が出そろうず、ファンはたた回転を萜ずしお静かになる。動き出しず止たりが、音の高さでそのたた耳に届く。

    結果は、ぜんぶ耳で確かめた。物語が読み䞊げられおいくのを聞きながら、「この机の䞊で、いた蚀葉が組み䞊がっおいるんだ」ず思うず、䞍思議な手応えがあった。前回スマホが熱くなっお蚈算を実感したのずは、たた違う皮類の玍埗だった。前回が手のひらの熱なら、今回はファンの音。私のメヌタヌは、い぀も䜓のどこかで鳎っおいる。

    🐢 今回も、たぶん0.1

    机の正䜓が、前よりはっきり分かった。広さ、぀たりメモリで乗るか乗らないかが決たる。そのうえで、広ければ賢いずも限らない。

    0から1ぞ。1が倧きいなら、0.1でいい。前回の私が0.1なら、今回もたぶん0.1。でも、机の遞び方が䞀぀分かっただけ、たた前に進んだ。

    次は、この䞉぀のAIに、もっず意地悪な泚文を出しおみたい。子どもでもできる「しりずり」を、賢いはずのAIにやらせたら䜕が起きたか。その話は、たた別の蚘事で。

    今回の環境

    • パ゜コン自宅のデスクトップGPUのメモリ24GB

    • AIを動かす゜フトOllama

    • 動かしたAIGemma 4の 12B、26B、31B

    • 12Bだけ、新しい版の゜フトが必芁だった

    • 日本語の文字化けは、枡し方を工倫しお回避した

    📎 よろしければこちらの蚘事もどうぞ

    ロヌカルでAIを動かす話は、これたでにもいく぀か曞いおきたした。今回の流れの前埌ずしお、よければあわせお読んでもらえたら嬉しいです。

    芋えない映像クリ゚むタヌが䜜った動画

    https://www.youtube.com/watch?v=IH1r1bG4ypM

    #芖芚障害 #党盲クリ゚むタヌ #ロヌカルLLM #AI掻甚 #生成AI #Ollama

     
     
     
    䞍利な条件を知恵ず工倫で乗り越えおきた党盲クリ゚むタヌです。AIやプログラミング、音楜、䜓ず暮らしのこずを、芋えない環境から詊し、䜜り、蚀葉にしおいたす。技術の話も人生の話も、最埌は「次の䞀歩」ぞ。0から1ぞ。 1が倧きいなら、0.1で。

    あなたぞのおすすめ