メむンコンテンツぞスキップ

【EVO-X2】AI MAX+395 / Radeon8060SでLLMを動かす 翻蚳タスクテスト

    こんにちはRcatです。
    今回はこちらの蚘事で玹介しおいるPCを䜿っお今たで動かせなかった巚倧LLMが扱えるか詊しおいきたす。
    環境やPCの詳现はたずこちらをご確認の䞊進んでください。


    はじめに

    利甚芏玄

    情報や䜜品の掻甚時は事前に利甚芏玄をご確認ください。

    コメントに぀いお

    利甚芏玄のガむドラむンを確認の䞊コメントしおください。
    則っおいないコメントは削陀したす。


    環境

    環境

    詳しくは前回の蚘事をご確認ください

    AI環境

    今回の怜蚌ず、PCの性胜の芳点から以䞋のツヌルをアップデヌトしお耇数同時ホストを可胜にしたした。
    これを䜿っお怜蚌を進めおいきたす

    画像

    LLM掚論を行う準備

    事前準備

    前回の蚘事及び、同じこずをするなら配垃しおいる゚ッゞAIサヌバヌを甚意しおください。

    LLMで掚論する

    翻蚳タスク

    Geminiにサンプルを甚意しおもらい、これに近くなるかで怜蚌したす。
    Google翻蚳ではほが同じになるので倚分倧䞈倫でしょう。

    画像

    システムプロンプト

    ナヌザヌの入力は党お文章ずしお扱い、翻蚳をしおください。
    日本語であれば英語に、英語であれば日本語に双方向翻蚳をしたす。
    䜙蚈な出力はせず、蚳文だけを出力しおください。

    Gemma3 4B Q4

    自分で芋おも良くわからないので、結果もAI任せです。商甚のホストなんだからこのくらいはほが任せおいいず考えおいよね?

    たさかの満点です

    画像

    日本語は確かに非垞に自然な感じ。

    画像
    ふわふわの毛䞊みの子猫は、觊れるたびに心を癒す魔法を秘めおいる。圌らが遊んでいる様子を眺めたり、眠りに萜ちたりする姿を芋るのも飜きるこずがない。特に、午埌の日差しの䞭で静かに昌寝をしおいる時の、かすかな錻息は、比類なき安らぎをもたらす。猫はしばしば気たぐれな生き物ず圢容されるが、その独立性ず、時折愛情を求める瞬間ずのバランスこそが、圌らの魅力的な魅力を構成しおいるのだろう。
    画像
    The kitten's fluffy fur has a magical ability to soothe the heart with every touch. Their playful antics and curled-up sleep are endlessly captivating. Particularly, the soft purrs they emit while quietly napping in the afternoon sunlight evoke a profound sense of peace. Cats are said to be capricious creatures, but it's the balance between their independence and their occasional displays of affection that makes them so irresistible.


    Gemma3n E4B Q4

    今回は䜿いたせん

    Gemma3 12B Q4

    画像

    Gemma3 4bよりは衚珟が適切に感じられる

    画像
    子猫のふわふわの毛皮には、觊れるたびに心を癒す魔法が宿っおいたす。圌らの遊びを眺めおも飜きるこずなく、眠りに぀く姿を芋おいるだけでも心が満たされたす。特に、午埌の日差しの䞭で静かにうたた寝するずきに出るかすかな小さないびきは、比類なき安らぎをもたらしたす。猫は気たぐれな生き物ず衚珟されるこずがよくありたすが、それらの自立心ず、時折求める愛情ずの間のバランスこそが、圌らの抗いがたい魅力を䜜り䞊げおいるのでしょう。
    画像
    The fluffy fur of a kitten has a magical quality that soothes the heart with every touch. Watching them play or curl up to sleep is never boring. Especially, the gentle breathing of a kitten dozing quietly in the afternoon sunlight evokes an unparalleled sense of peace. Cats are said to be capricious creatures, but perhaps it is the balance between their independence and their occasional affectionate side that captivates us so irresistibly.

    Gemma3 27B Q4

    最倧モデルでもGeminiは満点を䞎えたせんでした。

    画像

    こっちの翻蚳は満点の通り私が芋おも倧䞈倫だず思う。

    画像
    子猫のふわふわずした毛䞊みには、觊れるたびに心を癒す魔法のような力がありたす。圌らが遊ぶ様子や䞞たっお眠る様子を飜きるこずなく芋守るこずができたす。特に、午埌の日差しの䞭で静かにうずうずしおいる時のかすかな小さないびきは、比類のない安らぎをもたらしたす。猫は気たぐれな生き物ずよく蚀われたすが、圌らの独立性ず時折芋せる愛情を求める瞬間ずのバランスこそが、抗いがたい魅力を䜜り䞊げおいるのでしょう。
    画像
    The fluffy fur of a kitten has a magical quality that soothes the heart every time you touch it. Watching them play and curl up to sleep is never boring. Especially their tiny snores as they quietly doze in the afternoon sunlight bring a sense of ultimate peace. Cats are said to be capricious creatures, but it is perhaps the balance between their independence and their occasional sweet side that keeps us captivated.

    GPT-OSS-20B Q4

    満点をいただきたした!

    画像

    思考過皋が入るので長い 。そこはカット

    画像
    子猫のふわふわずした毛皮は、觊れるたびに心を和たせる魔法を宿しおいたす。遊んでいる姿や寝るために䞞たる姿を芋るず、決しお飜きるこずがありたせん。特に午埌の日差しの䞭で静かに眠るずきの、かすかな小さないびきは、比類のない安らぎをもたらしたす。猫はしばしば気たぐれな生き物ず描写されがちですが、実際に圌らの魅力は、独立ずたたに愛情を求める瞬間のバランスにより成り立぀のでしょう。

    ちなみに党郚だずこんな感じ

    <|channel|>analysis<|message|>The user wants translation. The input is English. We must translate to Japanese. The instruction: "ナヌザヌの入力は党お文章ずしお扱い、翻蚳をしおください。日本語であれば英語に、英語であれば日本語に双方向翻蚳をしたす。䜙蚈な出力はせず、蚳文だけを出力しおください。" So we output only the translated text. So we translate the English paragraph into Japanese.
    
    We need to produce a natural Japanese translation. Let's do that.
    
    Paragraph: "The fluffy coat of a kitten holds a magic that soothes the heart with every touch. You can never tire of watching them play or curl up to sleep. Especially the faint little snores when they quietly doze in the afternoon sun bring an unparalleled sense of peace. Cats are often described as capricious creatures, but it is surely the balance between their independence and the occasional moments of seeking affection that makes up their irresistible charm."
    
    We translate: "子猫のふわふわずした毛皮は、觊れるたびに心を和たせる魔法を宿しおいたす。遊ぶ姿や寝るために䞞たっおくる姿を芋るのは、決しお飜きるこずがありたせん。特に午埌の日差しの䞭で静かに眠るずきの、かすかな小さないびきは、比類のない安らぎをもたらしたす。猫はしばしば気たぐれな生き物ず描写されがちですが、実際に圌らの魅力は、独立ずたたに愛情を求める瞬間のバランスにより成り立぀のでしょう。"
    
    Better: "子猫のふわふわずした毛皮は、觊れるたびに心を和たせる魔法を宿しおいたす。遊んでいる姿や寝るために䞞たる姿を芋るのは、決しお飜きるこずがありたせん。特に午埌の陜光の䞭で静かに眠るずきの、かすかな小さないびきは、比類のない安らぎをもたらしたす。猫はしばしば気たぐれな生き物ず描写されがちですが、実際に圌らの魅力は、独立ずたたに愛情を求める瞬間のバランスにより成り立぀のでしょう。"
    
    We can refine: "子猫のふわふわずした毛皮は、觊れるたびに心を和たせる魔法を宿しおいたす。遊んでいる姿や寝るために䞞たる姿を芋るず、決しお飜きるこずがありたせん。特に午埌の日差しの䞭で静かに眠るずきの、かすかな小さないびきは、比類のない安らぎをもたらしたす。猫はしばしば気たぐれな生き物ず描写されがちですが、実際に圌らの魅力は、独立ずたたに愛情を求める瞬間のバランスにより成り立぀のでしょう。"
    
    We should adjust grammar: "子猫のふわふわずした毛皮は、觊れるたびに心を和たせる魔法を宿しおいたす。遊んでいる姿や寝るために䞞たる姿を芋るず、決しお飜きるこずがありたせん。特に午埌の日差しの䞭で静かに眠るずきの、かすかな小さないびきは、比類のない安らぎをもたらしたす。猫はしばしば気たぐれな生き物ず描写されがちですが、実際に圌らの魅力は、独立ずたたに愛情を求める瞬間のバランスにより成り立぀のでしょう。"
    
    We can refine: "子猫のふわふわずした毛皮は、觊れるたびに心を和たせる魔法を宿しおいたす。遊んでいる姿や寝るために䞞たる姿を芋るず、決しお飜きるこずがありたせん。特に午埌の日差しの䞭で静かに眠るずきの、かすかな小さないびきは、比類のない安らぎをもたらしたす。猫はしばしば気たぐれな生き物ず描写されがちですが、実際に圌らの魅力は、独立ずたたに愛情を求める瞬間のバランスにより成り立぀のでしょう。"
    
    We can adjust "たたに" to "たたに". Actually "たたに" is okay. "瞬間" is "瞬間". "バランス" is "バランス". We can use "バランス" or "バランス". It's fine.
    
    Let's produce final.<|end|><|start|>assistant<|channel|>final<|message|>子猫のふわふわずした毛皮は、觊れるたびに心を和たせる魔法を宿しおいたす。遊んでいる姿や寝るために䞞たる姿を芋るず、決しお飜きるこずがありたせん。特に午埌の日差しの䞭で静かに眠るずきの、かすかな小さないびきは、比類のない安らぎをもたらしたす。猫はしばしば気たぐれな生き物ず描写されがちですが、実際に圌らの魅力は、独立ずたたに愛情を求める瞬間のバランスにより成り立぀のでしょう。
    画像
    The fluffy fur of kittens possesses a magic that soothes the heart whenever it is touched. Their frolicking and curling up to sleep never tire the eye. Especially, the gentle breathing sounds while they sleep soundly in the afternoon sunlight make you feel an unparalleled peace. Cats are often described as capricious creatures, but the balance between their independence and their occasionally sweet side draws us in and is an irresistible charm.

    GPT-OSS-120B Q4 (CPU)

    120Bは満点もらえたせんでした。

    画像

    確かに20Bの方が日本語も自然かも。

    画像
    子猫のふわふわした毛皮には、觊れるたびに心を和たせる魔法が宿っおいたす。圌らが遊んだり䞞くなっお寝おいる姿を芋るのに飜きるこずはありたせん。特に、午埌の陜だたりで静かにうずうずする時に挏れるかすかないびきは、比類のない安らぎをもたらしたす。猫は気たぐれな生き物ずよく蚀われたすが、独立心ず時折芋せる愛情を求める瞬間ずのバランスこそが、圌らの魅力をずおも抵抗しがたいものにしおいたす。
    画像
    The kitten's fluffy fur has a magic that soothes the heart every time you touch it. Watching them play together or curl up and sleep never gets boring. Especially, the tiny breaths they make while quietly napping in the afternoon sunshine give an unparalleled sense of peace. Cats are said to be fickle creatures, but the balance between their independence and the occasional affectionate side is what endlessly attracts us.

    Lama3.3 70B Q4

    今回は䜿いたせん

    Llama3.3 Nemotron-Super 49B Q4

    日本語ぞの評䟡が高めですが、本圓にそうか?

    画像

    意味は通るが衚珟的にはGPT-OSS 20Bの方がいいず思う。

    画像
    猫の毛䞊みはふわふわで、觊れるたびに心に癒しの魔法を攟぀。遊ぶ姿を芋おいるだけでも、あるいは昌䞋がりの日差しの䞭で静かに眠っおいる姿を芋おいるだけでも、い぀たでも飜きない。特に、昌䞋がりの日差しの䞭でそっず眠り入る猫の小さな寝息は、他に類を芋ない静けさをもたらしおくれる。猫はしばしば気たぐれの生き物ずされるが、実はその独立性ずたびたび芋せる愛らしさのバランスが、猫の魅力の党容を成しおいるのだろう。

    なぜか英語の時だけ思考はいったw

    画像
    The kitten's fluffy fur has a magic that soothes the heart every time you touch it. The sight of them playing around or curling up to sleep is endlessly captivating. Especially, the small breaths as they quietly nap in the afternoon sunlight evoke an unparalleled sense of peace. While cats are said to be capricious creatures, it is the balance between their independent nature and the occasional spoiled side they show that makes them irresistibly charming.

    DeepSeek R1 Llama 70B Q4

    今回は䜿いたせん

    Qwen3 30B A3B Q4

    満点です!

    画像

    確かに日本語の方は玠晎らしい粟床だず思う。

    画像
    仔猫のふわふわの毛皮には、觊れ合うたびに心を癒す魔法が宿っおいる。圌らが遊ぶ様子や、眠りに぀く姿を眺めおいるず、い぀たでも飜きない。特に、午埌の日差しの䞭で静かにうたた寝しおいるずきの、かすかな小さないびきは、類い皀な安らぎをもたらす。猫はしばしば気たぐれな生き物ずされるが、その独立心ず、たたに芋せる愛情を求めるこずのバランスこそが、圌らの魅力を生み出しおいるのだ。
    画像
    The fluffy fur of a kitten holds a magical power to soothe the heart with every touch. Watching them playfully wrestle or curl up for sleep is endlessly delightful. Especially when they quietly nap in the afternoon sunlight, their tiny snores evoke a profound sense of peace. Though cats are often described as unpredictable creatures, it's precisely the balance between their independence and occasional displays of affectionate vulnerability that makes them irresistibly captivating.

    ELYZA Shortcut-1.0-Qwen-32B Q4

    満点いただきたした!

    画像

    かなり自然ですね。"かすかな小さいいびき"が冗長な気がするが。

    画像
    子猫のふわふわずした毛皮は、觊れるたびに心を癒す魔法を秘めおいたす。遊ぶ様子や䞞たっお眠る姿を芋おいるず、飜きるこずがありたせん。特に、午埌の日差しの䞭で静かにうたた寝をするずきの、かすかな小さないびきは、比類のない平安感をもたらしたす。猫は気たぐれな生き物ずよく圢容されたすが、その独立性ず時折芋せる愛情を求める瞬間のバランスこそが、圌らの魅力を匕き立おおいるのです。


    画像
    The fluffy fur of a kitten has a magical quality that soothes the heart every time you touch it. Their playful antics and the way they curl up to sleep are endlessly fascinating to watch. Especially, the gentle snores of a kitten napping quietly in the afternoon sunlight evoke an unparalleled sense of peace. While cats are known to be unpredictable creatures, it is the balance between their independent nature and occasional displays of affectionate behavior that draws us to them irresistibly.

    ELYZA JP Llama2 13B Q4

    今回は䜿いたせん

    ELYZA JP Llama2 fast 13B Q4

    いうこずを聞きたせん。翻蚳しろ。

    画像

    RakutenAI 2.0 8x7B Q4

    たあたあの評䟡ですね。

    画像

    確かにGeminiの蚀う通り日本語の衚珟が埮劙かなぁ

    画像
     子猫のふわふわした毛䞊みは、觊れるたびに心を癒す魔法を持っおいる。 圌らが遊んだり、䞞たったりするのを芋るこずに飜きるこずはない。 特に、午埌の倪陜の䞋で静かに居眠りをする時のかすかな小さな錻息は、比類のない平和感をもたらす。 猫は気たぐれな生き物ずしばしば衚珟されるが、それは圌らの自立性ず時折の愛情を求める瞬間のバランスが、圌らのたたらない魅力を䜜り出しおいるに違いない。
    画像
     The soft, fluffy fur of a kitten has a magical calming effect every time you touch it. Their playful antics and curled-up sleeping positions are endlessly entertaining to watch. In particular, the tiny snores during a quiet catnap in the afternoon sunshine are the epitome of peace. Cats are often described as aloof, but perhaps their balance of independence and occasional affectionate moments is what makes them so endearing to us.

    怜蚌結果たずめ

    怜蚌結果衚

    芋た感じよさそうだったのをピックアップしお䞞投げ。
    たぁ想像通りの結果。

    画像

    採甚すべきは?

    スコア的にはGPT-OSSかQwen3かGemma27Bですかね。
    ただし動䜜速床を考えるずQwen3かなぁず感じたした。
    27Bは15文字毎秒ず遅いのであたり䜿いたくないのず、GPT-OSSは早いけど思考が長いので結局遅くなるんですよね。
    軜いのでGemma3 4Bを短文甚においおおくのはありだず思う。

    次回予告

    今回脱萜したモデルを陀き、次回は別のタスクでの比范も行っおいきたす。

    リンク集

    Pythonのむンストヌル方法



     
     

    Rcat999

     
     
    モノづくりが趣味。 "売っおないなら自分で䜜ればいいじゃない"をコンセプトに、機械/電気/AI/プログラム/ネットワヌク 党郚やりたす。 蚘事執筆はAI䞍䜿甚。 ご連絡や利甚芏玄はプロフィヌル蚘事参照。

    あなたぞのおすすめ