DeepSeek日本語版をローカルノートPCのLM Studioでダウンロード試用 ファースト・インプレッション

アプリやWebサービスは使わず、手持ちのノートPCにLM Studioをインストールし、DeepSeek日本語版 7Bをダウンロードして試したので、その使い方をわかりやすく紹介します。

中古ゲーミングノートPCのOMENはWindows11非対応なので、Linux（Zorin OS）を外部USB SSDにインストールして使っている都合で、LM StudioはLinux版ですが、Windows版やmacOS(M)版も使えます。

一般的なWindows11ノートPCによる試用については以下の記事を参考にしてください。

LM Studioをダウンロードし起動する

以下のサイトに行きます。

私の場合はLinux版をダウンロードしましたが、M（アップルシリコン）型Mac版やWindows版も選べます。

ダウンロードしたLinux版LM Studio（LM-Studio-0.3.9-6-x64.Appimage）を、とりあえずデスクトップにコピーし、ダブルクリックして起動します。

「本当にLM-Studio…を実行しますか？」と聞いてきたので「それでも実行する」ボタンをクリック。

とりあえず英語版DeepSeek 7Bで試す

最初のLLMをダウンロード

「Get your first LLM」をクリック。

「Download 4.68 GB」をクリックし、ダウンロードが完了するまでしばらく待ちます。

チャットの試用を開始

「Start New Chat」をクリックし、チャット形式での試用を開始します。

モデルをロード

「Load Model」をクリック。

この段階でのシステムリソースの利用状況：（意外と少ない・・・）
「RAM: 665.39 MB｜CPU: 4.98 %」

英語の質問（インスタントメニュー）

試しに「"What is the capital of France?"」をクリック。

「The capital of France is Paris.」と答えが返ってきたので、正常に動いていることが確認できました。

日本語版をダウンロード

左にある縦ツールバーの一番下にある虫眼鏡アイコンをクリック。

LLMの検索画面が表示されるので、トップの検索窓にキーワードの「lightblue」を入力してLLMを検索します。

検索結果の中から「lightblue-DeepSe…」をクリックすると、DeepSeek日本語版7Bが表示されるので、右下の「Download 4.43 GB」をクリックしダウンロードします。

日本語での質問を試す

右下の「Load Model」をクリック。

函館市の観光案内

最初に日本語で「函館市を一日で観光するには、どういうルートでどの場所を回れば効率的ですか？」と質問してみました。

ところが、「函館市」という地名（固有名詞）などの大規模なビッグデータが必要な質問は、「食堂市」というわけのわからない解釈をされ、とんちんかんな推論が始まったので「Stop」をクリックし中止しました。

生成AIをローカルPCで利用するメリット

そこで、一般的なビッグデータによる推論が可能だと思われる質問内容に変更してみました。

「生成AIをローカルPCにダウンロードして使うメリットは？」と質問してみました。

１０項目のメリットとその内容が箇条書きで表示されたので、それが適切な内容の回答か？は別にして、そこそこまともな回答を得られました。

ファースト・インプレッション

今回試したDeepSeek日本語版 7BのLLMのサイズは5GB以下だったので、地名などの固有名詞の解釈や大規模なビッグデータにもとづく推論は苦手なように感じました。

一方で、一般的な知識ベースによる推論では、かなりまともな結果がそこそこのスピードで得られたのは驚きです。

この時のシステムリソースは、「RAM: 1.38 GB｜CPU 59.30 %」だったので、一般的なノートPCでも使えるレベルだと思われます。

GPUやNPUがどれだけ性能に寄与するのか？は今後の課題ですが、少なくともCPU性能やメモリー容量、ストレージ容量では十分に実用的な範囲だと思われます。

実用性というより、ローカルPCにダウンロードして使える生成AIの登場により、どういった用途の推論に使うと効果的か？という観点で試行錯誤してみるとおもしろいと感じました。

こういった試みは、生成AIへの個人的な興味やモチベーションを高める上で有効だと思われます。

クリエーティブな仕事には不自由さが必要だ

「４人目のYMO」と呼ばれた松武秀樹氏の言葉ですが、DeepSeekの開発秘話とつながるものを感じました。

アメリカが中国に課している制約（ハイテク技術や製品の中国への輸出を禁じる）が、今回のDeepSeek R1の開発へとつながったと見る専門家も多いようですが・・・💦

「Stay hungry. Stay foolish.」by スティーブ・ジョブズ

まとめ

DeepSeekの運用では、スマホアプリやWebサービスの利用は、中国にあるDeepSeek社のサーバーに運用データが記録され、中国政府の法律にのっとった運用がなされると規約に明記してある以上、あまり好ましくありません。

一方で、ローカルPCにLLM（の縮小版）をダウンロードして使う用途では、セキュリティーリスク無しに使えるメリットと、今までの生成AIには無かった利便性や可能性を感じます。

マイクロソフトのCopilot+に搭載される可能性が出てきましたし、日本のAI関連技術の開発が活発化し、アメリカや中国と肩を並べて競争できる基盤ともなる可能性を秘めていると期待しています。

今後は、試行錯誤しながら、適時レポートしていきたいと思います。

関連リンク