メインコンテンツへスキップ
見出し画像

初心者でもできる!自分のPCでAIを無料で動かす方法を解説!

    いつもオンラインでAIを扱っているけど、自分のPCでAIを動かすことが出来たら便利だな・・・と思ったことはありませんか?

    初心者でも10分あれば、自分のPCでAIを動かせます。手元にPCがある人は、とりあえずテストだけでもみた方がいいです。10分で終わります。

    初心者でも、自分のPC1台あれば、AIを試すことができます。Facebookを運営するMeta社がオープンソース(利用無料)で出しているOllama(オラマ)を使えば、超簡単に自宅のPCでAIを動かすことができます。

    実際にPCでやってみると超簡単!①ソフトをダウンロードして、②モデルをインストールするだけです。

    ①稼働ソフトをダウンロード

    • Ollama (オラマ)

      • 特徴: テキスト生成AI(LLM)を動かすための最も定番のツール。コマンド操作が中心ですが、非常にシンプルです。

      • 公式サイト: https://ollama.com/

    上記の公式サイトから、ダウンロードします。Windows、Linux、Mac版が用意されているので、自分のOSに合わせてダウンロードしましょう。

    ②モデルをインストール

    コマンドを開いて、以下のように入力
    コマンドプロンプトを使ったことがない人でも、ただコピペしてリターンするだけで、インストールされるので簡単です。

    Ollama run qwen2.5:3b

    上記は、市販ノートPCなどで一般的であるメモリ8GBで動く軽量モデルのqwen2.5:3bです。とりあえず、テストしたい人は、このモデルが良いとされています。

    これで終了です。あとは、Ollamaを起動して、チャット欄からモデルを選んで会話するだけです。

    貧弱PCでは期待できない

    実際には、メモリ8GBぐらいの貧弱のPCでは、qwen2.5:3bぐらいが限界で、それ以上になるとサクサク動かなくなります。そして、qwen2.5:3bで動くのは、200文字ぐらいが限界になります。

    qwen2.5:14bぐらいから

    • RTX3060 12GB

    • RTX4060 Ti 16GB

    • RTX5070クラス

    でも4bit量子化なら十分動作

    Qwen2.5-14Bは「2022~2023年頃のChatGPT(GPT-3.5)を自宅PCでほぼ再現できるレベル」


    あなたへのおすすめ