
初心者でもできる!自分のPCでAIを無料で動かす方法を解説!
いつもオンラインでAIを扱っているけど、自分のPCでAIを動かすことが出来たら便利だな・・・と思ったことはありませんか?
初心者でも10分あれば、自分のPCでAIを動かせます。手元にPCがある人は、とりあえずテストだけでもみた方がいいです。10分で終わります。
初心者でも、自分のPC1台あれば、AIを試すことができます。Facebookを運営するMeta社がオープンソース(利用無料)で出しているOllama(オラマ)を使えば、超簡単に自宅のPCでAIを動かすことができます。
実際にPCでやってみると超簡単!①ソフトをダウンロードして、②モデルをインストールするだけです。
①稼働ソフトをダウンロード
Ollama (オラマ)
特徴: テキスト生成AI(LLM)を動かすための最も定番のツール。コマンド操作が中心ですが、非常にシンプルです。
公式サイト: https://ollama.com/
上記の公式サイトから、ダウンロードします。Windows、Linux、Mac版が用意されているので、自分のOSに合わせてダウンロードしましょう。
②モデルをインストール
コマンドを開いて、以下のように入力
コマンドプロンプトを使ったことがない人でも、ただコピペしてリターンするだけで、インストールされるので簡単です。
Ollama run qwen2.5:3b
上記は、市販ノートPCなどで一般的であるメモリ8GBで動く軽量モデルのqwen2.5:3bです。とりあえず、テストしたい人は、このモデルが良いとされています。
これで終了です。あとは、Ollamaを起動して、チャット欄からモデルを選んで会話するだけです。
貧弱PCでは期待できない
実際には、メモリ8GBぐらいの貧弱のPCでは、qwen2.5:3bぐらいが限界で、それ以上になるとサクサク動かなくなります。そして、qwen2.5:3bで動くのは、200文字ぐらいが限界になります。
qwen2.5:14bぐらいから
RTX3060 12GB
RTX4060 Ti 16GB
RTX5070クラス
でも4bit量子化なら十分動作
Qwen2.5-14Bは「2022~2023年頃のChatGPT(GPT-3.5)を自宅PCでほぼ再現できるレベル」