DeepSeek-Coder-1.3B部署笔记

1.环境部署简述

Coder部署分为两块部分：Pytorch和transformers
前者网上一堆教程就省去了，后者使用pip install transformers

1.1.模型下载

此网站被限制访问，需要科学上网。
https://huggingface.co/deepseek-ai/deepseek-coder-1.3b-instruct

1.1.1. git同步下载

Windows需要提前安装git。

git lfs install

git clone https://huggingface.co/deepseek-ai/deepseek-coder-1.3b-instruct

1.1.2.手动下载

下载地址：https://huggingface.co/deepseek-ai/deepseek-coder-1.3b-instruct/tree/main
进入该网址进行下载。

2.使用环境

Windows 11 + Intel 6C12T + Nvidia 12GB
Python 3.9
Pytorch 2.5.1+cu118
PyCharm 2023.2.1
可与Yolo共存于同一个环境中

2.1.工程摆放路径