本地部署越狱版步骤
1、下载并安装Ollama 【点击下载】
2、在CMD终端下通过命令下载DeepSeek R1越狱版
下载模型:
ollama run huihui_ai/deepseek-r1-abliterated:7b
ollama run huihui_ai/deepseek-r1-abliterated:8b
ollama run huihui_ai/deepseek-r1-abliterated:14b
ollama run huihui_ai/deepseek-r1-abliterated:32b
ollama run huihui_ai/deepseek-r1-abliterated:70b
当然如果你有高级的硬件配置,你可以直接上70B的, 在Ollama 【链接直达】
3、安装 Web UI (https://chromewebstore.google.com/detail/page-assist-%E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo)
1、Github 开源版 【点击下载】
2、官方版:【点击下载】
Ollama
开启外网访问:
先执行:
1、 $env:OLLAMA_HOST="0.0.0.0"
2、ollama serve
接下在AnythingLLM 配置本机的局域网IP和端口就可以了