Featured image of post 在中国大陆的Linux服务器安装ollama

在中国大陆的Linux服务器安装ollama

由于网络波动,有些时候无法直连Github。可通过第三方安装ollama。

下载安装包

使用modelscope

该方式为下载Ollama安装包的推荐方式,能避免git lfs额外数据的下载。 使用命令行前,请确保已经通过pip install modelscope 安装ModelScope。

1
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux

可以用--revision指定版本号,如--revision v0.6.2,默认为最新版本。

使用git

1
git clone https://www.modelscope.cn/modelscope/ollama-linux.git --depth 1

--depth 1选项用于减少下载的git历史文件

可以用--branch选项指定版本号,如--branch v0.6.2,默认为最新版本。

安装ollama

无论使用何种方式,安装包下载完成后,都会生成./ollama-linux文件夹。赋予安装脚本执行权限后,运行安装脚本,此脚本无需网络连接即可安装ollama。

1
2
3
cd ollama-linux
sudo chmod 777 ./ollama-modelscope-install.sh
./ollama-modelscope-install.sh

后续操作

至此,ollama命令可用

使用时,先开启服务

1
ollama serve

然后在新的终端运行模型

1
ollama run <model_name>

参考资料

Licensed under CC BY-NC-SA 4.0
最后更新于 Mar 23, 2025 00:00 UTC