碎碎念

想玩很久了,这次发布的Qwen-coder-32B好像还不错,用ollama来玩一下!

下载

官网:https://ollama.com/

github:https://github.com/ollama/ollama

安装

更改模型下载路径

添加环境变量OLLAMA_MODELS,路径自己定

注意:添加变量后,记得重启一下Ollama!右下角退出,再开!否则不会生效!

快速使用

打开Ollama的官网,选择你要跑的模型

进去后就可以看到对应的命令,复制执行即可

一些常用命令

感觉和Docker的一些基本命令非常相似!

查看帮助

ollama help

列出模型列表

ollama list

查看模型信息

ollama show <模型名称>

运行模型并进行交互

ollama run <模型名称>

从远程仓库拉取模型

ollama pull <模型名称>

复制一个模型创建一个副本

ollama cp <源模型名称> <目标模型名称>

删除指定模型

ollama rm <模型名称>

以服务形式启动Ollama

ollama serve

像stop、ps就不放了,对应docker一样~