碎碎念
想玩很久了,这次发布的Qwen-coder-32B好像还不错,用ollama来玩一下!
下载
github:https://github.com/ollama/ollama
安装
更改模型下载路径
添加环境变量OLLAMA_MODELS,路径自己定
注意:添加变量后,记得重启一下Ollama!右下角退出,再开!否则不会生效!
快速使用
打开Ollama的官网,选择你要跑的模型
进去后就可以看到对应的命令,复制执行即可
一些常用命令
感觉和Docker的一些基本命令非常相似!
查看帮助
ollama help
列出模型列表
ollama list
查看模型信息
ollama show <模型名称>
运行模型并进行交互
ollama run <模型名称>
从远程仓库拉取模型
ollama pull <模型名称>
复制一个模型创建一个副本
ollama cp <源模型名称> <目标模型名称>
删除指定模型
ollama rm <模型名称>
以服务形式启动Ollama
ollama serve
像stop、ps就不放了,对应docker一样~