Ollama加载本地大语言模型


唠嗑 因为Ollama的模型库里总是会有些模型没有,这时候就得自己去huggingFace上下载,下完之后就得让Ollama来加载模型,注意Ollama仅支持GGUF格式的模型,所以你下载的模型格式也必须是GGUF的否则是无法用Ollama来使用的!我这里就以Qwen2.5-Coder-14B-In

Open-WebUI + Ollama 的基本使用


唠嗑 我本来一开始打算用源码跑的,然后发现越捣鼓越麻烦,最后还是用Python去跑,但是会踩一个坑,因为要从HuggingFace下载一个很小的模型,下不下来就会报错,我把这个丢到蓝奏云上去,如果你的环境不是Python3.11那你可以看我之前的文章通过MiniConda来管你多个Python环境

捣鼓一下ollama的使用(Windows)


碎碎念 想玩很久了,这次发布的Qwen-coder-32B好像还不错,用ollama来玩一下! 下载 官网:https://ollama.com/ github:https://github.com/ollama/ollama

【入门】调用DALL-E3画图


唠嗑 又好久好久没写博客了,我又忘记怎么排版了,笑死,调用DALL-E画图倒是很简单,也不用多说,不过目前DALL-E还不支持图生图,我平常都是放一张图片给gpt-4o分析后,再让它重新画的,能有点相似度,这里只放怎么调用DALL-E。 通过调用openai库来实现 代码 import openai

【入门】调用TTS-API实现文本转语音并做成插件集成到微信


唠嗑 这个实现蛮简单的,就是请求一个API而已,然后我就用claude协助我做了个语音生成的插件,主要是我自己python没怎么学的,全靠大模型在支撑着,但还好,基本都能看懂,慢慢来~ 插件代码直接去仓库,然后我这里放一个简单的demo代码~ 本来我想用那个说话很好听的音色的..但发现API就支持这

【入门】实现流形式对话效果(一字一字输出)


唠嗑几句 一天没写笔记,都生了,都不知道怎么起手了,不过说实话,我Markdown确实用的不够熟练啊,还得多熟悉熟悉,现在有大语言模型,对这些基础的倒是学起来很快,因为直接问就好了,就会给个案例,其实我只是想一点一点把这些过程整个都走一遍好好了解一下,然后做成笔记,这样可以让我印象深刻,忘记了还可以

【入门】如何调用openai-api和模型聊天?


用Python来实现,咱先用官方的openai库来实现 效果 说明 我这里用的openai的库版本是0.28.0,你可以通过命令安装pip install openai==0.28.0<