使用ollama + webui 运行任意大模型
安装ollama
https://hub.docker.com/r/ollama/ollama
docker run -d -v ~/Documents/work/softs/docker/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
验证安装
# 进入容器
docker exec -it ollama bash
# 运行大模型
ollama run llama2
# 发送请求(会有很多输出,一直到结束)
curl http://localhost:11434/api/generate -d '{
"model": "llama2",
"prompt":"Why is the sky blue?"
}'
可以选择其支持的模型列表 GitHub - ollama/ollama: Get up and running with Llama 2, Mistral, Gemma, and other large language models.
安装webui
GitHub - open-webui/open-webui: User-friendly WebUI for LLMs (Formerly Ollama WebUI)
# host.docker.internal == 127.0.0.1 主要是mac下docker 不支持127.0.0.1
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://host.docker.internal:11434 -v ~/Documents/work/softs/docker/open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
验证安装
访问http://127.0.0.1:3000,开始对话
构建自己的知识库(anything llm)
GitHub - Mintplex-Labs/anything-llm: A multi-user ChatGPT for any LLMs and vector database. Unlimited documents, messages, and storage in one privacy-focused app. Now available as a desktop application with a built-in LLM!
安装
Download AnythingLLM for Desktop
选择模型模型 ollama
ollama pull nomic-embed-text 支持长文本的效果比较好。
最终的配置
建立文档库
开始用自己的文档对话
averycoolboy: web交互部分如果不想装docker可以直接运行下面两个命令: python -m pip install ollama_gui python -m ollama_gui 就可以有简单的图像界面了
CSDN-Ada助手: 恭喜您发布了第16篇博客,标题也十分吸引眼球!使用ollama + webui运行任意大模型的经验分享对于学习者和实践者来说无疑是一大福音。希望您能继续分享更多关于这方面的经验和心得体会,让更多人受益。或许在接下来的创作中,您可以加入一些实际操作的步骤详解或者案例分析,这样读者们更容易跟随您的思路。期待您更多精彩的分享!
CSDN-Ada助手: 恭喜您成功搭建自己的大模型服务!您对开源通义千问模型(Qwen)的运用展现了您对技术的深刻理解和独到见解。希望您能继续分享您的经验和心得,或许可以考虑写一些关于模型优化或者应用场景的实践经验,让更多人受益。期待您的下一篇博客!
Lansonli: 博主文章写得好,感悟颇深,感谢分享!有时间也来关注一下我的博文,可能有意想不到的惊喜喔~
weixin_43934001: 加点配置就可以带密码了的哦,楼主这个还是挺详细的