网站后台费用,蔬菜派送网站怎么做,赤峰浩诚网站建设有限公司,北京平台网站建设找哪家AI大模型#xff08;二#xff09;基于Deepseek搭建本地可视化交互UI
DeepSeek开源大模型在榜单上以黑马之姿横扫多项评测#xff0c;其社区热度指数暴涨、一跃成为近期内影响力最高的话题#xff0c;这个来自中国团队的模型向世界证明#xff1a;让每个普通人都能拥有媲…AI大模型二基于Deepseek搭建本地可视化交互UI
DeepSeek开源大模型在榜单上以黑马之姿横扫多项评测其社区热度指数暴涨、一跃成为近期内影响力最高的话题这个来自中国团队的模型向世界证明让每个普通人都能拥有媲美GPT-4o的智能体不再是硅谷巨头的专利。随着DeepSeek的爆火和出圈、以及社区的完善和上手门槛的降低AI大模型与普通人的距离也越来越近对AI大模型的使用在未来很可能会成为一项主流的工作技能。基于此本系列文章将以DeepSeek为例从本地大模型部署、可视化服务UI、本地知识库搭建、大模型部署调优、破除大模型限制以及角色定制、酒馆使用等方面进行保姆级教学陆续更新中…让你轻松玩转大模型享受大模型带来的便利与乐趣。 在本文开始之前我们先简单回顾下上篇文章的内容在上篇文章中我们详细介绍了基于DeepSeek的本地大模型部署教程在文章结尾处我们已经能够在本地命令行中实现与大模型的对话服务。但是我们发现这种原始的交互方式非常不友好并且功能和拓展都比较单一难以满足我们的需求。因此本文将在此基础上通过多种方式搭建基于Deepseek的本地可视化交互UI并实现功能拓展。大家可以在下面Open WebUI、ChatBox和Page Assist插件三种方式中选择一种进行实现即可。 一. Open WebUI Open WebUI 官网 https://docs.openwebui.com/ Open WebUI GitHub https://docs.openwebui.com/ Open WebUI前身为Ollama WebUI是一个开源、可扩展、功能丰富且用户友好的 AI 大模型托管平台它提供了丰富、易用的用户界面并支持各种 LLM 提供商如 Ollama和与 OpenAI 兼容的 API还内置 RAG 推理引擎等丰富拓展功能使其成为强大的 AI 部署解决方案之一尤其是与Ollama具有较好的兼容性。
1. 环境准备
Open WebUI的部署过程比较复杂其主要有Docker和Python两种搭建方式鉴于网上对于Docker搭建方式的教程比较多因此本文将以Pyhton搭建方式为主进行讲解。在安装Open WebUI之前我们首先需要在本地安装好Python 3.11版本环境建议使用uv或conda管理对于Python环境的安装这里就不再展开网上相关教程很多且安装也较为简单大家可以自行了解。需要注意的是 Python 3.12 似乎可以运行但尚未经过全面测试Python 3.13 完全未经测试使用时风险自负。 2. 安装Open WebUI
在终端中执行以下命令由于需要下载安装大量依赖组件和模型语音模型、向量嵌入模型、图像识别模型等这个过程可能会比较久请耐心等待注意如果进度条长时间卡着不动尝试多按几下回车试试
pip install open-webui3. 启动Open WebUI
等待安装完成后接着通过以下命令启动Open WebUI服务命令行输出Open WebUI符号即为启动成功
open-webui serve4. 访问Open WebUI
服务启动完成后在浏览器输入地址并访问http://localhost:8080会看到如下界面注意后台Python运行窗口不要关掉否则Open WebUI服务会停止然后点击“开始使用”后需要创建账号才可使用这里账号仅会存储在本地管理 5. 使用Open WebUI
创建账号并登陆完成后后有一个短暂的页面空白期Open WebUI会自动连接本地Ollama端口请确保Ollama服务已开启连接完成后会出现完整的对话窗口和本地模型列表 1基本对话服务 2高级系统设置
提示词与模型参数 修改外部链接 开启联网搜索 二. Chatbox AI Chatbox AI 官网 https://chatboxai.app/zh Chatbox AI GitHub https://github.com/Bin-Huang/chatbox 类似于Open WebUIChatbox AI同样也是开源、可拓展的适用于AI大模型GPT、Claude、Gemini、Ollama…的用户友好型桌面客户端应用程序支持本地模型托管和众多先进AI模型的API接入可在 Windows、MacOS、Android、iOS、Linux 甚至网页版上直接使用相比Open WebUI来说Chatbox AI的使用更加简单、无需额外准备任何环境。 1. 配置Ollama服务
点击“启动网页版”后会进入Chatbox AI的主界面这里会让你选择大模型提供商包括Chatbox API、OpenAI API、Ollama API等我们需要选择Ollama API来连接本地部署的Ollama服务但是此时浏览器是无法直接访问本地部署的Ollama API的涉及跨域问题因此我们需要在之前配置的基础上再添加对跨域支持的系统环境变量OLLAMA_ORIGINS * 环境变量添加完成后同样需要重启电脑或Ollama服务才可生效然后我们重新进入Chatbox AI的设置中可以发现已可以正确检测到Ollama API和本地模型选择模型并保存即可 2. 使用Chatbox AI
配置Ollama服务完成后跟Open WebUI的使用类似我们可以直接在对话页面与本地大模型进行交互并支持对系统提示词或大模型参数进行调整其他的区别可能就是一些功能丰富性上的差异大家可以自行探索。注意这里如果是英文可以到设置中更改为简体中文显示 三. Page Assist Page Assist 插件 https://chromewebstore.google.com/detail/page-assist Page Assist Github https://github.com/n4ze3m/page-assist 除了上述的Open WebUI和Chatbox AI之外我们这里再介绍一个更加轻量级的可视化工具Page Assist它是一个浏览器插件形式的开源大模型用户交互与管理应用该插件可兼容的浏览器类型如下 我们直接在浏览器商店中下载并安装Page Assist 插件后点击插件即可进入Page Assist主界面如果展示Ollama is running即表示Ollama服务已连接成功可在右上角设置中修改为简体中文注意在左上角还需要选择模型来进行对话 除此之外要使用Page Assist还需要在设置RAG页面里选择一个文本嵌入模型这里可以使用专业的嵌入模型需在Ollama下载或者直接使用deepseek-r1:7b作为嵌入模型不过建议使用更专业的嵌入模型比如nomic-embed-text在RAG中效果会更好并且Page Assist也支持联网搜索、上传文档/图片等操作
