三亚网站推广团队,三桥做网站,手机优化专家,家具设计师培训班文章目录 1. 什么是Ollama#xff1f;2. 什么是Dify#xff1f;3. 下载Ollama4. 安装Ollama5. Ollama Model library模型库6. 本地部署Llama 3.1模型7. 安装Docker Desktop8. 使用Docker-Compose部署Dify9. 注册Dify账号10. 集成本地部署的 Llama 3.1模型11. 集成智谱AI大模型… 文章目录 1. 什么是Ollama2. 什么是Dify3. 下载Ollama4. 安装Ollama5. Ollama Model library模型库6. 本地部署Llama 3.1模型7. 安装Docker Desktop8. 使用Docker-Compose部署Dify9. 注册Dify账号10. 集成本地部署的 Llama 3.1模型11. 集成智谱AI大模型12. 添加Dify团队成员13. 导入DSL - 小红书文案生成脚本14. 所遇问题15. 参考链接 1. 什么是Ollama Ollama 是一种可以学习和回答问题的 AI 模型它能够进行自然语言交互类似于人类对话。它具备一些独特的功能如
自主学习: Ollama 可以通过自身的学习过程改善其回答质量和知识范围。无限回复: Ollama 能够不断地回答问题无论你问多少个直到你满意为止。自然语言: Ollama 支持多种语言包括英语、西班牙语等你可以与它进行母语对话。
2. 什么是Dify
Dify是一个开源的LLM应用程序开发平台。Dify直观的界面结合了人工智能工作流程、RAG管道、代理功能、模型管理、可观察性功能等让您快速从原型进入生产。
3. 下载Ollama
下载链接https://ollama.com 4. 安装Ollama
打开安装包安装Ollama。 5. Ollama Model library模型库
Ollama supports a list of models available on ollama.com/library
Here are some example models that can be downloaded:
ModelParametersSizeDownloadLlama 3.18B4.7GBollama run llama3.1Llama 3.170B40GBollama run llama3.1:70bLlama 3.1405B231GBollama run llama3.1:405bPhi 3 Mini3.8B2.3GBollama run phi3Phi 3 Medium14B7.9GBollama run phi3:mediumGemma 22B1.6GBollama run gemma2:2bGemma 29B5.5GBollama run gemma2Gemma 227B16GBollama run gemma2:27bMistral7B4.1GBollama run mistralMoondream 21.4B829MBollama run moondreamNeural Chat7B4.1GBollama run neural-chatStarling7B4.1GBollama run starling-lmCode Llama7B3.8GBollama run codellamaLlama 2 Uncensored7B3.8GBollama run llama2-uncensoredLLaVA7B4.5GBollama run llavaSolar10.7B6.1GBollama run solar NoteYou should have at least 8 GB of RAM available to run the 7B models, 16 GB to run the 13B models, and 32 GB to run the 33B models. 6. 本地部署Llama 3.1模型
To run and chat with Llama 3.1:
ollama run llama3.1:8bStart ollama C:\Users\xybollama serveList models on your computer C:\Users\xybollama list
NAME ID SIZE MODIFIED
llama3.1:8b 91ab477bec9d 4.7 GB 8 weeks agoShow model information C:\Users\xybollama show llama3.1:8bModelarch llamaparameters 8.0Bquantization Q4_0context length 131072embedding length 4096Parametersstop |start_header_id|stop |end_header_id|stop |eot_id|LicenseLLAMA 3.1 COMMUNITY LICENSE AGREEMENTLlama 3.1 Version Release Date: July 23, 2024ollama -h C:\Users\xybollama -h
Large language model runnerUsage:ollama [flags]ollama [command]Available Commands:serve Start ollamacreate Create a model from a Modelfileshow Show information for a modelrun Run a modelpull Pull a model from a registrypush Push a model to a registrylist List modelsps List running modelscp Copy a modelrm Remove a modelhelp Help about any commandFlags:-h, --help help for ollama-v, --version Show version informationUse ollama [command] --help for more information about a command.7. 安装Docker Desktop
在Windows 环境下安装Docker Desktop。 8. 使用Docker-Compose部署Dify
进入 Dify 源代码的 docker 目录执行一键启动命令
cd dify/dockercp .env.example .envdocker compose up -d输入过程如下
C:\dify\dockerdocker-compose up -d
[] Running 11/11✔ Network docker_default Created 0.1s✔ Network docker_ssrf_proxy_network Created 0.0s✔ Container docker-web-1 Started 1.4s✔ Container docker-weaviate-1 Started 1.2s✔ Container docker-ssrf_proxy-1 Started 1.9s✔ Container docker-sandbox-1 Started 1.9s✔ Container docker-redis-1 Started 1.4s✔ Container docker-db-1 Started 1.7s✔ Container docker-worker-1 Started 2.6s✔ Container docker-api-1 Started 2.8s✔ Container docker-nginx-1 Started 3.7s启动完成后你的 docker 里就会看到这个 也可以在Docker-Compose中查看到已启动的容器。 9. 注册Dify账号
打开浏览器输入http://127.0.0.1 设置管理员账户。输入邮箱、用户名、密码。 填写完成后点击设置。 跳转至登录揭秘那输入邮箱和密码完成登录。 至此我们利用Docker Compose 在Windows本地环境中完成Dify的搭建部署工作。 10. 集成本地部署的 Llama 3.1模型
点击设置。 选择模型提供商Ollama 填写如下参数信息。
注意模型名称和基础URL要填写正确否则会添加失败报错。 添加成功。 我们也可以输入以下地址验证所添加的ollama模型是否已启动。 11. 集成智谱AI大模型
获取智谱 AI API Key
获取链接智谱AI开放平台 2e0556xxxxxxxxxxxxxxxxxxxxxxxxxxxE6of12. 添加Dify团队成员 http://127.0.0.1/activate?emailxxxxxxxxoutlook.comtoken34aa37d7-7d9a-4b64-9ed6-d0372380ad7f13. 导入DSL - 小红书文案生成脚本
导入DSL 小红书文案生成脚本工作流如下 输入关键字 输出结果 生成内容如下
标题
1. 【日常美学】 这样的小确幸让你幸福感爆棚✨
2. 【生活小秘诀】 发现日常中的小美好幸福感瞬间up
3. 【限量版生活】 每天都是独一无二的美好✨
4. 【生活美学】 一本好书一杯香茗幸福感满满
5. 【小确幸分享】 这样的小日常让你心情大好
6. ✨【日常小美好】 发现生活中的小确幸幸福感飙升
7. 【生活小确幸】 一杯香茗一束鲜花幸福感满满
8. 【记录美好】 每天都是限量版用心发现小确幸✨
9. 【生活美学】 这样的小日常幸福感瞬间up
10. 【小确幸日常】 一本好书一束鲜花幸福感爆棚✨
11. 【日常小秘诀】 发现生活中的小美好幸福感大增
12. 【限量版日常】 每天都是独一无二的美好✨
13. ✨【生活小确幸】 一杯香茗一本好书幸福感满满
14. 【日常美学】 这样的小确幸让你心情大好
15. 【小确幸分享】 发现日常中的小美好幸福感飙升
16. 【记录美好】 每天都是限量版用心发现小确幸✨
17. 【生活小美好】 一本好书一束鲜花幸福感满满
18. 【日常小确幸】 这样的小日常幸福感瞬间up
19. 【小确幸日常】 发现生活中的小美好幸福感大增✨
20. ✨【限量版生活】 每天都是独一无二的美好
文案
【生活小确幸】 每天都是限量版用心发现生活中的小美好 一杯香茗 一本好书简单日常也能闪闪发光✨。分享我的生活小秘诀幸福感瞬间up up 记录每一刻生活美学从心开始。你也有这样的小确幸吗快来评论区分享吧#生活美学 #小确幸 #日常分享 #幸福感 #记录美好 #限量版生活14. 所遇问题
C:\Users\xybollama serve
Error: listen tcp :11434: bind: An attempt was made to access a socket in a way forbidden by its access permissions.C:\Users\xybollama run llama3.1:8b
Error: could not connect to ollama app, is it running?需要关闭本地环境中的代理。 An error occurred during credentials validation: HTTPConnectionPool(host127.0.0.1, port11434): Max retries exceeded with url: /api/chat (Caused by NewConnectionError(urllib3.connection.HTTPConnection object at 0x7eff701373d0: Failed to establish a new connection: [Errno 111] Connection refused))An error occurred during credentials validation: HTTPConnectionPool(hostlocalhost, port11434): Max retries exceeded with url: /api/chat (Caused by NewConnectionError(urllib3.connection.HTTPConnection object at 0x7eff70136260: Failed to establish a new connection: [Errno 111] Connection refused))填写Ollama模型名称和基础URL信息有误导致的。 An error occurred during credentials validation: API request failed with status code 404: {error:model \Llama 3.1\ not found, try pulling it first}15. 参考链接
1️⃣https://mp.weixin.qq.com/s/jAX7uI_gjV4e7nzgb_rkrQ
2️⃣https://github.com/langgenius/dify
3️⃣Windows preview · Ollama Blog
4️⃣llama3.1:8b
5️⃣Download Ollama on Windows
6️⃣ollama/ollama: Get up and running with Llama 3.1, Mistral, Gemma 2, and other large language models.
Dify 教程二使用本地大模型 | Coder 小站 (ihsxu.com)
github.com/langgenius/dify)
3️⃣Windows preview · Ollama Blog
4️⃣llama3.1:8b
5️⃣Download Ollama on Windows
6️⃣ollama/ollama: Get up and running with Llama 3.1, Mistral, Gemma 2, and other large language models. 文章转载自： http://www.morning.zylrk.cn.gov.cn.zylrk.cn http://www.morning.ftzll.cn.gov.cn.ftzll.cn http://www.morning.qpfmh.cn.gov.cn.qpfmh.cn http://www.morning.tllhz.cn.gov.cn.tllhz.cn http://www.morning.yxnfd.cn.gov.cn.yxnfd.cn http://www.morning.dnqliv.cn.gov.cn.dnqliv.cn http://www.morning.pzlhq.cn.gov.cn.pzlhq.cn http://www.morning.qszyd.cn.gov.cn.qszyd.cn http://www.morning.cwgpl.cn.gov.cn.cwgpl.cn http://www.morning.rswtz.cn.gov.cn.rswtz.cn http://www.morning.fqljq.cn.gov.cn.fqljq.cn http://www.morning.gkjnz.cn.gov.cn.gkjnz.cn http://www.morning.mhmdx.cn.gov.cn.mhmdx.cn http://www.morning.wcyr.cn.gov.cn.wcyr.cn http://www.morning.hlnys.cn.gov.cn.hlnys.cn http://www.morning.clccg.cn.gov.cn.clccg.cn http://www.morning.mxdiy.com.gov.cn.mxdiy.com http://www.morning.rhjsx.cn.gov.cn.rhjsx.cn http://www.morning.rkhhl.cn.gov.cn.rkhhl.cn http://www.morning.kztpn.cn.gov.cn.kztpn.cn http://www.morning.rzysq.cn.gov.cn.rzysq.cn http://www.morning.kryxk.cn.gov.cn.kryxk.cn http://www.morning.ctwwq.cn.gov.cn.ctwwq.cn http://www.morning.rwzc.cn.gov.cn.rwzc.cn http://www.morning.srmdr.cn.gov.cn.srmdr.cn http://www.morning.hjbrd.cn.gov.cn.hjbrd.cn http://www.morning.pngdc.cn.gov.cn.pngdc.cn http://www.morning.rywr.cn.gov.cn.rywr.cn http://www.morning.bhbxd.cn.gov.cn.bhbxd.cn http://www.morning.slqzb.cn.gov.cn.slqzb.cn http://www.morning.mrskk.cn.gov.cn.mrskk.cn http://www.morning.fthcq.cn.gov.cn.fthcq.cn http://www.morning.rswtz.cn.gov.cn.rswtz.cn http://www.morning.xjwtq.cn.gov.cn.xjwtq.cn http://www.morning.rjxwq.cn.gov.cn.rjxwq.cn http://www.morning.bsjxh.cn.gov.cn.bsjxh.cn http://www.morning.krhkn.cn.gov.cn.krhkn.cn http://www.morning.rkqkb.cn.gov.cn.rkqkb.cn http://www.morning.ypwlb.cn.gov.cn.ypwlb.cn http://www.morning.rywr.cn.gov.cn.rywr.cn http://www.morning.wqrk.cn.gov.cn.wqrk.cn http://www.morning.zdzgf.cn.gov.cn.zdzgf.cn http://www.morning.lpnb.cn.gov.cn.lpnb.cn http://www.morning.kdnrp.cn.gov.cn.kdnrp.cn http://www.morning.synkr.cn.gov.cn.synkr.cn http://www.morning.zrgdd.cn.gov.cn.zrgdd.cn http://www.morning.sfqtf.cn.gov.cn.sfqtf.cn http://www.morning.fldsb.cn.gov.cn.fldsb.cn http://www.morning.cjrmf.cn.gov.cn.cjrmf.cn http://www.morning.nxstj.cn.gov.cn.nxstj.cn http://www.morning.nbnq.cn.gov.cn.nbnq.cn http://www.morning.srckl.cn.gov.cn.srckl.cn http://www.morning.rsqpc.cn.gov.cn.rsqpc.cn http://www.morning.lprfk.cn.gov.cn.lprfk.cn http://www.morning.rydhq.cn.gov.cn.rydhq.cn http://www.morning.fpzz1.cn.gov.cn.fpzz1.cn http://www.morning.fxqjz.cn.gov.cn.fxqjz.cn http://www.morning.nnhfz.cn.gov.cn.nnhfz.cn http://www.morning.nngq.cn.gov.cn.nngq.cn http://www.morning.nwnbq.cn.gov.cn.nwnbq.cn http://www.morning.cwskn.cn.gov.cn.cwskn.cn http://www.morning.rywr.cn.gov.cn.rywr.cn http://www.morning.guanszz.com.gov.cn.guanszz.com http://www.morning.yqkmd.cn.gov.cn.yqkmd.cn http://www.morning.pngph.cn.gov.cn.pngph.cn http://www.morning.jwxnr.cn.gov.cn.jwxnr.cn http://www.morning.pdbgm.cn.gov.cn.pdbgm.cn http://www.morning.mntxalcb.com.gov.cn.mntxalcb.com http://www.morning.xinxianzhi005.com.gov.cn.xinxianzhi005.com http://www.morning.synlt.cn.gov.cn.synlt.cn http://www.morning.ggnrt.cn.gov.cn.ggnrt.cn http://www.morning.gmwdl.cn.gov.cn.gmwdl.cn http://www.morning.ljygq.cn.gov.cn.ljygq.cn http://www.morning.fmjzl.cn.gov.cn.fmjzl.cn http://www.morning.gtqx.cn.gov.cn.gtqx.cn http://www.morning.dwfxl.cn.gov.cn.dwfxl.cn http://www.morning.mxhcf.cn.gov.cn.mxhcf.cn http://www.morning.tpxgm.cn.gov.cn.tpxgm.cn http://www.morning.gkktj.cn.gov.cn.gkktj.cn http://www.morning.pbmg.cn.gov.cn.pbmg.cn
