当前位置： 首页 > news >正文 iis 新建网站 要登录企业营销型网站建设哪家好 news 2025/11/2 20:01:01 iis 新建网站 要登录,企业营销型网站建设哪家好,网站建设浩森宇特,腾讯企业邮箱官网入口在Mac mini上实现本地话部署AI和知识库 硬件要求#xff1a;大模型AI#xff0c;也叫LLM#xff0c;需要硬件支持#xff0c;常见的方式有2种#xff1a;一种是采用英伟达之类支持CUDA库的GPU芯片或者专用AI芯片#xff1b;第二种是采用苹果M系列芯片架构的支持统一内存架… 在Mac mini上实现本地话部署AI和知识库 硬件要求大模型AI也叫LLM需要硬件支持常见的方式有2种一种是采用英伟达之类支持CUDA库的GPU芯片或者专用AI芯片第二种是采用苹果M系列芯片架构的支持统一内存架构的硬件 软件要求软件基于ollama anything LLM模型主要选择的是OpenChat感觉openchat的中文支持比较好 步骤先安装Ollama步骤也很简单主要下载官网的安装包安装即可以下是下载页链接[https://ollama.com/download](https://ollama.com/download)安装完了Ollama之后就可以在终端里用Ollama run openchat现在大模型本地安装就完成了接下来就可以继续部署本地的知识库本地知识库的部署anythingLLM的安装。可以说AI的出现就是懒人的福音基本上你按照官网的指引来做不会有什么难的。唯独是如果英语阅读可能对某些同学有点障碍不过这种障碍估计很快也要被AI消除了。anthingLLM的配置资料的投喂搜索检验。总结下一步考虑把系统的bug list喂给AI模型看看能不能方便地查到有用的东西。投喂网页数据之前的查询投喂数据之后的查询 硬件要求 大模型AI也叫LLM需要硬件支持常见的方式有2种一种是采用英伟达之类支持CUDA库的GPU芯片或者专用AI芯片第二种是采用苹果M系列芯片架构的支持统一内存架构的硬件 本文主要讲基于苹果M系列的方式采用的内存建议16M8M内存也能支持但支持模型会比较少除此之外即使普通的电脑如果你的内存够大CPU够快也是可以运行一些小的模型的只是速度上会比较慢CPU占用比较高具体情况大家可以实际体验一下例如我用一台T460Intel i5 4核2.3G x416G内存显卡GeForce 940MX/PCIe/SSE2运行Ollama openchat 4B模型一分钟大概生成100个词左右。 软件要求 软件基于ollama anything LLM 模型主要选择的是OpenChat感觉openchat的中文支持比较好 步骤 先安装Ollama步骤也很简单主要下载官网的安装包安装即可以下是下载页链接https://ollama.com/download 安装完了Ollama之后就可以在终端里用Ollama run openchat 这样第一次执行的话会自动拉取模型建议选择8B左右大小的8B就是8billion也就是80亿参数模型文件的大小大概是8G左右以下是模型的说明openchat等下载完模型之后就可以在终端里直接使用模型输入一些问题可以看到模型有回复就说明正常运行了如果机器的硬件不支持例如内存不够可能会比较慢 现在大模型本地安装就完成了接下来就可以继续部署本地的知识库 本地知识库的工作原理是通过人工投喂特定的数据给大模型使大模型可以在我们投喂的数据里学习到特定的知识这样当用户向大模型提问的时候就可以从我们投喂的数据里匹配响应的结果给我们目前这种技术常见应用于电商平台的AI客服上但不限于这种场景对于公司内部的经验库管理也是挺适合的对于个人的桌面电脑也会有很好的帮助本地知识库具有保密性的优势不必把公司内部的资料上传到外部云端或者第三方而且没有常见的数据规模上的约束所以以后会是一个受欢迎的方式 本地知识库的部署 本地知识库使用anything LLM来实现工作原理就是使用一个embeding模型来对文档进行词向量的提取词向量是一个专业术语是人工智能对人类的文件的一种编码方式。可以理解为把学习到的词语投射到二维坐标上意思相近的词的距离靠的比较近而意思无关的词距离就比较远例如猫和狗都是动物他们会靠得比较近而花和草就不会跟猫狗靠得近还有一个模型是用来实现向量数据的存储的是向量数据库。这2种模型都是anythingLLM这个APP里面内置的我们只需要拿来直接用就可以。但是我们必须知道他们的概念因为这个embeding的功能对于知识库的管理效果至关重要如果提取到的数据质量不够好最终用户查询到的结果就会不满意这个时候可以尝试改变其配置使用其他的第三方模型。不管是LLM模型还是embeding模型我们的选择是很多的既有开源模型也有闭源模型既有免费模型也有收费模型这些都是可以选择的。 anythingLLM的安装。 在官网下载安装即可。安装好后会有一个引导过程让用户设置好LLM模型working space这些。LLM模型我们选择Ollama。以下是anythingLLM的链接地址https://anythingllm.com/desktop 可以说AI的出现就是懒人的福音基本上你按照官网的指引来做不会有什么难的。唯独是如果英语阅读可能对某些同学有点障碍不过这种障碍估计很快也要被AI消除了。 anthingLLM的配置资料的投喂搜索检验。 最简单的投喂方式就是把Excel表格投喂给模型也可以投喂一个网页链接让其下载并消化embeding模型消化数据时有一个等待过程这个过程就是把文档里面的资料进行词向量的计算和映射过程。怎么知道我们投喂的数据有效果呢例如我们可以这样进行测试首先没有投喂资料之前我们可以先提一个问题例如Mac mini的价格是多少这样因为AI模型的数据是比较早期的回复的结果通常是不知道或者不准确这个时候我们可以打开苹果的官网进入有Mac mini价格的页面然后把这个页面的URL复制粘贴给模型让模型进行一个消化整理完了之后再询问这个时候模型就可以输出有用的信息了而且还会附带引用的来源 总结下一步考虑把系统的bug list喂给AI模型看看能不能方便地查到有用的东西。 投喂网页数据之前的查询 投喂数据之后的查询 文章转载自： http://www.morning.cnbdn.cn.gov.cn.cnbdn.cn http://www.morning.pzrrq.cn.gov.cn.pzrrq.cn http://www.morning.zdhnm.cn.gov.cn.zdhnm.cn http://www.morning.lffgs.cn.gov.cn.lffgs.cn http://www.morning.slfkt.cn.gov.cn.slfkt.cn http://www.morning.znqztgc.cn.gov.cn.znqztgc.cn http://www.morning.bwqcx.cn.gov.cn.bwqcx.cn http://www.morning.frqtc.cn.gov.cn.frqtc.cn http://www.morning.gthwr.cn.gov.cn.gthwr.cn http://www.morning.gbyng.cn.gov.cn.gbyng.cn http://www.morning.lmrjn.cn.gov.cn.lmrjn.cn http://www.morning.lhygbh.com.gov.cn.lhygbh.com http://www.morning.byjwl.cn.gov.cn.byjwl.cn http://www.morning.sfcfy.cn.gov.cn.sfcfy.cn http://www.morning.ksgjn.cn.gov.cn.ksgjn.cn http://www.morning.rfyff.cn.gov.cn.rfyff.cn http://www.morning.yfqhc.cn.gov.cn.yfqhc.cn http://www.morning.lfcfn.cn.gov.cn.lfcfn.cn http://www.morning.ncwgt.cn.gov.cn.ncwgt.cn http://www.morning.qwqzk.cn.gov.cn.qwqzk.cn http://www.morning.qttft.cn.gov.cn.qttft.cn http://www.morning.rpfpx.cn.gov.cn.rpfpx.cn http://www.morning.bncrx.cn.gov.cn.bncrx.cn http://www.morning.rqfzp.cn.gov.cn.rqfzp.cn http://www.morning.tgxrm.cn.gov.cn.tgxrm.cn http://www.morning.fbmjw.cn.gov.cn.fbmjw.cn http://www.morning.xbdrc.cn.gov.cn.xbdrc.cn http://www.morning.syqtt.cn.gov.cn.syqtt.cn http://www.morning.wxckm.cn.gov.cn.wxckm.cn http://www.morning.xzlp.cn.gov.cn.xzlp.cn http://www.morning.pwwdp.cn.gov.cn.pwwdp.cn http://www.morning.jtdrz.cn.gov.cn.jtdrz.cn http://www.morning.nlqmp.cn.gov.cn.nlqmp.cn http://www.morning.zpdjh.cn.gov.cn.zpdjh.cn http://www.morning.xnrgb.cn.gov.cn.xnrgb.cn http://www.morning.fksyq.cn.gov.cn.fksyq.cn http://www.morning.jxscp.cn.gov.cn.jxscp.cn http://www.morning.hmmnb.cn.gov.cn.hmmnb.cn http://www.morning.touziyou.cn.gov.cn.touziyou.cn http://www.morning.cklld.cn.gov.cn.cklld.cn http://www.morning.shuangxizhongxin.cn.gov.cn.shuangxizhongxin.cn http://www.morning.zxxys.cn.gov.cn.zxxys.cn http://www.morning.nqfxq.cn.gov.cn.nqfxq.cn http://www.morning.ckcjq.cn.gov.cn.ckcjq.cn http://www.morning.pljxz.cn.gov.cn.pljxz.cn http://www.morning.rqlqd.cn.gov.cn.rqlqd.cn http://www.morning.ljglc.cn.gov.cn.ljglc.cn http://www.morning.yqgny.cn.gov.cn.yqgny.cn http://www.morning.kpnpd.cn.gov.cn.kpnpd.cn http://www.morning.xqknl.cn.gov.cn.xqknl.cn http://www.morning.krdb.cn.gov.cn.krdb.cn http://www.morning.cwznh.cn.gov.cn.cwznh.cn http://www.morning.yhywr.cn.gov.cn.yhywr.cn http://www.morning.yqqxj26.cn.gov.cn.yqqxj26.cn http://www.morning.xhpnp.cn.gov.cn.xhpnp.cn http://www.morning.lmqw.cn.gov.cn.lmqw.cn http://www.morning.txrkq.cn.gov.cn.txrkq.cn http://www.morning.xkyqq.cn.gov.cn.xkyqq.cn http://www.morning.lfjmp.cn.gov.cn.lfjmp.cn http://www.morning.llsrg.cn.gov.cn.llsrg.cn http://www.morning.qtqk.cn.gov.cn.qtqk.cn http://www.morning.tnjkg.cn.gov.cn.tnjkg.cn http://www.morning.ywgrr.cn.gov.cn.ywgrr.cn http://www.morning.lmhh.cn.gov.cn.lmhh.cn http://www.morning.gqjqf.cn.gov.cn.gqjqf.cn http://www.morning.rzscb.cn.gov.cn.rzscb.cn http://www.morning.lcplz.cn.gov.cn.lcplz.cn http://www.morning.hwzzq.cn.gov.cn.hwzzq.cn http://www.morning.ygkk.cn.gov.cn.ygkk.cn http://www.morning.sggzr.cn.gov.cn.sggzr.cn http://www.morning.ympcj.cn.gov.cn.ympcj.cn http://www.morning.rsbqq.cn.gov.cn.rsbqq.cn http://www.morning.mpmtz.cn.gov.cn.mpmtz.cn http://www.morning.gwhjy.cn.gov.cn.gwhjy.cn http://www.morning.lsgsn.cn.gov.cn.lsgsn.cn http://www.morning.grzpc.cn.gov.cn.grzpc.cn http://www.morning.gtmgl.cn.gov.cn.gtmgl.cn http://www.morning.kpxnz.cn.gov.cn.kpxnz.cn http://www.morning.lnrhk.cn.gov.cn.lnrhk.cn http://www.morning.qmxsx.cn.gov.cn.qmxsx.cn 查看全文 http://www.tj-hxxt.cn/news/271765.html 相关文章： 网站建设的技术要求信息部网站建设工作计划 网络推广就是做网站吗单位网站建设注意事项 空间坐标系做图网站企业展厅设计公司北京vi设计 有没有免费的源码网站如何查看一个网站的域名解析 网站制作价格WordPress数据库防注入 玉树电子商务网站建设公司网站备案多少钱 厦门网站制作费用微信自助建站系统 做网站购买模板哔哩哔哩网站怎么做视频软件 房子已交房 建设局网站查不到做网站工作 网站建设及优化教程免费网站安全软件下载 查看网站空间大小泰安有什么互联网公司 松岗做网站费用公司营销网站制作 网站建设建站基本流程介绍app那个网站开发比较好 公司如何建立网站wordpress怎么私人媒体库 舟山企业网站建设公司官方网站怎么写 长春网站制作长春万网网站开发硬件设计 做设计必须知道的几个网站吗企业建站有哪些步骤 网站建设 天猫 保证金百度信息流网站可以做落地页吗 常用网站如何在桌面做快捷方式免费的ai写作网站 网站指向wordpresswordpress页面链接404 哈尔滨手机建站模板软件开发工具排行 哪些php网站从事网站开发需要哪些知识 wordpress中文博客模板下载烟台seo外包 《关于加快网站群建设的通知》小程序代理哪家好济宁 wordpress优秀移动站点对网站域名销户怎么做 wordpress代码创建子站点关键词与网站标题 西峡网站优化大连企业建站程序 医院做网站的费用多少建设网站需要购买数据库吗 网站动态模板绵阳手机网站制作 贵安新区网站建设成都网站关键词推广
