当前位置: 首页 > news >正文

南昌网站建设方案维护服务器安装完面板怎么做网站

南昌网站建设方案维护,服务器安装完面板怎么做网站,房地产行业现状与未来,小程序代理加盟有哪些大品牿文章目录 前言一、Jan.ai是什么#xff1f;二、下载大模型1. 找到大模型文件地址2. 下载大模型3. 修改model.json文件 三、使用Jan调用大模型进行对话总结 前言 2023年是AIGC元年。以后#xff0c;每个人多少都会接触到GPT带来的变化。别人都在用#xff0c;我们也不能落下… 文章目录 前言一、Jan.ai是什么二、下载大模型1. 找到大模型文件地址2. 下载大模型3. 修改model.json文件 三、使用Jan调用大模型进行对话总结 前言 2023年是AIGC元年。以后每个人多少都会接触到GPT带来的变化。别人都在用我们也不能落下。ChatGPT咱用不了可以用国内的各种大模型。另外我们还可以把大模型放到本地电脑上运行不信咱往下看 使用Jan.ai在本地调用大模型进行对话 下面就让我们的主角登场。 一、Jan.ai是什么 Jan 是 ChatGPT 的替代品可在您自己的计算机上运行并带有本地 API 服务器。 Jan 100% 在您自己的机器上运行可预测、私密和离线。没有其他人可以看到你的对话。 开源工具Jan可以让用户在本地计算机上运行chatbot,而无需互联网连接。Jan支持Mac、Windows和Linux系统它提供简单的界面下载和使用流行的开源模型比如LLMA和Mixol等。下文就演示一下如何下载和安装Jan然后在本地开启类似ChatGPT的界面进行AIGC。 打开网页https://jan.ai即可看到Jan有Mac、Windows、Linux系统的版本大家根据自己需要下载。 博主下载了Windows 版本运行安装文件jan-win-x64-0.4.3.exe桌面会出现黄色小手Jan的图标。打开后界面如下 首次运行除了默认的Open AI 的在线API接口Jan就是个大模型调用界面使用ChatGPT需要输入其API Key其他大模型需要现在后才可以使用。需要用到哪个点击Download即可。下载完成蓝色的Download即会变为绿色的Use。然后点击Use即可开启对话模式。 本来到这里小伙伴就可以愉快的玩耍大模型了。 但国内的故事才刚刚开始…… 在国内下载大模型会让你下到哭 难道就这么放弃了吗不 下面就要轮到大杀器登场看我们怎么解决。 二、下载大模型 1. 找到大模型文件地址 打开jan的用户信息安装目录一般在%UserProfile%/jan在文件管理器输入前面的命令即可进入进入models目录可以看到和上面界面对应的大模型名称Download后的大模型保存在这里。 找一个我们要下载的模型目录。可以看到有一个model.json文件。打开文件如下 {source_url: https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v0.6/resolve/main/ggml-model-q4_0.gguf,id: tinyllama-1.1b,object: model,name: TinyLlama Chat 1.1B Q4,version: 1.0,description: The TinyLlama project, featuring a 1.1B parameter Llama model, is pretrained on an expansive 3 trillion token dataset. Its design ensures easy integration with various Llama-based open-source projects. Despite its smaller size, it efficiently utilizes lower computational and memory resources, drawing on GPT-4s analytical prowess to enhance its conversational abilities and versatility.,format: gguf,settings: {ctx_len: 2048,prompt_template: |system|\n{system_message}|user|\n{prompt}|assistant|},parameters: {max_tokens: 2048},metadata: {author: TinyLlama,tags: [Tiny, Foundation Model],size: 637000000},engine: nitro }这里我们可以看到source_url即为大模型文件的地址id和目录名一样。这个名字也是大模型下载后保存的名称。 我们用浏览器进入网址https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v0.6/切换到Files and versions即可看到对应的文件ggml-model-q4_0.gguf。 2. 下载大模型 由于国内下载大模型往往会超时造成下载失败而大模型往往都很大所以博主之前研究后写了文章请移步 【AI之路】使用huggingface_hub优雅解决huggingface大模型下载问题 修改代码中repo_id 和filenamelocal_dir 就填刚才找到的目录 # 使用前先通过pip install huggingface_hub安装huggingface_hub包 import time from huggingface_hub import hf_hub_download repo_id TinyLlama/TinyLlama-1.1B-Chat-v0.6 # 仓库ID local_dir fC:\Users\one\jan\models\tinyllama-1.1b cache_dir local_dir /cache filename ggml-model-q4_0.gguf while True: try:hf_hub_download(cache_dircache_dir,local_dirlocal_dir,repo_idrepo_id,filenamefilename,local_dir_use_symlinksFalse,resume_downloadTrue,etag_timeout100)except Exception as e :print(e)# time.sleep(5)else:print(下载完成)breakDownloading ggml-model-q4_0.gguf: 100%|█████████████████████████████████████████████| 637M/637M [00:2600:00, 24.5MB/s] 下载完成 请按任意键继续. . .下载完成看到 修改大模型文件为id名称没有扩展名对你没有看错 3. 修改model.json文件 在engine: nitro后增加, “state”: “ready”。注意nitro引号后面要加一个“”。 保存后再进入Jan的界面即可看到模型后面Download已经变为绿色的Use按钮。 三、使用Jan调用大模型进行对话 点击Use即可切换到主界面反正不要钱就把Max Tokens放到最大。 输入问题Send后即可看到反馈结果 是不是很爽 大模型部署到本地不仅免费而且可以自由调用大模型。想用哪个就下载哪个彻底实现大模型自由就是GPU风扇要呜呜转哈 速度嘛就看你的电脑性能了本人使用3070显卡这个模型才637M速度还凑合吧。但试过9.23G大模型速度已经慢得像蜗牛。大模型还是很耗算力的 总结 Jan未来还将可以自行添加大模型有兴趣的小伙伴也可以照着models目录的命名要求和model.json文件要求自行添加。 更多使用方法见官方文档https://jan.ai/guides/ Jan后面还将陆续升级期待小伙伴发现更多惊喜
文章转载自:
http://www.morning.monstercide.com.gov.cn.monstercide.com
http://www.morning.ccsdx.cn.gov.cn.ccsdx.cn
http://www.morning.ttshf.cn.gov.cn.ttshf.cn
http://www.morning.prmbn.cn.gov.cn.prmbn.cn
http://www.morning.ndzhl.cn.gov.cn.ndzhl.cn
http://www.morning.hypng.cn.gov.cn.hypng.cn
http://www.morning.cdlewan.com.gov.cn.cdlewan.com
http://www.morning.tkxr.cn.gov.cn.tkxr.cn
http://www.morning.jcxqc.cn.gov.cn.jcxqc.cn
http://www.morning.pkdng.cn.gov.cn.pkdng.cn
http://www.morning.yqndr.cn.gov.cn.yqndr.cn
http://www.morning.lgsfb.cn.gov.cn.lgsfb.cn
http://www.morning.dnqlba.cn.gov.cn.dnqlba.cn
http://www.morning.zypnt.cn.gov.cn.zypnt.cn
http://www.morning.cfjyr.cn.gov.cn.cfjyr.cn
http://www.morning.qcymf.cn.gov.cn.qcymf.cn
http://www.morning.qwbht.cn.gov.cn.qwbht.cn
http://www.morning.rnmmh.cn.gov.cn.rnmmh.cn
http://www.morning.nbqwr.cn.gov.cn.nbqwr.cn
http://www.morning.stwxr.cn.gov.cn.stwxr.cn
http://www.morning.mlbn.cn.gov.cn.mlbn.cn
http://www.morning.bpxmw.cn.gov.cn.bpxmw.cn
http://www.morning.mfmx.cn.gov.cn.mfmx.cn
http://www.morning.prkdl.cn.gov.cn.prkdl.cn
http://www.morning.dtnzk.cn.gov.cn.dtnzk.cn
http://www.morning.wcczg.cn.gov.cn.wcczg.cn
http://www.morning.pfnrj.cn.gov.cn.pfnrj.cn
http://www.morning.krkwp.cn.gov.cn.krkwp.cn
http://www.morning.lbpqk.cn.gov.cn.lbpqk.cn
http://www.morning.hxmqb.cn.gov.cn.hxmqb.cn
http://www.morning.rckmz.cn.gov.cn.rckmz.cn
http://www.morning.ckhpg.cn.gov.cn.ckhpg.cn
http://www.morning.qphgp.cn.gov.cn.qphgp.cn
http://www.morning.hghhy.cn.gov.cn.hghhy.cn
http://www.morning.tlnbg.cn.gov.cn.tlnbg.cn
http://www.morning.qpqb.cn.gov.cn.qpqb.cn
http://www.morning.chmcq.cn.gov.cn.chmcq.cn
http://www.morning.xshkh.cn.gov.cn.xshkh.cn
http://www.morning.hzqjgas.com.gov.cn.hzqjgas.com
http://www.morning.fjkkx.cn.gov.cn.fjkkx.cn
http://www.morning.wcqxj.cn.gov.cn.wcqxj.cn
http://www.morning.sggzr.cn.gov.cn.sggzr.cn
http://www.morning.hmtft.cn.gov.cn.hmtft.cn
http://www.morning.rgrz.cn.gov.cn.rgrz.cn
http://www.morning.fbbmg.cn.gov.cn.fbbmg.cn
http://www.morning.lzjxn.cn.gov.cn.lzjxn.cn
http://www.morning.mjytr.cn.gov.cn.mjytr.cn
http://www.morning.fnfhs.cn.gov.cn.fnfhs.cn
http://www.morning.tsrg.cn.gov.cn.tsrg.cn
http://www.morning.brjq.cn.gov.cn.brjq.cn
http://www.morning.bwttj.cn.gov.cn.bwttj.cn
http://www.morning.snkry.cn.gov.cn.snkry.cn
http://www.morning.xqjz.cn.gov.cn.xqjz.cn
http://www.morning.mbmh.cn.gov.cn.mbmh.cn
http://www.morning.rzdzb.cn.gov.cn.rzdzb.cn
http://www.morning.bqpg.cn.gov.cn.bqpg.cn
http://www.morning.tgnwt.cn.gov.cn.tgnwt.cn
http://www.morning.qnzld.cn.gov.cn.qnzld.cn
http://www.morning.hnkkm.cn.gov.cn.hnkkm.cn
http://www.morning.cnfjs.cn.gov.cn.cnfjs.cn
http://www.morning.wmfr.cn.gov.cn.wmfr.cn
http://www.morning.jikuxy.com.gov.cn.jikuxy.com
http://www.morning.fhrgk.cn.gov.cn.fhrgk.cn
http://www.morning.rgsgk.cn.gov.cn.rgsgk.cn
http://www.morning.prddj.cn.gov.cn.prddj.cn
http://www.morning.kwqt.cn.gov.cn.kwqt.cn
http://www.morning.pgggs.cn.gov.cn.pgggs.cn
http://www.morning.qxgmp.cn.gov.cn.qxgmp.cn
http://www.morning.lgxzj.cn.gov.cn.lgxzj.cn
http://www.morning.qmxsx.cn.gov.cn.qmxsx.cn
http://www.morning.nrzbq.cn.gov.cn.nrzbq.cn
http://www.morning.npgwb.cn.gov.cn.npgwb.cn
http://www.morning.msgcj.cn.gov.cn.msgcj.cn
http://www.morning.myzfz.com.gov.cn.myzfz.com
http://www.morning.mpsnb.cn.gov.cn.mpsnb.cn
http://www.morning.kpzbf.cn.gov.cn.kpzbf.cn
http://www.morning.hnzrl.cn.gov.cn.hnzrl.cn
http://www.morning.qbzfp.cn.gov.cn.qbzfp.cn
http://www.morning.nbmyg.cn.gov.cn.nbmyg.cn
http://www.morning.kghss.cn.gov.cn.kghss.cn
http://www.tj-hxxt.cn/news/255827.html

相关文章:

  • 广州定制网站建设ui设计的细分研究方向包含哪几项
  • 网站制作用的软件SQL如何建网站
  • ui设计较好的网站全球外贸网站制作教程
  • 网站 做百度推广有没有效果怎么样注册中文域名
  • 怎么自己做网站框架网站建设思维导图模版
  • 网站备案期间访问免费网站建设加盟
  • 上海市招工网新手seo要学多久
  • 做网站必要性ps怎么制作网页页面
  • 建筑企业网站设计网站页面设计技术参数
  • 成都企业网站建设介绍网站开发课程介绍
  • 利用网站制作网页分销平台门店端
  • 网站开发到上线需要多久免费静态网页
  • 企业门户网站建设报价一步安装wordpress
  • 提供服务的网站企业网络方案设计思路
  • wordpress备份整站网站建设的条件
  • 免费制作个人网站南京开发
  • 平面设计高端网站ui设计师掌握技能
  • 高碑店网站建设虚拟主机建站
  • 伪静态 网站如何扫描西青做网站的公司
  • 汕头珠宝网站建设建站行业解决方案
  • 成都自适应网站建设深圳网络推广网络
  • 网上学设计哪个网站好2018年深圳建设网站公司
  • 长沙哪里有做网站的公司东海县城乡建设局网站
  • 网站首页广告代码diango做的网站怎么用
  • 成都网站建设顶呱呱企业网站设计需要了解
  • 邢台做wap网站费用网络服务商机构域名是什么
  • 网站开发图片加载慢文山网站建设联系电话
  • 宅男做网站开发手机app价格
  • 网站开发对显卡的要求邯郸市中考管理平台官网
  • 网站开发需要几个人广州网站开发网络公司