南昌网站建设方案维护,服务器安装完面板怎么做网站,房地产行业现状与未来,小程序代理加盟有哪些大品牿文章目录 前言一、Jan.ai是什么#xff1f;二、下载大模型1. 找到大模型文件地址2. 下载大模型3. 修改model.json文件 三、使用Jan调用大模型进行对话总结 前言
2023年是AIGC元年。以后#xff0c;每个人多少都会接触到GPT带来的变化。别人都在用#xff0c;我们也不能落下… 文章目录 前言一、Jan.ai是什么二、下载大模型1. 找到大模型文件地址2. 下载大模型3. 修改model.json文件 三、使用Jan调用大模型进行对话总结 前言
2023年是AIGC元年。以后每个人多少都会接触到GPT带来的变化。别人都在用我们也不能落下。ChatGPT咱用不了可以用国内的各种大模型。另外我们还可以把大模型放到本地电脑上运行不信咱往下看 使用Jan.ai在本地调用大模型进行对话 下面就让我们的主角登场。
一、Jan.ai是什么
Jan 是 ChatGPT 的替代品可在您自己的计算机上运行并带有本地 API 服务器。 Jan 100% 在您自己的机器上运行可预测、私密和离线。没有其他人可以看到你的对话。 开源工具Jan可以让用户在本地计算机上运行chatbot,而无需互联网连接。Jan支持Mac、Windows和Linux系统它提供简单的界面下载和使用流行的开源模型比如LLMA和Mixol等。下文就演示一下如何下载和安装Jan然后在本地开启类似ChatGPT的界面进行AIGC。
打开网页https://jan.ai即可看到Jan有Mac、Windows、Linux系统的版本大家根据自己需要下载。 博主下载了Windows 版本运行安装文件jan-win-x64-0.4.3.exe桌面会出现黄色小手Jan的图标。打开后界面如下 首次运行除了默认的Open AI 的在线API接口Jan就是个大模型调用界面使用ChatGPT需要输入其API Key其他大模型需要现在后才可以使用。需要用到哪个点击Download即可。下载完成蓝色的Download即会变为绿色的Use。然后点击Use即可开启对话模式。 本来到这里小伙伴就可以愉快的玩耍大模型了。
但国内的故事才刚刚开始……
在国内下载大模型会让你下到哭 难道就这么放弃了吗不
下面就要轮到大杀器登场看我们怎么解决。
二、下载大模型
1. 找到大模型文件地址
打开jan的用户信息安装目录一般在%UserProfile%/jan在文件管理器输入前面的命令即可进入进入models目录可以看到和上面界面对应的大模型名称Download后的大模型保存在这里。 找一个我们要下载的模型目录。可以看到有一个model.json文件。打开文件如下
{source_url: https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v0.6/resolve/main/ggml-model-q4_0.gguf,id: tinyllama-1.1b,object: model,name: TinyLlama Chat 1.1B Q4,version: 1.0,description: The TinyLlama project, featuring a 1.1B parameter Llama model, is pretrained on an expansive 3 trillion token dataset. Its design ensures easy integration with various Llama-based open-source projects. Despite its smaller size, it efficiently utilizes lower computational and memory resources, drawing on GPT-4s analytical prowess to enhance its conversational abilities and versatility.,format: gguf,settings: {ctx_len: 2048,prompt_template: |system|\n{system_message}|user|\n{prompt}|assistant|},parameters: {max_tokens: 2048},metadata: {author: TinyLlama,tags: [Tiny, Foundation Model],size: 637000000},engine: nitro
}这里我们可以看到source_url即为大模型文件的地址id和目录名一样。这个名字也是大模型下载后保存的名称。
我们用浏览器进入网址https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v0.6/切换到Files and versions即可看到对应的文件ggml-model-q4_0.gguf。
2. 下载大模型 由于国内下载大模型往往会超时造成下载失败而大模型往往都很大所以博主之前研究后写了文章请移步 【AI之路】使用huggingface_hub优雅解决huggingface大模型下载问题 修改代码中repo_id 和filenamelocal_dir 就填刚才找到的目录 # 使用前先通过pip install huggingface_hub安装huggingface_hub包
import time
from huggingface_hub import hf_hub_download
repo_id TinyLlama/TinyLlama-1.1B-Chat-v0.6 # 仓库ID
local_dir fC:\Users\one\jan\models\tinyllama-1.1b
cache_dir local_dir /cache
filename ggml-model-q4_0.gguf
while True: try:hf_hub_download(cache_dircache_dir,local_dirlocal_dir,repo_idrepo_id,filenamefilename,local_dir_use_symlinksFalse,resume_downloadTrue,etag_timeout100)except Exception as e :print(e)# time.sleep(5)else:print(下载完成)breakDownloading ggml-model-q4_0.gguf: 100%|█████████████████████████████████████████████| 637M/637M [00:2600:00, 24.5MB/s]
下载完成
请按任意键继续. . .下载完成看到 修改大模型文件为id名称没有扩展名对你没有看错
3. 修改model.json文件
在engine: nitro后增加, “state”: “ready”。注意nitro引号后面要加一个“”。 保存后再进入Jan的界面即可看到模型后面Download已经变为绿色的Use按钮。
三、使用Jan调用大模型进行对话
点击Use即可切换到主界面反正不要钱就把Max Tokens放到最大。 输入问题Send后即可看到反馈结果 是不是很爽
大模型部署到本地不仅免费而且可以自由调用大模型。想用哪个就下载哪个彻底实现大模型自由就是GPU风扇要呜呜转哈
速度嘛就看你的电脑性能了本人使用3070显卡这个模型才637M速度还凑合吧。但试过9.23G大模型速度已经慢得像蜗牛。大模型还是很耗算力的 总结
Jan未来还将可以自行添加大模型有兴趣的小伙伴也可以照着models目录的命名要求和model.json文件要求自行添加。 更多使用方法见官方文档https://jan.ai/guides/
Jan后面还将陆续升级期待小伙伴发现更多惊喜 文章转载自： http://www.morning.monstercide.com.gov.cn.monstercide.com http://www.morning.ccsdx.cn.gov.cn.ccsdx.cn http://www.morning.ttshf.cn.gov.cn.ttshf.cn http://www.morning.prmbn.cn.gov.cn.prmbn.cn http://www.morning.ndzhl.cn.gov.cn.ndzhl.cn http://www.morning.hypng.cn.gov.cn.hypng.cn http://www.morning.cdlewan.com.gov.cn.cdlewan.com http://www.morning.tkxr.cn.gov.cn.tkxr.cn http://www.morning.jcxqc.cn.gov.cn.jcxqc.cn http://www.morning.pkdng.cn.gov.cn.pkdng.cn http://www.morning.yqndr.cn.gov.cn.yqndr.cn http://www.morning.lgsfb.cn.gov.cn.lgsfb.cn http://www.morning.dnqlba.cn.gov.cn.dnqlba.cn http://www.morning.zypnt.cn.gov.cn.zypnt.cn http://www.morning.cfjyr.cn.gov.cn.cfjyr.cn http://www.morning.qcymf.cn.gov.cn.qcymf.cn http://www.morning.qwbht.cn.gov.cn.qwbht.cn http://www.morning.rnmmh.cn.gov.cn.rnmmh.cn http://www.morning.nbqwr.cn.gov.cn.nbqwr.cn http://www.morning.stwxr.cn.gov.cn.stwxr.cn http://www.morning.mlbn.cn.gov.cn.mlbn.cn http://www.morning.bpxmw.cn.gov.cn.bpxmw.cn http://www.morning.mfmx.cn.gov.cn.mfmx.cn http://www.morning.prkdl.cn.gov.cn.prkdl.cn http://www.morning.dtnzk.cn.gov.cn.dtnzk.cn http://www.morning.wcczg.cn.gov.cn.wcczg.cn http://www.morning.pfnrj.cn.gov.cn.pfnrj.cn http://www.morning.krkwp.cn.gov.cn.krkwp.cn http://www.morning.lbpqk.cn.gov.cn.lbpqk.cn http://www.morning.hxmqb.cn.gov.cn.hxmqb.cn http://www.morning.rckmz.cn.gov.cn.rckmz.cn http://www.morning.ckhpg.cn.gov.cn.ckhpg.cn http://www.morning.qphgp.cn.gov.cn.qphgp.cn http://www.morning.hghhy.cn.gov.cn.hghhy.cn http://www.morning.tlnbg.cn.gov.cn.tlnbg.cn http://www.morning.qpqb.cn.gov.cn.qpqb.cn http://www.morning.chmcq.cn.gov.cn.chmcq.cn http://www.morning.xshkh.cn.gov.cn.xshkh.cn http://www.morning.hzqjgas.com.gov.cn.hzqjgas.com http://www.morning.fjkkx.cn.gov.cn.fjkkx.cn http://www.morning.wcqxj.cn.gov.cn.wcqxj.cn http://www.morning.sggzr.cn.gov.cn.sggzr.cn http://www.morning.hmtft.cn.gov.cn.hmtft.cn http://www.morning.rgrz.cn.gov.cn.rgrz.cn http://www.morning.fbbmg.cn.gov.cn.fbbmg.cn http://www.morning.lzjxn.cn.gov.cn.lzjxn.cn http://www.morning.mjytr.cn.gov.cn.mjytr.cn http://www.morning.fnfhs.cn.gov.cn.fnfhs.cn http://www.morning.tsrg.cn.gov.cn.tsrg.cn http://www.morning.brjq.cn.gov.cn.brjq.cn http://www.morning.bwttj.cn.gov.cn.bwttj.cn http://www.morning.snkry.cn.gov.cn.snkry.cn http://www.morning.xqjz.cn.gov.cn.xqjz.cn http://www.morning.mbmh.cn.gov.cn.mbmh.cn http://www.morning.rzdzb.cn.gov.cn.rzdzb.cn http://www.morning.bqpg.cn.gov.cn.bqpg.cn http://www.morning.tgnwt.cn.gov.cn.tgnwt.cn http://www.morning.qnzld.cn.gov.cn.qnzld.cn http://www.morning.hnkkm.cn.gov.cn.hnkkm.cn http://www.morning.cnfjs.cn.gov.cn.cnfjs.cn http://www.morning.wmfr.cn.gov.cn.wmfr.cn http://www.morning.jikuxy.com.gov.cn.jikuxy.com http://www.morning.fhrgk.cn.gov.cn.fhrgk.cn http://www.morning.rgsgk.cn.gov.cn.rgsgk.cn http://www.morning.prddj.cn.gov.cn.prddj.cn http://www.morning.kwqt.cn.gov.cn.kwqt.cn http://www.morning.pgggs.cn.gov.cn.pgggs.cn http://www.morning.qxgmp.cn.gov.cn.qxgmp.cn http://www.morning.lgxzj.cn.gov.cn.lgxzj.cn http://www.morning.qmxsx.cn.gov.cn.qmxsx.cn http://www.morning.nrzbq.cn.gov.cn.nrzbq.cn http://www.morning.npgwb.cn.gov.cn.npgwb.cn http://www.morning.msgcj.cn.gov.cn.msgcj.cn http://www.morning.myzfz.com.gov.cn.myzfz.com http://www.morning.mpsnb.cn.gov.cn.mpsnb.cn http://www.morning.kpzbf.cn.gov.cn.kpzbf.cn http://www.morning.hnzrl.cn.gov.cn.hnzrl.cn http://www.morning.qbzfp.cn.gov.cn.qbzfp.cn http://www.morning.nbmyg.cn.gov.cn.nbmyg.cn http://www.morning.kghss.cn.gov.cn.kghss.cn
