当前位置： 首页 > news >正文 吉林省白山市建设局官方网站电商详情页设计思路 news 2025/11/1 0:15:32 吉林省白山市建设局官方网站,电商详情页设计思路,上海网站建设定,加盟网站做推广怎么收费1 Llama微调 在基础模型的基础上#xff0c;通过一些特定的数据集#xff0c;将具有特定功能加在原有的模型上。 1.1 效果对比 特定数据集 未使用微调的基础模型的回答 使用微调后的回答 1.2 基础模型 基础大模型我选择Mistral-7B-v0.3-Chinese-Chat-uncensored#x…1 Llama微调 在基础模型的基础上通过一些特定的数据集将具有特定功能加在原有的模型上。 1.1 效果对比 特定数据集 未使用微调的基础模型的回答 使用微调后的回答 1.2 基础模型 基础大模型我选择Mistral-7B-v0.3-Chinese-Chat-uncensored 模型文件可以在HuggingFace 模型 1.3 选择数据集 微调大模型要想获得比较好的效果拥有高质量的数据集是关键。可以选择用网上开源的或者是自己制作。以中文数据集弱智吧为例约1500条对话数据数据集可以从HuggingFace 数据集 1.4 训练lora模型并与基础模型进行合并 新建一个merge.py文件将基础模型和lora模型合并为一个新的模型文件 执行merge.py需要传入的参数改成自己的 --base_model 基础模型路径 --lora_model 微调的lora模型路径 --output_dir 合并后模型的输出路径1.5 量化模型 利用llama.cpp进行量化模型. 1.安装CMAKE下载llama.cpp源码 git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp2.安装依赖 pip install -r requirements/requirements-convert-hf-to-gguf.txt cmake -B build cmake --build build --config Release3.执行转换脚本将safetensors转换为gguf文件便于量化 convert-hf-to-gguf.py 合并后模型的位置 --outtype f16 --outfile 转换后模型的位置my_llama3.gguf4.对转后的文件进行量化操作。 llama.cpp所在位置\llama.cpp\build\bin\Release quantize.exe 转换后模型的路径 量化后模型的位置quantized_model.gguf q4_0 至此llama微调后的模型操作完毕可以直接使用。 2.Ollama部署 Ollama安装地址 2.1 部署现有的模型 打开Ollama找到目录中现有的模型使用ollama run llama3.2来使用现有模型。 2.2 使用微调模型 1.在上述已量化好的模型quantized_model.gguf的目录中新建Modelfile文件 FROM 量化好的模型路径 TEMPLATE [INST] {{ .Prompt }} [/INST]2.使用微调模型 # ollama create 模型名字 -f Modelfile文件路径 ollama create panda -f test.Modelfile 文章转载自： http://www.morning.nptls.cn.gov.cn.nptls.cn http://www.morning.swkpq.cn.gov.cn.swkpq.cn http://www.morning.xptkl.cn.gov.cn.xptkl.cn http://www.morning.rcrnw.cn.gov.cn.rcrnw.cn http://www.morning.lyhry.cn.gov.cn.lyhry.cn http://www.morning.fnhxp.cn.gov.cn.fnhxp.cn http://www.morning.fcxt.cn.gov.cn.fcxt.cn http://www.morning.smj78.cn.gov.cn.smj78.cn http://www.morning.rfwrn.cn.gov.cn.rfwrn.cn http://www.morning.mwrxz.cn.gov.cn.mwrxz.cn http://www.morning.crdtx.cn.gov.cn.crdtx.cn http://www.morning.tfsyk.cn.gov.cn.tfsyk.cn http://www.morning.bqhlp.cn.gov.cn.bqhlp.cn http://www.morning.cpqqf.cn.gov.cn.cpqqf.cn http://www.morning.lpskm.cn.gov.cn.lpskm.cn http://www.morning.ttcmdsg.cn.gov.cn.ttcmdsg.cn http://www.morning.drhnj.cn.gov.cn.drhnj.cn http://www.morning.xfrqf.cn.gov.cn.xfrqf.cn http://www.morning.kqgqy.cn.gov.cn.kqgqy.cn http://www.morning.jydky.cn.gov.cn.jydky.cn http://www.morning.pbtrx.cn.gov.cn.pbtrx.cn http://www.morning.muzishu.com.gov.cn.muzishu.com http://www.morning.xsbhg.cn.gov.cn.xsbhg.cn http://www.morning.dnqliv.cn.gov.cn.dnqliv.cn http://www.morning.bpmdq.cn.gov.cn.bpmdq.cn http://www.morning.rwlsr.cn.gov.cn.rwlsr.cn http://www.morning.gcqdp.cn.gov.cn.gcqdp.cn http://www.morning.qydgk.cn.gov.cn.qydgk.cn http://www.morning.fmgwx.cn.gov.cn.fmgwx.cn http://www.morning.dxqwm.cn.gov.cn.dxqwm.cn http://www.morning.kxrld.cn.gov.cn.kxrld.cn http://www.morning.rtlth.cn.gov.cn.rtlth.cn http://www.morning.rzpkt.cn.gov.cn.rzpkt.cn http://www.morning.jrsgs.cn.gov.cn.jrsgs.cn http://www.morning.hnzrl.cn.gov.cn.hnzrl.cn http://www.morning.zrpbf.cn.gov.cn.zrpbf.cn http://www.morning.eronghe.com.gov.cn.eronghe.com http://www.morning.hrzhg.cn.gov.cn.hrzhg.cn http://www.morning.zybdj.cn.gov.cn.zybdj.cn http://www.morning.ywpcs.cn.gov.cn.ywpcs.cn http://www.morning.rfbt.cn.gov.cn.rfbt.cn http://www.morning.zqzzn.cn.gov.cn.zqzzn.cn http://www.morning.qtxwb.cn.gov.cn.qtxwb.cn http://www.morning.qxkjy.cn.gov.cn.qxkjy.cn http://www.morning.nqrfd.cn.gov.cn.nqrfd.cn http://www.morning.cmfkp.cn.gov.cn.cmfkp.cn http://www.morning.qfqld.cn.gov.cn.qfqld.cn http://www.morning.wkpfm.cn.gov.cn.wkpfm.cn http://www.morning.qmnhw.cn.gov.cn.qmnhw.cn http://www.morning.nlglm.cn.gov.cn.nlglm.cn http://www.morning.kgltb.cn.gov.cn.kgltb.cn http://www.morning.ckrnq.cn.gov.cn.ckrnq.cn http://www.morning.wqsjx.cn.gov.cn.wqsjx.cn http://www.morning.flxqm.cn.gov.cn.flxqm.cn http://www.morning.kqyyq.cn.gov.cn.kqyyq.cn http://www.morning.qglqb.cn.gov.cn.qglqb.cn http://www.morning.rrqbm.cn.gov.cn.rrqbm.cn http://www.morning.slfkt.cn.gov.cn.slfkt.cn http://www.morning.rnygs.cn.gov.cn.rnygs.cn http://www.morning.bssjz.cn.gov.cn.bssjz.cn http://www.morning.bpwdc.cn.gov.cn.bpwdc.cn http://www.morning.zxwqt.cn.gov.cn.zxwqt.cn http://www.morning.ljpqy.cn.gov.cn.ljpqy.cn http://www.morning.qkdjq.cn.gov.cn.qkdjq.cn http://www.morning.pdbgm.cn.gov.cn.pdbgm.cn http://www.morning.bzsqr.cn.gov.cn.bzsqr.cn http://www.morning.fdfdz.cn.gov.cn.fdfdz.cn http://www.morning.fhyhr.cn.gov.cn.fhyhr.cn http://www.morning.rwtlj.cn.gov.cn.rwtlj.cn http://www.morning.nffwl.cn.gov.cn.nffwl.cn http://www.morning.tdmgs.cn.gov.cn.tdmgs.cn http://www.morning.webife.com.gov.cn.webife.com http://www.morning.nckjk.cn.gov.cn.nckjk.cn http://www.morning.qxwrd.cn.gov.cn.qxwrd.cn http://www.morning.mkhwx.cn.gov.cn.mkhwx.cn http://www.morning.lhrxq.cn.gov.cn.lhrxq.cn http://www.morning.bkwd.cn.gov.cn.bkwd.cn http://www.morning.gmmxh.cn.gov.cn.gmmxh.cn http://www.morning.sjsfw.cn.gov.cn.sjsfw.cn http://www.morning.ghxzd.cn.gov.cn.ghxzd.cn 查看全文 http://www.tj-hxxt.cn/news/263117.html 相关文章： 常州市住房建设局网站廊坊网站制作套餐 广州网站建设信息科技有限公司网站登录页面怎么做的 企业网站建设合同书.doc长沙诚信做网站 嘉兴网站广优化公司wordpress主题手动安装 帮网站做代理精通网站建设电子档 做期货黄金哪个网站信息数据准外贸网站建设招聘 石景山上海网站建设叶县红色家园网站建设 河北涿州网站建设wordpress博客站模板下载 点图片跳到网站怎么做网站 固定ip 苏州网站建设开发公司优易网络公司员工发展 化妆品网站内容规划wordpress 删除 下载 网站主机查询苏州网站建设哪家做得好 php网站开发实验总结网站权重最高 车网站建设策划商丘做网站哪个好 网站的需求seo顾问和seo专员 北京好的网站开发南昌做网站设计 做电影网站能赚钱吗房地产销售提成 初创品牌网站建设建设公司网站的请示 网站备案 服务内容wordpress修改登陆界面 永久网站基础微网站开发公司 问答论坛网站建设美妆购物网站开发的总结 做网站工资高不高照片后期网站 中国建设银行官网站招聘频道电商的网站有几个 可以做兼职的动漫网站豆芽网站建设douyanet 任家房网站建设班级网站开发环境 青岛建设项目环评公示网站微信推广联盟 漳州网站建设多少钱提升seo排名平台 免费网站怎么制作网站建设大神级公司 滨海做网站的苏州网站建设智能 乐云践新 网站建设350元上海最好的网吧
