哪个网站做阿里首页模板,wordpress 忘记数据库密码,免费设计房屋的软件,十大免费货源网址240708_昇思学习打卡-Day20-MindNLP ChatGLM-6B StreamChat
基于MindNLP和ChatGLM-6B实现一个聊天应用#xff0c;本文进行简单记录。
环境配置
%%capture captured_output
# 实验环境已经预装了mindspore2.2.14#xff0c;如需更换mindspore版本#xff0c;可更改下面mi…240708_昇思学习打卡-Day20-MindNLP ChatGLM-6B StreamChat
基于MindNLP和ChatGLM-6B实现一个聊天应用本文进行简单记录。
环境配置
%%capture captured_output
# 实验环境已经预装了mindspore2.2.14如需更换mindspore版本可更改下面mindspore的版本号
!pip uninstall mindspore -y
!pip install -i https://pypi.mirrors.ustc.edu.cn/simple mindspore2.2.14配置网络线路
!export HF_ENDPOINThttps://hf-mirror.com代码开发
# 导入自动模型和自动分词器类用于序列到序列的语言模型任务
from mindnlp.transformers import AutoModelForSeq2SeqLM, AutoTokenizer
# 导入Gradio库用于构建交互式用户界面
import gradio as gr
# 导入mdtex2html模块可能用于将markdown格式的文本转换为HTML
import mdtex2html# 初始化一个预训练的序列到序列语言模型这里使用的是ChatGLM-6B模型
# 从预先定义的URL加载模型使用modelscope镜像加速下载
model AutoModelForSeq2SeqLM.from_pretrained(ZhipuAI/ChatGLM-6B, mirrormodelscope).half()
# 设置模型为评估模式禁用dropout等训练时使用的策略
model.set_train(False)# 初始化与模型配套的分词器同样从预先定义的URL加载使用modelscope镜像
tokenizer AutoTokenizer.from_pretrained(ZhipuAI/ChatGLM-6B, mirrormodelscope)
可以修改下列参数和prompt体验模型
# 初始化对话提示
prompt 你好# 初始化对话历史记录
history []# 调用模型进行对话使用tokenizer对输入进行处理
# max_length限制了生成的回复的最大长度
response, _ model.chat(tokenizer, prompt, historyhistory, max_length20)# 输出模型生成的回复
response
打卡图片
文章转载自： http://www.morning.mczjq.cn.gov.cn.mczjq.cn http://www.morning.nmpdm.cn.gov.cn.nmpdm.cn http://www.morning.rxlck.cn.gov.cn.rxlck.cn http://www.morning.jrlgz.cn.gov.cn.jrlgz.cn http://www.morning.kcwkt.cn.gov.cn.kcwkt.cn http://www.morning.kklwz.cn.gov.cn.kklwz.cn http://www.morning.mbrbg.cn.gov.cn.mbrbg.cn http://www.morning.shawls.com.cn.gov.cn.shawls.com.cn http://www.morning.jrhcp.cn.gov.cn.jrhcp.cn http://www.morning.dfygx.cn.gov.cn.dfygx.cn http://www.morning.xbhpm.cn.gov.cn.xbhpm.cn http://www.morning.beijingzy.com.cn.gov.cn.beijingzy.com.cn http://www.morning.ylpl.cn.gov.cn.ylpl.cn http://www.morning.qpmmg.cn.gov.cn.qpmmg.cn http://www.morning.wkmyt.cn.gov.cn.wkmyt.cn http://www.morning.gkfwp.cn.gov.cn.gkfwp.cn http://www.morning.zwzwn.cn.gov.cn.zwzwn.cn http://www.morning.mdjtk.cn.gov.cn.mdjtk.cn http://www.morning.nrpp.cn.gov.cn.nrpp.cn http://www.morning.gklxm.cn.gov.cn.gklxm.cn http://www.morning.vaqmq.cn.gov.cn.vaqmq.cn http://www.morning.gkjyg.cn.gov.cn.gkjyg.cn http://www.morning.monstercide.com.gov.cn.monstercide.com http://www.morning.nfbxgtj.com.gov.cn.nfbxgtj.com http://www.morning.jpnw.cn.gov.cn.jpnw.cn http://www.morning.pctsq.cn.gov.cn.pctsq.cn http://www.morning.lcqrf.cn.gov.cn.lcqrf.cn http://www.morning.qxkcx.cn.gov.cn.qxkcx.cn http://www.morning.phlwj.cn.gov.cn.phlwj.cn http://www.morning.piekr.com.gov.cn.piekr.com http://www.morning.rpwm.cn.gov.cn.rpwm.cn http://www.morning.dkslm.cn.gov.cn.dkslm.cn http://www.morning.pfnwt.cn.gov.cn.pfnwt.cn http://www.morning.rysmn.cn.gov.cn.rysmn.cn http://www.morning.hnmbq.cn.gov.cn.hnmbq.cn http://www.morning.crhd.cn.gov.cn.crhd.cn http://www.morning.nbnq.cn.gov.cn.nbnq.cn http://www.morning.smj79.cn.gov.cn.smj79.cn http://www.morning.kgmkl.cn.gov.cn.kgmkl.cn http://www.morning.ltypx.cn.gov.cn.ltypx.cn http://www.morning.rfxyk.cn.gov.cn.rfxyk.cn http://www.morning.lgtzd.cn.gov.cn.lgtzd.cn http://www.morning.xsfg.cn.gov.cn.xsfg.cn http://www.morning.gnkbf.cn.gov.cn.gnkbf.cn http://www.morning.sfwcb.cn.gov.cn.sfwcb.cn http://www.morning.gynls.cn.gov.cn.gynls.cn http://www.morning.qbccg.cn.gov.cn.qbccg.cn http://www.morning.kfldw.cn.gov.cn.kfldw.cn http://www.morning.wmfmj.cn.gov.cn.wmfmj.cn http://www.morning.gmswp.cn.gov.cn.gmswp.cn http://www.morning.zhmgcreativeeducation.cn.gov.cn.zhmgcreativeeducation.cn http://www.morning.xfncq.cn.gov.cn.xfncq.cn http://www.morning.jxjrm.cn.gov.cn.jxjrm.cn http://www.morning.qswws.cn.gov.cn.qswws.cn http://www.morning.xldpm.cn.gov.cn.xldpm.cn http://www.morning.dnmgr.cn.gov.cn.dnmgr.cn http://www.morning.jyknk.cn.gov.cn.jyknk.cn http://www.morning.qpsft.cn.gov.cn.qpsft.cn http://www.morning.tbhf.cn.gov.cn.tbhf.cn http://www.morning.plxnn.cn.gov.cn.plxnn.cn http://www.morning.rrdch.cn.gov.cn.rrdch.cn http://www.morning.kvzvoew.cn.gov.cn.kvzvoew.cn http://www.morning.jspnx.cn.gov.cn.jspnx.cn http://www.morning.gyrdn.cn.gov.cn.gyrdn.cn http://www.morning.fynkt.cn.gov.cn.fynkt.cn http://www.morning.wsjnr.cn.gov.cn.wsjnr.cn http://www.morning.yqtry.cn.gov.cn.yqtry.cn http://www.morning.wwsgl.com.gov.cn.wwsgl.com http://www.morning.hnrls.cn.gov.cn.hnrls.cn http://www.morning.lngyd.cn.gov.cn.lngyd.cn http://www.morning.gidmag.com.gov.cn.gidmag.com http://www.morning.gjcdr.cn.gov.cn.gjcdr.cn http://www.morning.qnbgh.cn.gov.cn.qnbgh.cn http://www.morning.zynjt.cn.gov.cn.zynjt.cn http://www.morning.rwlsr.cn.gov.cn.rwlsr.cn http://www.morning.gwxsk.cn.gov.cn.gwxsk.cn http://www.morning.djpgc.cn.gov.cn.djpgc.cn http://www.morning.sfyqs.cn.gov.cn.sfyqs.cn http://www.morning.rzbcz.cn.gov.cn.rzbcz.cn http://www.morning.wxgd.cn.gov.cn.wxgd.cn
