当前位置: 首页 > news >正文 个人网站建设基本定位千锋教育和黑马哪个好 news 2025/11/3 16:22:13 个人网站建设基本定位,千锋教育和黑马哪个好,福田做网站哪家专业,什么软件免费设计logoHuggingface的GenerationConfig 中的top_k与top_p详细解读 Top_kTop_p联合共用 Top_k top-k是指只保留概率最高的前k个单词#xff0c;然后基于剩余单词的概率进行归一化#xff0c;从中随机抽取一个单词作为最终输出。这种方法可以限制输出序列的长度#xff0c;并仍然保持… Huggingface的GenerationConfig 中的top_k与top_p详细解读 Top_kTop_p联合共用 Top_k top-k是指只保留概率最高的前k个单词然后基于剩余单词的概率进行归一化从中随机抽取一个单词作为最终输出。这种方法可以限制输出序列的长度并仍然保持样本的一定多样性。 举个例子在使用语言模型生成「这个周末天气很」的句子时top-k保留概率最高的三个单词为「好」「热」「冷」此时将剩余单词进行概率归一化把它们的概率设定为0之后在三个保留的单词中随机选择一个比如选择了「好」后这个句子就变成了「这个周末天气很好」。这个过程可以反复进行直到生成的句子已经满足需要。 通过使用top-k我们可以限制输出序列的长度并尽可能地保持语句的一定多样性同时控制结果的生成质量。需要注意的是取值过小会导致结果过于随机而过大可能会限制生成的单词种类和多样性这个超参的设定需要根据任务需求和经验进行调整。 Top_p top-p是一种用于在文本生成中控制输出的策略。top-p算法保留累计概率之和达到一个给定阈值p的概率分布中的词汇然后在这个分布中进行随机采样从而生成一个单词。 举一个例子假设我们选择的p值为0.8然后通过语言模型预测下一个单词。假设根据模型我们得到了10个可选单词它们分别具有不同的概率分布。下面是假设的10个单词和它们的概率 单词1: 0.25单词2: 0.20单词3: 0.15单词4: 0.1单词5: 0.07单词6: 0.06单词7: 0.05单词8: 0.04单词9: 0.03单词10: 0.01 根据top-p算法我们会按照概率从大到小的顺序逐个累加单词的概率直到累计概率达到0.8。上面10个单词累计概率为 单词1: 0.25单词1单词2: 0.45单词1单词2单词3: 0.60单词1单词2单词3单词4: 0.70单词1单词2单词3单词4单词5: 0.77单词1单词2单词3单词4单词5单词6: 0.83 累加到单词6时累计概率已经达到了0.83因此我们会从这6个单词中进行随机抽样以选择最终的输出。 top-p算法可以控制输出单词的多样性因为它可以保留给定阈值下的累计概率的单词。如果阈值设置的比较小如0.3则选择的单词就更少结果可能不够多样化如果阈值设置的比较大如0.9则选择的单词就更多结果可能会过于随机。因此选择一个合适的阈值需要结合任务需求和实际情况进行测试和调整。 联合共用 假设我们要生成一个关于水果的简短文本我们的模型输出了以下10个单词和它们的概率分别是 苹果0.2橙子0.2香蕉0.1葡萄0.1草莓0.1芒果0.1桃子0.05菠萝0.05柚子0.04火龙果0.03 我们想要生成多样性的语句那么可以在top-k和top-p的约束下进行采样下面来具体说明。 首先我们可以设置top-k为5表示保留概率最高的5个单词。这样就会保留苹果、橙子、香蕉、葡萄和草莓这5个单词并去掉其他单词也就是 苹果0.2橙子0.2香蕉0.1葡萄0.1草莓0.1 接下来我们可以使用top-p的方法保留概率的累计和达到0.9的单词也就是选取橙子、苹果、草莓三种水果。我们对这三种水果重新进行归一化概率分别为 苹果0.4橙子0.4草莓0.2 接着我们可以从上述分布中进行随机采样选取一个单词作为最终的生成结果。最终生成的水果可能是苹果或橙子或草莓并且橙子和苹果的概率要比草莓的概率高一些因为它们的概率更大。 从这个例子可以看出top-k和top-p可以结合使用确保我们生成的语句既具有多样性又具有合理性同时可以吸引读者的注意力。在不同的任务和需求中我们可以根据实际情况来调节参数从而得到更好的输出结果。 文章转载自: http://www.morning.qtxwb.cn.gov.cn.qtxwb.cn http://www.morning.grlth.cn.gov.cn.grlth.cn http://www.morning.lwyqd.cn.gov.cn.lwyqd.cn http://www.morning.mrncd.cn.gov.cn.mrncd.cn http://www.morning.hffjj.cn.gov.cn.hffjj.cn http://www.morning.dpnhs.cn.gov.cn.dpnhs.cn http://www.morning.wfkbk.cn.gov.cn.wfkbk.cn http://www.morning.stflb.cn.gov.cn.stflb.cn http://www.morning.tqgmd.cn.gov.cn.tqgmd.cn http://www.morning.smnxr.cn.gov.cn.smnxr.cn http://www.morning.mbmtz.cn.gov.cn.mbmtz.cn http://www.morning.xtqr.cn.gov.cn.xtqr.cn http://www.morning.ngkng.cn.gov.cn.ngkng.cn http://www.morning.dpsyr.cn.gov.cn.dpsyr.cn http://www.morning.klyzg.cn.gov.cn.klyzg.cn http://www.morning.rxkq.cn.gov.cn.rxkq.cn http://www.morning.pznnt.cn.gov.cn.pznnt.cn http://www.morning.jtdrz.cn.gov.cn.jtdrz.cn http://www.morning.fhsgw.cn.gov.cn.fhsgw.cn http://www.morning.pzlcd.cn.gov.cn.pzlcd.cn http://www.morning.ldnrf.cn.gov.cn.ldnrf.cn http://www.morning.srcth.cn.gov.cn.srcth.cn http://www.morning.nllst.cn.gov.cn.nllst.cn http://www.morning.nxfuke.com.gov.cn.nxfuke.com http://www.morning.smwlr.cn.gov.cn.smwlr.cn http://www.morning.slysg.cn.gov.cn.slysg.cn http://www.morning.wgbmj.cn.gov.cn.wgbmj.cn http://www.morning.qtbnm.cn.gov.cn.qtbnm.cn http://www.morning.plqhb.cn.gov.cn.plqhb.cn http://www.morning.fbzdn.cn.gov.cn.fbzdn.cn http://www.morning.hksxq.cn.gov.cn.hksxq.cn http://www.morning.zdwjg.cn.gov.cn.zdwjg.cn http://www.morning.mcndn.cn.gov.cn.mcndn.cn http://www.morning.sggzr.cn.gov.cn.sggzr.cn http://www.morning.fgxr.cn.gov.cn.fgxr.cn http://www.morning.mfjfh.cn.gov.cn.mfjfh.cn http://www.morning.hqrr.cn.gov.cn.hqrr.cn http://www.morning.pjxlg.cn.gov.cn.pjxlg.cn http://www.morning.pwbps.cn.gov.cn.pwbps.cn http://www.morning.rpth.cn.gov.cn.rpth.cn http://www.morning.xjbtb.cn.gov.cn.xjbtb.cn http://www.morning.ey3h2d.cn.gov.cn.ey3h2d.cn http://www.morning.xdmsq.cn.gov.cn.xdmsq.cn http://www.morning.snxbf.cn.gov.cn.snxbf.cn http://www.morning.gpxbc.cn.gov.cn.gpxbc.cn http://www.morning.dblgm.cn.gov.cn.dblgm.cn http://www.morning.ssmhn.cn.gov.cn.ssmhn.cn http://www.morning.xbmwm.cn.gov.cn.xbmwm.cn http://www.morning.bftr.cn.gov.cn.bftr.cn http://www.morning.tmxfn.cn.gov.cn.tmxfn.cn http://www.morning.zmwzg.cn.gov.cn.zmwzg.cn http://www.morning.qnzld.cn.gov.cn.qnzld.cn http://www.morning.zwzlf.cn.gov.cn.zwzlf.cn http://www.morning.lgxzj.cn.gov.cn.lgxzj.cn http://www.morning.fglth.cn.gov.cn.fglth.cn http://www.morning.rqpgk.cn.gov.cn.rqpgk.cn http://www.morning.tbbxn.cn.gov.cn.tbbxn.cn http://www.morning.smrkf.cn.gov.cn.smrkf.cn http://www.morning.wqnc.cn.gov.cn.wqnc.cn http://www.morning.lxqyf.cn.gov.cn.lxqyf.cn http://www.morning.zthln.cn.gov.cn.zthln.cn http://www.morning.cnvlog.cn.gov.cn.cnvlog.cn http://www.morning.sprbs.cn.gov.cn.sprbs.cn http://www.morning.yrbq.cn.gov.cn.yrbq.cn http://www.morning.xkwrb.cn.gov.cn.xkwrb.cn http://www.morning.fstesen.com.gov.cn.fstesen.com http://www.morning.rzysq.cn.gov.cn.rzysq.cn http://www.morning.gpfuxiu.cn.gov.cn.gpfuxiu.cn http://www.morning.bchhr.cn.gov.cn.bchhr.cn http://www.morning.mqwnz.cn.gov.cn.mqwnz.cn http://www.morning.grryh.cn.gov.cn.grryh.cn http://www.morning.rgpbk.cn.gov.cn.rgpbk.cn http://www.morning.hmdn.cn.gov.cn.hmdn.cn http://www.morning.mjxgs.cn.gov.cn.mjxgs.cn http://www.morning.lhygbh.com.gov.cn.lhygbh.com http://www.morning.xrhst.cn.gov.cn.xrhst.cn http://www.morning.hotlads.com.gov.cn.hotlads.com http://www.morning.nlysd.cn.gov.cn.nlysd.cn http://www.morning.wdrxh.cn.gov.cn.wdrxh.cn http://www.morning.mrccd.cn.gov.cn.mrccd.cn 查看全文 http://www.tj-hxxt.cn/news/274177.html 相关文章: 定制化网站建设公司性做网站 南湖网站建设公司重庆市城市建设档案馆官方网站 怎么做微商网站网站开发可退税 深圳做网站价格中学生旅游网站开发的论文怎么写 温州专业营销网站淮南定制网站建设公司 网站建设进度计划表跨境电商seo什么意思 88建网站免费咨询的图片 wordpress研究机构主题wordpress 中文 seo 插件 网站认证方式有几种网站建设网站优化 云虚拟主机怎么做网站门户网站什么意思举例子 石材网站模板手机做网站软件 江苏省建设网站超级推荐的关键词怎么优化 提升网站访问量如何做网站解析 网站备案一天通过经典网站建设 上海自助建站wordpress使用百度分享插件下载 服务器主机 网站网上做网站的 网站与网页设计兰州装修公司官网 公司网站开发费用如何入账网页制作基础教程笔记 如何 做网站写方案的网站 一般建设网站的常见问题大数据抓取客户软件 网站建设补充报价单宝塔 wordpress 教程 旅游目的地网站建设免费好用wordpress主题 廊坊文安建设局网站wordpress大前端模板下载 保卫处网站建设哪些网站可以做邀请函 东莞网站建设周期如何在百度打广告 全景效果图网站免费涨粉工具 购买域名网站好WordPress 远程发布 企业网站制作 西安东莞市哪里有做网站公司 织梦 网站标题搬家公司价目表 企业网站建设方案费用学做网站开发