当前位置: 首页 > news >正文 打开网站显示建设中网站怎样建设友情链接 news 2025/11/2 4:54:39 打开网站显示建设中,网站怎样建设友情链接,网站首页怎么制作过程,潍坊网站制作企业LLM近期研究是井喷式产出#xff0c;如此多的文章该处何处下手#xff0c;他们到底又在介绍些什么、解决什么问题呢#xff1f;“为学日增#xff0c;为道日损”#xff0c;我们该如何从如此多的论文中找到可以“损之又损以至于无”的更本质道或者说是这个方向的核心模型。…LLM近期研究是井喷式产出如此多的文章该处何处下手他们到底又在介绍些什么、解决什么问题呢“为学日增为道日损”我们该如何从如此多的论文中找到可以“损之又损以至于无”的更本质道或者说是这个方向的核心模型。只有有了这样的更核心根本的模型我们才能更容易的把控LLM的发展方向不至于“乱花渐欲迷人眼”把自己丢失在论文的海洋。 LLM建模 LLM是对什么的建模 从点击率预估说起 熟悉广告营销的朋友应会很熟悉 ctrcvrcpm 这个公式其实互联网的一大半的员工也是围绕这个公司生存。所谓的黑客增长、用户生命周期、活动运营、内容运营…基本都绕不开这个公式。那么这个公式到底是怎么来的呢为何有如此魔力可以养活成千上万的员工呢。其实这个公式就是对营销的3阶段的一个建模**促达用户**通过什么手段可以把东西促达用户促达用户后您能吸引到多少用户看你表演**用户转化**吸引到的用户经过你的一些列表演有多少用户为之买单**成本收益**为了这次在用户面前露脸表演的机会你付出多少成本你能得到多少收入收益比是否正向对营销业务过程建模完后接下来要做的事就是如何完善和提高每个模块的性能让商业活动可以正向循环。也就是说互联网的员工基本都在围绕这个大的业务建模在每个模块下构建更牛逼高效系统来去的竞争也优势。举例来讲促达用户转化率提升1.找到人数更多的流量路口提高覆盖的人口基数——内容吸引搞流量增长、权益激励吸引流量、活动营销吸引流量、服务入口吸引流量…2.找到更符合自己业务的流量入口提高匹配率——用户画像、look like、社区发现、点击率预估系统…3.发现流量中人群特点迎合流量制造服务发现制造机会——人群洞察、舆情洞察、新物种造货、事件营销、意图理解…用户转化率提升1.提高服务和用户需求点匹配度——点击率预估、购买用户意图分析、购买用户相似人群发现、服务个性化呈现、粉丝经济…2.提高有需求用户复购的机会——复购时机发现、关联推荐、沉默用户激活、会员运营、大促活动、618、1111…3.制造需求消费机会——私域运营、种草、粉丝营销、短视频营销、场景化营销、演绎营销、新物种、根据用户需求造货…成本收益1.田忌赛马点击率广告竞价——DSP、DMP提高预测准确率获得更多下沉高价值竞争2.高价值机会发现——品牌广告汽车、耐用品、莆田系、牙科…3.提高产品价值个性化服务——软文广告、和高热up合作定向营销、出教程普及逐步把自己产品变标准(微软各种产品、各种云厂商解决方案… LLM建模了什么 上面对广告点击率预估这个已经很成熟的产业做了介绍介绍了这个产业事如果对营销业务进行建模抽象成三个模块。然后整个产业是如何围绕折三个建模的模块在精进、精耕细作产生出一个可以养活几千万人的产业。对于现在大火的LLM模型如果要从火逐步转变成可以产业化成为一个可以容纳几千万人就业的产业构建一个业务建模似乎也是必须的。然而现在的LLM还处在技术发展阶段虽然已经有很多的应用但是很多使用者只是围绕LLM浅显的技术能力在开展。个人觉得这个阶段的LLM业务建模似乎是困难和非必要的反倒是对LLM的技术建模能够更深刻的认识LLM是一个什么技术、在解决什么问题、后续可以如何改进是更有意义的。LLM个人觉得其实就是对信息在做整理、总结、表达它不只是具备信息整理、总结、表达的处理能力、同时具备把它见过的信息整理组织成他可以使用的数据来源也就是说他拥有知识和知识加工的能力。当然现在的LLM还是初级阶段处理知识、知识表示、知识表达能力还是不太完美的。我们尝试对上面的描述做一个更结构化的表述1.LLM具备知识表示能力2.LLM具备知识抽取、存储组织能力**这三个能力其实在LLM里面并非是可以剥离开来的而是全部的混在LLM参数里面也就是说LLM具备知识存储、知识整理、知识检索、联想、组织、表达的能力并且是一体的全部存在它巨大的参数里面。看起来这个业务建模是不是挺复杂的比广告营销的模型复杂好多。并且感觉这个东西还没法想广告营销模型那样可以分成比较明显的阶段模块全部都混在一起。 pretrain、sft、rlhf在讲什么 接触过LLM的同学应该对pretrain、sft、rlhf这几个词不陌生那么为什么LLM的训练一定要经过这三个阶段市面上能看到的解释都是从word2vec–elmo–in content这条路线来解释。但是感觉解释完好像还是没有特别让人置信。针对这个问题我思考了很久个人觉得其实用高中学过的齐次方程求解的方法来解释是比较合适的。齐次方程的求解包括了3种齐次方程组通解、特解、约束解其实pretrain过程对应的就是齐次方程的通解、sft过程对应的就是齐次方程的特解、RLHF过程对应的就是齐次方程的约束解。那么如何去构建这个齐次方程呢里面的未知数x、y、z…或者说求解空间的表示基是谁呢又是用什么来构建出求解的等式的呢这个齐次方程式对应的物理意义又是什么呢1.知识表示能力每个知识点的表示对应的就是齐次方程的基也就是是说这个方程的定义域集合中的每个元素可以认为是每个知识表示。当然这个知识点的表示是隐式的并非我们显示给进去的定义好的所以实际做模型训练时候并没有输入这么一个知识表示embbeding和token.json输入的不是显示独营这部分。2.如何去构建求解等式输入训练的语料就是为了构建求解等式方程所以也就是为什么语料构建需要多样化、语料不能够过多重复。过多重复的语料相当于很多求解方程是重复的求解过程中会把很多知识表示维度变小导致模型过拟合。语料构建多样性其实就是为了构建更多差异化的求解方程让齐次方程求解能够得到唯一解。3.对应的物理意义pretrain过程包含了对知识表示基维度的确认、知识抽取和存储组织能力的训练也具备一定的知识检索、联想、组织能力训练。sft过程更多是对LLM表达能力的训练通过给定有监督的答案组来调教LLM具备检索、联想、组织能力。RLHF过程其实就是让知识表述遵循人类约束安全、道德、风格…。 为什么要RAGLLM 已经有了可以对知识表示、抽取、存储组织、知识检索、联想、组织表达的LLM那为什么还需要RAG链路呢RAG本质上又是在做什么事呢有了LLM之所以还需要RAG原因很简单LLM解决不了RAG能解决的问题。那么RAG到底帮助LLM解决了什么问题又是如何解决、为何能够解决的呢RAG其实就是对LLM的检索、联想能力的外扩之所以把这些部分外扩原因就在于如果完全依赖LLM的能力来解决解决成本会很高并且不容易控制。所以我们可以花更小的代价把有一些环节外扩出来把信息检索、组织好想当于有一个底稿然后在让LLM做组织表达以更可控和高效的解决实际问题。换句话讲RAG的目的就是让LLM更容易控制、更高效精准生成通过外扩来控制单一建模的LLM让生成更可控。对于一些知识有可能是私域或者是时事类的信息LLM没有组织表示如果不给输入很可能就没法给出准确答案。还有可能是LLM知识点太多通过RAG检索到的线索来约束LLM生成边界。又或者可以通过RAG更精准可控的检索到控制条件来约束LLM生成或者是约束LLM生成结果的匹配度以约束下一轮持续生成。 通过retrieve回来的信息来控制LLM生成的效果。 如何做RAGLLM RAGLLM看起来似乎是比较工程化的事情这里面还有什么可以讲究的吗确实可以把RAG做的很工程化但是RAGLLM能够发挥出很好的作用更多在于个模块的相互配合所以个人是不太建议单纯把这件事当成是一件工程化的事否则你很快会发现这东西感觉加个RAG并不能够起到多大作用。个人觉得RAG应该是一个控制模块如何和LLM配合好才是重点。上图总结了最近的一些论文在做的工作主要是围绕三个方面1.RAG检索回什么是chunk、token、信息的二阶标签还是内容的语义表示这个其实代表的定义域空间的约束2.检索如何控制LLM生成是作为上下文、还是作为控制权柄对生成信息做过滤、还是把检索回来信息作为控制参数嵌入LLM控制生成3.检索的触发时间是什么时候LLM每生成一个词就检索一次、还是生成一段话再检索约束一次、还是检索一次一直约束到生成结尾 检索如何控制LLM生成 把检索回的信息作为上下文通过prompt方式控制LLM生成 检索回的信息作为控制参数嵌入LLM控制生成 检索回的信息对LLM生成后的内容做控制约束 什么时候利用检索 有做过Motion plan的同学应该会很清楚学院派的motion plan是分层前后端两部分每个部分又是为了生成轨迹的质量做了很多的约束才能保证生成的轨迹符合实际需要。一样的如果把内容生成看成是知识点轨迹生成过程那么什么时候对轨迹生成施加控制这件事就会变的很重要。是在轨迹规划前输入约束对应motion plan静态障碍物地图还是可以在轨迹生成过程中走了一段计算一次约束对应motion plan没有地图需要实时建图还是需要每生成一个轨迹生成下一个轨迹点时候就需要加入约束对应环境、机器人不确定性大的场景。这部分必须要有具体的例子才好说明所以这部分会放在下一篇文章介绍。会尝试从最近提出的RAG论文角度来通过例子方式呈现约束时机的差异。 小结 本文通过广告营销点击率预估的建模为例子介绍了如何对实际业务问题建模提出了LLM是在对什么建模的假设。1.LLM具备知识表示能力2.LLM具备知识抽取、存储组织能力**这三个能力其实在LLM里面并非是可以剥离开来的而是全部的混在LLM参数里面也就是说LLM具备知识存储、知识整理、知识检索、联想、组织、表达的能力并且是一体的全部存在它巨大的参数里面。介绍完LLM是对什么过程建模然后介绍了现在流行的pretrain、sft、rlhf实际上是在做什么的更数学概念化介绍。齐次方程的求解包括了3种齐次方程组通解、特解、约束解其实pretrain过程对应的就是齐次方程的通解、sft过程对应的就是齐次方程的特解、RLHF过程对应的就是齐次方程的约束解。介绍完LLM的训练流程又介绍了RAG提出了RAG其实就是在对LLM可控性生成。介绍了RAG对可控性的几个影响点1.RAG检索回什么是chunk、token、信息的二阶标签还是内容的语义表示这个其实代表的定义域空间的约束2.检索如何控制LLM生成是作为上下文、还是作为控制权柄对生成信息做过滤、还是把检索回来信息作为控制参数嵌入LLM控制生成3.检索的触发时间是什么时候LLM每生成一个词就检索一次、还是生成一段话再检索约束一次、还是检索一次一直约束到生成结尾 文章转载自: http://www.morning.bwrbm.cn.gov.cn.bwrbm.cn http://www.morning.dkbsq.cn.gov.cn.dkbsq.cn http://www.morning.srbfz.cn.gov.cn.srbfz.cn http://www.morning.lpcct.cn.gov.cn.lpcct.cn http://www.morning.jkmjm.cn.gov.cn.jkmjm.cn http://www.morning.qhrlb.cn.gov.cn.qhrlb.cn http://www.morning.jbztm.cn.gov.cn.jbztm.cn http://www.morning.lpmlx.cn.gov.cn.lpmlx.cn http://www.morning.xwgbr.cn.gov.cn.xwgbr.cn http://www.morning.btpll.cn.gov.cn.btpll.cn http://www.morning.kbkcl.cn.gov.cn.kbkcl.cn http://www.morning.jwtwf.cn.gov.cn.jwtwf.cn http://www.morning.nmwgd.cn.gov.cn.nmwgd.cn http://www.morning.smhtg.cn.gov.cn.smhtg.cn http://www.morning.spkw.cn.gov.cn.spkw.cn http://www.morning.wtcbl.cn.gov.cn.wtcbl.cn http://www.morning.mehrim.com.gov.cn.mehrim.com http://www.morning.kjksn.cn.gov.cn.kjksn.cn http://www.morning.pmjw.cn.gov.cn.pmjw.cn http://www.morning.jbtlf.cn.gov.cn.jbtlf.cn http://www.morning.kfjnx.cn.gov.cn.kfjnx.cn http://www.morning.hlxxl.cn.gov.cn.hlxxl.cn http://www.morning.jjxnp.cn.gov.cn.jjxnp.cn http://www.morning.rymd.cn.gov.cn.rymd.cn http://www.morning.ywtbk.cn.gov.cn.ywtbk.cn http://www.morning.pghry.cn.gov.cn.pghry.cn http://www.morning.gsrh.cn.gov.cn.gsrh.cn http://www.morning.tthmg.cn.gov.cn.tthmg.cn http://www.morning.mqghs.cn.gov.cn.mqghs.cn http://www.morning.jfbrt.cn.gov.cn.jfbrt.cn http://www.morning.lwzpp.cn.gov.cn.lwzpp.cn http://www.morning.ndmh.cn.gov.cn.ndmh.cn http://www.morning.zxzgr.cn.gov.cn.zxzgr.cn http://www.morning.fbbpj.cn.gov.cn.fbbpj.cn http://www.morning.yymlk.cn.gov.cn.yymlk.cn http://www.morning.llcgz.cn.gov.cn.llcgz.cn http://www.morning.wsrcy.cn.gov.cn.wsrcy.cn http://www.morning.qnbsx.cn.gov.cn.qnbsx.cn http://www.morning.fxzw.cn.gov.cn.fxzw.cn http://www.morning.yhpl.cn.gov.cn.yhpl.cn http://www.morning.jwcmq.cn.gov.cn.jwcmq.cn http://www.morning.grlth.cn.gov.cn.grlth.cn http://www.morning.gsqw.cn.gov.cn.gsqw.cn http://www.morning.bxyzr.cn.gov.cn.bxyzr.cn http://www.morning.slnz.cn.gov.cn.slnz.cn http://www.morning.xqgfy.cn.gov.cn.xqgfy.cn http://www.morning.llcgz.cn.gov.cn.llcgz.cn http://www.morning.lgxzj.cn.gov.cn.lgxzj.cn http://www.morning.ampingdu.com.gov.cn.ampingdu.com http://www.morning.tmfhx.cn.gov.cn.tmfhx.cn http://www.morning.rycbz.cn.gov.cn.rycbz.cn http://www.morning.ykswq.cn.gov.cn.ykswq.cn http://www.morning.rlqwz.cn.gov.cn.rlqwz.cn http://www.morning.xtdms.com.gov.cn.xtdms.com http://www.morning.zpyh.cn.gov.cn.zpyh.cn http://www.morning.mqmmc.cn.gov.cn.mqmmc.cn http://www.morning.gydth.cn.gov.cn.gydth.cn http://www.morning.qtyfb.cn.gov.cn.qtyfb.cn http://www.morning.xkyqq.cn.gov.cn.xkyqq.cn http://www.morning.rcjqgy.com.gov.cn.rcjqgy.com http://www.morning.hfyll.cn.gov.cn.hfyll.cn http://www.morning.ytrbq.cn.gov.cn.ytrbq.cn http://www.morning.ygrdb.cn.gov.cn.ygrdb.cn http://www.morning.srltq.cn.gov.cn.srltq.cn http://www.morning.gpsr.cn.gov.cn.gpsr.cn http://www.morning.fmrrr.cn.gov.cn.fmrrr.cn http://www.morning.jtqxs.cn.gov.cn.jtqxs.cn http://www.morning.mjzcp.cn.gov.cn.mjzcp.cn http://www.morning.djlxz.cn.gov.cn.djlxz.cn http://www.morning.hqbk.cn.gov.cn.hqbk.cn http://www.morning.hxfrd.cn.gov.cn.hxfrd.cn http://www.morning.fmznd.cn.gov.cn.fmznd.cn http://www.morning.bmpjp.cn.gov.cn.bmpjp.cn http://www.morning.kxryg.cn.gov.cn.kxryg.cn http://www.morning.tntbs.cn.gov.cn.tntbs.cn http://www.morning.pzqnj.cn.gov.cn.pzqnj.cn http://www.morning.gbsfs.com.gov.cn.gbsfs.com http://www.morning.lhztj.cn.gov.cn.lhztj.cn http://www.morning.xkyfq.cn.gov.cn.xkyfq.cn http://www.morning.qxnlc.cn.gov.cn.qxnlc.cn 查看全文 http://www.tj-hxxt.cn/news/269973.html 相关文章: 建设一个网站的工作方案做网站注册什么性质的公司 北京轨道交通建设公司网站wordpress嵌入网页 电商网站开发视频教程全国人防工程建设管理培训班举行 上海制作企业网站为什么要加强网站安全建设 服装网站建设价格网站上的动态图怎么做 网站备案中平面设计学习 网站企业快速备案图片网站制作 国内外网站怎么做链接 网站建设判断题网站备案单位 建立自己的网站怎么样做教做美食网站源码 模板做图 网站有哪些重庆关键词优化 在合肥做网站多少钱设计公司网站首页显示 让别人访问自己做的网站建设公司和建筑公司哪个好 做摄影的网站知乎1688货源网一件代发下载 佛山网站制作外包电子签名在线制作 青岛市北建设集团网站网站怎么设置二级域名 jsp网站开发教学视频教程提高网站互动性 武强营销型网站建设费用拍卖网站模板 北京开发网站公司需要多少钱呢? 填写网站信息wordpress模板图片不显示 网站建设与管理的现状开网店需要什么流程 网站建设合同用贴印花税吗制作灯笼的手工做法步骤 网站描述和关键词怎么写简述建设网站的基本流程 网站关键词放哪大连天健网大连 如何做网站编辑 沒技术推广引流要怎么做比较好 精品网站建设费用 找磐石网络一流企业网站制作价格 虚拟货币交易网站建设对网站建设心得 哪里有营销型网站网页设计制作实训报告模板 潍坊专业网站建设价格青海做高端网站建设的公司 免费空间asp网站保定网站seo哪家公司好