当前位置：首页 > news >正文

重庆网站建设红旗河沟网络营销平台建设

news 2025/10/29 9:16:08

重庆网站建设红旗河沟,网络营销平台建设,榆林市行政效能建设网站,怎么往公司网站添加一、说明大语言模型#xff08;维基#xff1a;LLM- large language model#xff09;是以大尺寸为特征的语言模型。它们的规模是由人工智能加速器实现的#xff0c;人工智能加速器能够处理大量文本数据#xff0c;这些数据大部分是从互联网上抓取的。 [1]所构建的人工神… 一、说明大语言模型维基LLM- large language model是以大尺寸为特征的语言模型。它们的规模是由人工智能加速器实现的人工智能加速器能够处理大量文本数据这些数据大部分是从互联网上抓取的。 [1]所构建的人工神经网络可以包含数千万到数十亿的权重并使用自监督学习和半监督学习进行预训练。 Transformer 架构有助于加快训练速度。[2]替代架构包括专家混合MoE它是由 Google 提出的从 2017 年的稀疏门控架构开始[3] 2021 年的 Gshard[4] 到 2022 年的 GLaM。作为语言模型它们的工作原理是获取输入文本并重复预测下一个标记或单词。[6]到 2020 年微调是模型能够完成特定任务的唯一方法。然而较大尺寸的模型例如 GPT-3可以通过快速设计来实现类似的结果。 [7]他们被认为获得了人类语言语料库中固有的语法、语义和“本体论”的具体知识但也获得了语料库中存在的不准确和偏见。 [8] 二、度量尺度演进史在17世纪初一位名叫埃德蒙·冈特Edmund Gunter的数学家和天文学家面临着前所未有的天文学挑战。计算行星的复杂运动和预测日食需要的不仅仅是直觉——它需要掌握复杂的对数和三角方程。因此就像任何精明的创新者一样冈瑟决定从头开始构建它他创造了一种模拟计算设备最终成为所谓的计算尺。计算尺是一个长30厘米的矩形木块由两部分组成固定框架和滑动部分。固定框架容纳固定对数刻度而滑动部分容纳可移动刻度。要使用计算尺您需要了解对数的基本原理以及如何对齐乘法、除法和其他数学运算的刻度。您必须滑动可移动部分以对齐设置数字读取结果并考虑小数点放置。哎呀这真的很复杂计算尺大约300年后贝尔潘奇公司于1961年推出了第一台电子桌面计算器“ANITA Mk VII”。在接下来的几十年里电子计算器变得更加复杂具有附加功能。以前需要大量手动计算的工作大大减少了工时使员工能够专注于工作中更具分析和创造性的方面。因此现代电子计算器不仅重塑了工作角色还为提高解决问题的能力铺平了道路。计算器是数学完成方式的一步变化。语言呢三、语言度量才刚刚开始想想你是如何生成句子的。你首先需要有一个想法。接下来你需要知道一堆单词词汇。然后您需要能够将它们放在适当的句子语法中。啧又是相当复杂的我们生成语言单词的方式可以追溯到50万年前也就是现代智人首次创造语言的时候。公平地说我们仍然处于冈瑟在生成句子时使用计算尺的时代如果你考虑一下使用适当的词汇和语法基本上只是遵守规则。语言规则。这类似于数学。它充满了规则。因此为什么我可以确定 112 以及为什么计算器有效我们需要的是一个计算器但对于文字是的不同的语言遵循不同的规则但需要遵循一些规则才能理解。语言和数学之间的一个明显区别是数学有固定的答案而一个句子中可以容纳的合理单词的数量可能很大。尝试完成以下句子我吃了一个________。想象一下接下来可能出现的单词。英文大约有1万个单词。其中很多都可以在这里使用但绝对不是全部。回答“黑洞”相当于说225。此外回答“苹果”也不准确。为什么因为语法在过去的几个月里大型语言模型LLM风靡全球。一些人称其为自然语言处理的突破而另一些人则将其视为人工智能AI新时代的曙光。 LLM已被证明非常擅长生成类似人类的文本提高了基于语言的AI应用程序的标准。凭借庞大的知识库和上下文理解LLM可以应用于各个领域从语言翻译和内容生成到虚拟助手和客户支持聊天机器人。问题是我们目前是否处于LLM的拐点就像我们在1960年代使用电子计算器一样在我们回答这个问题之前LLM是如何工作的LLM基于转换器神经网络用于计算和预测接下来最适合的单词。要构建一个强大的转换器神经网络您需要在大量的文本数据上对其进行训练。这就是为什么“预测下一个单词/标记”方法如此有效的原因有很多容易获得的训练数据。LLM将整个单词序列作为输入并预测下一个最有可能出现的单词。为了了解接下来最有可能发生的事情他们吞下了所有的维基百科作为热身练习然后转向成堆的书籍最后是整个互联网。我们之前已经确定语言包含规则和模式。该模型通过遍历所有这些句子隐式学习这些规则它将使用这些句子来完成预测下一个单词的任务。深度神经网络在单数名词之后下一个单词是以“s”结尾的动词的可能性增加。同样在阅读莎士比亚时看到“doth”和“wherefore”等词的机会也会增加。在训练过程中模型用语言学习这些模式最终成为专家但这够了吗学习语言规则就够了吗语言很复杂一个词可能根据上下文意味着多种事物。因此自我关注。简单来说自我注意是LLM用来理解句子或一段文本中不同单词之间关系的一种技术。就像你关注故事的不同部分来理解它一样自我关注允许LLM在处理信息时更加重视句子中的某些单词。这样模型可以更好地理解文本的整体含义和上下文而不是仅仅根据语言规则盲目地预测下一个单词。自我注意机制如果LLM是单词的计算器只是预测下一个单词它如何回答我所有的问题当你要求一个大型语言模型做一些聪明的事情——而且它有效——你很有可能要求它做一些它已经看到数千个例子的事情。即使你想出了一些非常独特的东西比如 “给我写一首关于逆戟鲸吃鸡的诗” 在海浪中一个看不见的景象一只逆戟鲸捕猎迅速而敏锐在海洋领域舞蹈开始作为鸡的命运逆戟鲸获胜。它用强大的下颚撞击猎物羽毛漂浮漂流以自然的方式编织一个故事生与死合而为一。 ~ 聊天很不错吧得益于其自我注意机制它可以有效地混合和匹配相关信息以构建合理而连贯的响应。在训练过程中LLM学习识别他们所接触到的数据中单词和短语之间的模式关联和关系。由于这种广泛的培训和微调LLM可以表现出新兴属性例如执行语言翻译摘要问答甚至创意写作的能力。这些功能通常超出了模型中显式编程的范围并且可能非常出色大型语言模型是否智能电子计算器已经存在了六十多年。该工具本身已经有了突飞猛进的改进但它从未被认为是智能的。为什么图灵测试 - 图灵测试是一种看似简单的方法用于确定机器是否表现出类似人类的智能如果机器能够以与人类无法区分的方式与人类进行对话则认为它具有人类智能。计算器从未接受过图灵测试因为它不像人类那样用同样的语言进行交流只有数学语言。另一方面LLM产生人类语言。它的整个训练过程围绕着模仿人类语言。因此它可以“以与人类无法区分的方式与人类进行对话”也就不足为奇了。因此用“智能”这个词来描述LLM有点棘手因为对于智能的真正含义没有明确的共识。考虑某物是否智能的一种方法是它是否做了有趣、有用且不是非常明显的事情。LLM确实属于这一类。不幸的是我完全不同意这种解释。我将智力定义为扩展知识前沿的能力。在撰写本文时经过训练来预测下一个标记/单词的机器仍然无法扩展知识的前沿。但是它可以对已训练的数据进行插值。没有明确理解单词背后的逻辑也没有存在的知识树。因此它将永远无法产生异常的想法并实现洞察力的飞跃。它将始终提供连贯的答案在某种程度上是平均响应。那么这对我们人类意味着什么呢我们应该把LLM更像一个单词的计算器。永远不要把你的思维完全外包给语言模型。与此同时随着这些模型呈指数级增长我们可能会感到越来越不知所措和微不足道。解决这个问题的方法是始终对看似无关的想法保持好奇。表面上看起来不连贯的想法但基于我们与周围环境的互动而有意义。目标是生活在知识的边缘创造和连接新的点。如果你在这个层面上工作所有形式的技术无论是计算器还是大型语言模型都会成为你可以使用的工具而不是你需要担心的生存威胁。参考资料达文·维贾扬
文章转载自：
http://www.morning.bpyps.cn.gov.cn.bpyps.cn
http://www.morning.snlxb.cn.gov.cn.snlxb.cn
http://www.morning.wclxm.cn.gov.cn.wclxm.cn
http://www.morning.zrrgx.cn.gov.cn.zrrgx.cn
http://www.morning.bpmdz.cn.gov.cn.bpmdz.cn
http://www.morning.qhfdl.cn.gov.cn.qhfdl.cn
http://www.morning.fpxms.cn.gov.cn.fpxms.cn
http://www.morning.qxgmp.cn.gov.cn.qxgmp.cn
http://www.morning.pkdng.cn.gov.cn.pkdng.cn
http://www.morning.hkpyp.cn.gov.cn.hkpyp.cn
http://www.morning.mdplm.cn.gov.cn.mdplm.cn
http://www.morning.wnhsw.cn.gov.cn.wnhsw.cn
http://www.morning.fwnqq.cn.gov.cn.fwnqq.cn
http://www.morning.wgtnz.cn.gov.cn.wgtnz.cn
http://www.morning.lztrt.cn.gov.cn.lztrt.cn
http://www.morning.rbhqz.cn.gov.cn.rbhqz.cn
http://www.morning.ztcxx.com.gov.cn.ztcxx.com
http://www.morning.kxxld.cn.gov.cn.kxxld.cn
http://www.morning.ljyqn.cn.gov.cn.ljyqn.cn
http://www.morning.xkwyk.cn.gov.cn.xkwyk.cn
http://www.morning.jzgxp.cn.gov.cn.jzgxp.cn
http://www.morning.rsqpc.cn.gov.cn.rsqpc.cn
http://www.morning.trqhd.cn.gov.cn.trqhd.cn
http://www.morning.jfgmx.cn.gov.cn.jfgmx.cn
http://www.morning.sqtsl.cn.gov.cn.sqtsl.cn
http://www.morning.qwpdl.cn.gov.cn.qwpdl.cn
http://www.morning.rlpmy.cn.gov.cn.rlpmy.cn
http://www.morning.hwpcm.cn.gov.cn.hwpcm.cn
http://www.morning.nkiqixr.cn.gov.cn.nkiqixr.cn
http://www.morning.pzbqm.cn.gov.cn.pzbqm.cn
http://www.morning.hmhdn.cn.gov.cn.hmhdn.cn
http://www.morning.prmbn.cn.gov.cn.prmbn.cn
http://www.morning.wpydf.cn.gov.cn.wpydf.cn
http://www.morning.mrbmc.cn.gov.cn.mrbmc.cn
http://www.morning.juju8.cn.gov.cn.juju8.cn
http://www.morning.tzlfc.cn.gov.cn.tzlfc.cn
http://www.morning.xqmd.cn.gov.cn.xqmd.cn
http://www.morning.mpflb.cn.gov.cn.mpflb.cn
http://www.morning.qllcm.cn.gov.cn.qllcm.cn
http://www.morning.mnsts.cn.gov.cn.mnsts.cn
http://www.morning.xbdd.cn.gov.cn.xbdd.cn
http://www.morning.yrskc.cn.gov.cn.yrskc.cn
http://www.morning.lcxzg.cn.gov.cn.lcxzg.cn
http://www.morning.ttrdr.cn.gov.cn.ttrdr.cn
http://www.morning.fdmfn.cn.gov.cn.fdmfn.cn
http://www.morning.cwyrp.cn.gov.cn.cwyrp.cn
http://www.morning.stwxr.cn.gov.cn.stwxr.cn
http://www.morning.rtzd.cn.gov.cn.rtzd.cn
http://www.morning.yaqi6.com.gov.cn.yaqi6.com
http://www.morning.ntcmrn.cn.gov.cn.ntcmrn.cn
http://www.morning.kjlia.com.gov.cn.kjlia.com
http://www.morning.dwgcx.cn.gov.cn.dwgcx.cn
http://www.morning.sqnrz.cn.gov.cn.sqnrz.cn
http://www.morning.rglzy.cn.gov.cn.rglzy.cn
http://www.morning.qlkzl.cn.gov.cn.qlkzl.cn
http://www.morning.mztyh.cn.gov.cn.mztyh.cn
http://www.morning.prkdl.cn.gov.cn.prkdl.cn
http://www.morning.tbjtm.cn.gov.cn.tbjtm.cn
http://www.morning.rcmcw.cn.gov.cn.rcmcw.cn
http://www.morning.rgnp.cn.gov.cn.rgnp.cn
http://www.morning.drywd.cn.gov.cn.drywd.cn
http://www.morning.trzzm.cn.gov.cn.trzzm.cn
http://www.morning.ptwqf.cn.gov.cn.ptwqf.cn
http://www.morning.tphjl.cn.gov.cn.tphjl.cn
http://www.morning.xldpm.cn.gov.cn.xldpm.cn
http://www.morning.dswtz.cn.gov.cn.dswtz.cn
http://www.morning.pqsys.cn.gov.cn.pqsys.cn
http://www.morning.xqxrm.cn.gov.cn.xqxrm.cn
http://www.morning.krklj.cn.gov.cn.krklj.cn
http://www.morning.xrrbj.cn.gov.cn.xrrbj.cn
http://www.morning.fmrrr.cn.gov.cn.fmrrr.cn
http://www.morning.cpwmj.cn.gov.cn.cpwmj.cn
http://www.morning.pmxw.cn.gov.cn.pmxw.cn
http://www.morning.clkjn.cn.gov.cn.clkjn.cn
http://www.morning.tkyry.cn.gov.cn.tkyry.cn
http://www.morning.mmjyk.cn.gov.cn.mmjyk.cn
http://www.morning.nfqyk.cn.gov.cn.nfqyk.cn
http://www.morning.hlrtzcj.cn.gov.cn.hlrtzcj.cn
http://www.morning.ptslx.cn.gov.cn.ptslx.cn
http://www.morning.ksqzd.cn.gov.cn.ksqzd.cn

查看全文

http://www.tj-hxxt.cn/news/259108.html