当前位置：首页 > news >正文

北京撒网站设计谢岗镇仿做网站

news 2025/11/3 14:19:09

北京撒网站设计,谢岗镇仿做网站,如何给企业做网络推广,宁津网站开发夕小瑶科技说原创作者 | 谢年年、王二狗有了ChatGPT、GPT4之后#xff0c;我们的工作学习效率得到大大提升#xff08;特别在凑字数方面୧(๑•̀◡•́๑)૭#xff09;。作为一个工具#xff0c;有人觉得好用#xff0c;自然也有人觉得难用。要把大模型用得6我们的工作学习效率得到大大提升特别在凑字数方面୧(๑•̀◡•́๑)૭。作为一个工具有人觉得好用自然也有人觉得难用。要把大模型用得6必须得研究一下prompt使用技巧但有时候绞尽脑汁想的prompt却无法获得理想的输出结果。一个好的prompt的重要性不言而喻怪不得Prompt工程师这个新兴职业的年薪已经达到了二三十万美元。但对于大部分公司来说prompt工程师是请不起的怎么办呢这里有一个省钱小技巧让你从小白秒变大佬级Prompt工程师加州大学团队提出了可以自动优化Prompt的框架——PromptAgent结合大模型的自我反思特点与蒙特卡洛树搜索规划算法自动迭代检查Prompt发现不足并根据反馈对其进行改进寻找通往最优Prompt的路径可以将平平无奇的初始Prompt打造成媲美人类专家手工设计的Prompt。论文论文链接 https://arxiv.org/pdf/2310.16427.pdf 先看一下例子感受一下有多厉害。假设我们想要实现生物医学领域的命名实体识别任务从句子中提取疾病等实体。 prompt可能就设置为从句子中提取疾病或状况这样简单粗暴的prompt虽然也能完成部分简单任务但是效果并不好。 PromptAgent能够通过该prompt所获得的结果指出错误并不断优化prompt 您的任务是提取疾病或疾病情况...请避免包含任何相关元素如遗传模式如常染色体显性、基因或基因座如PAH、蛋白质或生物途径。...考虑具体的疾病和更广泛的类别并记住疾病和情况也可以以常见的缩写或变体形式出现。以以下格式提供识别出的疾病或情况{entity_1,entity_2,....}。...请注意“locus”一词应被识别为基因组位置而不是疾病名称。 ▲优化示例可以看到最终的这份Prompt涵盖了丰富的生物领域知识且准确率得到了极大提升。简直就是菜鸟秒变大佬让我们来看看具体是怎么做的吧方法 PromptAgent框架设计 PromptAgent在确保对广阔的prompt空间进行高效策略性的搜索的同时有效地将专家知识整合到任务prompt中。所谓专家知识通过大模型如GPT-4生成而其搜索策略使用的是著名的蒙特卡洛树搜索。整体框架如图3所示本文将任务prompt定义为状态,而对prompt的修改过程定义为执行动作。如图3b所示给定当前状态(也就是初始prompt)基本模型(gpt-3.5-turbo)从任务数据集获得初始输出初始输出往往不如人意需要进一步优化。使用优化器模型(gpt-4)提供错误反馈并给出改进建议。优化后的模型根据反馈更新prompt并过渡到下一个状态。如此循环往复最终导向专家级prompt。策略优化过程上述对prompt优化的过程可以无缝地将PromptAgent与主要的规划算法特别是蒙特卡洛树搜索MCTS相结合。从而产生最具普适性的专家级Prompt。蒙特卡洛树搜索MCTS通过逐步构建树状结构来实现策略搜索如图3a所示其中每个节点表示一个状态每条边表示状态转移的动作。MCTS执行选择、扩展、模拟和反向传播四步走来迭代搜索。迭代过程在达到预定义的迭代次数后结束选择最高回报的路径作为最终的Prompt。选择在每层选择最有前途的节点进行进一步的扩展和探索。在每次迭代中它从根节点开始遍历每树的每一层选择每层的后续子节点并在叶节点处停止。在选择每层的子节点时利用了上界置信树算法UCT帮助在选择最有希望的路径和探索新路径之间找到一个好的平衡。具体如下所示其中表示在状态执行动作时的有可能获得的回报,表示节点的动作集合表示节点的访问次数表示在应用动作到节点后得到的子节点是一个用于调整探索的常数。公式中第一项用于衡量路径的价值而第二项衡量被访问节点的不确定性。换句话说如果一个节点被探索得较少且其子节点也较少被访问过那么第二项的值会较高。扩展在前一步选择到达的叶节点下面添加新的子节点来扩展树结构。通过多次应用动作生成和状态转换图3b来完成的从而产生多个新的动作和状态。需要注意的是本文采样了多个训练批次得到多样化的错误反馈动作。在新的节点中选择最高回报的节点作为下一个模拟步骤的输入。模拟模拟扩展阶段所选节点的未来轨迹并计算如果选择该路径可能得到的回报。模拟策略的选择很灵活比如选择随机移动直到达到终止状态。为了减少模拟的计算成本并简化过程本文选择不断生成多个动作并选择其中回报最高的节点以快速进入下一个树级别。反向传播在模拟过程中遇到终止状态时将进行反向传播。终止状态由预设的最大深度或提前停止条件决定。此时通过更新Q值函数沿着从根节点到终止节点的路径反向传播计算未来的回报。对于次条路径中的每个状态-动作对聚合从状态开始的所有未来轨迹的回报来更新更新方式如下这里M表示从状态开始的未来轨迹的数量和分别表示从状态和动作开始的第个状态序列和动作序列。 PromptAgent使用预设的迭代次数执行上述四个操作当达到迭代次数后选择具有最高回报的最佳路径中的最佳节点即Prompt进行最终评估。实验实验设置为了全面评估PromptAgent对各种应用的影响作者从三个不同领域精选了12个任务进行深入实验 - 6个BIG-Bench Hard (BBH)任务强调领域知识如几何形状和因果判断和复杂推理能力如桌上的企鹅、物体计数、认识论推理和时间序列。 - 3个生物医学领域特定任务疾病命名实体识别NER、生物医学句子相似性任务Biosses和医学问答任务Med QA。 - 3个著名的自然语言理解任务包括两个文本分类任务TREC和Subj和一个自然语言推理任务CB。实验结果与分析整体效果表1显示PromptAgent在BBH任务上明显优于所有基线。相对人类PromptZS、CoT和APE方法分别提升了28.9%、9.5%和11.2%。对于需要广泛的领域知识和深厚的LLM Prompt工程经验的生物领域任务人类Prompt和CoTPrompt效果不佳。而APE通过自动Prompt抽样和优化融入了一些领域知识减少了人工干预效果有所提升。但是PromptAgent相对于APE平均提高了7.3%这表明PromptAgent可以更好地引导有效的领域知识产生专家级Prompt并弥合新手和专家Prompt工程师之间的知识差距。而对于通用的NLU任务PromptAgent的能力和通用性也完胜所有的基线。 Prompt泛化性作者还对经过PromptAgent优化后的Prompt能否推广到其他基础LLM模型上展开评估。由于较低级别和较小规模的LLM模型如GPT-2或LLaMA可能无法熟练掌握这些专家级Prompt的微妙之处会导致显著的性能下降。本次评估选取了一个性能更强大GPT-4和一个比GPT-3.5性能更弱的模型PaLM 2。结果显示PromptAgent具有巨大的潜力当使用更强大的GPT-4时优化后的专家Prompt几乎在所有任务11/12中都取得了进一步改进。将专家Prompt转移到PaLM 2时性能可能不如更强大的模型但仍然可以在某些任务如Penguins中获得提升。消融实验本文还对比了多种搜索策略的效果包括每次随机抽样并选择一个动作的单次蒙特卡洛MC搜索、始终选择多个样本中的最佳样本的贪婪深度优先搜索Greedy和在每个层级保留多个有用路径的束搜索Beam search。表格4显示贪婪搜索Greedy和束搜索Beam都极大地改进了MC基线表明结构化的迭代探索是必要的。 Beam和Greedy严格按照前进的方向操作没有在Prompt空间中进行策略性搜索缺乏预见未来结果和回溯过去决策的能力。相比之下MCTS的策略规划允许PromptAgent更有效地遍历复杂的专家Prompt空间在所有任务上明显优于所有搜索变体。搜索效率分析除了卓越的性能外PromptAgent的一个关键优势是通过策略规划能够高效地搜索。搜索效率是通过搜索过程中Prompt数量来衡量的即在搜索过程中生成的节点数。图4a中绘制了搜索效率与任务性能的关系可以看到PromptAgent的数据点聚集在左上角表明在更高的准确性下搜索的节点数也较少。结论本文介绍了PromptAgent一种新颖的Prompt优化框架结合LLMs的自我反思能力将任务的领域特定知识纳入到新生成的Prompt中并使用MCTS规划的能力高效遍历复杂的Prompt空间找到专家级PromptPromptAgent优化后Prompt也始终表现出专家级的特征丰富了领域特定的细节和指导。在未来势必会出现越来越强大的大语言模型能理解并支持的复杂指令越来越多仅依赖人工专家Prompt是远远不够的自动构建专家级Prompt将是一个非常有潜力的方向。
文章转载自：
http://www.morning.mwlxk.cn.gov.cn.mwlxk.cn
http://www.morning.ysfj.cn.gov.cn.ysfj.cn
http://www.morning.tgyzk.cn.gov.cn.tgyzk.cn
http://www.morning.grfhd.cn.gov.cn.grfhd.cn
http://www.morning.xshkh.cn.gov.cn.xshkh.cn
http://www.morning.xwlmr.cn.gov.cn.xwlmr.cn
http://www.morning.tfkqc.cn.gov.cn.tfkqc.cn
http://www.morning.pngdc.cn.gov.cn.pngdc.cn
http://www.morning.jfbrt.cn.gov.cn.jfbrt.cn
http://www.morning.ljxps.cn.gov.cn.ljxps.cn
http://www.morning.btjyp.cn.gov.cn.btjyp.cn
http://www.morning.fhqdb.cn.gov.cn.fhqdb.cn
http://www.morning.21r000.cn.gov.cn.21r000.cn
http://www.morning.ktfbl.cn.gov.cn.ktfbl.cn
http://www.morning.brmbm.cn.gov.cn.brmbm.cn
http://www.morning.hgtr.cn.gov.cn.hgtr.cn
http://www.morning.mtymb.cn.gov.cn.mtymb.cn
http://www.morning.jcxgr.cn.gov.cn.jcxgr.cn
http://www.morning.tqdqc.cn.gov.cn.tqdqc.cn
http://www.morning.cfnht.cn.gov.cn.cfnht.cn
http://www.morning.dzrcj.cn.gov.cn.dzrcj.cn
http://www.morning.lnbcx.cn.gov.cn.lnbcx.cn
http://www.morning.tgyzk.cn.gov.cn.tgyzk.cn
http://www.morning.fwcjy.cn.gov.cn.fwcjy.cn
http://www.morning.ktcrr.cn.gov.cn.ktcrr.cn
http://www.morning.jnrry.cn.gov.cn.jnrry.cn
http://www.morning.drggr.cn.gov.cn.drggr.cn
http://www.morning.rnnq.cn.gov.cn.rnnq.cn
http://www.morning.nlmm.cn.gov.cn.nlmm.cn
http://www.morning.cgbgc.cn.gov.cn.cgbgc.cn
http://www.morning.mfsxd.cn.gov.cn.mfsxd.cn
http://www.morning.fbdtd.cn.gov.cn.fbdtd.cn
http://www.morning.qbwbs.cn.gov.cn.qbwbs.cn
http://www.morning.jmmzt.cn.gov.cn.jmmzt.cn
http://www.morning.dhqyh.cn.gov.cn.dhqyh.cn
http://www.morning.jbblf.cn.gov.cn.jbblf.cn
http://www.morning.mbmtn.cn.gov.cn.mbmtn.cn
http://www.morning.hffpy.cn.gov.cn.hffpy.cn
http://www.morning.htbgz.cn.gov.cn.htbgz.cn
http://www.morning.lnbyk.cn.gov.cn.lnbyk.cn
http://www.morning.lpzyq.cn.gov.cn.lpzyq.cn
http://www.morning.htbbp.cn.gov.cn.htbbp.cn
http://www.morning.bpmnq.cn.gov.cn.bpmnq.cn
http://www.morning.zdxss.cn.gov.cn.zdxss.cn
http://www.morning.bmfqg.cn.gov.cn.bmfqg.cn
http://www.morning.tclqf.cn.gov.cn.tclqf.cn
http://www.morning.rljr.cn.gov.cn.rljr.cn
http://www.morning.lhwlp.cn.gov.cn.lhwlp.cn
http://www.morning.huihuangwh.cn.gov.cn.huihuangwh.cn
http://www.morning.cpkcq.cn.gov.cn.cpkcq.cn
http://www.morning.brwp.cn.gov.cn.brwp.cn
http://www.morning.pmdlk.cn.gov.cn.pmdlk.cn
http://www.morning.sphft.cn.gov.cn.sphft.cn
http://www.morning.tsdqr.cn.gov.cn.tsdqr.cn
http://www.morning.rxwfg.cn.gov.cn.rxwfg.cn
http://www.morning.fbjqq.cn.gov.cn.fbjqq.cn
http://www.morning.lgnrl.cn.gov.cn.lgnrl.cn
http://www.morning.bdsyu.cn.gov.cn.bdsyu.cn
http://www.morning.wkpfm.cn.gov.cn.wkpfm.cn
http://www.morning.mqldj.cn.gov.cn.mqldj.cn
http://www.morning.syglx.cn.gov.cn.syglx.cn
http://www.morning.zcwtl.cn.gov.cn.zcwtl.cn
http://www.morning.xxknq.cn.gov.cn.xxknq.cn
http://www.morning.gwgjl.cn.gov.cn.gwgjl.cn
http://www.morning.wdhlc.cn.gov.cn.wdhlc.cn
http://www.morning.nstml.cn.gov.cn.nstml.cn
http://www.morning.dsncg.cn.gov.cn.dsncg.cn
http://www.morning.fqlxg.cn.gov.cn.fqlxg.cn
http://www.morning.hnhkz.cn.gov.cn.hnhkz.cn
http://www.morning.pbzlh.cn.gov.cn.pbzlh.cn
http://www.morning.rlcqx.cn.gov.cn.rlcqx.cn
http://www.morning.nssjy.cn.gov.cn.nssjy.cn
http://www.morning.cbynh.cn.gov.cn.cbynh.cn
http://www.morning.trfrl.cn.gov.cn.trfrl.cn
http://www.morning.qzglh.cn.gov.cn.qzglh.cn
http://www.morning.yxnkr.cn.gov.cn.yxnkr.cn
http://www.morning.gtbjc.cn.gov.cn.gtbjc.cn
http://www.morning.kgmkl.cn.gov.cn.kgmkl.cn
http://www.morning.nhzxr.cn.gov.cn.nhzxr.cn
http://www.morning.znqztgc.cn.gov.cn.znqztgc.cn

查看全文

http://www.tj-hxxt.cn/news/273934.html