160 国际英文网站,wordpress分页diam,网页游戏h5排行榜,衡阳市网站建设公司1. Prompt 是什么#xff1f;
Prompt#xff1a;提示词#xff0c;是描述 AI 需要执行的任务的自然语言文本。 如上图所示#xff0c;Prompt就是用户的提问。其实我们大家都用过Prompt#xff0c;比如我们使用的ChatGPT、文心一言、豆包等AI产品时的提问就是Prompt…1. Prompt 是什么
Prompt提示词是描述 AI 需要执行的任务的自然语言文本。 如上图所示Prompt就是用户的提问。其实我们大家都用过Prompt比如我们使用的ChatGPT、文心一言、豆包等AI产品时的提问就是Prompt下面是跟豆包的对话其中LLM中Prompt是什么就是一个简单的Prompt。
Prompt Engineering提示工程是一门专注于研究如何设计、优化提示词以有效引导大语言模型LLM生成期望输出的工程学科。
2. 如何使用
提示工程是通过上下文学习(In-context-learning)来实现的指模型能够根据当前的输入临时调整其行为以使用特定的任务或场景。这种能力与针对每个特定的任务的训练和微调不同它是临时的。
这里我们基于千帆的ERNIE-4.0-8K大模型来实现和测试当然大家可以换成任何其他大模型。
2.1 定义相关使用到的方法
我们定义了一个get_access_token方法用来获取token并定义qianfan_chat_completions_pro方法来调用千帆ERNIE-4.0-8K的completions_pro方法具体代码如下
import urllib3
urllib3.disable_warnings(urllib3.exceptions.InsecureRequestWarning)
import os
import requests
import jsonaccess_token None#获取token
def get_access_token():api_key os.getenv(QIANFAN_API_KEY)secret_key os.getenv(QIANFAN_SECRET_KEY)url fhttps://aip.baidubce.com/oauth/2.0/token?client_id{api_key}client_secret{secret_key}grant_typeclient_credentialspayload json.dumps()headers {Content-Type: application/json,Accept: application/json}response requests.request(POST, url, headersheaders, datapayload, verifyFalse)return response.json().get(access_token)#调用ERNIE-4.0-8K
def qianfan_chat_completions_pro(content):global access_tokenif access_token is None:access_token get_access_token() data json.dumps({messages: [{role: user,content: content}]})url fhttps://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions_pro?access_token{access_token} headers {Content-Type: application/json}response requests.request(POST, url, headersheaders, datadata, verifyFalse)return response.json().get(result)
2.2 调用LLM接口
假设我们的问题是请用一句话说清楚prompt是什么 其实这就是一个最简单的prompt只不过它只包含了用户的问题我们先来看如何调用
#prompt
question
请用一句话说清楚prompt是什么print(qianfan_chat_completions_pro(question))这是LLM就会给我们返回Prompt是向用户展示并引导其进行下一步操作的提示信息。 3. 为什么要使用Prompt Engineering?
从上面LLM返回给我们的结果来看LLM并没有很好地理解我们的意图它只是解释了prompt作为提示词的实际含义但这也不能怪LLM因为是我们没有把上下文(背景)告诉LLMLLM它自然不能理解我们问的是LLM领域的Prompt。
那我们来优化一下这个prompt给出LLM的人设及问问题的特定背景优化后的prompt如下 你是AI专家请用一句话说清楚在LLM中prompt是什么 我们来看执行结果 会发现LLM给出了大致符合我们预期的答案这就是Prompt Engineering的作用经过优化Prompt能让LLM生成更如何我们预期的答案。
4. Prompt Engineering的技巧
下面是给出优化前后的prompt以及他们对应的结果可以使用下面的prompt替换上述的question进行自行测试就不贴图了。
4.1 清晰、明确避免含糊的词
内容优化前优化后Prompt请用几句话来描述AI的前景请用两句话来描述AI的前景结果AI的前景广阔且充满无限可能。随着技术的不断进步AI将在各个领域发挥重要作用包括但不限于医疗、交通、教育等。它将助力实现更高效、更精准的决策推动社会生产力的提升甚至可能引领全新的工作和生活方式。同时AI的发展也将对伦理、隐私和就业等方面带来挑战需要我们共同探索和解决。总的来说AI的前景是变革性的它将深刻影响我们的未来。AI前景广阔将深刻改变各行各业随着技术不断进步AI将在未来发挥巨大潜力引领智能时代新篇章。
4.2 分割符
将指令和待处理的内容分开分隔符包括”””、—、 、###等
内容优化前优化后Prompt将下面的话翻译成英文。 尽量用华丽的词语你真美丽 将下面的话翻译成英文。###尽量用华丽的词语你真美丽###结果You are so exquisitely beautiful.Try to use flowery language.Oh, how exquisitely beautiful you are!
4.3 结构化输出
对输出指定特定的格式有利于得到稳定的输出例如Html、Json
内容优化前优化后Prompt 请给我列举现在国内销量最高的2款电动汽车包含名字、特点请给我列举现在国内销量最高的3款电动汽车包含名字、特点.只需要给出JSON格式结果不需要其他解释的内容JSON中的key如下name,features.结果现在国内销量最高的2款电动汽车按照销量排名分别是1. 比亚迪相关电动汽车 -名字由于比亚迪有多款热销电动汽车如秦PLUS、汉EV等因此这里不特指某一款车型而是泛指比亚迪品牌的电动汽车。- 特点性价比高、续航里程长、车型丰富、技术先进。2. 理想汽车相关电动汽车- 名字由于理想汽车有多款热销车型如理想L6、理想L7等因此这里不特指某一款车型而是泛指理想品牌的电动汽车。- 特点车内空间宽敞、乘坐体验舒适、智能驾驶技术先进。以上内容主要基于当前可获得的公开信息整理而成。[{“name”:“比亚迪”,“features”:“性价比高实用性强在下沉市场销量增长显著2024年1-9月累计销量为274.79万辆成为中国市场销量最高的新能源汽车品牌。”},{“name”:“理想汽车”,“features”:“连续36周蝉联新势力销量冠军后虽在2025年第一周销量滑落至第二但仍以0.67万辆的销量显示出强大的市场竞争力。”}]
4.4 背景设定
设定LLM作为一个角色也可以设定自己是一个什么角色
内容优化前优化后Prompt请用3句话说明如何学习英语你是高中英语老师擅长提高高考英语成绩我是一名高三下学期的学生。请用3句话说明如何学习英语结果1. 学习英语首先要打好语言基础包括掌握单词、语法和句型。2. 通过大量阅读和听力练习提高英语理解和口语表达能力。3. 多与英语母语者交流积极参与英语实践活动不断增强英语应用能力。作为高中英语老师对于如何高效学习英语我的建议如下首先要坚持每天阅读英文材料这不仅能提升阅读理解能力还能增强语感为写作和口语表达积累素材。其次多做真题和模拟题通过实战演练来巩固语法知识提高解题速度和准确性这是提升英语成绩的关键。最后不要忽视听力和口语的练习通过听英文广播、看英文电影等方式培养语感同时尝试与英语母语者交流以提升听说能力。
接下来介绍一些进阶的Prompt Engineering高阶一点的技术
4.5 少量样本提示(Few-shot prompting)
Few-shot prompting 可以用作一种支持上下文学习的技术以引导模型获得更好的表现。
内容优化前优化后Prompt请用积极的或者消极的回答相安无事//请用积极的或者消极的回答 这太棒了 // 积极的这太糟糕了 //消极的哇那部电影太棒了/ /积极的相安无事//结果积极的回答大家和谐相处相安无事真是太好了或者消极的回答虽然目前相安无事但谁知道未来会不会出现问题呢。相安无事 // 积极的表示一切顺利没有出现问题或冲突
4.6 Chain-of-thoughtCOT思维链
https://arxiv.org/abs/2201.11903 思维链允许大模型通过一系列中间步骤解决问题然后给出最终答案。它是通过提示诱导模型通过模拟思维过程的推理步骤来回答多步问题从而提高推理能力。
内容优化前优化后Prompt食堂有23个苹果如果他们用掉了20个后又买了6个。他们现在有多少个苹果问食堂有23个苹果如果他们用掉了20个后又买了6个。他们现在有多少个苹果请一步一步思考结果食堂开始时有23个苹果。1. 他们首先用掉了20个苹果所以食堂里剩下的苹果数量变为23 - 20 3个苹果。2. 接着他们又买了6个苹果所以食堂现在的苹果数量变为3 6 9个苹果。综上所述他们现在有9个苹果。首先我们需要理解题目中的关键信息食堂最初有23个苹果。第一步食堂用掉了20个苹果。最初的苹果数量是23个用掉20个之后剩余的苹果数量就是23 - 20 3个。第二步食堂又买了6个苹果。在剩余3个苹果的基础上再增加6个新购买的苹果所以现在的苹果总数是3 6 9个。所以他们现在有9个苹果。
可以发现其实不加”请一步一步思考“千帆大模型也能得到正确的答案(实际在GPT4上也能得到正确的结果)只是加了以后更清晰一些但如果是在GTP3.5上加不加”请一步一步思考“会体现不同的效果这个可以自行验证。这里主要是体现思维链的使用方式。 主要就是请一步一步思考对应英文Let’s think step by step
4.7 Self-consistency decoding自洽编码
https://arxiv.org/abs/2203.11171 自洽编码同时执行多个思维链展开然后从所有展开中选择最常达到的结论。
内容优化前优化后Prompt看这一串数字36、34、30、28、24下一个数字是什么假设有3个数学专家来计算一下答案最后少数服从多数最后给出结论请记录中间过程看这一串数字36、34、30、28、24下一个数字是什么结果首先我们要找出这一串数字36、34、30、28、24之间的关系或规律以便预测下一个数字。观察这一串数字我们可以尝试找出每两个相邻数字之间的差值* 36 - 34 2* 34 - 30 4* 30 - 28 2* 28 - 24 4可以看出相邻两个数字的差值在2和4之间交替变化。这是一个明显的规律。现在我们来应用这个规律来找出下一个数字。最后一个给出的数字是24它之前的数字是28它们之间的差值是4。根据我们找到的规律下一个差值应该是2。因此下一个数字应该是24减去2即22。首先我们观察给出的数字序列36、34、30、28、24我们需要找出这些数字之间的关系或规律从而推测出下一个数字。观察发现* 36到34减少了2* 34到30减少了4* 30到28减少了2* 28到24减少了4。可以看出数字之间的差值在2和4之间交替变化。这是一个明显的规律我们可以根据这个规律来推测下一个数字。由于最后一个差值是从28到24差值是4那么根据交替变化的规律下一个差值应该是2。因此我们从24减去2得到下一个数字是22。现在我们请三位数学专家进行计算和验证专家1的计算过程观察数字序列发现差值是2和4交替出现因此下一个差值应是2。从24减去2得到22。专家2的计算过程分析序列中相邻数字的差值发现它们以2和4的差值交替递减。既然最后一个差值是4那么下一个差值应该是2。所以从24减去2结果是22。专家3的计算过程查看数字序列注意到数字之间的差值在2和4之间变化且这种变化是交替的。由于最后一个差值是4根据规律下一个差值应为2。从24中减去这个差值我们得到22。三位专家的结论都是下一个数字是22。根据“少数服从多数”的原则由于所有专家都得出了相同的结论我们可以确定下一个数字是22。
可以发现如果没有优化的Prompt也能得到正确的答案只是优化后的Prompt看起来更专业而已这也证明了千帆模型的强大GPT3.5在这个上面也会体现出差异。
4.8 Three-of-thought思维树
https://arxiv.org/abs/2305.10601 思维树思维树提示通过提示模型生成一个或多个”可能的后续步骤”然后通过广度优先、波束搜索或者其他所有方法在每个可能的步骤上运行模型来概括思维链。
内容优化前优化后Prompt鲍勃在客厅里。 他拿着一个杯子走向厨房。 他把一个球放进杯子里把杯子拿到卧室。 他把杯子倒过来然后走向花园。 他把杯子放在花园里然后走向车库。 球在哪里?想象一下三个不同的专家正在回答这个问题。 所有的专家都会写下他们思考的第一步 然后与大家分享。 然后所有专家将进入下一步以此类推。 如果任何专家在任何时候意识到他们错了他们就会离开。 问题是: 鲍勃在客厅里。 他拿着一个杯子走向厨房。 他把一个球放进杯子里把杯子拿到卧室。 他把杯子倒过来然后走向花园。 他把杯子放在花园里然后走向车库。 球在哪里?结果这是一道物品位置分析的问题。为了确定球的当前位置我们需要基于题目的描述仔细分析每一步发生的事件。首先我们梳理一下题目中给的关键信息1.鲍勃在客厅里。2.他拿着一个杯子走向厨房。3.他把一个球放进杯子里把杯子拿到卧室。4.他把杯子倒过来然后走向花园。5.他把杯子放在花园里然后走向车库。接下来我们分析这些事件对球位置的影响1.鲍勃首先拿着一个空杯子走向厨房这个动作对球的位置没有影响因为此时球还未被引入。2.在厨房里鲍勃把球放进了杯子并随后将杯子带到了卧室。这表明球被放入杯子中并随着杯子移动到了卧室。3.在卧室鲍勃将杯子倒过来。这个动作是关键因为如果杯子里有球倒过来的动作会导致球掉出来除非杯子口非常小或者有东西阻止球掉出。但题目没有提及任何阻止球掉出的机制因此我们可以合理推断球在杯子倒过来后已经从杯子里掉出。4.鲍勃之后将杯子带到花园并放下但此时球已经不在杯子里了。5.鲍勃离开花园走向车库这个动作对球的位置没有影响。综上所述球现在应该在卧室里因为它是从那里掉出来的。因此球现在在卧室。首先让我们设定三位专家专家A、专家B和专家C。下面是他们思考的第一步和后续步骤。专家A* 第一步首先我需要理解问题的整体流程和关键动作。鲍勃的一系列动作表明他首先将球放入杯子然后将杯子带到卧室接着倒置杯子并最后将其放置在花园。专家B* 第一步我会关注与球位置变化有关的关键信息。鲍勃在客厅拿起一个杯子走到厨房放入球后带到卧室然后倒置杯子。这是决定球最终位置的关键步骤。专家C* 第一步我的第一步是识别出问题中的关键转折点。在这个场景中鲍勃将球放入杯子并将杯子带到卧室然后倒置这是一个重要的转折点因为它可能改变了球的位置。专家A的下一步* 接下来我需要考虑倒置杯子的动作对球位置的影响。如果杯子被完全倒置且没有泄漏球应该还在杯子里。但是鲍勃之后将杯子放在了花园这个动作可能改变了球的位置。专家B的下一步* 接下来我要考虑球在倒置后的可能位置。如果杯子被紧密封闭且没有漏洞球可能还在杯子里。但鲍勃走到花园放下杯子的行为可能是一个关键因素需要仔细分析。专家C的下一步* 我需要考虑鲍勃将杯子倒置并带到花园后球的可能位置。如果倒置后球没有掉出并且在去花园的过程中也没有掉出那么球应该还在杯子里。所有专家的共同结论* 在没有额外信息表明球在过程中掉出的情况下我们可以合理推断在鲍勃将倒置的杯子放在花园后球应该还在杯子里。因此球在花园里的杯子里。在这个过程中没有专家意识到他们错了所以他们都没有离开。最终所有专家都得出了相同的结论球在花园里的杯子里。
在优化前和优化后得出了不同的结论关键点在于问题中没有给出球是否掉下来从解释上看使用了使用了思维树的结论显示更专业。
几者的差别
5.第三方Prompt优化工具
百度千帆Prompt优化
会发现如果我们选择了思维链条千帆优化Prompt也是加上了我们的黑魔法让我们一步一步来思考
Prompt中文调教指南
Prompt英文调教指南
6. 思考
有人说Prompt Engineering是大语言模型初级阶段的中间产物的确在本文的部分测试(思维链和自洽编码)中发现: 千帆的ERNIE-4.0-8K ≈ ChatGPT4 ≈ ChatGPT3.5 Prompt Engineering ChatGPT3.5 从这个方面来讲的确随着大语言模型的不断发展大语言模型的理解能力、逻辑推理能力在不断增强不过我认为Prompt Engineering是有它存在的价值毕竟人总是要跟大语言模型交互的而交互就会有噪音而Prompt Engineering就是来降低噪音让大语言模型更好地理解我们的真实需求。
当然我们还可以利用RAG、NLP、Question Rewrites、Embedding、Function Calling等技术来不断让Prompt Engineering做的更好不过了解这些底层的优化思路是很有必要的。 文章转载自： http://www.morning.lflnb.cn.gov.cn.lflnb.cn http://www.morning.drgmr.cn.gov.cn.drgmr.cn http://www.morning.bnjnp.cn.gov.cn.bnjnp.cn http://www.morning.dxqfh.cn.gov.cn.dxqfh.cn http://www.morning.mwnch.cn.gov.cn.mwnch.cn http://www.morning.gpfuxiu.cn.gov.cn.gpfuxiu.cn http://www.morning.hydkd.cn.gov.cn.hydkd.cn http://www.morning.txrkq.cn.gov.cn.txrkq.cn http://www.morning.rtlth.cn.gov.cn.rtlth.cn http://www.morning.phxns.cn.gov.cn.phxns.cn http://www.morning.sskkf.cn.gov.cn.sskkf.cn http://www.morning.yjxfj.cn.gov.cn.yjxfj.cn http://www.morning.dmhs.cn.gov.cn.dmhs.cn http://www.morning.nsrlb.cn.gov.cn.nsrlb.cn http://www.morning.ykklw.cn.gov.cn.ykklw.cn http://www.morning.hlfnh.cn.gov.cn.hlfnh.cn http://www.morning.rnnts.cn.gov.cn.rnnts.cn http://www.morning.mnwb.cn.gov.cn.mnwb.cn http://www.morning.tmtrl.cn.gov.cn.tmtrl.cn http://www.morning.cnprt.cn.gov.cn.cnprt.cn http://www.morning.xykst.cn.gov.cn.xykst.cn http://www.morning.gkdhf.cn.gov.cn.gkdhf.cn http://www.morning.tkztx.cn.gov.cn.tkztx.cn http://www.morning.haibuli.com.gov.cn.haibuli.com http://www.morning.xdttq.cn.gov.cn.xdttq.cn http://www.morning.dwmmf.cn.gov.cn.dwmmf.cn http://www.morning.wrdlf.cn.gov.cn.wrdlf.cn http://www.morning.ytfr.cn.gov.cn.ytfr.cn http://www.morning.rbkml.cn.gov.cn.rbkml.cn http://www.morning.wgrm.cn.gov.cn.wgrm.cn http://www.morning.bwmm.cn.gov.cn.bwmm.cn http://www.morning.nkcfh.cn.gov.cn.nkcfh.cn http://www.morning.yksf.cn.gov.cn.yksf.cn http://www.morning.bndkf.cn.gov.cn.bndkf.cn http://www.morning.dqzcf.cn.gov.cn.dqzcf.cn http://www.morning.kqpsj.cn.gov.cn.kqpsj.cn http://www.morning.xstfp.cn.gov.cn.xstfp.cn http://www.morning.nxwk.cn.gov.cn.nxwk.cn http://www.morning.yxdrf.cn.gov.cn.yxdrf.cn http://www.morning.xhfky.cn.gov.cn.xhfky.cn http://www.morning.xclgf.cn.gov.cn.xclgf.cn http://www.morning.wxlzr.cn.gov.cn.wxlzr.cn http://www.morning.rkqqf.cn.gov.cn.rkqqf.cn http://www.morning.hqxyt.cn.gov.cn.hqxyt.cn http://www.morning.plqhb.cn.gov.cn.plqhb.cn http://www.morning.nafdmx.cn.gov.cn.nafdmx.cn http://www.morning.lsgsn.cn.gov.cn.lsgsn.cn http://www.morning.lsjtq.cn.gov.cn.lsjtq.cn http://www.morning.dbrdg.cn.gov.cn.dbrdg.cn http://www.morning.zcnfm.cn.gov.cn.zcnfm.cn http://www.morning.nrgdc.cn.gov.cn.nrgdc.cn http://www.morning.jyzqn.cn.gov.cn.jyzqn.cn http://www.morning.ztnmc.cn.gov.cn.ztnmc.cn http://www.morning.sryhp.cn.gov.cn.sryhp.cn http://www.morning.qzpkr.cn.gov.cn.qzpkr.cn http://www.morning.mcjp.cn.gov.cn.mcjp.cn http://www.morning.webife.com.gov.cn.webife.com http://www.morning.rgpbk.cn.gov.cn.rgpbk.cn http://www.morning.dbrnl.cn.gov.cn.dbrnl.cn http://www.morning.zzbwjy.cn.gov.cn.zzbwjy.cn http://www.morning.lgtzd.cn.gov.cn.lgtzd.cn http://www.morning.bxqpl.cn.gov.cn.bxqpl.cn http://www.morning.dwdjj.cn.gov.cn.dwdjj.cn http://www.morning.fqnql.cn.gov.cn.fqnql.cn http://www.morning.lgznf.cn.gov.cn.lgznf.cn http://www.morning.nfcxq.cn.gov.cn.nfcxq.cn http://www.morning.rzmlc.cn.gov.cn.rzmlc.cn http://www.morning.drytb.cn.gov.cn.drytb.cn http://www.morning.gxwyr.cn.gov.cn.gxwyr.cn http://www.morning.dwztj.cn.gov.cn.dwztj.cn http://www.morning.hxycm.cn.gov.cn.hxycm.cn http://www.morning.wrkcw.cn.gov.cn.wrkcw.cn http://www.morning.krjrb.cn.gov.cn.krjrb.cn http://www.morning.cnyqj.cn.gov.cn.cnyqj.cn http://www.morning.syznh.cn.gov.cn.syznh.cn http://www.morning.dpwcl.cn.gov.cn.dpwcl.cn http://www.morning.cklld.cn.gov.cn.cklld.cn http://www.morning.nkjnr.cn.gov.cn.nkjnr.cn http://www.morning.mhfbp.cn.gov.cn.mhfbp.cn http://www.morning.xjnjb.cn.gov.cn.xjnjb.cn
