为什么提示工程如此重要?
提示工程的目标是通过提供清晰、简洁且结构良好的输入来提高语言模型的性能,这些输入需要针对模型所用于的特定任务或应用进行定制。可以将提示工程比喻成与人交流时使用清晰明了的语言,让对方更容易理解你的意图,从而做出更满意的回应。
那么接下来,我们将依次介绍OpenAI提供的提示工程最佳实践,FushionAI的自动生成功能,以及让GPT进行自我反思。我们还会提供一个额外的实用小技巧,请多留心!
OpenAI的官方最佳提示技巧
1.使用最新的模型
为了获得最佳效果,我们建议使用最新、性能最强大的模型。截至2022年11月,文本生成方面的最佳选择是“text-davinci-003”模型,代码生成方面的最佳选择是“code-davinci-002”模型。能使用GPT-4当然会比ChatGPT要更好。
2.将指令放在提示的开头,并用###或"""将指令与文本分开
效果不佳?:
将下面的文本摘要成一个关键要点的项目列表。
{输入文本}
更好的选择?:
将下面的文本摘要成一个关键要点的项目列表。
文本:
"""{输入文本}"""
3.对所需的上下文、结果、长度、格式、风格等尽可能具体、详细和描述性
孙宇晨:SEC诉讼对波场业务和用户没有严重影响,不涉及火必:4月10日消息,波场TRON创始人孙宇晨近日接受FT中文网总编王丰专访。访问中,孙宇晨就SEC诉讼的回应计划、火必Huobi、WTO大使职务以及加密行业在香港、拉丁美洲和美国等地区的发展前景等市场关切的问题做出了解答。孙宇晨表示,美国证券交易委员会(SEC)的诉讼对波场TRON及BitTorrent的业务和用户没有严重影响,且相关诉讼不涉及火必Huobi。
孙宇晨在访谈中称,SEC的诉讼回应将由法律团队处理,且该诉讼不会影响将火必Huobi亚洲总部迁往香港的计划。关于近期HT币价波动处理情况,“99.9%的损失者都与火必达成了满意的和解”,孙宇晨表示。[2023/4/10 13:54:49]
效果不佳?:
写一首关于OpenAI的诗。
更好的选择?:
写一首关于OpenAI的短篇励志诗,重点描述DALL-E产品发布,风格仿照{著名诗人}。
4.通过示例明确所需输出格式
效果不佳?:
从下面的文本中提取实体。提取以下4种实体类型:公司名称、人名、特定主题和主题。
文本:{文本}
更好的选择?:
从下面的文本中提取重要实体。首先提取所有公司名称,然后提取所有人名,然后提取与内容相关的特定主题,最后提取总体主题。
Yearn Finance正在开发veBAL流动性包装代币yBAL:2月2日消息,Balancer Grants SP团队批准了Yearn Finance的拨款申请,以开发veBAL的Yearn流动性包装代币(liquid wrapper)yBAL。yBAL将通过永久锁定BAL80-WETH20池代币来发挥作用,并具有类似于Yearn的yCRV产品的额外好处。[2023/2/3 11:44:16]
期望格式:
公司名称:<逗号分隔的公司名称列表>?
人名:-||-?
特定主题:-||-?
总体主题:-||-
文本:{文本}
5.从零次学习开始,然后进行少次学习,如果这些方法都不起作用,那么进行微调
?零次学习
从下面的文本中提取关键词。
文本:{文本}
关键词:
?少次学习-提供几个示例
从下面的文本中提取关键词。
文本1:Stripe为Web开发人员提供了API,以便他们将支付处理集成到自己的网站和移动应用程序中。
关键词1:Stripe,支付处理,API,Web开发人员,网站,移动应用程序
文本2:OpenAI已经训练出了处理和生成文本方面非常优秀的语言模型。我们的API可以让您使用这些模型,解决几乎任何涉及处理语言的任务。
Nostra推出500万美元基金,即将推出测试网:8月17日消息,基于StarkNet的借贷流动性协议Nostra宣布推出规模为 500 万美元的 Nostra Famiglia Fund,收益率代币化和固定利率协议 Tempus 背后团队 Tempus Labs 已向该团队拨款 500 万枚 DAI,以支持 Nostra 生态系统的发展。Nostra Famiglia Fund 将向贡献者和社区建设计划提供赠款。
Nostra 即将推出测试网,此前也得到了 Jump Capital、Tomahawk、Lemniscap、GSR Markets 和 Wintermute 等投资者的支持。[2022/8/17 12:31:46]
关键词2:OpenAI,语言模型,文本处理,API。
文本3:{文本}?
关键词3:
?微调:请参阅参考文献里的微调最佳实践指南。
6.减少模糊和不精确的描述
效果不佳?:
这个产品的描述应该比较简短,只有几句话,不要太多。
更好的选择?:
用3至5句话的段落来描述这个产品。
7.不仅要说不做什么,更应该说做什么
效果不佳?:
以下是代理和客户之间的对话。不要询问用户名或密码。不要重复。
CryptoPunks NFT近24小时交易额超5000ETH 排名达到第一:金色财经消息,据OpenSea最新数据显示,CryptoPunks NFT近24小时交易额为5023.93ETH,24小时增幅76.15%。交易额排名达到第一。[2022/7/18 2:19:34]
客户:我无法登录我的账户。代理:
更好的选择?:
以下是代理和客户之间的对话。代理将尝试诊断问题并提出解决方案,同时避免询问任何与个人身份信息有关的问题。不要询问用户名或密码,而是引导用户查阅帮助文章www.samplewebsite.com/help/faq
客户:我无法登录我的账户。代理:
8.代码生成-使用“引导词”引导模型生成特定模式
效果不佳?:
编写一个简单的Python函数
1.询问我一个以英里为单位的数字
2.将英里换算成公里
在下面的代码示例中,添加“import”提示模型应该以Python语言开始编写。
更好的选择?:
编写一个简单的Python函数
1.询问我一个以英里为单位的数字
2.将英里换算成公里
import
Altcoin Daily:Cardano的Vasil升级将于七月底上线:6月22日消息,Altcoin Daily发推表示,Cardano已将其Vasil升级推迟了四个星期,现定于七月底上线。此前消息,有传言称Cardano原定于6月底进行的Vasil硬分叉将延期至8月。[2022/6/22 1:23:59]
FusionAI,自动生成更好的提示
FusionAI是一个可以自动生成更适合GPT提示并生成相应文章的AI软件,我会建议新手期时将它当作学习提示工程的教程来使用。
例如,当我给出提示:“Iwanttohaveablogofpromptengineering“FusionAI会修改此提示为
可以看出来这样生成出来的提示对照了前文提到的第3和第6条技巧,规定了输入长度,要求变得更精确了,让AI聚焦于提示工程的好处和挑战,并且举出相应例子。
让我们用中文输入挑战一下FusionAI。给出提示:“给我一篇关于提示工程的博客”。FusionAI修改提示为:
可以看出来这个提示是有严重偏差的,词不达意,无法使用。这其实给我们提了个醒,语言和指令在转译的时候是会有信息损失的,转译的次数越多信息差就越大,直到不可辨别。因此我们要尽量接触和使用一手信息,在AI上也适用。
我们不建议使用各种模版或者类似FusionAI的工具来生成内容,因为噪音太大。当然,在你还不了解提示工程的时候可以参考它们来学习,这是可以的。
GPT,你得学会自我反思
在EricJang的一篇最新的博客《CanLLMsCritiqueandIterateonTheirOwnOutputs?》里,他提到LLM可以在没有任何基础反馈的情况下自我纠正,并尝试将这样的自我反思作为一种提示工程的技巧。
你可以把这种情况想象成某人向你发送了一条短信,然后迅速“取消发送”,再发送一条新的短信。
让我们举个例子,当我们让GPT-4写出一首不押韵的诗:”canyouwriteapoemthatdoesnotrhyme?thinkcarefullyabouttheassignment“,GPT-4给出的回答是:
很明显,节选的小诗是押韵的,这并不符合我们的要求。那么我们给出进一步的指令让GPT-4进行自我反思:“didthepoemmeettheassignment?”,那么GPT-4会回答:
可以看出来,这次GPT-4生成的小诗确实是不押韵的,在没有给出任何额外反馈的前提下GPT-4完成了自我的提示工程。笔者猜想这可能跟LLM的无监督学习有关,但为什么GPT-4拥有此功能而GPT-3.5却没有,就不得而知了。
当然,这样的能力也是有局限的。如果你愿意,你可以要求GPT-4随机给出两个五位数并且求出它们的乘积。接下来你会发现,无论你让GPT-4怎么反思,它都无法给出正确的答案。GPT-4只会不断客气地胡说八道而已。对于想深入研究的读者,可以从文末链接阅读Eric的博客和一篇最新的预印版论文《Reflection》
Onemorething
有心的读者可能已经发现了,作者在使用LLM一般都选择英文作为提示语言。这是因为作为预训练模型,其表现的优异程序与预训练时的数据集有关系,一般来说数据越多则被训练得越好。而英语作为全球第一的使用语言,数据量是远超中文的。所以除非你需要输出与中文语境强相关的文章,否则我会建议使用英文来作为提示语言。
总结
在这篇文章里我们介绍了三种提示工程的方法。分别是OpenAI推荐的前置提示工程,AI自动生成,以及以反思为主的后置提示工程。同时,我们也建议非英语母语者尝试使用英语作为与LLM交互的语言。
欢迎关注Multigis掌握更多前沿区块链,人工智能,代笔经济学知识。
参考文献:
https://help.openai.com/en/articles/6654000-best-practices-for-prompt-engineering-with-openai-api
https://docs.google.com/document/d/1h-GTjNDDKPKU_Rsd0t1lXCAnHltaXTAzQ8K2HRhQf9U/edit#
https://fusion.tiiny.site/home.html
https://evjang.com/2023/03/26/self-reflection.html
https://arxiv.org/pdf/2303.11366.pdf
来源:新智元前段时间,浙大&微软发布了一个大模型协作系统HuggingGPT直接爆火。研究者提出了用ChatGPT作为控制器,连接HuggingFace社区中的各种AI模型,完成多模态复.
1900/1/1 0:00:00注:本文来自@BTW0205推特,MarsBit整理如下:最近#Dogecoin上涨,很多朋友让我分析一下狗狗币,以及我为什么会在低位去选择购买一个MemeToken以下这个线程.
1900/1/1 0:00:00MarsBitCryptoDaily2023年4月3日一、?今日要闻dYdX创始人:dYdXChain所有DAO资金将完全由Token持有者控制dYdX创始人在社交媒体发文表示.
1900/1/1 0:00:002017年底,因为之前参与某中央证券登记机构的区块链业务平台,曾与SWIFT交流过区块链技术,受邀参加SWIFT中国区年会来做一个区块链技术的专题报告.
1900/1/1 0:00:00继昨天香港Web3.0协会成立后,Web3在香港持续发出利好。据彭博社报道,香港众安银行首席执行官RonaldIu在周二接受采访时表示,香港众安银行将通过持牌交易平台提供加密Token到法定货币.
1900/1/1 0:00:00注:本文来自@youyouAllen推特,MarsBit整理如下:看了孟岩洋洋洒洒几千字,但没有一个清晰结论。我来讲讲web3与GPT的具体结合场景。这里本质上还是底层的区块链与GPT的结合.
1900/1/1 0:00:00