AI产品经理——03Prompt Engineering提示词工程

目录

一、提示工程定义

二、推理类问题--思维链CoT

三、推理类问题--LtM

四、推理类问题--自我一致性SC

五、推理类问题--思维树ToT

六、Prompt的攻击与防范

一、提示工程定义

二、推理类问题--思维链CoT

训练AI做推理类问题时，要通过将复杂问题分解为一步一步的子问题并以此进行求解的过程（提供推理过程），来提升大模型的性能。（思维链模式）

三、推理类问题--LtM

因为思维链模式只能针对一个问题进行拆解去训练，迁移或者泛化能力不足，所以引入了LtM

LtM训练过程：
通过To solve____，we need to first solve:来触发大模型，去以这样的模式进行思考，来解决问题（目前不需要使用这个形式去大模型上试验了，现在大模型可以直接解决这个问题）（主要是理解这种训练大模型的思维方式）

四、推理类问题--自我一致性SC

SC训练过程：零样本问答，选择回答次数最多的作为正确回答

上面问题问了5遍，其中67岁，这个结果回答了三次，最终将67作为输出答案

上面三个训练方法，对于复杂问题还是无法训练

五、推理类问题--思维树ToT

思维树ToT过程：拆分任务→状态评估→搜索算法 （类似于广度优先算法BFS ）

代码实现：

在进行评分时使用的时是进行了3次评分，是结果更真实

第一轮评估结束后，每组都有评估得分，进行筛选，取评分最高的五组
第二轮剩余两个数，进行评分，筛选
第三轮一个数，筛选

输出结果

六、Prompt的攻击与防范

引导Prompt回答能回答的问题

 

正常的去问AI，AI会进行Prompt防范，输出无法回答

通过场景设置，哄骗AI，说出序列号

此时已经成功实现Prompt攻击，系统已经给出序列号

攻击就是通过设计Prompt,来哄骗AI，实现攻击

Prompt防范：通过设计提示词，来防止prompt攻击

在我们日常使用AI时，给AI的提示词，在传输过程中也会再进行处理和封装来防止AI被攻击（例如上面例子中封装“只会回答跟课程设计相关的内容”）

目前AI也在不断地进步，上面演示出现的问题可能很快就解决了。主要是要意思到Prompt的重要性，在做产品时要注意测试这个内容。