LLM大模型学习必知必会系列(二)：提示词工程PromptEngineering以及实战闯关

prompt（提示词）是我们和LLM互动最常用的方式，我们提供给LLM的Prompt作为模型的输入，并希望LLM反馈我们期待的结果。虽然LLM的功能非常强大，但LLM对提示词（prompt）也非常敏感。这使得提示词工程成为一项需要培养的重要技能。

LLM提供了一些参数可以影响输出结果的创造力和确定性。在每个步骤中，LLM会生成一个最有可能出现的token列表以及其对应的概率列表。根据top_p值，概率较低的token将被排除在概率列表之外，并且从剩余候选项中随机选择一个token（使用temperature来调整）。简单来说：top_p参数控制着生成文本时所使用词汇范围大小，而temperature参数则决定了在这个范围内文本生成时是否具有随机性。当温度接近0时，则会得到几乎是确定性结果。PromptEngineering提示工程（PromptEngineering）是一项通过优化提示词（Prompt）和生成策略，从而获得更好的模型返回结果的工程技术。总体而言，其实现逻辑如下：

（注：示例图来自Cohere官网）简单而言，大模型的运行机制是“下一个字词预测”。用户输入的prompt即为大模型所获得上下文，大模型将根据用户的输入进行续写，返回结果。因此，输入的prompt的质量将极大地影响模型的返回结果的质量和对用户需求的满足程度，总的原则是“用户表达的需求越清晰，模型更有可能返回更高质量的结果”。

通常情况下，每条信息都会有一个角色（role）和内容（content）：

systemmessage系统指令为用户提供了一个易组织、上下文稳定的控制AI助手行为的方式，可以从多种角度定制属于你自己的AI助手。系统指令允许用户在一定范围内规定LLM的风格和任务，使其更具可定性和适应各种用例。大部分LLM模型的系统指令Systemmessage的权重强化高于人工输入的prompt，并在多轮对话中保持稳定，您可以使用系统消息来描述助手的个性，定义模型应该回答和不应该回答的内容，以及定义模型响应的格式。默认的Systemmessage：Youareahelpfulassistant.下面是一些systemmessage的使用示例：

注意：即便我们在systemmessage里面规范了模型回答，也不能保障请求一定会满足，但是好的systemmessage设计可以增加特定结果的可能性，以及得到LLM更加符合要求的答复。

指令是最常用的提示组件，主要功能是向模型说明要执行的操作。虽然概念简单，但是实践中仍然比较复杂，下面是简单和详细的一些指令例子，详细、明确的指导比模糊不清的提示能够产生更好的效果：

主要内容是指模型正在处理的文本内容。主要内容通常与指令一起使用。下面会从翻译，摘要等场景来示例：

prompt也经常包含一些示例样本（单样本或者少样本）学习，指的是需要加入一些示例的输入和输出对。

通过少样本学习，模型从猜测应该如何生成，而变得清楚的学习了按照示例生成，充分的演示了模型的能力，不需要通过专门的训练，通过少样本学习，也可以生成正确的答案。

充当模型输出的快速启动，帮助模型固定所需要的输出。可以作为模型生成的前缀，也可以引导模型一步一步地按照要求思考并给出答案。

使用清晰的提示语法（包括标点符号、标题和节标记）有助于传达意图，并且通常使输出更易于解析。在下面的示例中，—在不同的信息源或步骤之间添加了分隔符（在本例中）。这允许使用—作为生成的停止条件。此外，章节标题或特殊变量以大写形式呈现以区分它们。

这是任务分解（stepbystep）技术的一种展现，在这种方法中，模型逐步进行思考，并呈现出涉及的步骤，这样做可以降低结果的不准确的可能性，并对模型响应的可解释性有很大的帮助。

大部分模型将agent的配置在系统提示中配置，比如函数的参数定义和描述，不同模型的函数调用略有不同

最核心的写一条好prompt的原则就是尽可能清晰、明确地表达你的需求（类比产品经理向程序员提需求）。细分下来，具体原则包括：

优质的提示词典型框架

优质的prompt千变万化，但遵循上述原则，我们总结出一个比较实用的框架，可以帮助用户更高概率从通义千问中收获更高质量的模型生成结果。使用LLM时，建议包含如下内容：

《完蛋！我被LLM包围了！》HaoqiangFan的原始创意和题目，为本项目的开发和扩展提供了灵感与动力。希望大家从游戏中学到如何巧妙地构建提示词（prompts）以及体验大语言模型（LLM）的奇妙。