Gemini Nano 的提示设计

通过 Gemini Nano 直接访问模型时,您可以采用特定策略来定制提示,从而获得最佳结果。本页面介绍了为 Gemini Nano 设置提示格式的最佳实践。

如需了解更通用的提示词工程指南,请参阅提示词工程白皮书、生成式 AI 的提示词工程和提示词设计策略。

或者,如需自动优化和改进提示,您可以使用零样本优化器,该优化器可以针对 gemma-3n-e4b-it 等设备端模型。

提示设计最佳实践

在为直接模型访问设计提示时,请使用以下技巧:

  • 提供示例以进行情境学习。在提示中添加分布均匀的示例,向 Gemini Nano 展示您期望的结果。

    如果您使用上下文学习,请考虑使用前缀缓存功能,因为提供示例会使提示变长并增加推理时间。

  • 简明扼要。包含重复指令的冗长预置指令可能会导致结果不理想。提示应简明扼要。如果您需要重复引导模型行为的简短指令,请考虑使用系统指令。

  • 构建提示以生成更有效的回答,例如这个提示模板示例,它明确定义了指令、限制和示例。

  • 输出内容应简短。LLM 推理速度在很大程度上取决于输出长度。请仔细考虑如何针对您的应用场景生成尽可能短的输出,并进行手动后处理,以所选格式构建输出。为确保回答输出采用您首选的格式,请使用结构化输出 API。

  • 添加定界符。使用 <background_information>、<instruction> 和 ## 等分隔符来分隔提示的不同部分。在组件之间使用 ## 对 Gemini Nano 尤为重要,因为这可以显著降低模型无法正确解读每个组件的可能性。

  • 更喜欢简单的逻辑和更专注的任务。如果您发现,对于需要多步推理的提示(例如,先执行 X,如果 X 的结果为 A,则执行 M;否则执行 N;然后执行 Y…),很难获得良好的结果,请考虑将任务拆分,让每个 Gemini Nano 调用处理更集中的任务,同时使用代码将多个调用串联在一起。如果您确实需要一次性处理复杂的推理密集型任务,请考虑使用思考模式。

  • 对于确定性任务,请使用较低的温度值。对于不依赖于创造力的任务(例如实体提取或翻译),请考虑从 temperature 值 0.2 开始,并根据测试调整此值。