AI Agent Temperature调参：太高胡说八道，太低像个机器人
🩺 摘要
Temperature是Agent创造力的开关。但找到那个刚刚好的值——有点创意又不乱来——我试了一个月才找到规律。
📝 详情
如果你的Agent一会太死板（每次都回同样的句式），一会又太放飞（编造不存在的数据）——confused很可能是Temperature没调好。
Temperature是干什么的
简单说：Temperature控制LLM输出的随机性。
- 0.0：每次都选概率最高的词→稳定但死板
- 1.0：按概率分布随机选词→有创造力但乱说
- 2.0：几乎随机选词→胡说八道
最佳实践
| 场景 | Temperature | 说明 |
|---|---|---|
| 代码生成 | 0.0-0.1 | 必须稳定 |
| 数据提取 | 0.0-0.2 | 不能乱编 |
| 客服回复 | 0.3-0.5 | 有点变化但稳 |
| 创意写作 | 0.7-0.9 | 需要发挥 |
| 头脑风暴 | 1.0-1.2 | 越随机越好 |
一个最实用的技巧
把Agent拆成两个部分： - 推理部分（选工具、规划步骤）→ Temperature 0.1 - 生成部分（写回复、生成文案）→ Temperature 0.5
总结
Temperature越低越稳定，越高越有创意。 Agent的核心逻辑（选工具、做推理）用低温度，只有最终输出时才考虑温度高一点。
动态调温
更高级的做法：不固定Temperature，根据任务动态调整。
def get_temperature(task_type):
temps = {
'code_generation': 0.1,
'data_extraction': 0.0,
'customer_reply': 0.4,
'creative_writing': 0.8,
}
return temps.get(task_type, 0.3)
Agent的推理部分（选工具、规划步骤）用低温，生成部分（写回复、文案）用中温或高温。
💬 评论 (0)