查看: 5|回复: 0

大模型回答为什么时灵时不灵?聊聊温度参数

[复制链接]
发表于 3 小时前 | 显示全部楼层 |阅读模式
🌡️ 同一个问题问两遍,一次惊艳一次拉胯——其实不是玄学,是采样在掷骰子。
🔍 什么是温度参数
大模型每一步并不是"选定"下一个词,而是先给所有候选词算概率,再从中抽一个。温度(temperature)就是这个抽取环节的"胆量旋钮":
  • ❌ 温度→0:几乎总挑概率最高的词,回答稳定保守,适合写代码、抽信息
  • ✔ 温度→1:按原始概率抽取,正常发挥
  • 🔒 温度>1:低概率词也敢选,天马行空但容易翻车

💡 还有个搭档叫 top-p
温度之外,常配合 top-p(核采样)控场:只保留累计概率排前 p 的那批词,再让温度在其上发挥作用。两者搭配,既控制"疯癫程度",又避免抽到极端离谱的词。
✅ 实用怎么选
  • ✔ 要准确稳定:temperature 0~0.3,top-p 适中
  • ✔ 要创意文案:temperature 0.7~1.0
  • ✔ 幻觉严重时:先降温,再谈提示词优化



📌 温度不代表模型聪明与否,而是你允许它多"敢说"。
模型负责可能性,温度负责选择——同一个模型,一万种性格。

💬 互动一下:你平时写代码和写文案,温度分别设多少?评论区交出你的配方~
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号
免责声明|Archiver|手机版|小黑屋|半导贴吧

相关侵权、举报、投诉及建议等,请发 E-mail:1152577621@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|渝ICP备2024033348号|渝ICP备2024033348号-1

在本版发帖
关注公众号
QQ客服返回顶部