本地LLM会两次给出相同答案吗 — 用temperature和seed实测输出可复现性
我把同一个提示词向本地Gemma 4发送了数十次,测量输出的可复现程度。temperature=0是确定性的, 即使提高temperature,只要固定seed,输出也会收敛成一行。文末给出可直接用于评估和CI的结论。
标签
1篇文章
我把同一个提示词向本地Gemma 4发送了数十次,测量输出的可复现程度。temperature=0是确定性的, 即使提高temperature,只要固定seed,输出也会收敛成一行。文末给出可直接用于评估和CI的结论。