do_sample=True 参数

do_sample=True 参数控制模型生成文本时是否使用采样策略。简单来说，它决定了在生成下一个词时，是根据概率分布随机选择（即采样），还是总是选择概率最高的词（贪心解码）。

当 do_sample=True 时，模型会在预测出的概率分布中随机选择下一个词，这样可以生成更加多样化和富有创意的文本，适合于聊天机器人或创意写作等场景，避免生成重复的内容。如果 do_sample=False，模型会总是选择概率最高的词，输出会更加确定性，但可能会导致文本单调或重复。

采样可以配合其他参数使用，例如 temperature 和 top_k，来进一步控制生成的多样性。