Pick a Number Between 1 and 10：人类、随机生成器与大语言模型的选择差异

一个在 X 上走红的图表显示，当被要求在 1 到 10 之间选一个数字时，人类倾向于选 7，随机生成器每个数字概率相等，而大语言模型几乎只选 7。这种现象与梯度下降训练过程有关，模型通过调整每个数字的概率分布来最小化对人类选择的惊讶度。后训练阶段和解码方式进一步强化了 7 的选择倾向，导致概率分布从平缓的山丘变为尖锐的针尖。