研究揭示LLM随机数生成存在偏差与安全风险分析

发生了什么

Towards Data Science文章分析显示，大语言模型生成的“随机”数并非均匀分布，存在明显的偏好数字（如37、47、73）。作者通过读取logits计算随机性比特数和破解猜测次数，发现指令微调模型在简单提示下高频输出特定数字，表明模型继承了人类偏见，这构成了潜在的安全风险。