Hacker News · AI· possiblelion·· 1 小时前精选AI 评分70
AI写作冗余风格的来源及模型内抑制方法研究
Where AI slop comes from, and how to turn it down inside the model
AI 导读
研究发现AI写作中的冗余风格(如破折号、'不是X而是Y'句式、三段列表)源于模型内部单一方向,该方向在预训练阶段已存在,但通过监督微调和偏好调整被激活。在Qwen3-4B和OLMo 2模型中,通过定向调整或微调可将冗余风格降低83%-85%,且不影响模型在事实问答和普通文本生成上的表现。
推荐理由
研究发现AI写作中的冗余风格源于模型内部单一方向,可通过定向调整或微调显著降低,且不影响基础能力。
来源:Hacker News · AI · 100toolkit.com