Hacker News · AI· wvlia5·· 3 小时前AI 评分25
内部 AI 语言:LLMs 如何将英语转换为隐含的内部语言
Ask HN: Internal AI Language
AI 导读
大语言模型在预测下一个 token 前会将英语转换为一种内部语言,这种语言以向量形式表达,例如“king”对应 [monarch, man]。这种内部语言在模型的前几层中形成,可能源自所有文本的汇总,目前尚未有明确的词典映射。若能学习并解析这种语言,或将能更直接地与 AI 通信,减少语言歧义。
来源:Hacker News · AI · news.ycombinator.com