RB88 - OpenAI高管揭示：蒸馏技术助力中国AI模型追赶美国

10月19日，OpenAI的战略与未来主管Dean W. Ball在X平台上对蒸馏技术展开了深入讨论，此次探讨起源于用户Lisam al Gaib的一条引人注目的帖子。Galib的帖子提到，DeepSeek如今似乎与Astra在推理风格上不谋而合，令人好奇这是否仅仅是巧合。同时，他附上了一张详细的对比表，直观展示了两者在省略连接词、数字与单词融合、草稿压缩及自述长度等四种写法上的异同。对比中左侧列出了Astra max的写法，右侧则是DeepSeek，内容上的相似之处引人注目。例如，“Need ensure involution…”和“Need ensure no hidden issue…”形成了对应，而“index7 subgroups”与“Subgroups index7”也是如此。

在这一讨论中，Ball分享了他对蒸馏技术在中国模型基准性能表现中的重要性的新认识。他指出，蒸馏一直是解释中国为何在模型性能上紧随美国的关键因素。自加入OpenAI后，他的理解有所深化，认为蒸馏在这一领域所发挥的作用可能远超他的初步预期。在网友的追问中，是否可以给出一个具体的百分比来衡量各个实验室在蒸馏技术应用上的差异，Ball的回答颇具启发性。他推测，在他见识到OpenAI内部的具体情况之前，蒸馏可能解释了中国模型表现约30%的原因，但这一估算在他随后调整后提升至50%。值得注意的是，这两个数字只是他在社交平台上的个人看法，并非OpenAI的官方立场。

此外，OpenAI并没有对此回复进行进一步的澄清，而该帖子中也未明确指出涉及的具体公司或模型名称。在对比表中，虽然一侧标示出“Astra max”，而另一侧的“DeepSeek”并未标注具体版本，留给读者更多的思考空间。 RB88