
月之暗面揭秘Kimi智能助手携手混合现实XR支持200万字无损上下文跨越时空的知识共享
在“lossless long context is everything”的理念指导下,月之暗面不断追求技术的边界。3月18日,这家AI大模型初创企业宣布,在长上下文窗术领域取得了新的突破,Kimi智能助手支持达到了200万字的超长无损上下文,并于当天开启产品内测,让用户能够通过kimi.ai首页申请体验这项创新功能。这仅仅是在去年10月Kimi智能助手推出后的不到半年时间里实现的,从20万汉字无损上下文输入能力的创纪录者,一跃至今之最。
Kimi智能助手是基于自研千亿参数大模型——Kimi大模型(原Moonshot大模型)的对话式AI助手产品,其发布时即具备了20万汉字无损上下文输入能力,打破了消费级AI产品所能支持的上下文长度记录。开放服务后,它凭借卓越的长上下文处理能力,为用户解锁了诸如专业学术论文翻译和理解、法律问题辅导分析以及快速整理大量数据等多种新用途。用户反响热烈,将其誉为当时最优秀的人工智能助手之一。
然而,不满足于此,月之暗面继续推动进步。在不到半年的时间里,他们成功将Kimi智能助手的无损上下文长度提升了一倍,从20万字增加到200万字,实现了10倍增长。为了达到更优质的长窗口无损压缩性能,他们重新设计和开发从模型预训练到对齐、推理环节的手段,无需依赖“滑动窗口”或“降采样”等捷径,而是勇敢地攻克底层技术难点,最终取得这一令人瞩目的突破。
工程副总裁许欣然表达了团队对于这一成就感到非常骄傲:“我们坚信每一个细微改进都可能带来革命性的改变,因此,我们一直致力于探索新的技术路径,以确保我们的系统能够提供更加完美的地图。”