每經(jīng)北京 3 月 16 日電（記者 李宇彤）3 月 16 日，月之暗面 Kimi 發(fā)布技術(shù)報告，對大模型的核心結(jié)構(gòu)殘差連接行重新設(shè)計，使每一層能夠選擇性地關(guān)注此前各層輸出，而非統(tǒng)一求和，48B 模型訓(xùn)練效率提升 1.25 倍。該報告的發(fā)布被行業(yè)解讀為提前預(yù)告了下一代模型的關(guān)鍵模塊。
《每日經(jīng)濟新聞》記者注意到，報告結(jié)尾處顯示，月之暗面三位聯(lián)合創(chuàng)始人楊植麟、吳育昕、周昕宇帶領(lǐng)數(shù)十名研究員完成了這項研究。報告發(fā)布后，馬斯克評價 Kimi 的研究令人印象深刻（Impressive work from Kimi），OpenAI 的 " 推理模型之父 "、前 OpenAI 研究副總裁 Jerry Tworek 則表示 " 深度學(xué)習(xí) 2.0 要來了 "。
每日經(jīng)濟新聞
