鈦媒體 App 10 月 4 日,上海人工智能企業(yè) StartLux(原點(diǎn)星輝)近日發(fā)布專用決策模型 StartLux-Decision,并開放代碼與模型權(quán)重。據(jù)團(tuán)隊(duì)介紹,完成 StartLux-Decision 的研發(fā)與驗(yàn)證全程僅用 3 天,支撐這一速度的,是該公司正在建設(shè)的 Auto Research 方法。本次首批推出 0.8B、2B、4B、9B、27B 五檔版本。在獨(dú)立的 Decision Index 0.2.1 評測中,27B 版本得分 63.88,38 項(xiàng)基準(zhǔn)中有 31 項(xiàng)高于 Jev 1.13;在上海人工智能實(shí)驗(yàn)室(上海 AI 實(shí)驗(yàn)室)發(fā)布 Intern-Decision 時采用的七項(xiàng)評測中,27B 平均準(zhǔn)確率達(dá)到 91.82%,同樣高于 Jev 的 88.74%。性能方面,在單張 H200、BF16 精度和短請求條件下,4B 版本一次回答三個問題平均耗時 26 毫秒,0.8B 與 2B 版本分別為 12.2 毫秒和 15.5 毫秒。測試通過本地 HTTP 進(jìn)行,并啟用快速計算內(nèi)核與 CUDA Graphs,測量的是請求響應(yīng)時間。(廣角觀察)
鈦媒體快報
2小時前