DeepSeek發布Prover-V2模型,參數量達6710億

robot
摘要生成中

【DeepSeek發布Prover-V2模型,參數量達6710億】DeepSeek今日於AI開源社區Hugging Face上發布了一個名爲DeepSeek-Prover-V2-671B的新模型。據悉,DeepSeek-Prover-V2-671B 使用了更高效的 safetensors文件格式,並支持多種計算精度,方便模型更快、更省資源地訓練和部署,參數達6710億,或爲去年發布的Prover-V1.5數學模型升級版本。在模型架構上,該模型使用了DeepSeek-V3架構,採用MoE(混合專家)模式,具有61層Transformer層,7168維隱藏層。同時支持超長上下文,最大位置嵌入達16.38萬,使其能處理復雜的數學證明,並且採用了FP8量化,可通過量化技術減小模型大小,提高推理效率。(金十)

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 留言
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
暫無留言