DeepSeek-R1創歷史 梁文鋒論文登上《自然》封面

據國際權威期刊《自然(Nature)》雜誌網站9月17日消息,由DeepSeek團隊共同完成、梁文鋒擔任通訊作者的DeepSeek-R1推理模型研究論文被《自然》雜誌刊載,並登上了當期《自然》的封面。
與今年1月發布的DeepSeek-R1的初版論文相比,本次論文披露了更多模型訓練的細節,並正面回應了模型發布之初的蒸餾質疑。DeepSeek-R1也是全球首個經過同行評審的主流大語言模型。Nature評價道:目前幾乎所有主流的大模型都還沒有經過獨立同行評審,這一空白「終於被DeepSeek打破」。
《科技日報》則在報道中介紹稱,梁文鋒參與的研究表明,大語言模型的推理能力可通過純強化學習來提升,從而減少增強性能所需的人類輸入工作量。訓練出的模型在數學和STEM領域研究生水平問題等任務上,比傳統訓練的大語言模型表現更好。
DeepSeek-R1包含一個在人類監督下的深入訓練階段,以優化推理過程。梁文鋒團隊報告稱,該模型使用了強化學習而非人類示例來開發推理步驟,減少了訓練成本和複雜性。DeepSeek-R1在被展示優質的問題解決案例後,會獲得一個模板來產生推理過程,即這一模型通過解決問題獲得獎勵,從而強化學習效果。在評估AI表現的各項測試中,DeepSeek-R1-Zero和DeepSeek-R1的表現都十分優異。
梁文鋒團隊總結說,未來研究可以聚焦優化獎勵過程,以確保推理和任務結果更可靠。