準確地說,deepseek並不是第一次發布模型了。
在孟繁岐的視角來看,deepseek所公布的技術,一直以來都有不錯的創意。
closeai與ds也是有一些技術交流的,隻不過兩者合作並不緊密,孟繁岐也沒有太將這個做量化的跨界公司放在眼中。
他認為,ds所做的稀疏沒有高壁壘,仍舊受製於英偉達顯卡。
換言之,孟繁岐雖然驚訝與deepseek-v3竟然彎道超車,提前完成了他在兩個技術方向上的設想,但這件事情總體來說還是在意料之中的。
孟繁岐早就想過可能會有其他公司搶先做到,也做好了心理準備
對比之下,deepseek-r1係列模型,則完全超乎孟繁岐的意料。
尤其是r1-zero這一技術,可以說是完全在孟繁岐的理解之外。
在gpt發展到第四代之後,讓大模型對問題進行分析推理成為了提升模型性能的一個重要技術。
早期,有學者發現了一個非常微妙的事情,在與大模型進行交流對話的時候,如果你對它說,“請一步一步好好思索分析這個問題”,僅僅隻是添加了一句話,卻起到了明顯的作用。
經過學者們的測試,完全相同的模型,加上這句話作為提示詞後,在各個數據集和指標上的驗證結果都有了顯著的提高。
在有些地方上,這麽一句話帶來的顯著的效果甚至超過將模型擴大幾倍規模。
這個發現讓人們開始關注大模型的推理能力。
由於大模型生成每一個字的時候,都會將此前的所有文字考慮進去,這就導致了逐步分析問題的生成方式,其輸出的穩定性和邏輯性,都要比直接生成一個結論要強不少。
在直接將gpt-4級別的模型訓練得更高這件事情碰壁之後,讓模型形成思維鏈便成了一大研究重心。
而今真正將cot(chainofthoughts)思維鏈落實到大模型並公開使用的,隻有gpt4-o1。
推理係列的模型,會先針對提問進行一長串的分析和思考,逐一考慮各種可能性,最後才會開始嚐試回答問題。
這種回答方式雖然慢了一些,但質量顯然有了顯著提升。
o1係列的思考過程是不公開的,或者說,隻會展現給用戶一小部分摘要。
這麽做的原因,是為了增加其他ai公司的模仿成本。
最先進的大模型是如何思考問題的,這個思索推理的過程是非常珍貴的信息。
因為此前,讓大模型具有推理分析能力需要大量高質量的cot思維鏈數據。
許多難題應該如何逐步推理,不僅要準備每一步的分析,還要交叉確認這些內容步驟正確。這比起大模型早期時代在互聯網上到處摘抄文字,獲取的難度和成本不可同日而語。
饒是孟繁岐坐擁最大的ai相關知識交互社區,想要梳理出高質量的思維鏈文本也並不容易。
通過大量類似的高質量數據監督大模型學習推理的過程,這才有了第一個強智能的推理模型o1。
在這樣的領先優勢之下,自然不可能詳細開放o1的推理過程給用戶。
若是如此,其他公司獲取思維鏈路數據以蒸餾自己ai模型的成本就會遠低於自己,孟繁岐不可能做這樣的傻事。
坐擁這樣的先發優勢,孟繁岐又可以借助用戶的反饋,來獲取和調整新的思維鏈路數據。
因此在他看來,自己在大模型思維推理這方麵的優勢是巨大的,擁有堅不可摧牢不可破的壁壘。
然而,deepseek-r1-zero狠狠地擊碎了他自說自話的夢想。
“r1-zero可以直接在deepseek-v3的版本上做強化學習,不需要大量高質量監督數據就能夠探索出比較好的思維推理,增強了模型回複的長度、邏輯性和準確度。唯一的問題是這種方式獲取的模型思維對於人類來說可讀性不強。”孟繁岐繼續閱讀著r1-zero和r1的相關報告。
與各種自媒體所宣傳的不需要思維鏈數據不同,r1係列顯然還是需要這些高質量數據的,這讓孟繁岐內心稍稍安寧了一些,隻要這部分數據還有價值,他總不至於淪落到過去一年多的投入變為一場空。
真正的r1還是需要優質思維鏈路數據來冷啟動的,雖然從結果上看,r1並沒有比r1-zero準確很多,不過它的思維邏輯和方式人類更加容易讀懂了。
可以說,比起現在人人都搶著試用的r1,r1-zero版本給孟繁岐的震撼要大很多。
r1-zero成為了一種合成高質量思維鏈數據的方式,比起孟繁岐刀耕火種的標注和確認,大模型合成的規模和效率顯然存在千萬倍的潛力。
“有r1-zero獲取大規模的鏈路數據,針對思維鏈的每一個步驟再去分析計算,也就不大必要了。”孟繁岐終於理解了,為什麽deepseek的成本低到令人發指。
孟繁岐一直以為,deepseek對外開放的api調用價格這麽低,隻是因為母公司不差錢,沒準備用這個服務賺錢。
由於他們沒有互聯網大廠天然的用戶基礎,低價api和免費網頁試用,都隻是積累用戶的前期投入。
而今細讀deepseek在參數低bit訓練,高倍率權重稀疏,以及批量數據合成等方麵的成就。孟繁岐這才明白,原來他們真的已經將成本降低了一個數量級。
“deepseek-r1雖然已經來到了一流級別,但距離現在滿血的o1還有一定的差距。我們正在研發的新版本在性能上也更具有領先優勢。”
ds的熱度在持續攀升,孟繁岐很快接到了團隊的報告。對於這種“我還沒輸”的分析,他並不認可。
“性能指標隻是紙麵上的,如今階段,兩三個點的差距用戶在使用的時候已經難以察覺。並且,拋開成本談性能,實在是耍流氓了。”
孟繁岐進行過實驗性質的超大模型訓練,性能確實屢創新高,但推理一個問題的成本就能到幾十塊乃至上百元。
試問這樣的使用價格,隻是幾個點的提升又有什麽實際的意義呢?
“deepseek的低成本訓練大大降低了加入ai領域的門檻,我想很多還在觀望的公司都會有所動作。我們應該將策略從技術壟斷調轉方向,開始側重為大企業進行實際應用的適配。”
孟繁岐在曆史的轉折點做出了重大的決定。
在孟繁岐的視角來看,deepseek所公布的技術,一直以來都有不錯的創意。
closeai與ds也是有一些技術交流的,隻不過兩者合作並不緊密,孟繁岐也沒有太將這個做量化的跨界公司放在眼中。
他認為,ds所做的稀疏沒有高壁壘,仍舊受製於英偉達顯卡。
換言之,孟繁岐雖然驚訝與deepseek-v3竟然彎道超車,提前完成了他在兩個技術方向上的設想,但這件事情總體來說還是在意料之中的。
孟繁岐早就想過可能會有其他公司搶先做到,也做好了心理準備
對比之下,deepseek-r1係列模型,則完全超乎孟繁岐的意料。
尤其是r1-zero這一技術,可以說是完全在孟繁岐的理解之外。
在gpt發展到第四代之後,讓大模型對問題進行分析推理成為了提升模型性能的一個重要技術。
早期,有學者發現了一個非常微妙的事情,在與大模型進行交流對話的時候,如果你對它說,“請一步一步好好思索分析這個問題”,僅僅隻是添加了一句話,卻起到了明顯的作用。
經過學者們的測試,完全相同的模型,加上這句話作為提示詞後,在各個數據集和指標上的驗證結果都有了顯著的提高。
在有些地方上,這麽一句話帶來的顯著的效果甚至超過將模型擴大幾倍規模。
這個發現讓人們開始關注大模型的推理能力。
由於大模型生成每一個字的時候,都會將此前的所有文字考慮進去,這就導致了逐步分析問題的生成方式,其輸出的穩定性和邏輯性,都要比直接生成一個結論要強不少。
在直接將gpt-4級別的模型訓練得更高這件事情碰壁之後,讓模型形成思維鏈便成了一大研究重心。
而今真正將cot(chainofthoughts)思維鏈落實到大模型並公開使用的,隻有gpt4-o1。
推理係列的模型,會先針對提問進行一長串的分析和思考,逐一考慮各種可能性,最後才會開始嚐試回答問題。
這種回答方式雖然慢了一些,但質量顯然有了顯著提升。
o1係列的思考過程是不公開的,或者說,隻會展現給用戶一小部分摘要。
這麽做的原因,是為了增加其他ai公司的模仿成本。
最先進的大模型是如何思考問題的,這個思索推理的過程是非常珍貴的信息。
因為此前,讓大模型具有推理分析能力需要大量高質量的cot思維鏈數據。
許多難題應該如何逐步推理,不僅要準備每一步的分析,還要交叉確認這些內容步驟正確。這比起大模型早期時代在互聯網上到處摘抄文字,獲取的難度和成本不可同日而語。
饒是孟繁岐坐擁最大的ai相關知識交互社區,想要梳理出高質量的思維鏈文本也並不容易。
通過大量類似的高質量數據監督大模型學習推理的過程,這才有了第一個強智能的推理模型o1。
在這樣的領先優勢之下,自然不可能詳細開放o1的推理過程給用戶。
若是如此,其他公司獲取思維鏈路數據以蒸餾自己ai模型的成本就會遠低於自己,孟繁岐不可能做這樣的傻事。
坐擁這樣的先發優勢,孟繁岐又可以借助用戶的反饋,來獲取和調整新的思維鏈路數據。
因此在他看來,自己在大模型思維推理這方麵的優勢是巨大的,擁有堅不可摧牢不可破的壁壘。
然而,deepseek-r1-zero狠狠地擊碎了他自說自話的夢想。
“r1-zero可以直接在deepseek-v3的版本上做強化學習,不需要大量高質量監督數據就能夠探索出比較好的思維推理,增強了模型回複的長度、邏輯性和準確度。唯一的問題是這種方式獲取的模型思維對於人類來說可讀性不強。”孟繁岐繼續閱讀著r1-zero和r1的相關報告。
與各種自媒體所宣傳的不需要思維鏈數據不同,r1係列顯然還是需要這些高質量數據的,這讓孟繁岐內心稍稍安寧了一些,隻要這部分數據還有價值,他總不至於淪落到過去一年多的投入變為一場空。
真正的r1還是需要優質思維鏈路數據來冷啟動的,雖然從結果上看,r1並沒有比r1-zero準確很多,不過它的思維邏輯和方式人類更加容易讀懂了。
可以說,比起現在人人都搶著試用的r1,r1-zero版本給孟繁岐的震撼要大很多。
r1-zero成為了一種合成高質量思維鏈數據的方式,比起孟繁岐刀耕火種的標注和確認,大模型合成的規模和效率顯然存在千萬倍的潛力。
“有r1-zero獲取大規模的鏈路數據,針對思維鏈的每一個步驟再去分析計算,也就不大必要了。”孟繁岐終於理解了,為什麽deepseek的成本低到令人發指。
孟繁岐一直以為,deepseek對外開放的api調用價格這麽低,隻是因為母公司不差錢,沒準備用這個服務賺錢。
由於他們沒有互聯網大廠天然的用戶基礎,低價api和免費網頁試用,都隻是積累用戶的前期投入。
而今細讀deepseek在參數低bit訓練,高倍率權重稀疏,以及批量數據合成等方麵的成就。孟繁岐這才明白,原來他們真的已經將成本降低了一個數量級。
“deepseek-r1雖然已經來到了一流級別,但距離現在滿血的o1還有一定的差距。我們正在研發的新版本在性能上也更具有領先優勢。”
ds的熱度在持續攀升,孟繁岐很快接到了團隊的報告。對於這種“我還沒輸”的分析,他並不認可。
“性能指標隻是紙麵上的,如今階段,兩三個點的差距用戶在使用的時候已經難以察覺。並且,拋開成本談性能,實在是耍流氓了。”
孟繁岐進行過實驗性質的超大模型訓練,性能確實屢創新高,但推理一個問題的成本就能到幾十塊乃至上百元。
試問這樣的使用價格,隻是幾個點的提升又有什麽實際的意義呢?
“deepseek的低成本訓練大大降低了加入ai領域的門檻,我想很多還在觀望的公司都會有所動作。我們應該將策略從技術壟斷調轉方向,開始側重為大企業進行實際應用的適配。”
孟繁岐在曆史的轉折點做出了重大的決定。