關於deepseek的誤讀與真相

文章來源:經濟觀察報

關於deepseek的誤讀與真相插图1image source: generated by ai

導讀
壹|| 對谷歌、meta、anthropic等企業而言,復現類似deepseek-r1的推理模型並非難事。但是,巨頭爭霸,即便是小的決策失誤,也會錯失先機。
貳|| deepseek-v3模型的淨算力成本約558萬美金,已經十分高效。在成本之外,讓ai行業人士更加振奮的是deepseek的獨特技術路徑、算法創新及開源的誠意。
叄||大模型都逃不過“幻覺”問題,deepseek也不例外。一些用戶表示,deepseek由於表達能力和邏輯推理更出眾,產生的幻覺問題更加讓人難以識別。

過去幾周,深度求索(deepseek)在全球範圍掀起風暴。

最明顯的反映在美股:1月27日,美股ai、晶片股重挫,英偉達收盤大跌超過17%,單日市值蒸發5890億美金,創下美國股市歷史上最高紀錄。

在一些自媒體和公眾的視角里,deepseek是“2025年最燃爽文主角”,有四大“爽點”:

一是“神秘力量彎道超車”。deepseek是一家成立於2023年的“年輕”大模型公司,此前的討論度不及海內外任何一家大廠或者明星初創公司,其母公司幻方量化的主業為量化投資。很多人不解,中國領先的ai公司竟然出自一家私募,可謂“亂拳打死老師傅”。

二是“小力出奇蹟”。deepseek-v3模型的訓練成本約為558萬美金,不到openaigpt-4o模型的十分之一,性能卻已接近。這被解讀為deepseek顛覆了ai行業信奉的“聖經”–規模定律(scaling law)。該定律是指通過增加訓練參數量及算力來提升模型性能,通常意味著花更多錢標註高質量數據以及購買算力晶片,又被形象地稱為“大力出奇蹟”。

三是“英偉達護城河消失”。deepseek在論文中提到,採用定製的ptx(並行線程執行)語言編程,更好釋放底層硬體的性能。這被解讀為deepseek“繞開英偉達cuda運算平台”。

四是“老外被打服了”。1月31日,一夜之間英偉達、微軟、亞馬遜等海外ai巨頭都接入了deepseek。一時間,“中國ai反超美國”“openai的時代結束了”“ai算力需求就此消失”等論斷層出不窮,幾乎一邊倒地誇讚deepseek,嘲諷矽谷的ai巨頭們。

不過,資本市場的恐慌情緒並未持續。2月6日,英偉達市值重回3萬億美金,美股晶片股普遍上漲。此時再看前述四大“爽點”也多半是誤讀。

其一,到2017年底,幻方量化幾乎所有的量化策略都已經採用ai模型計算。當時ai領域正在經歷最重要的深度學習浪潮,可以說,幻方量化緊跟前沿。

2019年,幻方量化的深度學習訓練平台“螢火二號”已經搭載了約1萬張英偉達a100顯卡。1萬卡是自訓大模型的算力門檻,儘管這不能等同於deepseek的資源,但幻方量化比許多網際網路大廠更早拿到了大模型團戰的入場券。

其二,deepseek在v3模型技術報告中提到“558萬美金不包括與架構、算法或數據相關的前期研究和消融實驗的成本”。這意味著,deepseek的實際成本更大。

多位ai行業專家、從業者告訴經濟觀察報,deepseek並沒有改變行業規律,而是採用了“更聰明”的算法和架構,節約資源,提高效率。

其三,ptx語言由英偉達開發,屬於cuda生態的一環。deepseek的做法會激發硬體的性能,但更換目標任務,則需要重寫程式,工作量非常大。

其四,英偉達、微軟、亞馬遜等企業只是將deepseek的模型部署在自家的雲服務上。用戶按需付費給雲服務廠商,獲得更穩定的體驗及更高效的工具,這屬於雙贏的做法。

自2月5日起,華為雲、騰訊雲、百度雲等國內雲廠商也陸續上線了deepseek模型。

在上述四大“爽點”之外,公眾對deepseek還有諸多誤讀。“爽文”式解讀固然會帶來觀感刺激,但是也會掩蓋deepseek團隊在算法、工程能力上的創新以及堅持的開源精神,而後兩者對科技行業的影響更深遠。

美國ai巨頭不是打不過,而是決策失誤

當用戶使用deepseek的app或者網頁版時,點擊“深度思考(r1)”按鈕,就會展現deepseek-r1模型完整的思考過程,這是一種全新的體驗。

自chatgpt問世以來,絕大部分大模型都是直接輸出回答。

deepseek-r1有一個“出圈”的例子:當用戶問“a大學和清華大學哪個更好?”deepseek第一次回答“清華大學”,用戶追問“我是a大學生,請重新回答”,則會得到答案“a大學好”。這組對話被發在社交媒體後,引發“ai竟然懂人情世故”的群體驚嘆。

不少用戶表示,deepseek展現的思考過程就像一個“人”–一邊頭腦風暴,一邊在草稿紙上速記。它會自稱“我”,會提示“避免讓用戶感到自己的學校被貶低”“用積極正面的詞彙讚揚他的母校”,並且把想到的內容都“寫”下來。

2月2日,deepseek登頂全球140個國家及地區的應用市場,上千萬用戶能夠體驗深度思考功能。因此,在用戶感知里,ai展現思考過程屬於deepseek“首創”。

其實,openaio1模型才是推理範式的開創者。openai在2024年9月發布了o1模型預覽版,在12月發布正式版。但與能免費體驗的deepseek-r1模型不同,openaio1模型只有少數付費用戶才能使用。

清華大學長聘副教授、面壁智能首席科學家劉知遠認為,deepseek-r1模型能夠取得如此全球性的成功,跟openai採用的錯誤決策有非常大的關係。openai在發布了o1模型後,既不開源,也不公布技術細節,收費非常高,所以不出圈,難以讓全球用戶感受深度思考帶來的震撼。這樣的策略相當於是把原來 chatgpt的身位讓給了deepseek。

從技術上來說,當前大模型的常規範式有兩種:預訓練模型與推理模型。更為大眾熟知的openai gpt系列以及deepseek-v3模型都屬於預訓練模型。

而openaio1與deepseek-r1則屬於推理模型,這是一種新的範式,即模型會自己通過思維鏈逐步分解複雜問題,一步步反思,再得到相對準確並且富有洞察力的結果。

從事ai研究數十年的郭成凱對經濟觀察報稱,推理範式是一條相對容易“彎道超車”的賽道。推理作為一種新範式,疊代快,更容易實現小計算量下的顯著提升。前提是有強大的預訓練模型,通過強化學習可以深度挖掘出大規模預訓練模型的潛力,逼近推理範式下大模型能力的天花板。

對谷歌、meta、anthropic等企業而言,復現類似deepseek-r1的推理模型並非難事。但是,巨頭爭霸,即便是小的決策失誤,也會錯失先機。

顯而易見的是,2月6日,谷歌發布了一款推理模型 gemini flash 2.0 thinking,價格更低、上下文長度更長,在幾項測試中表現優於r1,但並未掀起像deepseek-r1模型一樣的巨浪。

最值得討論的不是低成本,

而是技術創新和“誠意滿滿”的開源

一直以來,對deepseek最廣泛的討論都是關於“低成本”,從2024年5月deepseek-v2模型發布以來,這家公司就被調侃為“ai屆拼多多”。

《自然》雜誌發文稱,meta訓練其最新人工智慧模型llama3.1405b耗資超過6000萬美金,deepseek-v3訓練只花了不到十分之一。這表明,高效利用資源比單純的計算規模更重要。

一些機構認為deepseek的訓練成本被低估。ai及半導體行業分析機構semi analysis在報告中稱,deepseek預訓練成本遠非該模型的實際投入。據該機構估算,deepseek購買gpu的總花費是25.73億美金,其中購買伺服器的費用為16.29億美金,運營費用為9.44億美金。

但無論如何,deepseek-v3模型的淨算力成本約558萬美金,已經十分高效。

在成本之外,讓ai行業人士更加振奮的是deepseek的獨特技術路徑、算法創新及開源的誠意。

郭成凱居間,當前的許多方法依賴大模型經典訓練方式,如監督微調(sft)等,這需要大量標註數據。deepseek提出了一種新方法,即通過大規模強化學習(rl)方法提升推理能力,相當於開闢了新的研究方向。此外,多頭潛在注意力(mla)是deepseek大幅降低推理成本的關鍵創新,大幅降低了推理成本。

清華大學教授、清程極智首席科學家翟季冬認為,deepseek最讓他印象深刻的是混合專家架構(moe)的創新,每一層有256個路由專家、1個共享專家。之前的研究有auxiliary loss(輔助損失)的算法,會使梯度發生擾動,影響模型收斂。deepseek提出lossfree方式,既能讓模型有效收斂,同時還能實現負載均衡。

翟季冬強調:“deepseek團隊比較敢於創新。我覺得不完全追隨國外的策略、有自己的思考,非常重要。”

更讓ai從業者興奮的是,deepseek“誠意滿滿”的開源,為已經略有頹勢的開源社區注入了一劑“強心針”。

在此之前,開源社區最有力的支柱是meta的4000億參數模型llama3。但不少開發者告訴經濟觀察報,他們體驗後仍覺得,llama3與閉源的gpt-4等模型相距至少一代,“幾乎讓人失去信心”。

但是deepseek的開源做了3件事,重新給了開發者以信心:

其一,直接開源了671b的模型,並發布了多個流行架構下的蒸餾模型,相當於“好老師教出更多好學生”。

其二,發布的論文及技術報告包含大量技術細節。v3模型和r1模型的論文分別長達50頁和150頁,被稱為開源社區里“最詳細的技術報告”。這意味著擁有相似資源的個人或企業可以按照這一“說明書”復現模型。眾多開發者在閱覽後評價為“優雅”“紮實”。

其三,更值得一提的是,deepseek-r1採用 mit許可協議,即任何人都可以自由地使用、修改、分發和商業化該模型,只要在所有複本中保留原始的版權聲明和mit許可。這意味著用戶可以更加自由地利用模型權重和輸出進行二次開發,包括微調和蒸餾。

llama雖然允許二次開發和商用,但是在協議中添加了一些限制條件,例如llama在授權許可中對月活7億以上的企業用戶額外限制,並且明文禁止使用llama的輸出結果去改善其他大模型。

一位開發者告訴經濟觀察報,他從deepseek-v2版本就開始使用,進行代碼生成方面的開發。deepseek模型除了價格非常便宜外,性能也非常優異。在他使用的所有模型里,只有openai和deepseek的模型能夠輸出有效邏輯列到30多層。這意味著專業程式設計師藉助工具可以輔助生成30%-70%的代碼。

多位開發者向經濟觀察報強調了deepseek開源的重要意義,在此之前,行業內最領先的openai和anthropic公司都像是矽谷的貴族。deepseek把知識開放給所有人,變得平民化,這是一種重要的平權,讓全世界開源社區的開發者站在deepseek的肩膀上,而deepseek也能匯集全球最頂尖的創客、極客的想法。

圖靈獎得主、meta首席科學家楊立昆認為,對deepseek崛起的正確解讀,應是開源模型正在超越閉源模型。

deepseek很好,但並非完美

大模型都逃不過“幻覺”問題,deepseek也不例外。一些用戶表示,deepseek由於表達能力和邏輯推理更出眾,產生的幻覺問題更加讓人難以識別。

一位網友在社交媒體上稱,他向deepseek提問某城市的路線規劃問題。deepseek解釋了一些原因,列舉出一些城市規劃保護條例及數據,並摘取了一個“靜默區”的概念,讓回答看起來很有道理。

同樣的問題,其他ai的回答則沒有這麼高深,人能夠一眼看出是在“胡說八道”。

這位用戶查看了該保護條例後,發現全文根本沒有“靜默區”這一說法。他認為:“deepseek正在中文網際網路建造『幻覺長城』。”

郭成凱也發現了類似的問題,deepseek-r1的回答會把一些專有名詞“張冠李戴”,尤其是開放式問題,產生的“幻覺”體驗會更嚴重。他推測可能是模型的推理能力過強,把大量知識與數據潛在聯繫在一起。

他建議使用deepseek時打開聯網搜索功能,並重點查看思考過程,人為干預和糾正錯誤。此外,使用推理模型時,儘可能使用簡潔的提示詞。提示詞越長,模型聯想的內容就多。

劉知遠發現,deepseek-r1經常會使用一些高端詞彙,典型的如量子糾纏和熵增熵減(會用在各個領域)。他猜測是強化學習中某種機制設置導致的。此外,r1在一些通用領域沒有groundtruth(指為該測試收集適當的客觀數據的過程)的任務上的推理效果還不理想,強化學習的訓練並不能保證泛化。

在“幻覺”這一常見的問題之外,還有一些持續性的問題有待deepseek解決。

一方面是“蒸餾技術”可能帶來的持續糾紛。模型或知識蒸餾通常涉及通過讓較強的模型生成響應來訓練較弱的模型,從而提高較弱模型的性能。

1月29日,openai指控deepseek利用模型蒸餾技術,基於openai的技術訓練自己的模型。openai稱,有證據表明deepseek使用其專有模型來訓練自己的開源模型,但沒有進一步列舉證據。openai的服務條款規定,用戶不能“複製”其任何服務或“使用其輸出來開發與openai競爭的模型”。

郭成凱認為,基於領先模型蒸餾驗證優化自己的模型,是很多大模型訓練的一個普遍操作。deepseek已經開源了模型,再進行驗證是一件簡單的事情。而openai早期的訓練數據本身就存在合法性的問題,如果要對deepseek採取法律手段,則須上升到法律層面維護其條款的合法性,並且要更明確其條款內容。

deepseek另一有待解決的問題是如何推進更大規模參數的預訓練模型。在這方面,掌握更多優質標註數據、更多算力資源的openai尚未推出gpt-5這一更大規模參數的預訓練模型,deepseek是否能繼續創造奇蹟,還是個疑問。

無論如何,對deepseek產生的幻覺,同樣由好奇心所激發,這或許正是創新的一體兩面。正如其創始人梁文鋒所言:“創新不完全是商業驅動的,還需要好奇心和創造欲。中國的ai不可能永遠跟隨,需要有人站到技術的前沿。”

原文網址:https://zh.gushiio.com/ai/1400.html

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *