深夜突襲,阿里Qwen3登頂全球開源王座!暴擊DeepSeek-R1,2小時(shí)狂攬17k星
Qwen3的發(fā)布不僅展現(xiàn)了阿里在AI技術(shù)上的領(lǐng)先地位,也為開發(fā)者和企業(yè)提供了強(qiáng)大的新工具,預(yù)示著智能體Agent和大模型應(yīng)用的新時(shí)代即將到來。文章將深入探討Qwen3的性能表現(xiàn)、技術(shù)突破、訓(xùn)練方法以及版本迭代歷程,揭示了這一模型如何在短短兩小時(shí)內(nèi)迅速獲得開源社區(qū)的高度認(rèn)可,并在全球范圍內(nèi)登頂開源王座。
阿里Qwen3凌晨開源,正式登頂全球開源大模型王座!它的性能全面超越DeepSeek-R1和OpenAI o1,采用MoE架構(gòu),總參數(shù)235B,橫掃各大基準(zhǔn)。這次開源的Qwen3家族,8款混合推理模型全部開源,免費(fèi)商用。
就在今天凌晨,備受全球期待的阿里新一代通義千問模型Qwen3開源!
一經(jīng)問世,它立刻登頂全球最強(qiáng)開源模型王座。
它的參數(shù)量?jī)H為DeepSeek-R1的1/3,但成本大幅下降,性能全面超越R1、OpenAI-o1等全球頂尖模型。
Qwen3是國(guó)內(nèi)首個(gè)「混合推理模型」,「快思考」與「慢思考」集成進(jìn)同一個(gè)模型,對(duì)簡(jiǎn)單需求可低算力「秒回」答案,對(duì)復(fù)雜問題可多步驟「深度思考」,大大節(jié)省算力消耗。
它采用混合專家(MoE)架構(gòu),總參數(shù)量235B,激活僅需22B。
它的預(yù)訓(xùn)練數(shù)據(jù)量達(dá)36T ,并在后訓(xùn)練階段多輪強(qiáng)化學(xué)習(xí),將非思考模式無縫整合到思考模型中。
一經(jīng)誕生,Qwen3立刻橫掃各大基準(zhǔn)。
而且,性能大幅提升的同時(shí),它的部署成本還大幅下降,僅需4張H20即可部署Qwen3滿血版,顯存占用僅為性能相近模型的1/3!
亮點(diǎn)總結(jié):
- 各種尺寸的稠密模型和混合專家(MoE)模型,包括0.6B、1.7B、4B、8B、14B、32B以及30B-A3B和235B-A22B。
- 能夠在思考模式(用于復(fù)雜的邏輯推理、數(shù)學(xué)和編碼)和非思考模式(用于高效的通用聊天)之間無縫切換,從而確保在各種場(chǎng)景中實(shí)現(xiàn)最佳性能。
- 推理能力顯著增強(qiáng),在數(shù)學(xué)、代碼生成和常識(shí)邏輯推理方面,超越了之前處于思考模式下的QwQ和處于非思考模式下的Qwen2.5 instruct模型。
- 更符合人類偏好,擅長(zhǎng)創(chuàng)意寫作、角色扮演、多輪對(duì)話和指令遵循,從而提供更自然、引人入勝和更真實(shí)的對(duì)話體驗(yàn)。
- 精通AI智能體能力,支持在思考和非思考模式下與外部工具的精確集成,并在復(fù)雜的基于智能體的任務(wù)中,在開源模型中實(shí)現(xiàn)了領(lǐng)先的性能。
- 首次支持119種語(yǔ)言和方言,具有強(qiáng)大的多語(yǔ)言指令跟隨和翻譯能力。
目前,Qwen 3已同步上線魔搭社區(qū)、Hugging Face、GitHub,并可在線體驗(yàn)。
全球開發(fā)者、研究機(jī)構(gòu)和企業(yè)均可免費(fèi)下載模型并商用,也可以通過阿里云百煉調(diào)用Qwen3的API服務(wù)。個(gè)人用戶可立即通過通義APP直接體驗(yàn)Qwen3,夸克也即將全線接入Qwen3。
在線體驗(yàn):https://chat.qwen.ai/
魔搭社區(qū):https://modelscope.cn/collections/Qwen3-9743180bdc6b48
Hugging Face:https://huggingface.co/collections/Qwen/qwen3-67dd247413f0e2e4f653967f
GitHub:https://github.com/QwenLM/Qwen3
至此,阿里通義已開源200余個(gè)模型,全球下載量超3億次,千問衍生模型數(shù)超10萬(wàn)個(gè),徹底超越美國(guó)Llama,成為全球第一開源模型!
Qwen 3家族登場(chǎng)8款「混合推理」模型全開源
這次,阿里一口氣開源了8款混合推理模型,包括2款30B、235B的MoE模型,以及0.6B、1.7B、4B、8B、14B、32B等6款稠密模型,均采用 Apache 2.0許可。
其中,每款模型均斬獲同尺寸開源模型SOTA。
Qwen3的30B參數(shù)MoE模型實(shí)現(xiàn)了10倍以上的模型性能杠桿提升,僅激活3B就能媲美上代Qwen2.5-32B模型性能。
Qwen3的稠密模型性能繼續(xù)突破,一半的參數(shù)量可實(shí)現(xiàn)同樣的高性能,如32B版本的Qwen3模型可跨級(jí)超越Qwen2.5-72B性能。
同時(shí),所有Qwen3模型都是混合推理模型,API可按需設(shè)置「思考預(yù)算」(即預(yù)期最大深度思考的tokens數(shù)量),進(jìn)行不同程度的思考,靈活滿足AI應(yīng)用和不同場(chǎng)景對(duì)性能和成本的多樣需求。
比如,4B模型是手機(jī)端的絕佳尺寸;8B可在電腦和汽車端側(cè)絲滑部署應(yīng)用;32B最受企業(yè)大規(guī)模部署歡迎,有條件的開發(fā)者也可輕松上手。
開源模型新王,刷新紀(jì)錄
Qwen3在推理、指令遵循、工具調(diào)用、多語(yǔ)言能力等方面均大幅增強(qiáng),即創(chuàng)下所有國(guó)產(chǎn)模型及全球開源模型的性能新高——
在奧數(shù)水平的AIME25測(cè)評(píng)中,Qwen3斬獲81.5分,刷新開源紀(jì)錄。
在考察代碼能力的LiveCodeBench評(píng)測(cè)中,Qwen3突破70分大關(guān),表現(xiàn)甚至超過Grok3。
在評(píng)估模型人類偏好對(duì)齊的ArenaHard測(cè)評(píng)中,Qwen3以95.6分超越了OpenAI-o1及DeepSeek-R1。
具體來說,旗艦?zāi)P?Qwen3-235B-A22B與其他頂級(jí)模型(如DeepSeek-R1、o1、o3-mini、Grok-3和Gemini-2.5-Pro)相比,在編碼、數(shù)學(xué)、通用能力等各項(xiàng)基準(zhǔn)測(cè)試中,成績(jī)都相當(dāng)亮眼。
此外,小型混合專家模型Qwen3-30B-A3B雖然激活參數(shù)只有QwQ-32B的十分之一,但性能卻更勝一籌。
甚至是Qwen3-4B這樣的小模型,也能媲美Qwen2.5-72B-Instruct的性能。
經(jīng)過微調(diào)的模型,如Qwen3-30B-A3B,及其預(yù)訓(xùn)練版本(如 Qwen3-30B-A3B-Base),現(xiàn)在都可在Hugging Face、ModelScope 和Kaggle等平臺(tái)上找到。
對(duì)于部署,阿里推薦使用SGLang和vLLM等框架。對(duì)于本地使用,強(qiáng)烈推薦Ollama、LMStudio、MLX、llama.cpp和KTransformers等工具。
無論研究、開發(fā)還是生產(chǎn)環(huán)境,Qwen3都可輕松集成到各種工作流程中。
利好智能體Agent和大模型應(yīng)用爆發(fā)
可以說,Qwen3為即將到來的智能體Agent和大模型應(yīng)用爆發(fā)提供了更好的支持。
在評(píng)估模型Agent能力的BFCL評(píng)測(cè)中,Qwen3創(chuàng)下70.8的新高,超越Gemini2.5-Pro、OpenAI-o1等頂尖模型,這將大幅降低Agent調(diào)用工具的門檻。
同時(shí),Qwen3原生支持MCP協(xié)議,并具備強(qiáng)大的工具調(diào)用能力,結(jié)合封裝了工具調(diào)用模板和工具調(diào)用解析器的Qwen-Agent框架。
這將大大降低編碼復(fù)雜性,實(shí)現(xiàn)高效的手機(jī)及電腦Agent操作等任務(wù)。
主要特點(diǎn)
混合推理模式
Qwen3模型引入了一種混合問題解決方式。它們支持兩種模式:
1. 思考模式:在該模式下,模型會(huì)逐步推理,然后給出答案。這適合需要深入思考的復(fù)雜問題。
2. 非思考模式:在該模式下,模型會(huì)快速給出答案,適用于對(duì)速度要求較高的簡(jiǎn)單問題。
這種靈活性,讓用戶可以根據(jù)任務(wù)的復(fù)雜程度,控制模型的推理過程。
例如,難題可以通過擴(kuò)展推理來解決,而簡(jiǎn)單的問題可以直接回答,而不會(huì)延遲。
至關(guān)重要的是,這兩種模式的結(jié)合,大大提高了模型穩(wěn)定高效地控制推理資源的能力。
如上所示,Qwen3表現(xiàn)出可擴(kuò)展且平滑的性能改進(jìn),這與分配的計(jì)算推理預(yù)算直接相關(guān)。
這種設(shè)計(jì)使用戶能夠更輕松地配置特定于任務(wù)的預(yù)算,從而在成本效率和推理質(zhì)量之間實(shí)現(xiàn)更優(yōu)化的平衡。
多語(yǔ)言支持
Qwen3模型支持119種語(yǔ)言和方言。
如此廣泛的多語(yǔ)言能力,也意味著Qwen 3有極大潛力創(chuàng)建風(fēng)靡全球的國(guó)際應(yīng)用。
更強(qiáng)大的智能體能力
阿里對(duì)Qwen3模型進(jìn)行了優(yōu)化,以提高編碼和智能體能力,并且還加強(qiáng)了對(duì)MCP的支持。
下面這個(gè)示例,很好地展示了Qwen3是如何思考并與環(huán)境交互的。
36萬(wàn)億token,多階段訓(xùn)練
作為千問系列最強(qiáng)模型,Qwen3究竟是如何實(shí)現(xiàn)如此驚艷的表現(xiàn)?
接下來,一起扒一扒Qwen3背后技術(shù)細(xì)節(jié)。
預(yù)訓(xùn)練
與Qwen2.5相比,Qwen3預(yù)訓(xùn)練數(shù)據(jù)集規(guī)模幾乎是上一代兩倍,從18萬(wàn)億個(gè)token擴(kuò)展到了36萬(wàn)億個(gè)token。
它覆蓋了119種語(yǔ)言和方言,不僅來源于網(wǎng)絡(luò),還包括從PDF等文檔中提取文本內(nèi)容。
為了確保數(shù)據(jù)質(zhì)量,團(tuán)隊(duì)利用Qwen2.5-VL提取文檔文本,并通過Qwen2.5優(yōu)化提取內(nèi)容的準(zhǔn)確性。
此外,為了提升模型在數(shù)學(xué)和代碼領(lǐng)域的表現(xiàn),Qwen3還通過Qwen2.5-Math和Qwen2.5-Coder生成大量合成數(shù)據(jù),包括教科書、問答對(duì)和代碼片段。
Qwen3預(yù)訓(xùn)練過程,一共分為三個(gè)階段,逐步提升模型的能力:
第一階段(S1):基礎(chǔ)語(yǔ)言能力構(gòu)建
使用超30萬(wàn)億個(gè)token,以4k上下文長(zhǎng)度進(jìn)行預(yù)訓(xùn)練。這一階段為模型奠定了扎實(shí)的語(yǔ)言能力和通用知識(shí)基礎(chǔ)。
第二階段(S2):知識(shí)稠密型優(yōu)化
通過增加STEM、編碼和推理任務(wù)等知識(shí)稠密型數(shù)據(jù)的比例,模型在額外5萬(wàn)億和token上繼續(xù)訓(xùn)練,進(jìn)一步提升專業(yè)能力的表現(xiàn)。
第三階段(S3):上下文能力擴(kuò)展
利用高質(zhì)量上下文數(shù)據(jù),將模型的上下文長(zhǎng)度擴(kuò)展至32k,確保其能夠處理復(fù)雜、超長(zhǎng)輸入。
得益于模型架構(gòu)優(yōu)化、數(shù)據(jù)規(guī)模擴(kuò)展和更高效的訓(xùn)練方法,Qwen3 Dense基礎(chǔ)模型展現(xiàn)出亮眼的性能。
如下表所示,Qwen3-1.7B/4B/8B/14B/32B-Base可以媲美Qwen2.5-3B/7B/14B/32B/72B-Base,以更小的參數(shù)量達(dá)到更大模型的水平。
尤其是,在STEM、編碼和推理等領(lǐng)域,Qwen3 Dense基礎(chǔ)模型甚至優(yōu)于更大的Qwen2.5模型。
更令人矚目的是,Qwen3 MoE模型僅用10%激活參數(shù),即可實(shí)現(xiàn)Qwen2.5 Dense基礎(chǔ)模型相似的性能。
這不僅大幅降低了訓(xùn)練和推理成本,還為模型的實(shí)際部署提供了更高的靈活性。
后訓(xùn)練
為了打造一個(gè)既能進(jìn)行復(fù)雜推理,又能快速響應(yīng)的混合模型,Qwen3設(shè)計(jì)了一個(gè)四階段后訓(xùn)練流程。
1. 長(zhǎng)思維鏈冷啟動(dòng)
使用多樣化的長(zhǎng)思維鏈數(shù)據(jù),覆蓋數(shù)學(xué)、編碼、邏輯推理和STEM問題,訓(xùn)練模型掌握基本的推理能力。
2. 長(zhǎng)思維鏈強(qiáng)化學(xué)習(xí)
通過擴(kuò)展RL的計(jì)算資源,結(jié)合基于規(guī)則的獎(jiǎng)勵(lì)機(jī)制,提升模型在探索和利用推理路徑方面的能力。
3. 思維模式融合
使用長(zhǎng)思維鏈數(shù)據(jù)和指令微調(diào)數(shù)據(jù)進(jìn)行微調(diào),將快速反應(yīng)能力融入推理模型,確保模型在復(fù)雜任務(wù)中既精準(zhǔn)又高效。
此數(shù)據(jù)由第二階段的增強(qiáng)思考模型生成,確保推理和快速響應(yīng)能力的無縫融合。
4. 通用強(qiáng)化學(xué)習(xí)
在20多個(gè)通用領(lǐng)域任務(wù),如指令遵循、格式遵循和智能體能力中應(yīng)用RL,進(jìn)一步提升模型的通用性和魯棒性,同時(shí)糾正不良行為。
全網(wǎng)好評(píng)如潮
Qwen3開源不到3小時(shí),GitHub狂攬17k星,徹底點(diǎn)燃了開源社區(qū)的熱情。開發(fā)者們紛紛下載,開啟了極速測(cè)試。
項(xiàng)目地址:https://github.com/QwenLM/Qwen3
蘋果工程師Awni Hannun宣布,Qwen3已經(jīng)得到MLX框架支持。
而且,不論是iPhone(0.6B, 4B),還是MacBook(8B, 30B, 3B/30B MoE)、M2/M3 Ultra(22B/235B MoE)消費(fèi)級(jí)設(shè)備,均可本地跑。
他在M2 Ultra上運(yùn)行了Qwen3 235B MoE,生成速度高達(dá)28 token/s。
有網(wǎng)友實(shí)測(cè)后發(fā)現(xiàn),與Qwen3大小相同的Llama模型,簡(jiǎn)直不在一個(gè)級(jí)別上。前者推理更深入,保持更長(zhǎng)上下文,還能解決更難的問題。
還有人表示,Qwen3就像是一個(gè)DeepSeek時(shí)刻。
官方指南如何用Qwen3進(jìn)行開發(fā)
這次,阿里還放出了在不同框架上使用Qwen3的簡(jiǎn)單指南。
要關(guān)閉推理功能,只需更改參數(shù)enable_thinking,如下所示:
對(duì)于部署,可以使用sglang>=0.4.6.post1或vllm>=0.8.4創(chuàng)建與OpenAI兼容的API端點(diǎn):
vLLM:
如果將其用于本地開發(fā),則可以通過運(yùn)行簡(jiǎn)單的命令ollama run qwen3:30b-a3b來使用ollama運(yùn)行模型,或者,也可使用LMStudio、llama.cpp和ktransformers在本地進(jìn)行構(gòu)建。
高級(jí)用法
團(tuán)隊(duì)提供了一種軟切換機(jī)制,當(dāng)enable_thinking=True時(shí),用戶可以通過該機(jī)制動(dòng)態(tài)控制模型的行為。
具體來說,可以將/think和/no_think添加到用戶提示或系統(tǒng)消息中,以逐輪切換模型的思考模式。該模型將遵循多輪對(duì)話中最近的指令。
下面就是一個(gè)多輪對(duì)話的示例:
智能體功能的使用
Qwen3在工具調(diào)用方面的表現(xiàn)非常出色。
團(tuán)隊(duì)建議開發(fā)者使用Qwen-Agent,來充分利用Qwen3的智能體功能。
Qwen-Agent在內(nèi)部集成了工具調(diào)用模板和解析器,從而大大降低了編碼的復(fù)雜程度。
要定義可用的工具,可以使用MCP配置文件,使用Qwen-Agent的集成工具,或者自己集成其他工具。
本文由人人都是產(chǎn)品經(jīng)理作者【新智元】,微信公眾號(hào):【新智元】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自Unsplash,基于 CC0 協(xié)議。
- 目前還沒評(píng)論,等你發(fā)揮!