DoNews9月29日消息，DeepSeek 今日正式發(fā)布 DeepSeek-V3.2-Exp 模型，這是一個(gè)實(shí)驗(yàn)性（Experimental）的版本。
作為邁向新一代架構(gòu)的中間步驟，V3.2-Exp 在 V3.1-Terminus 的基礎(chǔ)上引入了 DeepSeek Sparse Attention（一種稀疏注意力機(jī)制），針對(duì)長(zhǎng)文本的訓(xùn)練和推理效率進(jìn)行了探索性的優(yōu)化和驗(yàn)證。
DeepSeek Sparse Attention（DSA）首次實(shí)現(xiàn)了細(xì)粒度稀疏注意力機(jī)制，在幾乎不影響模型輸出效果的前提下，實(shí)現(xiàn)了長(zhǎng)文本訓(xùn)練和推理效率的大幅提升。
為了嚴(yán)謹(jǐn)?shù)卦u(píng)估引入稀疏注意力帶來的影響，官方特意把 DeepSeek-V3.2-Exp 的訓(xùn)練設(shè)置與 V3.1-Terminus 進(jìn)行了嚴(yán)格的對(duì)齊。在各領(lǐng)域的公開評(píng)測(cè)集上，DeepSeek-V3.2-Exp 的表現(xiàn)與 V3.1-Terminus 基本持平。
目前，官方 App、網(wǎng)頁(yè)端、小程序均已同步更新為 DeepSeek-V3.2-Exp。
本次更新帶來了 API 大幅度降價(jià)，開發(fā)者調(diào)用 DeepSeek API 的成本將降低 50% 以上。
DeepSeek-V3.2-Exp 雖然已經(jīng)在公開評(píng)測(cè)集上得到了有效性驗(yàn)證，但仍然需要在用戶的真實(shí)使用場(chǎng)景中進(jìn)行范圍更廣、規(guī)模更大的測(cè)試。為方便用戶進(jìn)行對(duì)比測(cè)試，官方為 V3.1-Terminus 臨時(shí)保留了額外的 API 訪問接口。
DeepSeek-V3.2-Exp 模型現(xiàn)已在 Huggingface 與魔搭開源。
