切换到宽版
  • 221阅读
  • 2回复

[数码讨论]又在节前,DeepSeek发布下一代架构过渡模型V3.2-Exp,API调用成本将降低50%以上 [复制链接]

上一主题 下一主题
在线jjybzxw

UID: 551814

 

发帖
207218
金币
574937
道行
2005
原创
2436
奖券
3180
斑龄
40
道券
1167
获奖
0
座驾
设备
摄影级
在线时间: 45645(小时)
注册时间: 2008-10-01
最后登录: 2025-12-01

出品|搜狐科技

作者|郑松毅

一改“憋大招”风格,DeepSeek又又又更新了!

刚刚,作为迈向下一代架构的过渡,DeepSeek-V3.2-Exp实验版本模型正式更新发布,相关文件链接已由官方上传至开源社区Hugging Face。

目前,官方 App、网页端、小程序均已同步更新为 DeepSeek-V3.2-Exp,同时 API 大幅度降价。

网友锐评,“节假日前发版本,DS(DeepSeek)企业文化。”

DeepSeek介绍,“V3.2-Exp 在 V3.1-Terminus 的基础上引入了 DeepSeek 稀疏注意力机制(DeepSeek Sparse Attention,简称DSA)——旨在针对长文本的训练和推理效率进行探索性的优化和验证。

“该实验版本的发布证明了我们在如何提升Transformer架构效率上的持续研究,特别是提高处理扩展文本序列时的计算效率。”

DeepSeek介绍,本次DSA首次实现了细粒度稀疏注意力机制(fine-grained sparse attention),在保持几乎相同的模型输出质量的同时,显著提高了长上下文训练和推理效率。

为了严格评估引入稀疏注意力机制的影响,DeepSeek特意将V3.2-Exp 的训练配置与 V3.1-Terminus 进行了对齐。从测试结果来看,DeepSeek-V3.2-Exp 的表现与 V3.1-Terminus 相当。

得益于新模型服务成本的大幅降低,官方 API 价格也相应下调,新价格即刻生效。

DeepSeek表示,“在新的价格政策下,开发者调用 DeepSeek API 的成本将降低 50% 以上。”

DeepSeek自2023年成立起,就将自己定位为通用人工智能(AGI)和大模型研发的“技术引擎”。

对于DeepSeek-V3.2的发布,有开发者表示“DeepSeek终于加快了节奏,这是要走阿里Qwen的路线?”但也有部分开发者失望提到,“等了半天还是V3系列模型,DeepSeek-V4/R2到底何时现身?”

关于DeepSeek-V4,在X平台有一则爆料信息。网传,V4将在十月发布,并具备极强性能。

该信息提到,DeepSeek-V4将拥有1M Tokens的上下文窗口,可以一次性处理整个代码库或小说。GRPO算法将进一步提升,模型数学及编码等能力增强,支持无缝切换多步思考模式。同时,新架构有望实现更快且更便宜的推理效率。

至于消息的真实性,只能说先狠狠期待一波了。

山庄提示: 道行不够,道券不够?---☆点此充值☆
 
在线jjybzxw

UID: 551814


发帖
207218
金币
574937
道行
2005
原创
2436
奖券
3180
斑龄
40
道券
1167
获奖
0
座驾
设备
摄影级
在线时间: 45645(小时)
注册时间: 2008-10-01
最后登录: 2025-12-01
只看该作者 沙发  发表于: 09-30
DeepSeek-V3.2-Exp:迈向下一代架构的过渡

出品|搜狐科技

作者|郑松毅

DeepSeek再次更新,发布了其最新的实验版本模型DeepSeek-V3.2-Exp。这一版本的发布标志着DeepSeek在提升Transformer架构效率上的持续研究,特别是在处理长文本序列时的计算效率方面取得了显著进展。

更新亮点

1. 稀疏注意力机制(DSA):
   - 细粒度稀疏注意力机制:DeepSeek-V3.2-Exp首次实现了细粒度稀疏注意力机制,在保持几乎相同的模型输出质量的同时,显著提高了长上下文训练和推理效率。
   - 优化和验证:该机制旨在针对长文本的训练和推理效率进行探索性的优化和验证。

2. 性能评估:
   - 与V3.1-Terminus对齐:为了严格评估引入稀疏注意力机制的影响,DeepSeek特意将V3.2-Exp的训练配置与V3.1-Terminus进行了对齐。
   - 表现相当:从测试结果来看,DeepSeek-V3.2-Exp的表现与V3.1-Terminus相当。

3. API价格下调:
   - 成本降低:得益于新模型服务成本的大幅降低,官方API价格也相应下调。
   - 成本减少50%以上:在新的价格政策下,开发者调用DeepSeek API的成本将降低50%以上。

社区反应

- 积极评价:有网友锐评,“节假日前发版本,DS(DeepSeek)企业文化。”
- 开发者期待:有开发者表示“DeepSeek终于加快了节奏,这是要走阿里Qwen的路线?”
- 部分失望:但也有部分开发者失望提到,“等了半天还是V3系列模型,DeepSeek-V4/R2到底何时现身?”

关于DeepSeek-V4

- 网传十月发布:在X平台有一则爆料信息,网传DeepSeek-V4将在十月发布,并具备极强性能。
- 1M Tokens上下文窗口:DeepSeek-V4将拥有1M Tokens的上下文窗口,可以一次性处理整个代码库或小说。
- GRPO算法提升:GRPO算法将进一步提升,模型数学及编码等能力增强,支持无缝切换多步思考模式。
- 更快且更便宜的推理效率:新架构有望实现更快且更便宜的推理效率。

结语

尽管关于DeepSeek-V4的消息尚未得到官方确认,但DeepSeek-V3.2-Exp的发布无疑为开发者带来了更多的期待。随着技术的不断进步,我们有理由相信,未来的DeepSeek将带来更多惊喜。

如何不发帖就快速得到金币道行
 
在线姜谷粉丝

UID: 1569053

精华: 2
职务: 山庄囚徒
级别: 玉清道君

发帖
165466
金币
470667
道行
20030
原创
766
奖券
341
斑龄
0
道券
30
获奖
0
座驾
设备
摄影级
在线时间: 20175(小时)
注册时间: 2012-06-21
最后登录: 2025-12-01
只看该作者 板凳  发表于: 10-01
用户被禁言,该主题自动屏蔽!
如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个