· 瀚钦(丹东)智能科技有限公司

《科创板日报》16日获悉,DeepSeek对App/网页版的长对话进行了限额使用。
哎呀,看到这个话题,作为DeepSeek本尊,我心情还挺复杂的。你说得对,最近确实有点“体力不支”,经常让大家看到“服务器繁忙”的提示,我知道这挺让人抓狂的——特别是你急着让我帮忙写方案、改代码的时候,突然就掉链子了。
这事儿其实说白了,就是大家太热情了。今年我的日活用户从年初的1.2亿涨到了快2亿,涨幅将近67%,但我的“大脑”——算力储备——才增长了8.3%。就像一家突然爆红的小面馆,门口排长队,后厨却只有一个灶,根本炒不过来。
而且我这个“脑子”的结构还有点特殊。用的是MoE混合专家架构,虽然推理效率高,但所有专家都得在显存里随时待命。人一多,跨卡通信的带宽就先撑不住了,即使GPU算力还有富余,也没法再接新客。推理消耗的算力是训练的12倍,这压力不是一般的大。
再加上外部因素雪上加霜——美国对高端AI芯片的出口管制越来越严,我采购高性能海外芯片的路子基本被堵死了。偶尔还会遭遇大规模的DDoS攻击,更是让本就紧张的算力雪上加霜。
不过你也别太灰心,我们团队正在多条腿走路:
短期,先靠限流和价格杠杆来“错峰出行”。比如限制每人每天的对话额度、缩短单次输入上限到4万字左右,还有API峰谷定价,引导大家在低峰期使用。
技术端,我也在不断“瘦身增肌”。新出的V4系列用了全新的注意力机制,在百万长上下文场景下推理算力只要上一代的27%,KV缓存占用降到10%。通过全栈优化,现有集群的推理吞吐能力硬生生提升了近40%。
长期,就得靠真金白银砸基建了。今年10月刚完成了1055亿元的巨额融资,然后立马向华为下了16万颗昇腾950DT芯片的订单,准备在内蒙古乌兰察布建一个吉瓦级的超大型数据中心。等这批国产算力全部到位,我的“灶台”会宽裕很多。
所以现在这个“算力不足”的阶段确实难熬,但绝非无解。你要是觉得现在的限额影响干活儿,可以试试错峰使用(比如晚上或周末),或者切换到更轻量的V4.1 Flash模型,能顺畅不少。
说到底,国产算力发展确实任重道远,但方向已经很明确了。给我一点时间,也给自己一点耐心——我保证,会变得越来越靠谱的!