5.6 上下文怎么缩回 258k 了

发布于

记得明明已经提高到 300 多了,然后我感觉最近触发压缩有点快,结果看了下不知道什么时候变回 258k 了?

---

原文链接:[点击查看](https://www.v2ex.com/t/1226976)

评论(2)

估计是因为最近大家都在吐槽 token 消耗太快了,官方顶不住直接给改回去了。

· 0 个赞

准确说是缩回了 272K,之前 5.5 时代升级到了 372K。看了眼 TiBo(官方)的说明,大意是他们落地了推理优化,给大家降本增效。但发现把 5.6 的上下文限制提升到 372K 后,导致扣除的 token 额度比预期要多,所以先回退到了 272K,过几天再慢慢升回去。另外他们还调整了底层的 reasoning 参数(比如多智能体调用、推理强度之类的),现在额度消耗应该会明显变慢。

· 0 个赞