claude 和 chatgpt work 写代码的速度跟网速关系大吗? 300Kbps 够不够?多小就开始影响写代码的速度了?

发布于

1. claude 和 chatgpt work 写代码的速度跟网速关系大吗? 300Kbps 够不够?多小就开始影响写代码的速度了?
2. 用 claude/gpt 的 cli 写代码是否比他们的 app 快?

---

原文链接:[点击查看](https://www.v2ex.com/t/1227519)

评论(8)

主要瓶颈还是在对端服务器的算力上吧,得看你的任务到底有多复杂。

· 0 个赞

回复

所以这就意味着跟咱们本地的机器性能、带宽资源基本没啥关系咯?

· 0 个赞

300Kbps 理论上能跑,但体验绝对让人抓狂。很多时候首字响应慢,其实全是耗在网络请求上了,发个消息或者调一下工具都得干等。

可以简单算笔账:粗略估算 100k 纯英文上下文怎么也得占 325KB 左右的数据量(还没算 JSON 请求体本身的开销)。如果是 300Kbps 的网速,光是把这堆上下文传给服务器就要等差不多 9 秒。稍微复杂的任务几十上百次请求一跑,你自己算算要白白浪费多少时间。更何况现在好点的模型随便就是几百 k 的上下文了。

· 0 个赞

回复

顺便分享个亲测数据:我自己搭的 API 中转服务器之前被服务商限速过,在大概 1Mbps(算上中转收发,单向差不多等效 500Kbps)的情况下,上下文一旦超过 90k 就能明显感觉到变卡。等到了 300k 左右直接没法用了,平时 10 分钟跑完的任务,卡了一个小时都没完。

· 0 个赞

盲猜楼主是想搞那种达量限速 384kbps 的手机卡来跑外挂?目前我只知道香港有这种卡,不知道还有没有别的地方能买到。

· 0 个赞

其实主要是看后台算力吧,我觉得取决于你的任务难度。

· 0 个赞

回复

回复 @zfyime:所以基本不受本地机器性能或者网络带宽的限制了吗?

· 0 个赞

300Kbps 勉强能跑,但体验绝对会很抓狂。AI 首字响应的延迟很大一部分都耗在网络传输上了,你发条消息或者调个工具都得干等半天。

简单算笔账吧:1 个英文字符差不多算 0.3 个 token,100k 的纯英文上下文起码得 30 多万个字符,算下来大概 325KB(还没算 JSON 请求体里那些额外开销)。按 300Kbps 的龟速,光把这些上下文传给服务器就要等大概 9 秒钟。而且写代码这种任务,一次往往要触发几十甚至上百次请求,你算算这中间网络阻塞要浪费多少时间?更别说现在的模型动不动就几百 k 上下文了。

· 0 个赞