上线一个应用，每月要花多少钱？ — 服务器、Serverless、边缘函数怎么选，先学会拆三笔账

这篇写给想把第一个应用放上线的人。前半篇讲怎么选、怎么估钱；后半篇拿一个模型网关从零搭一遍，把七家云的账单算到每一项。价格是 2026-10-09 查到的，怎么查的、完整的数字表都在文末附录。¹

先说结论（给赶时间的人）

1. 起步先用免费额度。 个人网站放 Cloudflare Pages 或 GitHub Pages 不花钱；Cloudflare Workers 每天 10 万次请求以内免费；国内要一台服务器加一个数据库的话，阿里云各有 99 元一年的活动。多数应用起步时，每月几块到几十块就够了。
2. 别为「等」付钱。 如果你的应用大部分时间在等别人（调大模型、调第三方接口），别用按运行时长计费的 Serverless，等多久它就收多久。
3. 量大以后，看你搬多少字节、记几笔账。 这时候 CPU 反而是最便宜的一项。
4. 用户在中国大陆，就用国内云，并且先做 ICP 备案。

后面每一句，都会讲清楚为什么。

这篇写给谁

• 你手上有一个想放上线的应用：个人网站、小程序或 App 的后端、一个调大模型的 AI 应用，或者一个处理图片视频的小工具。你没买过服务器，也说不太清 Serverless 和服务器有什么区别。
• 读完前半篇，你能看懂云厂商卖的几样东西，把自己的应用拆成三笔账，挑一个起步方案，估出每月大概多少钱，并且知道什么时候该换。
• 后半篇写给想看细节的人：拿一个模型网关做完整例子，假设你知道 LLM API 怎么调用、流式输出是一段一段推回来的（SSE）。看不懂可以先跳过，不影响前半篇的结论。
• 本文不讨论模型推理本身（GPU、推理引擎），合规只在影响选型的地方点到为止。

术语表

云厂商的货架上卖什么

第一次打开云厂商的官网，几十个产品看得人头晕。其实放代码的地方只有三种，外加一类替你管好的零件：

这篇文章里有五个角色会反复出场，先认识一下：

一个普通的请求

用户：帮我问问大模型：明天要带伞吗？

你的服务：收到，我这就转给大模型。

二十秒后

大模型：明天……有……小雨……

你的服务：我只忙了 10 毫秒，剩下 20 秒都在等它一个字一个字说完。

云厂商：那么问题来了：我该按什么收你的钱？

你：这正是这篇文章要算清楚的。

漫画里的「你的服务」，就是你放在云上的那段程序。它真正干活只要 10 毫秒，可每个请求都要等大模型说上 20 秒。云厂商收它的钱有三种办法，账单能差出好几倍：

按 CPU 时间收（Cloudflare Workers）

云厂商：你的服务真正干活的那 10 毫秒我才收钱，等的时候不算。

按运行时长收（Lambda、函数计算）

云厂商：从请求进来到结束，20 秒，一秒不落。

你的服务：可我大部分时间在发呆啊！

按机器收（云服务器）

云厂商：你租了几台机器，就付几台的钱，闲着也照付。

除了放代码，还有两笔钱别漏了：出流量（东西从云里发出去，大多数云按 GB 收钱，Cloudflare 不收）和记账（数据库、缓存，有的按台收，有的按读写次数收）。

学会拆：把你的应用拆成三笔账

第一次上线

你：我想上线一个小程序，该买服务器还是用 Serverless？

云厂商：先别急着掏钱。你的应用整天都在干嘛？

云厂商：在等别人、在自己算，还是在搬东西？要不要一笔一笔记账？

你：原来得先把它拆开看。

拆账只需要回答三个问题，外加一个约束。每个问题都有办法自己查出答案：

1. 时间花在等，还是花在算？

看你的接口在干嘛：

• 要调大模型、调第三方接口（支付、地图、短信），或者查很慢的数据库，一次要等好几秒 → 等待型。
• 要处理图片和视频、渲染 PDF、压缩、跑本地模型 → 计算型。
• 读写一下数据库就返回，几十毫秒完事 → 轻量型，等和算都不多。

2. 每个请求搬多少字节？

用浏览器打开你的应用，按 F12 打开开发者工具，切到「网络（Network）」面板，点一个请求就能看到它的大小。图片和视频看文件大小；AI 应用看 prompt 和回答有多长，一个汉字大约 3 个字节。几 KB 算轻，几百 KB 以上算重。

3. 要不要一笔一笔记账？

每个请求要不要读写数据库？要不要实时扣余额、数次数、限流？要的话，记账就是你的一笔固定开销，而各家收这笔钱的方式差别很大。

外加一个约束：用户在哪？ 主要在中国大陆，就得用国内云，而且网站对外服务前要先做 ICP 备案；Cloudflare 这类境外平台在大陆没有节点，访问会慢。主要在海外，选择就多了。

拆完以后，再估一下量：每月请求数 ≈ 日活用户 × 每人每天的请求数 × 30。比如 1,000 个日活，每人每天点 50 下，就是每月 150 万次请求。

有了这几个数，月费大致是四项相加：

哪一列便宜，就看你的应用在哪一行花得多。

对号入座：四种常见应用怎么起步

先看四种应用怎么起步：

起步阶段最该先用的，是各家的免费额度和新人价：²

什么时候该换？看三笔账里哪一笔先涨上来：请求多了、等得久了，按时长计费的该换成常驻服务器或边缘函数；流量大了，看出流量单价（Cloudflare、Oracle 便宜）；记账多了，Cloudflare 按次收费会越来越贵，自己的数据库按台收钱。后半篇的模型网关例子，就是把这三笔账从每月 1,000 万次一路算到 10 亿次。

还有几样常见的服务也顺手归一下类：

表：按三个问题给常见服务归类（本文的判断，不是官方建议）。

算得多的应用，比的是每 CPU 小时多少钱：

Workers 的 CPU 单价是阿里云包月机器的约 3.6 倍、AWS 按需机器的约 1.5 倍。³ 听着很贵？可机器得按高峰买，平时大半在闲着：和阿里云比，只要机器平均利用率低于约三成，按毫秒收反而便宜。按时长计费的 Lambda 单价最高，但对计算型应用一点不冤，因为它挂着的每一秒都在算。

所以同一种 Serverless，对等待型是个坑，对偶发的计算活却是好东西。持续跑满的计算，还是放机器最便宜。另外别忘了硬限制：Workers 一次最多 5 分钟 CPU、128 MB 内存，大图处理和长视频转码装不下。⁴

完整例子：从零搭一个模型网关

前半篇讲的是方法，这一节拿一个具体的应用，把三笔账算到每一项。挑模型网关，是因为它三笔账几乎占全了：等得多、算得少，每个请求拎着中到重的行李，还要一笔一笔记账。

先把这个例子的结论摆出来，三个规模下谁花多少（点上面的标签切换规模）：

1. 量小，选 Cloudflare。 每月 1,000 万次请求，它一百多元，最便宜的自建也要一千四百元左右。云厂商收的是保底费：两台机器、一个高可用数据库、一个 Redis，没人用也得付。
2. 量大，看请求有多胖。 到每月 10 亿次，阿里云、腾讯云和三大海外云的自建只比 Cloudflare 贵三成到一倍多。请求越小，自建越划算；请求越大（比如编码 Agent），Cloudflare 越便宜。
3. Oracle 不按常理出牌。 它每月前 10 TB 出流量免费，量大时美东自建比 Cloudflare 还便宜约三倍，代价是机器得自己管。

好，动手。假设你要上线一个模型网关：客户拿着 API key 来，你替他把请求转给大模型，按用量收他的钱。我们一个零件一个零件往上装，每装一个，看账单从哪冒出来。

拆到最小，网关只做六件事：

查看源码（Mermaid）

mermaid11 行代码

flowchart TD
    C(["客户端"]) --> A["① 查 API key<br>是谁、能用哪些模型"]
    A --> B["② 占并发位、预扣余额<br>超了直接 429"]
    B --> R["③ 选上游线路"]
    R --> U["④ 把请求体转发给上游"]
    U --> S["⑤ 把 SSE 流原样转回<br>约 20 秒，几乎不用 CPU"]
    S --> F["⑥ 读出 usage，释放并发位<br>按实际用量结算、记一条日志"]
    classDef wait fill:#d0ebff,stroke:#1971c2
    classDef work fill:#fff3bf,stroke:#f08c00
    class S wait
    class A,B,R,U,F work

图：一个模型网关请求的最小因果链（示意，不是某个产品的实现）。黄色几步要算，但每步只有几毫秒；蓝色那一步要等，一等就是十几秒到几分钟。

这六步让模型网关和普通 API 网关有三点不同：

10 毫秒除以 20 秒是 0.05%。网关 99.95% 的时间，都在等。

第一步：接住请求，然后等

先装最核心的零件：收请求，转给上游，把回答原样传回去。这一步的账，取决于你站在哪种平台上：

• Workers：只收那 10 毫秒的 CPU，等的 20 秒一分不收。⁶ 20 秒的流和 0.2 秒的流一个价。
• 按时长计费的 Lambda、函数计算、云函数：20 秒全收，一秒不落，而且常常一个实例只能伺候一个请求。⁷
• 自建机器：等待只占一个连接、不占 CPU；但机器要按峰值并发买，闲着也付钱。

差距有多大？到每月 10 亿次，按时长计费的几家，账单是 Cloudflare 的两倍到十倍：

图里那几家比较便宜的按时长计费方案，都开了「一个实例同时接很多请求」。它们在量小的时候甚至比自建还便宜一点，因为省掉了常驻机器和负载均衡；可量一上去，就反过来了。

想看这一步落到代码上长什么样，下面是 Workers 版的伪代码，注释里标了哪行在等、哪行在算（示意，不是哪个平台的真实源码）：

// 伪代码（示意）：Workers 版模型网关的一次请求
export default {
  async fetch(req, env, ctx) {
    const key = await env.KEYS.get(apiKeyOf(req), "json");         // ① KV 读：等网络，不算 CPU
    if (!key) return new Response("invalid key", { status: 401 });

    const limiter = env.LIMITER.get(env.LIMITER.idFromName(key.id)); // 每个 API key 一个 DO
    const slot = await limiter.acquire(estimateCost(req));           // ② 占并发位 + 预扣余额（写 1 行）
    if (!slot.ok) return new Response("too many requests", { status: 429 });

    const upstream = await fetch(pickLine(key), forward(req));       // ③④ 等上游首包，可能好几秒，不算 CPU
    const { readable, writable } = new TransformStream();
    ctx.waitUntil(pipeAndFindUsage(upstream.body, writable, async (usage) => {
      await limiter.release(slot.id, usage);                         // ⑥ 释放并发位 + 结算（写 1 行）
      await env.USAGE.send({ key: key.id, usage });                  // ⑥ 用量消息，消费者按分钟聚合写 D1
    }));
    return new Response(readable, upstream);                         // ⑤ 20 秒的流，CPU 只花在逐块拷贝上
  },
};

同样六步换到阿里云或腾讯云，就是一个常驻进程（Higress 插件或者自己写的 Go 服务）加一个 Redis：查 key 走进程内存缓存，没命中再查 Redis；占并发位和预扣余额用 Redis 的 INCR / DECR 加一段 Lua 脚本；用量在进程里攒一批，再批量写数据库或者发到消息队列。

架构是一样的，差的是每一步怎么收费。

第二步：记账

网关要按用量收客户的钱，就得记账：每个请求进门时占一个并发位、预扣一点余额，出门时按实际用量结算，再留一条用量记录。

每个请求都要记两笔账

用户：我先付了钱，用多少扣多少。

你的服务：那我进门先预扣一点，答完再按实际用量结账。

在 Cloudflare

云厂商：每记一笔，收一笔钱。十亿个请求，就是二十亿笔。

在自己的 Redis

云厂商：Redis 按台收钱。你记一笔还是记一亿笔，一个价。

这一笔，两边的收法正好反过来。

Cloudflare 每记一笔，收一笔钱。 最大的一项是 DO 写行，每月 10 亿次时约 1.3 万元。并发位和余额必须写进 DO 自带的 SQLite，不能只放内存，因为 DO 闲下来就可能睡着，醒来时内存里的计数已经没了，而一条流要挂 20 秒。⁸ 改成「用量先在 DO 里攒着、每分钟落一次库，再去掉 Queues」的优化写法，月费能降两成多。还有三件事要提前想好：

• 一个 DO 是单线程的，每秒大约扛一千次请求。所以每个 API key 一个 DO，大客户的 key 再拆分片，别用一个 DO 做全局限速。
• KV 是最终一致的，改动要一分钟以上才传遍全球，吊销 key、改余额不能只靠它。⁹
• D1 单库最大 10 GB，而且不能提。按分钟聚合的用量表，一个多月就写满，得定期汇总、按月分库，冷数据挪去 R2。¹⁰

自建的 Redis 按台收钱。 一个 1 GB 双副本的 Redis 每月 77 元，标称每秒 10 万次操作，每月 10 亿次时峰值每秒只要约 4,600 次。¹¹ 查 key、计数、余额全压在它上面，请求数翻十倍，它的价格纹丝不动。

把每月 10 亿次时的账单拆成三块，记账这一笔压在谁身上，一眼就看出来了：

Cloudflare 的账单八成多是记账；阿里云、腾讯云、AWS 的账单六到九成是出流量；Oracle 三块差不多大。 出流量，是下一步的事。

第三步：搬行李

网关不只是传话，它还拎着行李。每个请求平均 50 KB：30 KB 是客户的 prompt，网关得替他送到上游；20 KB 是模型的回答，要送回客户端。对网关来说，替客户转发 prompt 也算出流量。

你的服务不只是传话

用户：我的问题有 30 KB，回答还有 20 KB。

你的服务：我得把问题送到大模型，再把回答搬回给你。

在国内云和三大海外云

云厂商：每个字节出门都得买票。

你的服务：连我替用户转给大模型的问题也算？

云厂商：也算。

在 Cloudflare 和 Oracle

云厂商：出门不要票。Oracle 是每月前 10 TB 不要。

Cloudflare 出门不要票，Worker 发出的子请求也不收钱，条款里也没有带宽上限。¹² 国内云每 GB 五毛到八毛，三大海外云差不多。Oracle 每月前 10 TB 免费，超出以后北美每 GB 不到一美分。

所以，每个请求搬多少字节，几乎决定了谁便宜：

• 行李轻，自建便宜。 每个请求的出流量低于约 34 KB 时，阿里云自建比 Cloudflare 便宜（对 Cloudflare 的优化写法是约 24 KB）。短问答只有 5 KB 左右，自建只要 Cloudflare 的三分之一。
• 行李重，Cloudflare 便宜。 编码 Agent 的请求体动辄几百 KB，这时 Cloudflare 便宜好几倍。AWS 的打平点比阿里云还低。
• Oracle 在整个范围里都最便宜，要到三四百 KB 才和 Cloudflare 打平。
• 量越小，打平点越低。 每月 1,000 万次时，云厂商的保底费已经比 Cloudflare 的全部账单还高，怎么都打不平。

所以「Cloudflare 便宜」这句话，只在量小或者行李重的时候成立。

国内云还有一个独门杠杆：上游如果就在同一家云的内网里（比如在阿里云上调百炼），转发 prompt 那部分可以不走公网。百炼的私网连接目前只开了北京和香港；网关和百炼同地域时，每月 10 亿次能把出流量这一项从约 3.8 万元降到约 1.9 万元（已算上私网连接费）。网关在深圳、跨地域连北京，就基本省不下来。

第四步：把量放大一百倍

零件装齐了。现在把流量从每月 1,000 万次拧到 10 亿次，也就是这一节开头那张图的三个标签。

• 量小的时候，比的是保底费。 Cloudflare 没有保底，云厂商有。所以 1,000 万次时它便宜一个数量级。
• 量大以后，比的是记账和行李。 Cloudflare 的钱花在记账上，其他云的钱花在出流量上，两边只差三成到一倍多。Oracle 的出流量几乎不要钱，所以它跑到了最前面。
• CPU 几乎不影响账单。 把网关的 CPU 时间从 5 毫秒翻到 20 毫秒，Cloudflare 的月费只变 6%；自建的话 4 台 8 核机器也装得下。按 CPU 收费时，等上游的 20 秒几乎不花钱。

再说一个让人松口气的事实：网关的基础设施费，只是模型费的零头。 摊到每个请求，Cloudflare 约 0.00003 元，阿里云自建约 0.000045 元；而一次 7,500 token 输入、300 token 输出的调用，按 DeepSeek V4.1-Flash 的高峰价约 0.017 元，网关只占 0.2–0.3%，换成便宜得多的通义 qwen-flash 也只占 2–3%。¹³

所以选平台不能只盯着账单。延迟、可达性和稳定性，至少同样重要。

第五步：挪到用户身边

最后一个零件：入口放在哪，离用户多远。

从深圳电信访问国内云的深圳、广州、香港入口，都在 10 毫秒上下；Cloudflare 的包在电信骨干上一路出境，最后落在洛杉矶，162 毫秒。¹⁴ 新加坡也不一定近：同样在新加坡，阿里云 57 毫秒，AWS 和 Oracle 要 200 多毫秒，和美东差不多。国内云的境外地域和国内运营商的互联，通常好得多。

这对首 token 意味着什么？新建 HTTPS 连接至少要 3 个往返（TCP、TLS 1.3、发出请求），162 毫秒一个往返，首 token 前就多了约 0.45 秒；复用连接时多约 0.15 秒。聊天能感觉到，Agent 的长任务基本无所谓。

还有三件事：

• China Network 救不了这套架构。 不开 China Network 时，大陆用户连的是境外机房。China Network 要 Enterprise 套餐、单独订阅、每个主域名的 ICP 备案或许可证，还要过京东云的内容审核；它的可用产品清单里有 Workers、KV、R2，没有 DO、D1、Queues（官方没说这几项在京东云节点上是不能用还是绕回境外）。*.workers.dev 在大陆被封，必须绑自己的域名。¹⁵
• 海外模型的跨境那一跳躲不掉。 OpenAI 和 Anthropic 的 API 支持地区名单里，既没有中国大陆，也没有香港，所以网关调这两家，出口要放在新加坡、日本、美国这类支持地区，香港只能做中转。¹⁶ 从大陆用户的角度看，长距离那一跳要么在「用户 → Cloudflare 洛杉矶」，要么在「境外网关 → 美国上游」，所以调海外模型时，Cloudflare 的延迟劣势小得多，差别主要在线路质量。
• 两边都出过大故障，形状不同。 Cloudflare 2025-06-12 因为 KV 依赖的第三方云宕机，AI Gateway 错误率峰值到 97%；2025-11-18 核心代理故障，KV 也大量报 5xx。每个请求都同步读 KV 或 DO 的网关，会跟着全球一起挂，没有「换个可用区」的退路。阿里云香港可用区 C 在 2022-12-18 因制冷故障中断十多个小时，但故障集中在一个可用区，跨可用区部署就有退路。

上线前要绕开的坑

账单之外，每朵云都埋了几个能让账单翻倍、或者让请求半路断掉的坑。

Cloudflare 的三个坑

• 让 DO 陪着整条流一起醒着。 比如让流经过 DO 转发，或者在 DO 里挂一个 setTimeout 做租约超时，DO 就会按挂钟时长计费，每月 10 亿次时最多多出约 21.5 万元。租约超时用 setAlarm。2026-10-01 起，DO 里没完成的出站调用和 waitUntil 也会让它保持清醒（最多 15 分钟），更容易踩到。
• AI Gateway 默认把完整的 prompt 和回答记进日志。 2026-09-24 以后新开 AI Gateway 的账号，日志按 Workers Logs 的价格计费，每月 10 亿次时约 9.4 万元。关掉 payload 记录，或者干脆关日志。另外，用 Cloudflare 统一付费（Unified Billing）时，每个 gateway 每分钟只允许 200 次请求，每月 1,000 万次的平均速率就超了，所以转售场景只能用自己的上游 key（BYOK）。
• 默认的日志配置。 新建的 Worker 默认开日志，每次调用自动写一条，DO 的每次 RPC 按文档推断也写一条，一个请求就是约 4 条。按官方给的平均每条 4.84 KB 粗算，日志费会涨到原来的二十倍。给网关和 DO 所在的 Worker 关掉调用日志，或者采样。¹⁷

国内云的四个坑

• 境外节点的阶梯价要手动开。 阿里云香港、新加坡、东京的流量单价比深圳低，所以每月 10 亿次时，香港自建反而比深圳便宜，虽然香港的机器贵近一倍。但 2024-12-12 起，ECS、EIP 不会自动按阶梯价（阿里云叫 CDT）计费，要手动「升级至 CDT 计费」，免费，开了不能关；香港不升级，每月 10 亿次时要多付约 2.1 万元。新加坡、东京反过来：不升级时的原价比阶梯首档还低，流量在一定区间内不升级更省。
• 上游请求别走 NAT。 阿里云 NAT 网关从 2025-09-26 起按处理的流量收费，上游请求走 NAT，会在流量费之外再加约 23%。给每台 ECS 直接挂按流量计费的公网 IP 更省。
• 长连接不贵，但会被超时掐断。 阿里云 ALB 的容量费实际由处理的字节数决定，2.3 万条长连接只折合不到 8 个容量单位；腾讯云 CLB 共享型干脆不按容量收费。但 ALB 的请求超时默认 60 秒，推理模型的长流要先调大，否则会 504。
• 托管 AI 网关不便宜。 阿里云的 AI 网关（内核是开源的 Higress）多模型路由、Fallback、消费者 API key、Token 限流都有，但最小规格每月约 4,000 元（文档价）；余额和用量库还得自己配 Redis 和数据库，所以量小时它比整套自建贵两倍多。2026-09-01 起收费的 Serverless 版没有动辄几千元的起步规格费（企业版每月约 176 元实例费），量小时和自建差不多，但公网流量进出都按 0.8 元/GB 收、不走阶梯价，量大以后更贵。

海外四家：三大云和国内云是同一本账，Oracle 是例外

三大云的流量价和国内云在同一量级，首档每 GB 约合六毛到八毛人民币，量大以后降到五毛多；机器、数据库、日志反而更贵，日志每 GB $0.50，是阿里云日志服务的 8 倍多。两边一抵，量大时三大云和国内云的账单差不多。量小时 AWS 美东比阿里云深圳贵一半，Azure 美东贵到近三倍。

如果客户端在中国大陆，Google Cloud 回给客户端的那部分流量要按价目表里「到中国内地」那一档计，每 GiB $0.20–0.23（官方没写按什么判定目的地）；全部出流量都按这个价算的话（上限），每月 10 亿次时美东会从约 4.4 万元涨到约 8.1 万元。

Oracle 的出流量几乎免费：每月前 10 TB 不要钱，超出后北美 $0.0085/GB、亚太 $0.025/GB；同地域内的流量、负载均衡转发的数据都不另收费，日志写入也免费。所以每月 10 亿次时，美东 50 TB 出流量只要约 2,300 元，阿里云深圳同样的流量要约 3.8 万元。代价藏在别处：

• 10 TB 免费额度按「来源大区」各算一份，美东和新加坡各 10 TB，同一大区的多个地域共用一份。¹⁸
• 新加坡只有一个可用域（Oracle 对可用区的叫法），做不到跨可用区，只能跨故障域。
• 按量付费账户默认每个可用域只有 6 个 OCPU、只能开一个地域，量大以后要先申请提额。
• NAT 网关对同一个目的地址和端口的并发连接有上限，美东这种有 3 个可用域的地域每个可用域约 2 万条，新加坡约 6.5 万条；2.3 万条流压在一个可用域、打同一个上游会撞上，所以机器最好挂公网 IP 直接出去（预留公网 IP 官方写明不收费）。
• 最小的 MySQL 高可用规格按 3 个实例收费，每月 $170，是量小时账单的大头。

负载均衡的默认超时，是上线前最容易踩的坑：

Serverless 和边缘函数：量大以后都别指望

各家按时长计费的产品，各有各的脾气：

• 阿里云函数计算：规格费按配置收、不按实际用量收，等上游的 20 秒 vCPU 全额计费，也进不了 vCPU 免费的「浅休眠」。唯一的省钱办法是单实例多并发：并发为 1 时的计算费，是并发 100 时的约 95 倍。
• 腾讯云云函数：默认一个实例同一时刻只处理一条 SSE 连接，量大时峰值还超出每个地域默认的并发配额。
• AWS Lambda：默认并发 1,000，量大要申请提额。
• Google Cloud Run：一个实例最多同时处理 1,000 个请求，是几家里最适合长连接的，但仍按实例的挂钟时间计费；它还会自动写请求日志、每 GiB 收 $0.50（可以用排除过滤器关掉），图里没算。
• Azure：Functions Flex 默认单实例并发 16，每月 10 亿次时要 1,447 个实例，超过 1,000 个的上限；Container Apps 把并发调到 100 后能跑。
• OCI Functions：一个实例一次只处理一个请求，同步调用最长 300 秒，而且要等函数执行完才返回结果，做不了流式。

边缘函数更干脆，国内的边缘函数做不了通用模型网关，卡在限制上，不在价格上：

推理模型的首 token 常常超过 10 秒，长输出常常超过 120 秒，Agent 的长上下文请求也很容易超过 1 MB；两家也都没有 DO 这样的强一致状态，限速和余额还得回源到中心机房。海外的 CloudFront Functions 和 Lambda@Edge 一样转发不了 20 秒的 SSE，Azure Front Door 的文档写明不支持 SSE。边缘函数可以站在网关前面做缓存、鉴权预检，替代不了网关。

至于海外的托管 AI 网关，三大云有、Oracle 没有，而且都不是为「转售」设计的：

• Azure API Management：v2 的三个层级都能透传 SSE，有 llm-token-limit 这类按 token 限流的策略，量小时 Basic v2 每月约 $148（微软把它定位为开发测试用）。卡脖子的是每个上游主机最多 2,048 条并发后端连接，SSE 一条流占一条，每月 1 亿次的峰值就超了；经典层写明按单元算，v2 只写了 2,048，按单元算的话每月 10 亿次要 12 个单元、约 $1.8 万/月，按字面理解则要拆成 12 个实例再加一层分流。上游走 HTTP/2 在 v2 里还是预览。
• AWS：Bedrock AgentCore Gateway（2026-07 起支持推理目标）能代理 OpenAI、Anthropic 和兼容端点，SSE 原样透传，2026-08 起能按用户身份限 RPM、TPM 和并发；但内置鉴权只有 IAM、JWT 或不鉴权，自定义校验要另挂拦截器，而文档写拦截器暂不支持流式，也没有「每个客户一个 API key」、按客户的用量账单和预付费余额。API Gateway 的 REST API 2025-11 起支持流式响应，但读不到流里的用量。
• Google：Apigee 能透传 SSE，但按 token 限流的策略只能用在最贵的代理类型上，每月 10 亿次时光调用费就要约 $73,000。
• Oracle：没有通用的 LLM 网关，生成式 AI 服务只能调自己目录里的模型。

谁真的把模型网关放在 Workers 上

只采信一手证据：官方博客、官方文档、仓库里的部署配置、创始人署名文章。

从这张表能看出三件事：

1. 除了 Cloudflare 自己，没有一家是「全 Cloudflare」。 最接近的是 Helicone：请求路径上的 Workers、DO、KV、Queues 全在 Cloudflare，分析库和账务后端在 AWS。本文 Cloudflare 一侧连账务都放在 D1 里，比现实中的做法更激进。
2. 大家踩的坑都在记账这一层，不在计算层。 AI Gateway 的日志存储、Helicone 的钱包预扣、OpenRouter 的低余额回源、Pydantic 网关的 KV 软额度，都是。
3. Unkey 的离开有它的场景。 它的理由是：缓存读要走网络，p99 超过 30 毫秒；为了绕开无状态，堆了 DO、Queues、Workflows 一串产品；数据导出麻烦；客户没法自托管。迁走后延迟降到原来的 1/6。但 Unkey 每个请求都要在 10 毫秒内完成 key 校验，而模型网关的一个请求本来就要挂 20 秒，几十毫秒的状态读取占比小得多，这个结论不能原样搬过来。

国内这边的主流做法是常驻网关进程加 Redis，不是边缘函数：

• Higress：阿里开源的网关，2026-03-15 进入 CNCF Sandbox，约 9,500 星。项目方说它支撑通义千问 APP、百炼大模型 API 和 PAI，但没有公开流量数字。它的 Token 限流用 Redis 做全局计数，和 Cloudflare 一侧用 DO 计数是同一个设计点。
• 阿里云 AI 网关：官方客户案例里，国泰产险所有访问大模型的流量都走 AI 网关，日均近亿 token。
• 国内边缘函数：没有找到点名的模型网关客户。

怎么选

先按你的应用。 拆完三笔账，大致这么走：

1. 用户主要在中国大陆？ 用国内云，网站对外服务前先做 ICP 备案。
2. 只有静态页面（个人网站、博客、作品集）？用静态托管加 CDN，基本不花钱。
3. 等待型（调大模型、调第三方接口）？海外用户用边缘函数，国内用户用一台常驻的小服务器；别用按时长计费的 Serverless。
4. 计算型（图片、视频处理）？偶发的用按时长计费的 Serverless，持续跑满的用机器。
5. 轻量型（普通的后端）？先用免费额度或者最便宜的服务器套餐跑起来，量大以后再按三笔账重算一遍。

下面的决策树和清单，是模型网关这一类的。

查看源码（Mermaid）

mermaid12 行代码

flowchart LR
    %% layout: tree
    Q(["付费用户主要在哪？"])
    Q --> CN["中国大陆"] --> CN1["国内模型为主<br>→ 阿里云 / 腾讯云内地：常驻网关（Higress 或自写）+ Redis<br>别用函数计算 / 云函数，边缘函数只挡在前面"]
    CN --> CN2["也要海外模型<br>→ 内地入口 + 境外节点调海外模型<br>出口放在 OpenAI / Anthropic 支持的地区（如新加坡、东京）<br>香港节点记得升级 CDT，新加坡、东京先算一下"]
    Q --> OS["海外"] --> OS1["量小、不想运维<br>→ Cloudflare Workers + 每个 key 一个 DO<br>账务按月分库或外接数据库，日志关掉 payload"]
    OS --> OS2["量大、流量重<br>→ Oracle 自建（出流量每月前 10 TB 免费）<br>已在 AWS / GCP / Azure 上的，流量账和国内云差不多"]
    Q --> BOTH["两边都有"] --> BOTH1["→ 两个入口各自就近<br>账务只放一处，别双写"]
    classDef q fill:#fff3bf,stroke:#f08c00
    classDef pick fill:#d3f9d8,stroke:#2f9e44
    class Q q
    class CN1,CN2,OS1,OS2,BOTH1 pick

图：按用户所在地选平台的决策树（本文的判断，不是官方建议）。

什么时候选 Cloudflare：

• 用户主要在海外，或者是调用海外模型的开发者；
• 规模还小（每月千万次以内），想要几乎为零的保底费、不想运维机器，六家云厂商的自建都比不过；
• 请求体大（Agent、长上下文、多模态），流量费在云厂商那边会是账单大头；
• 团队能接受按 key 拆 DO、D1 定期归档这类「为记账而设计」的工作。

什么时候别用 Cloudflare：

• 用户主要在中国大陆，对首 token 延迟敏感（聊天产品）；
• 规模到每月 10 亿次量级、请求又很短（每个请求出流量低于约 30 KB），国内云或三大云自建会更便宜；
• 用户在海外、规模大，又愿意自己运维机器：Oracle 自建便宜约三倍；
• 需要强一致的全局状态（全局并发、跨 key 的额度池），又不想自己做分片；
• 需要在中国大陆有节点，又买不起 Enterprise，或者用了 DO、D1、Queues。

结语

回到漫画里的「你的服务」。它一天里真正干活的时间，加起来可能不到一分钟；剩下的时间，它在等大模型说完、在替用户搬数据、在一笔一笔记账。云厂商没有一家只按「干活」收它的钱，它们各自挑了等待、搬运和记账里的一两样来收。

所以第一次上线，先拆账，再用免费额度把应用跑起来；等量真的大了，你已经知道该盯哪一笔。换一类应用，三个问题的答案变了，结论也跟着变：模型网关是等待密集、搬运密集、状态密集型的，拿 CPU 价格去比两朵云，比的是它账单里最小的那一项。

铁律：先问三件事——谁为等待收钱，谁为搬运收钱，谁为状态收钱。再看你的用户离哪边近。

附录：怎么查的和完整数字

正文里的数字都出自这里。表头的「1,000 万次 / 1 亿次 / 10 亿次」都是每月的请求数。

怎么查的

• 国内两家用官方命令行工具的询价接口。 阿里云用 aliyun CLI 3.5.1（DescribePrice、GetPayAsYouGoPrice），腾讯云用 tccli 3.1.180.1（InquiryPrice*、DescribeDBPrice）。所有调用都是只读的询价接口，没有创建任何资源。
• Cloudflare 全部来自官方价目页和限制页。 它没有价格接口，wrangler 4.148.0 和 Cloudflare API 只能查自己账号的用量。
• 海外四家用不用登录的公开价格接口（AWS Price List、Azure Retail Prices API、Oracle 价目 API）；Google Cloud 的价格接口要 API key，用的是官方价目页。查美东和新加坡两个地域，一律按需价、月按 720 小时。预留实例、Savings Plans 能再省三到五成，但只省机器，不省流量。
• 一律用目录价。 阿里云的询价接口会同时返回账号折扣（比如我的账号负载均衡和 NAT 有 85 折），这类折扣不计入。查不到接口的用官方文档价并标出来，比如阿里云 AI 网关在计费系统里没有计价模块。
• 同一天做过两轮核实：前两轮标为「未核实」的事项逐项查了官方原文，查实的已改进正文，仍查不实的（多半要账号、压测或真实账单）照旧标出。

# 阿里云：ECS 包月价（含 40 GB ESSD PL0 系统盘，不含带宽）
aliyun ecs DescribePrice --RegionId cn-shenzhen --ResourceType instance \
  --InstanceType ecs.c9i.xlarge --PriceUnit Month --Period 1 \
  --SystemDisk.Category cloud_essd --SystemDisk.PerformanceLevel PL0 --SystemDisk.Size 40

# 阿里云：50,000 GB 公网出流量走 CDT 阶梯的总价
aliyun bssopenapi GetPayAsYouGoPrice --region cn-hangzhou --ProductCode cdt \
  --ProductType cdt_DataTransfer_public_cn --SubscriptionType PayAsYouGo --Region cn-shenzhen \
  --ModuleList.1.ModuleCode internet_traffic --ModuleList.1.PriceType Usage \
  --ModuleList.1.Config 'Region:cn-shenzhen,internet_traffic:50000,charge_type:PayByTraffic,isp:BGP'

# 阿里云：Redis（Tair）、RDS 包月价
aliyun r-kvstore DescribePrice --RegionId cn-shenzhen --ZoneId cn-shenzhen-c \
  --InstanceClass redis.shard.large.ce --OrderType BUY --ChargeType PrePaid --Period 1 --NodeType MASTER_SLAVE
aliyun rds DescribePrice --RegionId cn-shenzhen --ZoneId cn-shenzhen-c --Engine MySQL --EngineVersion 8.0 \
  --DBInstanceClass mysql.n4.large.2c --DBInstanceStorage 100 --DBInstanceStorageType cloud_essd \
  --PayType Prepaid --UsedTime 1 --TimeType Month --Quantity 1 --OrderType BUY --CommodityCode rds

# 腾讯云：CVM 包月价（含 50 GB 通用型 SSD，带宽设 0）
TENCENTCLOUD_REGION=ap-guangzhou tccli cvm InquiryPriceRunInstances --cli-unfold-argument \
  --Placement.Zone ap-guangzhou-6 --ImageId img-mmytdhbn --InstanceType SA9.LARGE8 \
  --InstanceChargeType PREPAID --InstanceChargePrepaid.Period 1 \
  --SystemDisk.DiskType CLOUD_BSSD --SystemDisk.DiskSize 50 \
  --InternetAccessible.InternetChargeType TRAFFIC_POSTPAID_BY_HOUR \
  --InternetAccessible.InternetMaxBandwidthOut 0 --InstanceCount 1

# AWS：us-east-1 到互联网的出流量阶梯（Price List 公开文件，AWSDataTransfer 服务）
curl -s https://pricing.us-east-1.amazonaws.com/offers/v1.0/aws/AWSDataTransfer/current/us-east-1/index.json

# Azure：eastus 的出流量阶梯（Retail Prices API）
curl -s "https://prices.azure.com/api/retail/prices?\$filter=serviceName%20eq%20'Bandwidth'%20and%20armRegionName%20eq%20'eastus'%20and%20meterName%20eq%20'Standard%20Data%20Transfer%20Out'"

# Oracle：北美出发的出流量（价目 API，B88327 = Outbound Data Transfer - Originating in North America, Europe, and UK）
curl -s "https://apexapps.oracle.com/pls/apex/cetools/api/v1/products/?currencyCode=USD&partNumber=B88327"

关键单价

完整月费

来源与核对日期

全部在 2026-10-09 核对。

• Cloudflare 价格与限制：
  • Workers 定价、Workers 限制
  • Durable Objects 定价、DO 设计规则
  • KV 工作原理、Queues 定价
  • D1 定价、D1 限制
  • Observability 定价（2026-12-01 起）
  • AI Gateway 定价、AI Gateway 限制
  • China Network、China Network 可用产品
• 阿里云（价格来自 aliyun CLI 询价接口，规则来自文档）：
  • CDT 公网流量、升级至 CDT 计费
  • ALB 计费规则、NAT 网关计费
  • 函数计算计费、单实例多并发
  • AI 网关规格与价格
  • ESA 函数和 Pages 限制、ESA 函数计费
  • 通过私网连接访问百炼、私网连接计费、AI 网关 Serverless 计费
• 腾讯云（价格来自 tccli 询价接口，规则来自文档）：
  • 公网流量价格、CLB LCU 计费
  • 云函数计费、云函数 SSE、Web 函数请求多并发
  • EdgeOne 套餐、EdgeOne 超额单价、边缘函数限制
• 案例与故障：
  • Cloudflare 故障复盘：2025-06-12、2025-11-18
  • 阿里云香港可用区 C 故障说明（2022-12）
  • Higress、阿里云 AI 网关产品页
  • GreatFire：workers.dev（第三方观测）、Cloudflare 社区：workers.dev 在大陆被封
  • Cloudflare 条款更新（2023）、Cloudflare 日志数据集（平均条目大小）
• 海外四家（价格来自公开价格接口或官方价目页，规则来自文档）：
  • AWS：EC2 按需价（含出流量）、Lambda 定价、Lambda 响应流式、ALB 空闲超时、AgentCore Gateway 推理目标
  • Google Cloud：网络价格、Cloud Run 定价、负载均衡超时、Apigee 定价
  • Azure：带宽价格、Application Gateway 与 SSE、Application Gateway 502 排查（超时重试）、API Management 的 AI 网关能力、API Management 限制（并发后端连接）、Front Door 与 WebSocket / SSE
  • Oracle：价目表（网络）、VCN 价格、10 TB 按大区计的新闻稿（2021-11-10）
• 模型价格：DeepSeek 定价、通义 qwen-flash
• 工具版本：aliyun CLI 3.5.1、tccli 3.1.180.1、wrangler 4.148.0（npm 上最新是 4.149.0）；海外四家没有用 CLI，用的是上文的公开价格接口。