凌晨一点四十,手机在床头柜上震了一下。
值班的同事在群里甩了张监控图:查订单那个接口,QPS 从平时的八十,一路干到一万二。不是大促。是有人拿脚本在刷。数据库连接池先满了,然后首页跟着白屏。
那晚是怎么救回来的?不体面。运维在 Nginx 上临时怼了两行 limit_req,把阈值拍得特别狠,误伤了一批真实用户。三点多流量降下来,大家瘫在椅子上。
第二天复盘会,吵得挺凶。核心问题就一个:这种拦截,到底应该写在哪一层?
网关不是万能插排
先把话说清楚。API网关是什么?通俗点讲,它是所有外部请求进门的第一道口子。你把它想成写字楼一楼的保安加前台——查证件、登记、告诉你几楼几号、顺便记一笔谁来过。
技术上它干的活主要有这几类:路由转发、身份认证、限流熔断、协议转换、日志埋点。注意,这里面没有一条叫「业务逻辑」。
可现实里,我见过太多团队把这个口子当成了插排。
有个做在线教育的客户,把用户VIP等级的判断写进了网关插件。一开始挺好,改起来快。后来运营要搞分层定价,规则变了六版,那个 Lua 脚本膨胀到八百多行,注释还是中文的,写的人已经离职了。没人敢动。最后是硬着头皮重写,还停了一次服。

被塞进去的那些怪东西
我随手列几个真实见过的:
把 A/B 测试的分流规则写在网关里,按用户 ID 取模。听起来挺优雅对吧?问题是这个取模和推荐系统里的取模不是同一个,两边对不上,实验数据全是脏的。
还有在网关里做字段裁剪的。什么「普通用户看不到手机号后四位」,SQL 拼在网关插件里。数据库表结构一改,网关先崩。
说实话,这些做法在项目早期都挺爽。快嘛。但技术债这东西,不是不还,是利息滚得你看不懂。
那到底怎么划这条线?我自己的判断标准特别土:把这段逻辑换个业务,还要不要?
要。那就放网关。认证、限流、灰度、日志、跨域,这些换个卖菜的业务也照样需要。
不要。那就往下沉。订单状态怎么流转、优惠券怎么算、内容怎么审核,这些只属于某一摊事,别往门口堆。
限流这事没有银弹
回到开头那个凌晨。
限流算法其实就那么几种:计数器、滑动窗口、漏桶、令牌桶。纸面上都简单。坑在粒度和部署方式上。
按 IP 限?我劝你想清楚。很多公司出口 IP 是同一个,一栋写字楼的人全被误杀,客服电话能被打爆。按用户 ID 限更细,可你得先解析出用户身份,也就是说限流得排在认证后面——顺序一错,等于没做。
单机限流最简单,网关本地开个令牌桶就行。但只要你的网关是三台以上,每个节点各限各的,总量还是会超。这时候要上 Redis 做集中计数,代价是多一跳网络往返,还得盯着时钟漂移和超时降级。

我一般的建议是分两步走。先做粗粒度,按路由或者按 API key 兜一个总量,观测一周看看正常峰值在哪。别一上来就精细到每个用户、每个接口,参数调不明白反而更危险。
有些团队其实不需要它
这话可能不太讨喜,但我还是要说。
如果你一共就五六个服务,团队十来号人,全走内网,没有对外开放的接口——那你用 Nginx 做反向代理,加一个统一鉴权的 SDK,基本就够了。上 Kong、上 APISIX,光是把插件体系摸熟、把配置纳入 GitOps、把监控接起来,就够一个人忙小半个月。
什么样的情况该上?多语言技术栈、多个团队各自管服务、有对外输出的开放平台。 满足两条以上,网关带来的收益才盖得住它的维护成本。
这东西不是先进不先进的问题,是划不划算的问题。
明天就要动的话先做这几件事

如果你正好在推网关改造,不妨先干这几件小事,花钱少,效果好:
把所有路由列一遍,标清楚谁在用、多久没调过。你会发现至少有两成是僵尸接口,直接下线,比什么都管用。
认证统一收到网关,下游服务别再自己验 token。这一步能砍掉大量重复代码,也顺手解决了「某个服务忘了验签」这种要命的疏漏。
每个请求带上 trace id,从网关入口一路透传下去。出问题的时候,这个字段能救你半条命。
灰度要留退路。新老网关并行跑两周,路由按百分比切。别信「一次切换保证没问题」这种话。
那天凌晨的教训,其实不在于限流参数写错了。是那道防线本来该在门口,却一直空着。
网关这东西,平时你感觉不到它。它就该让你感觉不到。