凌晨两点,支付网关回调突然抖了一下。订单服务开始报 504。数据库连接池没满,CPU 也正常。大家盯着日志,才发现问题不在业务代码,而在前面那层 API 网关:某个营销活动的回调地址配错了,重试流量像洪水一样灌进来。
那晚之后,我对 API 网关的态度变了。它从来不是架构图里那个四四方方的漂亮盒子,更像小区门口那道闸机。平时你感觉不到它,一旦坏了,全楼的人都进不去。
网关到底拦住了什么
API 网关,说白了就是所有外部请求进入后端服务之前的那道统一入口。它至少干三件事:认人、指路、记账。认人是认证鉴权,指路是路由转发,记账是日志、监控、计费。再往上,还能做限流、熔断、灰度、协议转换、缓存、防爬。
但别急着把它想成万能插座。我见过一个团队,把用户积分计算也塞进网关插件。结果每次改规则都要发网关版本。网关成了业务逻辑的垃圾抽屉,谁都不敢动。

真正该放在网关的,是那些和具体业务无关、但每个服务都需要的横切能力。比如 JWT 校验、IP 黑白名单、QPS 限流、请求日志。这些事分散到二十个服务里做,迟早会有人漏掉。
那些年我们踩过的坑
第一个坑是性能。网关是中央入口,所有流量都从它身上过。你以为加个 Lua 脚本没事,结果平均延迟多了 8 毫秒,大促时被放大成雪崩。压测不能只压后端,要压网关本身。连接数、TLS 握手、DNS 缓存,都得看。
第二个坑是配置漂移。测试环境的路由规则和生产不一样,灰度规则又写在 Nginx 里,运维改完没同步。最后线上少了一个 Header,用户登录态全丢。后来我们定死一条:所有网关配置必须进 Git,走 Code Review,禁止手工改生产。
第三个坑是把网关当 ESB。老系统协议多,SOAP、HTTP、gRPC 混在一起,网关做协议转换很合理。但如果每个接口的字段映射都写在网关,那就完了。业务逻辑要下沉,网关只做轻量转换。

还有个隐蔽问题:可观测性。请求进来后,网关加了 Trace ID,但下游服务没透传。出了故障,你只能看到网关的超时,不知道卡在哪个服务。所以链路追踪要从入口一路打到数据库。
落地时先做减法

新团队上网关,最容易犯的错是贪多。第一天就想把认证、限流、灰度、缓存、WAF 全开。结果配置复杂到没人会排查。
我的建议很土:先跑通最小闭环。路由转发 + 健康检查 + 访问日志。这三样稳定了,再上认证。认证稳了,再上基础限流。每加一个插件,都问一句:它解决的是不是当前最痛的问题。不是,就先放着。
选型也一样。Kong、APISIX、Envoy、Spring Cloud Gateway,各有脾气。团队小、要开箱即用,Kong 和 APISIX 上手快。已经重度用 Kubernetes,Envoy 或 Istio 的 Gateway 更顺。Java 技术栈,Spring Cloud Gateway 改起来顺手。别只看性能跑分,要看团队半夜能不能修。
如果让我给一张行动清单,大概是这样:
- 把入口流量画清楚,标出协议、认证方式和调用方。
- 给路由起名定规范,别用 test1、api_new 这种。
- 认证、限流、日志先上,灰度、缓存按需加。
- 配置进 Git,生产变更走流水线。
- 压测网关,记录 P99 和错误率。
- 监控大盘至少看四个指标:QPS、延迟、错误码、限流触发数。
- 准备降级方案,网关挂了后端能不能直连,哪怕临时。
对了,别忽略文档。半年后接手的人,不会知道那个 Header 为什么叫 x-user-token-v2。写清楚,比多装一个插件有用。
API 网关不是银弹。它只是一道门。门修得好,团队少熬夜。门修得花哨,故障时连钥匙都找不到。