服务网格:流量治理从应用代码中解脱
每个微服务都在重新发明轮子,服务网格把这个轮子造一次,放到基础设施层。
一、引言:每个微服务都在重新发明轮子
2013 年,Netflix 开源了 Hystrix——一个 Java 断路器类库。它解决了真实的问题:在微服务架构里,一个服务的慢响应会像多米诺骨牌一样拖垮整个调用链。Hystrix 的回答是在代码里插入熔断逻辑,用线程隔离防止级联故障。
这个答案有效,但它带来了新的问题。
你用 Java 写的服务可以用 Hystrix,Go 服务要找 gobreaker,Python 服务要找 pybreaker,Node.js 服务要找 opossum。每个实现行为不完全一致,配置方式各异,版本升级需要所有团队联动。更关键的是,这些机制有重复实现的部分,但语义并不都与业务无关——加密与证书轮换可以平台化,一次支付能否重试、多久必须返回、失败如何补偿,仍然属于业务契约。
服务网格的出现回答了一个根本问题:当你把一个整体拆成几十个微服务,谁来管流量之间的事情?
答案不是让每个服务自己管,而是把这件事从应用代码里抽出来,下沉到基础设施层,用一个通用的代理来统一处理。这个思路有一个优雅的名字:Sidecar 模式。
二、为什么需要服务网格
微服务时代的网络问题
单体时代,函数调用是内存操作,调用失败通常在同一进程边界内处理。微服务时代,服务调用跨越网络,而网络是不可靠的——包会丢,延迟会抖,下游服务会崩溃。
这意味着每个服务都需要处理:
- 重试:请求失败时是否重试,重试几次,退避策略是什么
- 超时:等多久算失败,全局超时还是分段超时
- 熔断:下游持续失败时快速返回错误,而不是等到超时
- 限流:保护自己不被突发流量打垮
- mTLS:服务间通信是否加密,如何管理证书
- 可观测性:每次调用的延迟、状态码、错误率怎么收集
如果每个服务各自实现,代码重复是小问题,行为不一致才是大问题——A 服务的熔断阈值是 50% 错误率,B 服务是 80%,C 服务根本没做熔断,排障时没有统一的基准。
类库方案的局限
Netflix OSS 代表了”类库方案”的最高水准:Hystrix(熔断)、Ribbon(负载均衡)、Feign(HTTP 客户端)、Eureka(服务发现)。在 Java 生态里它工作得相当好,但它有两个根本性局限:
语言绑定:这套类库是 Java 的。Go、Python、Rust、Node.js 需要各自的实现,而各自实现意味着各自的 bug、各自的功能缺失、各自的版本节奏。在 Polyglot 技术栈里,类库方案的实现与协调成本会持续增长。
侵入性:类库方案需要开发者理解并正确配置每一个参数,它和业务代码耦合在一起。一个新的服务必须正确地初始化断路器、配置线程池、注册到服务发现……这是认知负担,也是出错的机会。
到 2018 年,Netflix 宣布 Hystrix 进入维护模式,不再主动开发新功能。这是一个项目的生命周期变化,不是类库方案的终点;客户端库仍然适合处理业务语义和应用内部隔离。
翻转:下沉到基础设施
服务网格的翻转思路与 Kubernetes 处理调度的方式如出一辙:把可复用的通信机制从应用层下沉到基础设施层,让应用更集中地表达业务意图。
实现方式是 Sidecar 模式:在每个服务 Pod 里注入一个代理容器(通常是 Envoy),被纳入网格且未配置绕过的流量经过这个代理。代理之间互相通信,形成一张”网”——这就是服务网格(Service Mesh)名字的由来。
应用通常不需要显式连接代理,但重试次数、超时预算和协议行为会影响应用。部署透明,不等于语义完全透明。
三、怎么设计:控制面与数据面
Envoy:为什么是它
服务网格选择 Envoy 作为数据面代理,不是偶然。Envoy 由 Lyft 在 2016 年开源,专门为微服务场景设计,有几个关键特性:
动态配置(xDS API):Envoy 通过 xDS API 接收控制面下发的配置,许多变更不需要重启进程。其他代理也有动态配置能力;是否扰动在途连接,要看具体变更、排空与收敛行为,不能仅凭用了 xDS 就承诺零中断。这是服务网格能够做到实时流量管理的基础。
可观测性接口内建:Envoy 提供请求统计、访问日志与追踪能力,但哪些信号启用、送往哪里、如何采样,需要网格配置。直方图可用于计算分位数;代理也不能自动知道应用里哪个下游调用对应哪个入站请求。
L4/L7 双栈:Envoy 能处理 TCP 流量(L4)和 HTTP/gRPC 流量(L7),并且 L7 处理性能极高,适合高吞吐场景。
Sidecar 模式:流量是如何被拦截的
Envoy 作为 Sidecar 和应用容器运行在同一个 Pod 里,共享同一个网络命名空间。但应用代码并没有主动把流量发给 Envoy——是 iptables 规则在背后做了重定向。
Istio 可在 Pod 启动时通过 istio-init,或由已安装的 Istio CNI 配置 iptables 规则,把所有进出 Pod 的流量重定向到 Envoy 的监听端口(15001 出站,15006 入站)。应用代码发出的 TCP 连接,在离开网络命名空间之前就被 iptables 劫持,交给 Envoy 处理。
应用代码 → iptables 拦截 → Envoy(出站代理) → 网络 → Envoy(对端入站代理) → 目标服务这条路径增加了代理跳数、socket 与缓冲处理、协议解析及加解密成本。开销不是固定“两次上下文切换”,需要用实际协议、连接复用与负载测量。
控制面 istiod
Istio 1.5 之后,控制面被合并为单一进程 istiod,承接了此前分散组件的主要职责;下表是职责的历史对应,不是今天仍有三个独立子进程:
| 模块 | 原来的名字 | 职责 |
|---|---|---|
| Pilot | istio-pilot | 路由规则管理,把 VirtualService/DestinationRule 翻译为 Envoy xDS 配置下发 |
| Citadel | istio-citadel | 证书颁发机构,自动为每个服务签发 mTLS 证书,管理轮换 |
| Galley | istio-galley | 配置验证与分发,接收 Kubernetes API 对象,做语义校验 |
istiod 监听 Kubernetes API Server,Watch 所有相关资源(Service、Endpoint、VirtualService 等),把这些信息汇聚后翻译成 Envoy 能理解的 xDS 配置,通过长连接推送给每个 Envoy sidecar。
xDS API:控制面的语言
xDS 是一组 API 协议,每个字母代表一类配置资源:
| xDS | 全称 | 含义 |
|---|---|---|
| LDS | Listener Discovery Service | Envoy 监听哪些端口,接受哪类连接 |
| RDS | Route Discovery Service | HTTP 路由规则(按 header/path/weight 分流) |
| CDS | Cluster Discovery Service | 上游服务集群的配置(负载均衡策略、断路器参数) |
| EDS | Endpoint Discovery Service | 每个集群里具体的实例 IP:Port 列表 |
控制面改变一条路由规则(比如把 v2 的权重从 10% 改到 50%),就是更新 RDS 配置并推送给所有相关 Envoy。传播与应用通常可以在线完成;仍需检查各代理 ACK/NACK 和实际路由,不能把提交成功当作所有代理已经同步。
四、三大能力
流量管理:声明式的流量控制
服务网格最直观的能力是对流量的精细控制。Istio 用两个核心 CRD 来表达流量意图:
VirtualService:描述”流量怎么走”——路由规则、权重分流、故障注入、重试策略。
apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata:
name: reviews
spec:
hosts:
- reviews
http:
- match:
- headers:
end-user:
exact: jason
route:
- destination:
host: reviews
subset: v2 # 特定用户路由到 v2
- route:
- destination:
host: reviews
subset: v1
weight: 90
- destination:
host: reviews
subset: v2
weight: 10 # 其余流量 90/10 分流DestinationRule:描述“客户端如何访问目标”——负载均衡策略、断路器(outlier detection)、连接池限制、subset 定义。
apiVersion: networking.istio.io/v1beta1
kind: DestinationRule
metadata:
name: reviews
spec:
host: reviews
trafficPolicy:
outlierDetection:
consecutive5xxErrors: 5 # 达阈值后按异常实例剔除策略处理
interval: 30s
baseEjectionTime: 30s # 基础剔除时间;还受比例和重复剔除等条件影响
subsets:
- name: v1
labels:
version: v1
- name: v2
labels:
version: v2这两个资源配合,可以表达分流和故障策略。前提是 Service 存在、端口识别为相应协议、subset 标签匹配真实 Pod、请求确实经过对应代理。权重是统计分配,不保证每连续十个请求恰有一个到 v2。
重试还需要端到端预算和幂等性:代理不知道“下单失败响应”之前数据库是否已经提交;应用、客户端和网格同时重试也会放大流量。异常实例剔除、连接池上限与业务断路器是相邻但不同的机制。
Gateway 负责管理入口流量,相当于服务网格的边界路由器,可以配置 TLS 终止、主机名路由、协议升级。
安全:零信任的基础
mTLS(双向 TLS)是服务网格安全能力的核心。Kubernetes 本身不统一保证 Pod 间加密;应用 TLS、CNI 加密与网格保护范围需要分别核对。仅有网络可达也不等于具备嗅探全部流量的能力。
Istio 的 Citadel 为每个服务自动签发 SPIFFE 格式的证书(基于 Kubernetes ServiceAccount),Envoy sidecar 持有这个证书,建立连接时自动进行双向认证。整个过程对应用透明,证书也会自动轮换。
PeerAuthentication 控制 mTLS 策略:
apiVersion: security.istio.io/v1beta1
kind: PeerAuthentication
metadata:
name: default
namespace: production
spec:
mtls:
mode: STRICT # 对该策略覆盖且经过网格执行点的入站连接要求 mTLSAuthorizationPolicy 在 mTLS 身份认证的基础上做细粒度授权:
apiVersion: security.istio.io/v1beta1
kind: AuthorizationPolicy
metadata:
name: allow-reviews
namespace: production
spec:
selector:
matchLabels:
app: reviews
rules:
- from:
- source:
principals: ["cluster.local/ns/production/sa/productpage"]
to:
- operation:
methods: ["GET"]在这些 workload 被网格保护、身份与 trust domain 正确且没有其他放行规则的前提下,该 ALLOW 策略只允许指定 ServiceAccount 身份发出 GET。mTLS 验证的是工作负载身份,不等于最终用户授权;业务仍需检查“这个用户能否查看这张订单”。HTTP 条件还要求 L7 执行点,不能直接套到只做 L4 的 ztunnel。
可观测性:不改代码的遥测
服务网格能统一代理层的信号来源:
- Metrics:请求与错误计数、延迟直方图等,经采集与查询得到速率、分位数。
- Trace:配置追踪 provider、采样和后端后,代理可以生成 span;应用仍需把入站上下文正确传给相应出站请求。
- 访问日志:按 Telemetry 或安装配置启用,记录响应码、耗时、字节数与代理响应标志。
这减少了重复建设,但不会自动生成业务 span、数据库内部过程或完整因果链。代理没有数据、采样没命中和应用丢失上下文,是不同的缺口。Istio 追踪机制、访问日志配置
Kiali 是 Istio 的配套可视化工具,能把 Prometheus metrics 渲染成实时服务拓扑图,一眼看出哪条调用链出现了错误率上升。
五、Sidecar 的代价与 Ambient Mesh 的回应
Sidecar 的三个代价
Sidecar 模式优雅,但不是免费的。
资源开销:每个 Pod 多一个代理进程。若实测单代理额外常驻内存为 50MB,500 个 Pod 就约为 25GB;这是预算计算示例,不是 Envoy 的固定占用。连接数、路由与证书规模、遥测和请求速率都需要纳入测量。
爆炸半径:Sidecar 和应用容器共享 Pod 生命周期。如果 Envoy 崩溃或者 OOM 被 Kill,整个 Pod 的网络都会受影响。更麻烦的是,sidecar 升级(比如 Istio 版本升级)需要重启所有注入了 sidecar 的 Pod——这是一个影响面极广的操作。
能力和部署绑在一起:Envoy 支持 TCP 转发,不是所有流量都强制做 L7 解析。但 sidecar 模式仍把每工作负载一个代理的部署与升级成本带给只需要 L4 能力的服务。
Ambient Mesh:移除 Sidecar 的重新设计
Istio 在 2022 年提出 Ambient Mesh,2024 年 GA,它的核心思路是把 L4 安全隧道与按需 L7 代理分开部署,让纳入 Ambient 的工作负载不再需要每 Pod 一个 sidecar。
Ambient Mesh 的数据面由两层组成:
ztunnel(零信任隧道):以 DaemonSet 形式在每个节点上运行,提供 L4 mTLS 隧道、L4 授权和基础遥测。当前重定向由 Istio CNI 在 Pod 网络命名空间内设置 iptables,并与 ztunnel 协作;它不解析 HTTP,不能提供 HTTP 状态码和路由能力。Ambient 架构
Waypoint Proxy:基于 Envoy,按需部署在 namespace 或 service 粒度。需要 L7 能力的流量通过相应 waypoint,具体路由 API 与功能支持按选定 Istio 版本核对。是否只用 ztunnel,取决于实际策略和观测需求,不能先断言“大多数服务足够”。
flowchart TB subgraph Sidecar["Sidecar 模式(每 Pod 一个代理)"] direction LR subgraph PA["Pod A"] AppA[App] --> EnvoyA[Envoy Sidecar] end subgraph PB["Pod B"] EnvoyB[Envoy Sidecar] --> AppB[App] end EnvoyA -- "mTLS" --> EnvoyB end subgraph Ambient["Ambient 模式(代理下沉到节点层)"] direction LR subgraph PC["Pod C"] AppC[App] end subgraph PD["Pod D"] AppD[App] end AppC -- "Pod 内 iptables 重定向" --> ZT1["ztunnel\n节点 DaemonSet"] ZT1 -- "mTLS L4" --> ZT2["ztunnel\n另一节点"] ZT2 --> AppD ZT1 -. "L7 按需" .-> WP["Waypoint Proxy\n(可选,按 namespace/service 部署)"] WP -. "HTTP 路由\n故障注入\n细粒度授权" .-> ZT2 end
渐进式采纳是 Ambient 的重要设计目标:给 namespace 打一个 label(istio.io/dataplane-mode: ambient),节点上的 ztunnel 自动接管该 namespace 的流量,通常不需要通过重建应用 Pod 来插入 sidecar。前提是 CNI/ztunnel 已就绪、流量受支持,并检查纳入状态与策略结果。再按需部署并关联 waypoint;迁移仍需验证现有连接、sidecar 共存和特定协议,不能承诺任意集群零中断。
六、上手:给一个应用装上服务网格
本节选择 Sidecar + Bookinfo 作为独立实验,不把它当作 Ambient 安装步骤。使用可丢弃集群,本节资源放在该集群的 default namespace;不接生产服务。记录 K8s/Istio 版本,先验证 DNS 与基础 Service 通信。以下命令是待执行设计,本轮没有安装。
安装 Istio
从 官方入门文档选择与集群兼容的稳定版本,下载并解压对应发行包。istioctl 与 samples 必须来自同一版本;下面要求先设置真实目录,避免通配符拼出无效 PATH:
export ISTIO_DIR=/absolute/path/to/selected-istio-release
cd "$ISTIO_DIR"
export PATH="$ISTIO_DIR/bin:$PATH"
istioctl version --remote=false
# demo profile 仅作评估;它不自动安装遥测 addons
istioctl install --set profile=demo --set meshConfig.accessLogFile=/dev/stdout -y
kubectl rollout status deployment/istiod -n istio-system
kubectl get pods -n istio-system
# 另外安装同一发行包中的 Prometheus 和 Kiali 示例组件
kubectl apply -f samples/addons/prometheus.yaml
kubectl apply -f samples/addons/kiali.yaml
kubectl rollout status deployment/prometheus -n istio-system
kubectl rollout status deployment/kiali -n istio-system注入 Sidecar 与建立基线
kubectl label namespace default istio-injection=enabled
kubectl apply -f samples/bookinfo/platform/kube/bookinfo.yaml
kubectl wait --for=condition=Ready pod --all -n default --timeout=180s
kubectl get pods
# 核对实际容器列表;不同 sidecar 生命周期模式下 READY 显示可能不同
kubectl get pods -o jsonpath='{range .items[*]}{.metadata.name}{"\t"}{.spec.containers[*].name}{"\t"}{.spec.initContainers[*].name}{"\n"}{end}'
# 单独终端保持转发;仅本机访问,不需要先配置公网 Gateway
kubectl port-forward svc/productpage 9080:9080在浏览器访问 http://127.0.0.1:9080/productpage,确认页面与 reviews 调用正常。端口转发只是入口,productpage 到 reviews 的网格流量才是下面观察的对象。若这个基线不成立,先停止分流实验。
第一个 VirtualService:金丝雀分流
# 先创建 DestinationRule,定义 v1/v2/v3 subset
kubectl apply -f - <<EOF
apiVersion: networking.istio.io/v1beta1
kind: DestinationRule
metadata:
name: reviews
spec:
host: reviews
subsets:
- name: v1
labels: {version: v1}
- name: v2
labels: {version: v2}
- name: v3
labels: {version: v3}
EOF
# 创建 VirtualService:90% 流量到 v1,10% 到 v3
kubectl apply -f - <<EOF
apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata:
name: reviews
spec:
hosts:
- reviews
http:
- route:
- destination:
host: reviews
subset: v1
weight: 90
- destination:
host: reviews
subset: v3
weight: 10
EOF对同一路径发送足够请求,在 Kiali/Prometheus 中按目标版本核对分布,并记录样本量。短窗口内不必恰好 90/10;页面星级只是辅助观察,不能替代目标版本计数。
观测效果
# 打开 Kiali 服务拓扑图
istioctl dashboard kiali
# 查看 Prometheus metrics(按标签拆分的 HTTP 请求累积计数)
kubectl -n istio-system port-forward svc/prometheus 9090:9090
# 查询:istio_requests_total{destination_service="reviews.default.svc.cluster.local"}有实际流量且采集链路正常后,Kiali 才能显示拓扑与指标。追踪是额外步骤:按所用版本的官方教程安装 Jaeger/OTel 后端、配置 extension provider 与 Telemetry 采样,再验证 Bookinfo 的 header 传播;只有安装 dashboard 不会产生 trace。
退出实验时,先撤销后续故障策略,验证正常请求恢复,再删除本节创建的 reviews VirtualService/DestinationRule 与 Bookinfo;关闭端口转发。addons 和 Istio 若还被其他测试使用则保留,若是整套一次性环境,直接按该环境的重建流程回收。
七、故障剧场
每场只在上节的隔离集群操作,先保存当前策略与正常请求结果,一次只改变一项。异常超出目标服务、持续时间或预算时停止;恢复到原策略后重复正常请求。以下“现象”是待检验假设,不是本轮实测记录。
剧场一:mTLS STRICT 模式突然启用,服务被拒绝
场景:集群里有部分老服务没有注入 sidecar,应用了 STRICT mTLS 策略后,这些服务的调用全部被拒绝。
# 启用 STRICT mTLS
kubectl apply -f - <<EOF
apiVersion: security.istio.io/v1beta1
kind: PeerAuthentication
metadata:
name: default
namespace: default
spec:
mtls:
mode: STRICT
EOF
# 用一个显式禁用注入的测试客户端,对 reviews 的受保护端口发起请求
# 比较切换前后的状态、连接错误与目标代理日志;不要预写唯一报错文本定位:
# 检查哪些 Pod 没有 sidecar
kubectl get pods -o jsonpath='{range .items[*]}{.metadata.name}{"\t"}{.spec.containers[*].name}{"\t"}{.spec.initContainers[*].name}{"\n"}{end}'
# 这里仅讨论 Sidecar 实验:确认客户端是否有网格身份、目标是否已被保护
# 恢复:撤销本场新建的 PeerAuthentication,或恢复事先保存的原策略教训:是否直接启用 STRICT 取决于接入状态。遗留环境可以先用 PERMISSIVE 观测明文来源,再补齐身份与纳入条件;切换后还要用一条应被拒绝的路径验证保护确实存在。
剧场二:VirtualService host 写错,分流没有按意图生效
在保存正确规则后,故意把测试 VirtualService 的 hosts 写成 reviews.production.svc.cluster.local,保留实际调用 reviews.default.svc.cluster.local。观察原定的 90/10 分流是否消失。
可能现象:错误规则没有匹配,流量走默认路由;也可能因其他 destination/subset 错误出现 503。跨 namespace 的 FQDN 本身合法,不能仅因对象建在 default 就认定必须报 404。
istioctl analyze
istioctl proxy-config route "<productpage-pod>" --name 9080 -o json
istioctl proxy-config cluster "<productpage-pod>"把客户端实际 host、VirtualService 匹配、destination、subset 与 Pod 标签逐项对齐。静态 analyze 没有报错不代表流量符合意图。实验后恢复保存的 VirtualService,再用版本计数检查分流。
剧场三:断路器触发,503 连环
场景:在测试 reviews 的某个版本主动返回 5xx,并设置已审查的异常实例剔除策略;观察该实例是否被剔除。仅仅“慢”不一定触发连续 5xx 阈值。
# 查看断路器触发情况
kubectl logs "<productpage-pod>" -c istio-proxy | grep "UO\|UF\|UH"
# UO = Upstream Overflow(连接池满)
# UF = Upstream Connection Failure
# UH = No Healthy Upstream(无健康上游,原因不只有剔除)
# 查看端点健康与代理 cluster/outlier detection 统计
istioctl proxy-config endpoint "<productpage-pod>"
# 再对照代理统计中的 ejections_active/overflow 等项,不能只凭一个 UNHEALTHY 归因关键:断路器触发是保护措施,不是故障原因。真正需要排查的是 reviews 服务本身为什么慢,503 只是结果。用 Kiali/Prometheus 观察目标版本错误率与延迟,再结合已实际接通的追踪查具体请求。撤销故障响应和测试策略后,还要确认端点重新进入健康集合。
剧场四:sidecar 注入前已有 Pod,策略生效时间差
现象:给 namespace 打了 istio-injection=enabled 标签,也应用了 AuthorizationPolicy,但部分 Pod 的调用仍然能通过——一种原因是目标工作负载在打标签之前创建,没有策略执行点;也要检查 selector、namespace、ALLOW/DENY 组合和流量绕过。
# 检查 Pod 是否有 sidecar
kubectl get pod "<old-pod>" -o jsonpath='{.spec.containers[*].name}{"\t"}{.spec.initContainers[*].name}'
# 在 containers 与 initContainers 中都找不到 istio-proxy,再核对是否为 Ambient 工作负载
# 强制滚动重启,让新 Pod 自动注入 sidecar
kubectl rollout restart deployment/"<deployment-name>"教训:本节 Sidecar 模式的策略依赖相应代理;Ambient 则依赖 ztunnel/waypoint 与其支持范围。namespace 打标签只影响后续创建的 Pod,存量 Pod 必须重启才能注入。在安全敏感的场景里,启用 STRICT mTLS 之前要确认所有 Pod 都已注入。
八、日常排障
istioctl proxy-status:控制面同步状态
istioctl proxy-status
# 正常输出:
# NAME CLUSTER CDS LDS EDS RDS ECDS ISTIOD VERSION
# productpage-v1-xxx.default ... SYNCED SYNCED SYNCED SYNCED NOT SENT istiod-xxx 1.20.0
# reviews-v1-xxx.default ... SYNCED SYNCED SYNCED SYNCED NOT SENT istiod-xxx 1.20.0
# STALE 需要排查未确认更新;NOT SENT 也可能表示该资源类型不适用
# 结合配置期望、ACK/NACK 与 istiod 日志判断,不能逐字把 NOT SENT 当故障istioctl proxy-config:查看实际生效的配置
# 查看路由配置(最常用)
istioctl proxy-config route "<pod-name>" --name 9080 -o json
# 查看 cluster(上游服务)配置
istioctl proxy-config cluster "<pod-name>"
# 查看 endpoint(实际的 IP:Port 列表)
istioctl proxy-config endpoint "<pod-name>"
# 查看 listener(监听端口配置)
istioctl proxy-config listener "<pod-name>"这四个命令对应 xDS 的四类配置,遇到路由问题先看 route,遇到连接问题先看 endpoint 和 cluster。
Envoy access log 解读
kubectl logs "<pod-name>" -c istio-proxy | tail -20
# 典型格式:
# [2024-01-15T10:23:45.123Z] "GET /api/v1/products HTTP/1.1" 200 - via_upstream - "-" 0 1234 45 44
# 此示意中 200 后依次包含响应标志、response_code_details 等;实际字段顺序以日志格式配置为准响应标志(Response Flags)是关键:
| 标志 | 含义 | 常见原因 |
|---|---|---|
UF | Upstream Connection Failure | 下游服务不可达或 mTLS 握手失败 |
UO | Upstream Overflow | 连接池满,触发限流 |
UH | No Healthy Upstream | 无健康端点;需区分剔除、就绪与发现问题 |
NR | No Route | VirtualService 配置错误或 host 不匹配 |
UT / UMSDR | Upstream Request Timeout / Max Stream Duration Reached | 请求或流的相应时限达到 |
DC | Downstream Connection Termination | 客户端主动断开 |
response_code_details 与响应标志是不同字段。via_upstream 表示状态码来自上游;代理本地连接失败、溢出或无健康端点,应结合 UF/UO/UH 与对应 details 判断,不能只凭 503 调整网格。Envoy 响应详情
常见问题速查
| 现象 | 第一步排查 | 常见原因 |
|---|---|---|
503 且 via_upstream | 关联上游响应、服务日志与请求记录 | 上游返回了 503;上游也可能是另一层代理 |
| 404 Not Found | istioctl analyze / proxy-config route | VirtualService host 错误 |
| Connection refused | 检查目标监听端口、端点与代理 | 进程未监听、端口错误;mTLS 错误需单独看握手证据 |
| 流量没有按权重分流 | proxy-config route 看实际规则 | DestinationRule subset 标签不匹配 |
| Kiali 拓扑图部分服务不显示 | 检查 sidecar 注入状态 | 缺少 sidecar,无 metrics 上报 |
| AuthorizationPolicy 不生效 | 确认 Pod 有 sidecar + 重启存量 Pod | 注入时间差问题 |
九、往哪走
Ambient Mesh 的成熟路径
Istio 1.24(2024 年底)宣布 Ambient Mesh GA。这是上游 Istio 的发布状态,不代表每个托管产品都支持同样能力;AWS App Mesh 也不是托管 Istio。选择时核对具体产品、版本和缺失功能,而不是把上游 GA 当作迁移许可。
对于已有集群的迁移路径:Sidecar 模式和 Ambient 模式可以在同一集群共存(通过 namespace 标签区分),可以逐步迁移,不需要一次性切换。
WASM 扩展:在 Envoy 里运行自定义逻辑
Envoy 支持以 WebAssembly 模块的形式动态加载自定义插件,在请求处理链路上插入自定义逻辑——比如自定义鉴权、请求转换、特殊的限流策略——而不需要修改 Envoy 本身或应用代码。
WASM 模块可以用 Go、Rust、C++ 编写,通过 Istio 的 WasmPlugin CRD 动态部署到 Envoy sidecar。这是一个还在成熟的领域,性能开销高于原生 Envoy filter,但灵活性远超静态配置。
Cilium Service Mesh:eBPF 与代理分工
Cilium 将服务转发和部分策略放在 eBPF 路径,把 HTTP 等 L7 能力交给 Envoy;去掉每 Pod sidecar,不等于去掉用户空间代理。
它的 mutual authentication 采用带外身份握手,传输加密还需另启 WireGuard 或 IPsec。核验时该认证能力仍标注 Beta,不能把它写成“纯 eBPF 已完整替代 mTLS”。Cilium Service Mesh、认证与加密边界
Cilium 与 Istio 可以承担不同层次的责任,也可能组合。比较时列出实际需要的身份、加密、L7 路由、观测和升级行为,再在相同负载下看成本;“在内核”不自动意味着端到端更快。
服务网格的边界
服务网格不是银弹,它有清晰的适用边界:
- 适合:内部服务间通信治理、mTLS 零信任网络、统一的可观测性基础
- 不一定需要:服务间治理需求简单、现有库与网关足够的系统;服务数量没有通用分界线
- 与其他层配合:网格可包含 ingress/egress gateway 和外部服务治理,但不会接管所有 DNS、网络及业务授权责任
判断是否引入服务网格的核心问题:你的流量治理问题是否已经复杂到用代码维护不可持续? 如果答案是肯定的,服务网格是正确的抽象层;如果还没到这一步,过早引入只会增加认知负担。
关联
- → 02-Kubernetes-声明意图,控制器维持世界:服务网格构建在 Kubernetes 之上,CRD(VirtualService/DestinationRule)是声明式模型的延伸
- → 06-eBPF-内核变成可编程的基础设施:区分 Ambient 的 iptables 重定向、Cilium 的 eBPF 路径,以及两者仍需的用户态代理
- → 04-GitOps-Git成为系统运行时的真相之源:VirtualService 权重变更、mTLS 策略更新都应该走 GitOps 流程,而非手动 kubectl apply
- → 10):sidecar/waypoint 可提供 L7 代理信号,ztunnel 提供 L4 信号,是”不改代码的遥测”在可观测性侧的展开
参考与验证边界
核验日期:2026-10-14。Sidecar/Bookinfo 是本篇的实验路径;Ambient 与 Cilium 用于架构对照,不能混用安装步骤。本轮未部署、未注入故障,版本与实际输出应在执行时补齐。
- Istio 入门与 addons:安装包、样例与遥测组件分开安装。
- Istio Ambient 重定向:iptables、CNI、ztunnel 的分工。
- Istio 分布式追踪:应用传播与代理追踪边界。
- Istio 访问日志:启用条件。
- Cilium Service Mesh:L7 代理及能力范围。