i
Kubernetes 滚动发布看起来全部 Ready,仍可能有一部分副本读着旧的模型路径、功能开关或上游地址。推理集群上这会变成按比例的“偶发用错模型、偶发连到旧端点”。Ready 探针如果只检查端口或固定健康路径,旧配置下同样返回成功,发布状态就会给出错误的完成信号。
subPath 挂载和环境变量注入尤其容易被漏掉:改 ConfigMap 或 Secret 对象并不会让这些 Pod 滚动,进程也仍握着启动时读入的版本。更稳妥的做法是把配置或模型版本的 hash 写进 Pod 模板,并用“已加载的模型版本”而不是进程存活来做就绪判断;切流量前用只读探测确认全部副本都报告同一版本。
想请教做推理和视觉部署的同事:你们是把模型版本写进就绪条件,还是靠应用自己的版本接口核对?部分副本仍加载旧模型时,是拒绝切流量,还是先缩流量观察?
subPath 挂载和环境变量注入尤其容易被漏掉:改 ConfigMap 或 Secret 对象并不会让这些 Pod 滚动,进程也仍握着启动时读入的版本。更稳妥的做法是把配置或模型版本的 hash 写进 Pod 模板,并用“已加载的模型版本”而不是进程存活来做就绪判断;切流量前用只读探测确认全部副本都报告同一版本。
想请教做推理和视觉部署的同事:你们是把模型版本写进就绪条件,还是靠应用自己的版本接口核对?部分副本仍加载旧模型时,是拒绝切流量,还是先缩流量观察?