AI推理服务网格

AI推理服务网格(AIInferenceServiceMesh)是一类在多模型、多区域、多租户的生产环境中,对AI推理流量进行统一路由、负载均衡、可观测与策略治理的服务层。