标签：LLM Inference Engine

LLM推理加速框架（LLMInferenceAccelerationFramework）是一类为大模型推理提供量化压缩、计算图优化、并行策略、显存管理与算子融合等系统级能力的中间件或运行时引擎。