数智化转型网

延迟（Latency）是指什么？

人工智能1000问 📅 ✍ 👁 2025年10月23日 💬 0 评论
延迟是指AI从接收输入请求到产生完整输出响应的时间间隔，是衡量AI系统实用性的关键性能指标。低延迟对于实时交互 […]
数字化转型1000问-数字化转型网szhzxw.cn

延迟是指AI从接收输入请求到产生完整输出响应的时间间隔，是衡量AI系统实用性的关键性能指标。低延迟对于实时交互应用（如对话系统、实时翻译）至关重要。影响延迟的主要因素包括模型规模、硬件配置、网络传输、批处理策略和系统优化水平。

CXOU AI 未来大会 · 报名通道限时开启
🏷 标签 延迟
💬 评论
🔗 本文链接

📰 你可能也喜欢

术语词典

零信任 Zero Trust

零信任是云计算与远程办公时代替代传统边界防御的下一代安全架构范式：把信任从「网络位置」转为「身份与上下文」，让企业在开放环境下依然能实施最小权限与持续验证，是 …
📅 09-20 · 👁 2026年9月20日
术语词典

Service Mesh服务网格

Service Mesh 是云原生时代把微服务治理能力从框架下沉到基础设施的关键架构：让多语言微服务在不修改业务代码的前提下获得一致的网络、安全、可观测能力，是…
📅 09-20 · 👁 2026年9月20日
术语词典

数字主线

数字主线是离散制造企业从「卖设备」转向「卖设备 + 数据 + 服务」的关键基础设施，是工业 4.0 时代把设计、制造、运维全链路数据贯通、释放数据要素价值的事实…
📅 09-20 · 👁 2026年9月20日
术语词典

RAG

1、英文名 / 缩写： Retrieval-Augmented Generation（缩写 RAG），别名：检 […]
📅 09-20 · 👁 2026年9月20日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

LLM蒸馏是什么？

一、什么是LLM 蒸馏？ LLM 蒸馏是把大模型的能力迁移到小模型上的技术过程，让小模型在保持较高任务表现的同 […]
📅 09-19 · 👁 2026年9月19日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

Fine-tuning 是什么？

一、什么是Fine-tuning？ Fine-tuning 是基于预训练模型在特定领域数据上进行二次训练的过程 […]
📅 09-19 · 👁 2026年9月19日