AI缓存语义命中

AI缓存语义命中(SemanticCacheforAI)是一类利用向量相似度或语义等价判断来复用历史问答结果,从而避免对相同或近似问题重复调用大模型推理的优化技术。