什么是智能体可信？

智能体可信是在研发与应用中关注智能体专业性、可控性、真实性与安全性、保障可靠与合规的要求，其核心构成包括数据使用规范、偏见控制与行为解释等标准，以及防止黑箱风险与价值偏差的价值对齐机制，解决的是智能体行为不可预期、责任难以追溯的问题，并不解决模型底层预测准确率不足的问题。

智能体可信是在智能体产品的研发和应用过程中，关注智能体的专业性、可控性、真实性和安全性等方面，保障其在使用过程中的可靠性与合规性。智能体可信强调“对齐人类价值观”，需在数据使用、偏见控制、行为解释等方面建立标准，防止“黑箱风险”与“价值偏差”。未来，智能体可信建设将持续发展，重点加强高质量数据供给、多元技术融合创新、安全评估框架构建等研究，助力智能体应用更加透明和可控，并充分对齐人类价值观。