红帽最近宣布收购人工智能公司Chatterbox Labs，以进一步巩固其在企业人工智能市场的影响力。Chatterbox Labs 成立于2011年，专注于生成式人工智能的人工智能模型测试和安全保护。此次收购紧随去年收购Neural Magic之后，标志着红帽在人工智能领域的持续投资。
Chatterbox Labs 开发了一个名为 AIMI 的平台，用于量化人工智能风险，并提供与模型行为和风险管理相关的多种功能。这些工具帮助企业评估和控制AI模型在现实应用中可能产生的不当输出和潜在风险。红帽表示，随着越来越多的企业将AI项目从实验阶段推进到生产环境，持续监控模型偏差、毒性及各种漏洞已成为必需。因此，人工智能安全测试和“护栏”已成为现代MLOps和LLMOps平台的必备需求。
红帽在声明中强调，此次收购旨在满足日益增长的“人工智能安全”需求。通过整合Chatterbox Labs的技术，红帽希望为客户提供更全面的企业级开源AI平台，使他们能够在生产环境中更自信地运行AI工作负载。此外，Chatterbox Labs的技术将补充新推出的Red Hat AI3平台，提升更全面的安全测试和风险管理能力。
红帽重申了其对开源开发的承诺。它计划逐步开源通过该协议获得的人工智能技术，以促进社区使用和技术创新。红帽始终遵循一种做法，先收购专有技术，然后利用开源项目推动技术进步和生态系统增长。随着Chatterbox Labs技术逐步开源，这些关键的AI安全工具将面向更广泛的社区，使更多组织能够享受到偏见控制、安全审查和风险量化等功能。
