准备情况：Anthropic成立官方智库，应对AGI时代的社会影响

随着人工智能进步的速度远超行业预期，人工智能安全领域的先驱于美国当地时间10月11日正式宣布成立智库人类研究所。该组织的使命不是开发更强大的模型，而是专注于研究和应对“强大人工智能”可能给人类社会带来的深层挑战和严重风险。

预测人工智能将在未来两年内取得突破，可能比大多数人想象的更早达到通用人工智能（AGI）的边界。为此，新成立的智库将聚焦以下四个关键领域：

• 就业与经济转型：研究人工智能自动化对全球劳动力市场的重塑及其相应响应机制。
• 威胁与防御韧性：防止人工智能技术在生物安全和网络攻击等高风险领域被滥用，增强社会防御能力。
• AI价值对齐：如何确保尖端AI系统的决策符合人类伦理标准和公共利益。
• 自我循环治理系统：探索自我监督与自我演化过程中人工智能的透明度与合规管理。

目标是打破科技巨头内部的封闭本质。它将作为桥梁，向公众和决策机构分享在前沿系统开发过程中遇到的真实技术挑战，并与外部研究机构、政策制定者和民间社会组织深度合作，共同开发解决方案。

最近，它在商业上表现异常出色。有报道称，其品牌每天新增用户超过一百万。然而，在计算能力和财富激增的背后，始终保持着“安全第一”的企业形象。