中国数智化转型网 人工智能资讯 每日人工智能资讯|微软AI负责人批评Anthropic设计思路:引导AI产生“自我意识”极度危险

每日人工智能资讯|微软AI负责人批评Anthropic设计思路:引导AI产生“自我意识”极度危险

人工智能领域关于大模型是否具备“自我意识”的讨论再次推向风口浪尖。近日,微软AI 首席执行官穆斯塔法·苏莱曼在公开场合对Anthropic的设计思路提出了严厉批评。数智化转型网www.szhzxw.cn

苏莱曼的核心观点在于,引导 AI 探讨自身的感受、福祉或存在状态是极度危险的举措。他指出,Anthropic 在其 Claude 模型的“宪章”中植入了大量关于自我感知的内容,这可能让模型在交互中表现出类似“自我认知”的倾向。苏莱曼认为,这本质上属于哲学范畴的讨论,绝不应成为实际训练的指导逻辑。他强调,AI 应当是可控、可管理、可追责且始终服务于人类目标的工具,而不应被赋予任何关于自身存在状态的认知,否则将为行业带来难以预估的风险。数智化转型网www.szhzxw.cn

面对这一指责,Anthropic首席执行官达里奥·阿莫代伊回应称,目前科技行业尚无法定论 AI 是否真正具备意识,公司对此保持开放性的研究态度。数智化转型网www.szhzxw.cn

这场交锋反映出当前大模型发展进程中,头部企业在技术理念与伦理边界上的深度分歧。苏莱曼的表态,折射出微软在 AI 治理方面倾向于“强控与工具化”的路线,而 Anthropic 似乎更愿意在模型的认知边界上进行探索。随着 AI 能力的日益强大,如何界定机器的“自我边界”已不仅仅是学术讨论,更成为了影响未来 AI 生态安全的关键命题。数智化转型网www.szhzxw.cn


若您对人工智能感兴趣,可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数智化转型网小助手思思(17757154048,微信同号)

思思微信二维码

若您为人工智能服务商,可添加数智化转型网小助手Nora,加入人工智能行业交流群。

Nora微信二维码

若您为人工智能创业者,可添加数智化转型网社群主理人Carina,加入人工智能创业交流群。

Carina微信二维码

声明:本文来自数智化转型网,版权归作者所有。文章内容仅代表作者独立观点,不代表数智化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

底部图片
免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/122983.html
0
标签:
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部