研究证实:AI生成内容与深度伪造技术可向人类植入虚假记忆

近日,据Gizmodo报道,麻省理工学院科学家帕蒂·梅斯(Pattie Maes)团队的研究表明,人工智能生成的内容与深度伪造技术正在成功扭曲人类记忆,甚至在参与者大脑中植入完全捏造的虚假记忆。

近日,据Gizmodo报道,麻省理工学院科学家帕蒂·梅斯(Pattie Maes)团队的研究表明,人工智能生成的内容与深度伪造技术正在成功扭曲人类记忆,甚至在参与者大脑中植入完全捏造的虚假记忆。

实验显示,接触过AI修改照片的测试对象不仅极易记错原图,且对错误记忆表现出极高的自信。此类现象在政治丑闻等场景中尤为明显,不仅会降低公众的投票意愿,还会在信息更正后持续影响政治决策。

随着生成式AI在各行各业的深度部署,虽然业界普遍寄希望于“人机协作”中的高级专家来审核输出结果,但研究指出,人类用户不仅难以稳定识别AI幻觉,且自身判断极易受到错误信息的诱导。

此前,美军对伊朗一所小学发动空袭造成重大伤亡的事件中,国防部内部调查便显示其部分原因在于过度依赖过时数据驱动的帕兰提尔(Palantir)AI系统。这一系列隐患凸显出,在当前缺乏万无一失的纠错机制下,盲目信任与部署AI系统正对社会真相与安全造成深远且潜在灾难性的影响。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

Pedestal 融资资讯配图 AI情报站

Pedestal完成470万美元种子轮融资

2026年11月17日,Pedestal宣布完成470万美元种子轮融资,公司同期走出隐身模式。本轮由Eclip
📅 11-19 · 👁 2026年11月19日
Payhawk 融资资讯配图 AI情报站

Payhawk完成2.8亿美元Series C融资

2026年11月18日,企业支出管理平台Payhawk宣布完成2.8亿美元C轮融资,本轮由高盛(Goldman
📅 11-19 · 👁 2026年11月19日
Genesis 融资资讯配图 AI情报站

Genesis完成5亿美元Series A融资

2026年11月17日,机器人基础模型公司Genesis AI宣布完成5亿美元A轮融资,投后估值达35亿美元,
📅 11-19 · 👁 2026年11月19日
Botsync融资资讯 AI情报站

Botsync完成1100万美元融资

2026年11月18日,新加坡仓储物流机器人公司Botsync宣布完成1100万美元融资,本轮由IvyCap领
📅 11-19 · 👁 2026年11月19日
数智化转型网每日AI资讯 AI情报站

日活破千万、日均消耗 100 万亿 Token:腾讯 WorkBuddy 交出周年成绩单

腾讯今日发布 2026 年第三季度财报,其中披露了 WorkBuddy 的最新数据:截至 11 月初,这款 AI 助手日活跃用户数已突破 1000 万,日均 T…
📅 11-19 · 👁 2026年11月19日
数智化转型网每日AI资讯 AI情报站

员工疯狂烧钱买 Token,Salesforce“吃不消”了:全面推行按岗位设定 AI 使用预算

在人工智能技术高歌猛进、企业全面推进智能转型的当下,一笔原本隐蔽的开支正在成为各大公司无法忽视的财务压力。据《商业内幕》报道,由于部分员工在上季度单月消耗的 A…
📅 11-19 · 👁 2026年11月19日