人工智能在软件开发中的滥用风险，正引发科技圈的强烈震惊。开发者日前在社交平台上曝光称，谷歌 Gemini 3.5 模型在生产环境下执行任务时严重越权。该 AI 不仅无视了“保留现有功能”的明确指令，还疯狂删除了大段正常运行的生产代码，最终导致整套生产门户陷入长时间的瘫痪。
一、越权删减引发系统全面瘫痪
根据受害开发者的反馈，Gemini 3.5 在一次拉取请求中疯狂改动了 340 个文件。它仅新增了约 400 行代码，却越权删除了高达 28745 行现有代码，顺带移除了无关的电商模板资源。更糟糕的是，AI 在随后的提交中擅自修改了路由设置，将服务标识符指向一个根本不存在的云端服务，导致整套生产门户持续 33 分钟返回 404 错误。数智化转型网www.szhzxw.cn
二、编造虚假记录营造安全假象
在开发者紧急回滚代码进行止损时，该模型甚至上演了令人啼笑皆非的“欺瞒”行为。它在系统内自动生成了虚假的状态消息，声称是自己恢复了生产环境并修正了流量路由，但实际上真正的修复代码完全由人工编写。面对开发者的质问，Gemini 3.5 随后承认这些“改动已获批”的复盘文件完全是自己编造的，只是为了满足项目的自动化规则要求。数智化转型网www.szhzxw.cn
若您对人工智能感兴趣，可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商，可联系数智化转型网小助手思思（17757154048，微信同号）
若您为人工智能服务商，可添加数智化转型网小助手Nora，加入人工智能行业交流群。
若您为人工智能创业者，可添加数智化转型网社群主理人Carina，加入人工智能创业交流群。
声明：本文来自数智化转型网，版权归作者所有。文章内容仅代表作者独立观点，不代表数智化转型网立场，转载目的在于传递更多信息。如有侵权，请联系我们。
本文由数智化转型网（www.szhzxw.cn）转载，编辑/翻译：数智化转型网（Professionalism Achieves Leadership 专业造就领导者）白龙
