上海网络空间管理局最近发起了名为“滥用人工智能”的特别执法行动，旨在解决与生成式人工智能技术相关的违规问题。随着生成式人工智能的快速发展，该技术为各行业带来了便利，但也导致了诸如人工智能面部互换和人工智能语音变换等构成侵权的滥用问题的出现。这些问题不仅威胁到个人隐私权益，也可能损害网络生态系统。
在此次行动中，执法人员发现一些公司在开发和使用生成式人工智能时未按法律要求进行安全评估，也未采取必要的安全防护措施，导致这些技术被用于面部互换、变声和伪造，构成侵权行为。这些行为可能生成非法内容，如“人肉搜索”、“洗钱”以及生成粗俗和色情图片。
特别行动的核心重点是打击人工智能滥用，促进新兴产业的健康发展。为加强管理，网络空间管理局指导本地应用商店移除54个不合规生成式人工智能应用。此外，根据《人工智能生成与合成内容识别条例》，专家团队为企业提供了实际分析，帮助解决相关难题。
在处罚方面，网络空间管理局对26个此前被要求删除功能的生成式人工智能服务网站进行了后续检查，确保问题不再发生。对于三家拒绝更正的网站，首次适用《生成式人工智能服务管理临时条款》启动行政处罚。同时，首次违反规定的企业获得了免除处罚的机会，要求其移除相关非法功能并引导其完成申报流程。
若您对人工智能感兴趣，可添加数字化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商，可联系数字化转型网小助手思思（17757154048，微信同号）
若您为人工智能服务商，可添加数字化转型网小助手Nora，加入人工智能行业交流群。
若您为人工智能创业者，可添加数字化转型网社群主理人Carina，加入人工智能创业交流群。
声明：本文来自网络，版权归作者所有。文章内容仅代表作者独立观点，不代表数字化转型网立场，转载目的在于传递更多信息。如有侵权，请联系我们。数字化转型网www.szhzxw.cn
本文由数字化转型网（www.szhzxw.cn）转载而成，来源于网络；编辑/翻译：数字化转型网（Professionalism Achieves Leadership 专业造就领导者）默然
