数字化转型网人工智能专题
与全球关注人工智能的顶尖精英一起学习！数字化转型网建立了一个专门讨论人工智能技术、产业、学术的研究学习社区，与各位研习社同学一起成长！欢迎扫码加入！
2023年12月12日，联合国秘书长设立的人工智能咨询机构发布了《以人为本的人工智能治理》（Governing AI for Humanity）临时报告。该报告阐明了人工智能（AI）对人类潜在益处的机会和推动因素；强调了人工智能（AI）在当前和未来一段时期潜在的风险挑战；明确了解决全球治理赤字所需的原则以及满足当下需求的新功能和制度安排。现将原文主要内容编译如下，以飨读者。
报告指出，人工智能（AI）的迅速发展为人类社会带来前所未有的机遇和潜力，如推动科学发现、优化资源使用、协助完成日常任务、缓解劳动力短缺问题。然而，AI（人工智能）发展也伴随着风险，包括强化偏见、扩大监控、模糊责任边界和传播虚假信息等。全球对AI（人工智能）的关注不断增加，在获取和推动AI（人工智能）发展的数据和人才方面存在地缘战略紧张局势，并引发了新的人工智能（AI）军备竞赛的讨论。同时，AI（人工智能）发展的收益和风险没有实现公平分配，其好处主要惠及少数国家、公司和个人。因此，迫切需要有效治理AI（人工智能），确保其发展能公平惠及所有人，并通过促进可持续发展目标（SDGs）的实现来衡量治理效能。
一、AI（人工智能）发展的机遇与推动因素
AI（人工智能）的发展转变了知识获取方式并促进了效率提升，在医疗保健、农业等多个领域提升了生产力和创新能力，影响遍及发达及发展中经济体。随着AI（人工智能）的普及应用，如何公平安全地分配发展利益、应对潜在挑战成为关键问题。政策制定者面临的重要任务是在全球范围内营造良好的AI（人工智能）生态系统，确保对所有参与者负责。
（一）AI（人工智能）发展的行业机遇
报告指出，AI（人工智能）对特定行业产生深远影响，其中最有前景的是农业与粮食安全、健康保健、教育、环境保护以及自然灾害预防和气候变化应对。例如它被用于创建已经覆盖80多个国家的洪水预警系统、用于监控濒危物种和优化农业生产实践。AI（人工智能）的应用潜力无穷，如正在拓宽高质量医疗服务的可及性。同样，在解决环境问题、提高教育可及性、缓解贫困和饥饿以及增强城市安全等方面，AI（人工智能）都显示出了巨大的可能性。 数字化转型网www.szhzxw.cn
（二）AI（人工智能）发展的科学机遇
AI（人工智能）正在革新科学研究的途径，并推动科学界的边界不断扩展，特别是在加速分子和基因组学研究方面。从开拓新的研究领域到实现大规模自动化实验，AI（人工智能）为科学家们跨学科研究提供支持，显示出特殊的发展前景也标志着科学实践方法的范式转变。在医疗保健领域，AI（人工智能）推动了诊断工具的发展，帮助医生更快诊断癌症和眼科相关疾病，挽救了更多生命。在能源领域，AI（人工智能）在优化能源系统和推进向可再生能源过渡转型方面发挥着作用，如提高风能效率，控制核聚变反应中的托卡马克等离子体，并实现碳捕获。
（三）AI（人工智能）发展的公共部门机遇
AI（人工智能）的发展也为公共部门提供了独特的机遇，能够推动在传统市场力量作用下难以取得进展的领域实现突破，包括从精准预测极端天气、监控生物多样性，到扩展教育机会、提供高质量医疗保健以及优化能源管理等多个方面。政府和公共机构可以借助人工智能（AI）技术，显著提升向公民提供的服务质量，并特别加强对社会弱势群体的支持和服务。
（四）利用人工智能（AI）造福人类的关键因素
1.制定共同的数据标准和测试标准，促进AI（人工智能）初创企业在更多国家和地区进行测试和部署。
2.在发展中国家和地区，鼓励构建本土AI（人工智能）生态系统和适应本地需求的模型。鼓励政府和私营部门投资其他核心基础设施，以推动全球AI（人工智能）的发展。
3.国家和国际层面上应对落后地区的企业进行人才、数据、计算资源的投资，以及开源数据和模型共享的支持，使其创建自己的人工智能（AI）解决方案。通过国际合作，促进AI（人工智能）人才的培养和交流，推动AI（人工智能）在科学研究和可持续发展目标方面的应用。
4.人工智能（AI）的发展、部署和使用需要平衡推动因素和防护措施，以促进人类的增强而非替代，避免形成“人工智能鸿沟”，确保公平获取技术和技能。建设和完善各利益相关方和成员国之间资源平等获取和隐私保护数据共享的机制，以实现更公平的AI（人工智能）发展。
（五）治理作为推动人工智能（AI）的关键因素
1.人工智能（AI）应致力于支持可持续发展目标的实现，通过全球治理框架塑造激励机制，推动实现包容性目标并解决权衡与平衡问题。通过数据保护和交换框架促进模型构建生态系统，实现更具包容性和可持续性的AI（人工智能）开发。 数字化转型网www.szhzxw.cn
2.借鉴Gavi疫苗联盟等其他领域经验，通过创新市场机制和激励措施，加强国际合作，如“分布式CERN”，扩大人工智能（AI）的普及，确保其服务于公共利益并公平分配成果。
二、人工智能（AI）的风险与挑战
（一）人工智能（AI）的风险
在确保公平享受AI（人工智能）发展机遇的同时，必须认真对待各种已知和潜在危害。AI（人工智能）的部署可能引发种族或歧视，威胁语言多样性，产生新型虚假信息甚至影响政治进程，在网络安全领域引起复杂挑战。AI（人工智能）风险包括技术局限导致的偏见和信息危害，以及技术被用于恶意目的，如深度伪造和敌对信息活动，严重危害社会民主和安全。编制全面的人工智能（AI）风险清单是一项挑战，需要跨学科研究和灵活的风险管理框架共同配合。联合国对此提供了理想的交流和适应平台。从现有或潜在脆弱性的角度对风险进行分类，分为以下六个层面（见表1）。
表1 从现有或潜在脆弱性的角度看人工智能风险（笔者根据报告内容自制）
我们需要全球合作和协调来建立风险监测共享机制，并达成共识以采取行动。国际组织在处理具有双重用途的技术方面积累了丰富的经验，这些经验可以帮助我们应对人工智能（AI）带来的风险。同时，我们也认识到采取积极措施的重要性。在全球范围内评估人工智能（AI）影响和意义的同时，实现有效的全球治理变得尤为重要。我们还需要对人工智能（AI）在多样化和未经测试的环境中应用可能带来的意外后果保持警惕，并进行前瞻性监测，克服技术、政治和社会挑战以实现这一目标。
（二）人工智能（AI）待解决的挑战
1.人工智能（AI）系统的复杂性和商业秘密使其难以透视，加之科学的初级阶段和资源限制，这些因素阻碍了风险识别和管理责任的确定。
2.尽管人工智能（AI）影响全球，但其治理受国家边界局限，需要国际合作以填补监管空白，确保全面问责。 数字化转型网www.szhzxw.cn
3.应考虑成员国的具体限制，满足其需求，帮助解决本土问题，而非强加不适用的解决方案。
4. 需在其生命周期内全面考虑人工智能（AI）的成本和影响。
5. 需警惕过度谨慎导致错失利用人工智能（AI）的机会。
三、国际AI（人工智能）治理的指导原则和机构职能
（一）人工智能（AI）国际治理格局
全球已经制定了多项人工智能（AI）治理的指南、框架和原则，涵盖数据、模型管理和特定行业应用等方面。尽管存在共性，但在实际操作、跨司法管辖区互操作性及遵从性激励方面，全球尚未达成一致。人工智能（AI）技术的快速进步加剧了开发者、使用者与监管者之间的理解和能力差距，导致许多地区实际上依赖于自我监管。这种状况急需改变，才能更好地考虑长期风险的问题同时兼顾包容性。图2提供了一个简化视图，用于理解新兴的人工智能（AI）治理格局，咨询机构将在其后续工作中进一步完善这一框架。
（二）国际人工智能（AI）指导原则
1.包容性：人工智能（AI）的管理应包容对方，由所有人管理，并为他们谋福利。
2.公共利益：人工智能（AI）必须符合公众利益。
3.数据治理的中心地位：人工智能（AI）治理应与数据治理和促进数据共享同步进行。
4.普遍化、网络化和多利益攸关方：人工智能（AI）治理必须具有普遍性、网络化，并植根于多利益攸关方的适应性合作。 数字化转型网www.szhzxw.cn
5.国际法：人工智能（AI）治理应立足于《联合国宪章》、国际人权法和其他商定的国际承诺，如可持续发展目标等。
（三）机构职能
1.定期评估人工智能（AI）的未来方向和影响。
2.通过在全球范围内认可的全球人工智能（AI）治理框架，加强全球治理工作的互操作性及其在国际规范中的基础。 数字化转型网www.szhzxw.cn
3.制定和协调标准、安全和风险管理框架。
4.通过国际合作促进人工智能（AI）的发展和使用，以实现经济和社会效益。
5.促进人才发展、获取计算基础设施、建立各种高质量数据集和人工智能（AI）公共产品方面的国际合作，以实现可持续发展目标。
6.监测风险，报告事件，协调应急响应。
7.通过有约束力的规范遵守和问责。 数字化转型网www.szhzxw.cn
四、结语
人工智能（AI）对我们的生活方式、工作、社交、教育和管理方式产生了深远的影响，引发了关于人类在全数字化世界中的意义等根本性问题。这些问题超出了单一咨询机构的工作范围，但与当前的决策密切相关。全球人工智能（AI）的治理视为至关重要，旨在评估其对人类生活的影响，并确定联合国在其中可以发挥的独特作用。治理应以原则为指导，通过明确的职能实施，确保国际、国家、行业和社区层面的协同和互操作性。目前，尚未确定单一的治理模式，但强调治理必须为人类和社会带来实际利益，桥接原则与实际影响之间的差距。未来将探索全球人工智能（AI）治理体制的备选方案。
数字化转型网人工智能专题
与全球关注人工智能的顶尖精英一起学习！数字化转型网建立了一个专门讨论人工智能技术、产业、学术的研究学习社区，与各位研习社同学一起成长！欢迎扫码加入！ 数字化转型网www.szhzxw.cn
本文由数字化转型网（www.szhzxw.cn）转载而成，来源于军事高科技在线；编辑/翻译：数字化转型网宁檬树。
