要約
人工知能開発者が「安全設計」の方法に従ってAIシステムを構築する国際協定。米国、英国、その他の十数カ国が共同で協定に署名した。安全運行維持の面では、システム配置後の安全保障措置を提供している。
原文： 21世纪经济报道 2023年12月01日
本文（ピンイン）
ChatGPT发布距今已有近一年。随着其技术和应用从小范围的新奇尝试走向与千行百业融合，与之相关的安全问题也走到聚光灯下。
2023年11月27日，美国、英国和其他十几个国家共同签署了国际协议《安全人工智能系统开发指南》（以下简称“指南”），帮助人工智能开发者依循“设计安全”的方法打造AI系统。
“安全性必须是核心要求，不仅开发阶段，在系统的整个生命周期中都应保障安全。”指南发布的官方公告中如此写道。
18国签署协议
据悉，指南由英国国家网络安全中心（National
Cyber
Security
Agency，NCSC）主导，并与美国网络安全和基础设施安全局(Cybersecurity
and
Infrastructure
Security
Agency，CISA)共同制定。
据悉，这一指南并不具备强制性，其旨在帮助任何使用人工智能系统的开发人员在开发过程的每个阶段做出明智的网络安全决策，包括从零开始设计的或建立在已有的工具和服务之上的系统。
具体来看，其从安全设计、安全开发、安全部署以及安全运维四个关键领域给出了建议。
在对外经济贸易大学数字经济与法律创新研究中心执行主任张欣看来，协议覆盖人工智能研发、部署和运行的整个生命周期，具有系统性指引的特征。
在安全设计方面，指南要求系统所有者提高员工对威胁和风险的认识、对系统面临的威胁进行建模、在设计时考虑安全性、功能和性能、选择
AI
模型时考虑安全优势和权衡等。
“强调安全设计原则，即将治理的节点前置到设计阶段，可以一定程度上有效避免‘先污染、后治理’的传统风险治理路径所带来的弊端和局限。”张欣指出。
在开发阶段，开发人员需采用确保供应链安全，遵守适用的安全标准；还需确保加密措施得到有效实施，以保护数据隐私等。
而部署阶段，指南提出了包括保护基础设施和模型免受损害、制定事件管理程序、负责任地发布AI系统、保障配置时的默认选项能够广泛地抵御常见威胁等。
在安全运维方面，指南则提供了系统部署后的安全保障举措，包括运营人员应监控和记录输入端信息，以便在出现漏洞时调查和补救、呼吁运营人员参与信息共享社区，积极收集、分享经验教训等。
值得注意的是，指南中多次强调了评估和监控人工智能供应链的安全性，要求模型拥有者对训练数据、代码和模型的安全性做好监控。
“这点十分重要。”在张欣看来，与传统的人工智能供应链相比，以生成式人工智能为代表的供应链结构实际上发生了实质性的变革，治理和监管框架应予以相应回应和调整。协议中要求确保整个供应链的安全，体现了技术逻辑、产业逻辑和法律逻辑的有机结合。
据悉，除了英国和美国，签署协议的18个国家还包括德国、意大利、新加坡、澳大利亚等。
凝聚共识仍是难点
随着人工智能治理的加速，各个国家、地区相关文件出台节奏逐渐加快。
我国于今年7月发布《生成式人工智能服务管理办法》；欧盟的《人工智能法案》今年来也已经历经多轮修改和争议；美国则于日前发布《关于安全、可靠和可信地开发和使用人工智能的行政命令》以期推进人工智能的开发和使用。
除了各国相继出台人工智能治理文件，跨越国家和地区的相关文件发布也逐渐密集。
“一系列治理文件恰是在全球人工智能治理新秩序形成过程中的必然阶段。”张欣认为，近期出现的一系列技术及其应用使人类正以前所未有的速度逼近通用人工智能。这一发展趋势革新了全球人工智能治理的格局，推动构建汇聚广泛共识的全球人工智能治理体系也日益成为各方共同诉求。
广告
比如10月，七国集团发布《开发先进人工智能系统组织的国际行为准则》，呼吁公司应定期评估其模型的风险，并关注可能对民主价值观或社会构成威胁的系统。
同月早些时候，联合国成立了一个新的AI咨询机构，为国际社会加强对AI的...
単語（ピンイン）
距今
ago
;
to
date
安全问题
SECURITY
ISSUES
;
Security
Question
聚光灯
spotlight
共同签署
co–sign
;
cosign
人工智能系统
AIS
;
artificial
intelligence
以下简称
hereinafter
referred
to
as
人工智能
artificial
intelligence
安全性
safety
;
security
生命周期
life
cycle
国家网络
national
network
;
state
networks
