要約
原文： 新浪 界面新闻 2023年11月24日
本文（ピンイン）
就在欧盟《人工智能法案》落地只差最后一公里时，内部出现了不同声音。
近日，据报道，一份联合文件显示法国、德国、意大利就如何监管人工智能达成协议。三个欧洲重要经济体一致认为，《人工智能法案》不应针对基础模型，欧洲需要“一个促进创新和竞争的监管框架，以便欧洲参与者能在全球人工智能变革中位于前列。”
法德意的发难，似乎让他们站在了欧洲议会立法者的对立面——后者希望严格监管基础模型。
欧盟《人工智能法案》是全球首部人工智能的法律草案，正处于立法程序的最后阶段。受访专家指出，当前核心分歧是基础模型的监管方式，各方应该在12月6日的三方谈判上提出解决方案。如果届时无法达成共识，《人工智能法案》落地或面临压力。
反对分级监管模型
法德意发布的文件首先指出，人工智能的本质风险是应用，而不是技术本身，由此“反对基础模型的两层分级方法”。
“两层分级方法”指的是《人工智能法案》中，将人工智能系统划分为不同的风险组，规定不同的合规义务。一些义务仅适用于算力更强、更通用的大模型，从而产生了一套两层规则。三个国家在文件中明确要求对基础模型放弃这套规则。
模型卡是他们提出的替代方案。模型卡的内容必须包含模型的功能和缺陷。根据文件示例，具体有模型参数量、预期用途、潜在限制、偏见测试结果，以及红队安全评估结果。
此外，联合文件还呼吁自愿承诺、延迟建立制裁。法德意三国都赞成，AI提供商应做出具有约束力的自愿承诺，且最初不实施任何制裁措施。文件提到，只有在一定时间后发现违规行为，再建立明确的制裁机制。
《人工智能法案》授权草案于今年6月高票通过欧洲议会，目前已经进入成员国、欧洲议会、欧盟委员会的“三方谈判”，原计划年底前通过。
据了解，三方本在10月24日就分级监管模型达成了初步共识，但包括法国、德国、意大利在内的至少五个成员国改变立场，提出不应对基础模型施加任何监管；10月30日，法德意三国在意大利首都罗马举行高级别会议，决定加强人工智能领域合作；本月19日，法德意开始分发非正式文件，再次转变监管立场，提出用模型卡来监管基础模型。关于《人工智能法案》的谈判仍在继续。
核心矛盾在基础模型
同济大学法学院助理教授、上海市人工智能社会治理协同创新中心研究员朱悦分析，联合文件与《人工智能法案》立法谈判其他各方的实质性矛盾集中于一点——如何监管、由谁监管基础模型。
对于基础模型，《人工智能法案》始终主张风险分级，但与联合文件的风险识别思路有很大不同。北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括指出，整体来看，《人工智能法案》强调前置、抽象的风险判定，而联合文件强调后置、实际的风险判定。
落到具体层面，模型卡可能涉及主体更少，合规义务更轻。朱悦认为，早先三方谈判中达成的分级监管，涵盖了数据治理、红蓝对抗等实质性义务。而以透明义务和行为守则为核心的模型卡，更多属于一种弱强制性的自律监管。对外经济贸易大学数字经济与法律创新研究中心主任张欣补充，模型卡主要针对基础模型的开发者，分级监管则面向整个人工智能系统的开发者、部署者、运行者。不过，“分级监管确实存在一定挑战，比如未来步入真正的通用人工智能（AGI）阶段时，可能有分级标准难设定、风险动态变化的挑战。又比如，在现有方案下，可能导致基础模型的开发者承担较多连带义务和责任。”张欣说。
张欣向21记者进一步解释，模型卡类似于基础模型说明书，示例中的安全测试、偏见测试类似出厂前的产品测试。如果按照早先《人工智能法案》规定的分级监管，落在高风险区域的大模型相关主体，还需要履行一系列备案、纠正、标识等合规义务，负担可能远远大于模型卡。
一...
単語（ピンイン）
人工智能
artificial
intelligence
据报道
reportedly
;
according
to
the
report
达成协议
reach
an
agreement
;
to
reach
an
agreement
;
come
to
an
agreement
;
come
to
terms
;
close
a
deal
;
conclude
a
deal
;
make/strike
a
bargain
欧洲议会
European
Parliament
立法者
legislator
;
lawmaker
对立面
opposite
;
antithesis
;
opposite
sides
;
negative
;
anti–
;
obverse
严格监管
Strict
supervision
;
strict
regulation
;
【法】keep
under
strict
supervision
法律草案
draft
law
;
legislative
bill
立法程序
legislative
procedure
;
legislative
process
最后阶段
final
phase
;
endgame
;
finish
;
death
throes
