吴沈括:欧盟《人工智能法案》的出台意味着什么?
金钱分析师
2024-05-22 00:41:58
0

2024年3月13日,欧洲议会以523票赞成、46票反对、49票弃权正式批准通过了欧盟《人工智能法案》(EU AI Act),由此走出了完成立法程序最重要的一步。

作为全球范围内首部关于人工智能治理的综合性法律,欧盟《人工智能法案》提出了世界上第一个全面的、有约束力的可信任人工智能规范框架,使欧盟在对人工智能这一战略性技术与应用的法律规制方面走在了世界前列,也为西方未来的人工智能规则走向和监管生态定下了锚定点。

欧盟《人工智能法案》的立法核心点

欧盟《人工智能法案》的立法特色是基于欧洲固有的历史性价值观针对新兴人工智能技术和应用场景建构一揽子专门的法律治理要求,特别是基于各类人工智能系统不同的风险等级和影响程度划定相应的业务规则与合规要求,就其制度重点而言:

一是明确了被禁止的人工智能应用情形。《人工智能法案》禁止某些威胁公民权利的人工智能应用,包括基于敏感特征的生物识别分类系统,以及无差别性地从互联网或闭路电视录像中获取面部图像以创建面部识别数据库。工作场所和学校中的情绪识别、社交评分、特定的预测性警务以及操纵人类行为或利用人们弱点的人工智能应用也将被禁止。

二是建构了高风险人工智能的合规义务。《人工智能法案》围绕对健康、安全、基本权利、环境、民主和法治具有重大潜在危害的“高风险人工智能系统”,包括关键基础设施、教育和职业培训、就业、基本的私人和公共服务、执法、移民和边境管理以及司法与民主领域的特定系统等,规定了立体、系统的各项合规要求,尤其是必须评估和降低风险,保存使用日志,做到透明和准确,并确保人工监督等,并且公民有权提交有关人工智能系统的投诉,并获得对基于高风险人工智能系统、影响其权利的决定的必要解释。

三是划定了通用人工智能的透明度要求。作为当下最重要的战略性场景,《人工智能法案》专门针对通用人工智能 (GPAI) 系统及其所基于的GPAI模型,明文强调它们必须满足一定的透明度要求,包括遵守欧盟版权法和公布用于训练的内容的详细摘要等。而可能带来系统性风险的更强大的GPAI模型则需要满足更多的要求,包括开展模型评价、安全评估和系统性风险缓解以及事件报告等。此外,人工或经过处理的图像、音频或视频内容,也即“深度合成”的情形中,义务人需要依法明确标注为人工或经过处理的图像、音频或视频内容。

总体而言,欧盟《人工智能法案》核心的立法宗旨在于保护基本权利、民主、法治和环境可持续性不受“高风险人工智能”的影响,同时促进创新和发展,将欧洲变成值得全球信赖的人工智能中心,加强整个欧盟层面对于人工智能的使用、投资和创新,力图使欧洲成为AI研发应用和法治领域的世界级领导者。

欧盟《人工智能法案》的实施将带来三大影响

应当指出的是,《人工智能法案》的制定缘起于2018年欧盟《人工智能战略》,整个过程始终饱受全球各方的高度关注,其出台和施行将会持续产生三大生态性影响:

其一,影响人工智能监管理念与方法。一方面,《人工智能法案》注重持续促进和加强欧盟各方在人工智能技术方面的合作,在符合欧盟价值观的前提下以提高其技术竞争力为重要目标。另一方面,法案的制度设计立足各种人工智能系统的分类分级思路,侧重于强化具体应用场景相关的风险规制,并且通过设立人工智能办公室以及引入模型评价、安全评估、风险缓解和透明度要求等工具箱,系统建构关于人工智能安全的治理体系。这一“风险导向”的监管思路,延续了欧盟《通用数据保护条例》(GDPR)、《非个人数据自由流动条例》、《数据治理法案》、《数据法案》、《数字服务法案》以及《数字市场法案》等欧盟新一代数字立法的核心方法论,并实现了在人工智能领域的创新覆盖。

其二,影响人工智能的国际治理生态。如前所述,《人工智能法案》各项规范的重要特点是以欧盟的人权、民主、自由和法治等传统价值观为逻辑底色,其落地实施的重要凭借在于欧盟市场的经济体量和相对软实力。结合欧盟过往关于技术主权和数字主权的主张诉求和实践做法,以及在人工智能国际治理领域的各种表现,特别是目前联合国框架下《网络犯罪公约》和《人工智能决议》制定进程中与美国、英国、日本和加拿大等国的联动情况,不难想见“欧式模板”会作为一种突出的治理方案,在人工智能国际治理生态中成为重要的规则参照系,进而对其他国家政策法规的价值选择和监管执法的方式方法产生显著的“规则溢出效应”,并通过各种国际协定、经贸协议持续在全球扩大其影响版图。

其三,影响人工智能产业应用与合规。《人工智能法案》围绕不同人工智能技术与应用场景及其影响和风险水平而体系化设定的各种业务规则与合规义务,在实操层面将通过作为执法枢纽职能部门的人工智能办公室协同各方渐次展开,并会呈现足够的力度、广度和速度。全面施行后会在短期内产生改变人工智能企业的技术研发方向和商业投资架构的后果,也会波及从基础设施、云计算、数据中心到大模型等各个层次的人工智能实体的市场规划、业务运营与合规策略,深度改变未来人工智能和数字产业的上下游生态面貌。对此需要持续、系统地研判《人工智能法案》的施行进度与执法切入,及时做好相关产业的风险洞察,全面梳理盘点战略性商业谱系和数字资产结构,并及时设计和引入匹配人工智能的技术逻辑且具有经济性、敏捷性和可行性的整体合规方案。

作者:吴沈括

《互联网法律评论》特约专家

北京师范大学法学院博士生导师

中国互联网协会研究中心副主任

【免责声明】此文仅代表作者个人观点,与本平台无关。本平台对文中陈述、观点判断保持中立,不对所包含内容的准确性、完整性或可靠性提供任何明示或暗示的保证。

人工智能法案欧盟人工智能风险高风险发布于:河南省声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。

相关内容

吴沈括:欧盟《人工智能法案...
2024年3月13日,欧洲议会以523票赞成、46票反对、49票弃...
2024-05-22 00:41:58
春来植树添新绿!广州今年拟...
南都讯 新春伊始,春来万物兴,正当添绿季。2024年2月18日,即...
2024-05-20 15:46:17

热门资讯

正式公布!昆药集团喜获“中华老...   近日,商务部会同相关部门公布第三批中华老字号名单,正式认定382个品牌为中华老字号。在第三批中华...
用心用情用理把群众诉求解决好、... 上海市信访工作会议今天上午举行。上海市委书记陈吉宁在会上强调,要深入学习贯彻习近平总书记关于加强和改...
炬光科技(688167SH)拟... 智通财经APP讯,炬光科技(688167.SH)披露2024年限制性股票激励计划(草案),该激励计划...
甘肃积石山地震灾后恢复重建项目... 15日上午,甘肃省积石山6.2级地震灾后恢复重建项目建设全面启动,标志着积石山地震灾后恢复重建正式转...
金荣中国:美3月降息预期降温,... 行情回顾:国际黄金周五(1月19日)震荡收涨,开盘价2013.47美元/盎司,最高价2039.24美...
招银理财招睿安裕定开13号固定... (原标题:招银理财招睿安裕定开13号固定收益类理财计划29日起发行)2月29日,来源中央结算公司数据...
春天来了该和黑裤子说拜拜了,今... 亲爱的朋友们我家后院的那棵老榆树,今年也抽出了嫩绿的新枝丫,这意味着春天已经来了,终于可以把那些厚实...
美股陷入AI淘金热潮 除了英伟... 智通财经APP注意到,基金经理们正争先恐后地利用股市对人工智能的兴趣来赚钱,英伟达(NVDA.US)...
2024年3月16日全国主要批... (原标题:2024年3月16日全国主要批发市场京欣西瓜价格行情) ...
广西将深化与东盟欧美国家产业合...   广西壮族自治区官方20日在新闻发布会上介绍,广西将在新一轮工业振兴三年行动中,实施开放引领发展行...