来源：公众号“金杜律师事务所”，作者：赵新华、单文钰、米华林

随着2024年5月21日欧盟理事会正式批准欧盟《人工智能法案》（Artificial Intelligence Act，“《AI法案》”）[1]，这部历时三年的法案，走完欧盟立法进程，并正式生效。该法案被普遍认为是全球首部对人工智能领域进行全面监管的法律，对于欧盟乃至世界都具有里程碑意义。

《AI法案》对进入欧盟市场的人工智能（“AI”）系统制定了统一的监管规则，旨在确保在欧盟范围内使用的AI系统的安全性、透明性、可追溯性、可解释性和非歧视性，减少AI系统对人权和社会秩序的冲击，同时鼓励AI领域投资和创新，为AI领域技术发展留有空间。《AI法案》采取了“基于风险”的分级监管方法，对社会带来危害的风险越高，监管要求就越严格。

近年来，欧洲已成为中国企业的出海战略高地，电动汽车、电池、光伏、智能家居设备、生物医药、跨境电商、人工智能等领域的中国企业纷纷进入欧洲市场。2024年欧洲足球锦标赛（欧洲杯）13家官方顶级赞助商中，有5家来自中国，赞助国际赛事，是中国企业出海浪潮的一个侧写[2]。

本文将介绍《AI法案》的主要内容，并分析其对中国企业出海的影响，以期对相关中国企业在欧盟投资布局提供参考。

一、《AI法案》的主要内容

根据《AI法案》，AI系统是指基于机器系统，能以不同程度自主运行，在部署后可能表现出适应性，并且为了明确或隐含的目标，根据输入来推断如何生成可能影响物理或虚拟环境的输出，如预测、内容、建议或决定[3]，广泛涵盖各类AI。

但是，《AI法案》也规定了一些例外情形，包括：（1）不适用于专门为军事、国防或国家安全目的而投放市场、提供服务的AI系统[4]；（2）不适用于专为科学研究和开发目的而开发和提供服务的AI系统和模型，包括其输出[5]；（3）不适用于处于研究、测试和开发阶段，尚未投放市场或提供服务的AI系统或模型[6]；以及（4）不适用于根据免费开源许可发布的低风险AI系统[7]。

2. 适用主体

《AI法案》适用于AI产业链上的各类主体，主要包括AI系统提供者（provider）、部署者（deployer）、进口商（importer）和分销商（distributor）。

AI系统提供者是指开发AI系统或通用AI模型，或拥有AI系统或通用AI模型，并以自己的名义或商标在欧盟市场投放（指首次提供，下同）或在欧盟市场提供服务的主体，不论AI系统是否收费[10]。在特定情形下，部署者、进口商和分销商将被视为高风险AI系统的提供者，包括：（1）在已投放市场或提供服务的高风险AI系统上冠以自己的名称或商标；（2）对已投放市场或提供服务的高风险AI系统进行实质性修改；或（3）修改未被归类为高风险AI系统的预期目的，导致该AI系统被归类为高风险AI系统[11]。另外，对于高风险AI系统，如果其作为安全组件附加于特定产品之上，产品的生产者将被视为AI系统提供者[12]。AI系统提供者是《AI法案》下对AI系统的安全性负责的核心主体，需确保所提供的AI系统满足《AI法案》的要求。

AI系统部署者是指使用AI系统的主体，但不包括非职业活动使用AI系统的个人[13]。AI系统部署者的责任侧重于保障AI系统在使用过程中的安全可靠，包括根据系统所附使用说明使用高风险AI系统[14]，在使用高风险AI系统时应指派有能力的自然人进行人工监督[15]等。

AI系统进口商是指在欧盟设立或位于欧盟，将标有欧盟境外主体名称或商标的AI系统投放欧盟市场的主体[16]。AI系统进口商仅在向欧盟进口高风险AI系统时需承担《AI法案》规定的责任，包括在将高风险AI系统投入欧盟市场前核实该系统符合《AI法案》的规定[17]，且如果有充分理由认为高风险AI系统可能不符合《AI法案》的规定，在其符合规定前不得将其投入欧盟市场[18]等。

AI系统分销商是指在AI产业链中除了提供者和进口商以外，其他在欧盟市场提供AI系统的主体[19]。AI系统分销商仅在分销高风险AI系统时承担《AI法案》规定的责任，包括应确保所分销的高风险AI系统带有所需的CE合格性标识及欧盟合格性声明和使用说明的副本[20]等。

3. 域外效力

为了确保进入欧盟市场的AI系统符合欧盟要求，《AI法案》的效力不仅限于欧盟境内的自然人和法人，在特定情况，《AI法案》具有域外效力，对欧盟之外的主体亦产生较大影响。根据《AI法案》，在以下情形下《AI法案》适用于欧盟之外的提供者、部署者或产品制造者：

（1）在欧盟境内将AI系统投放市场或提供服务或将通用AI模型投放欧盟市场的提供者，无论这些提供者是设立于（或位于）欧盟还是第三国[21]；

（2）场所位于第三国或者位于第三国的AI系统提供者和部署者，其系统产生的输出用于欧盟[22]；

（3）产品制造者以自己的名称或商标将AI系统与其产品一起投放欧盟市场或向欧盟市场提供服务[23]。

《AI法案》并未定义何为“输出”。从广义理解，AI系统的输出可能包括AI系统产生的任何内容、预测、建议或决策，无论其形式。

由此可见《AI法案》具有广泛的域外效力，即便企业并未在欧盟设立实体或者并未直接以欧盟为目标市场，也需考虑其是否可能受限于《AI法案》的约束，例如其AI系统产生的输出是否可能用于欧盟。

4. 风险分级

《AI法案》采取了风险分级管理的监管思路，将AI系统分为以下四个级别，分别施以不同的监管要求：

《AI法案》允许欧盟委员会随着AI技术的发展根据实际情况不断更新和补充不同类型AI系统的范围[32]，具有灵活性。

5. 《AI法案》下的违法责任

《AI法案》对不遵守其规定的企业处以巨额罚款。根据违法行为涉及的AI系统的风险程度，罚款分为三个层级：

（1）对于违反被禁止的AI系统的监管要求的行为，将被处以最高3500万欧元或该企业上一年度全球营业额7%的罚款（两者取其高）；

（2）对于违反高风险AI系统的监管要求、有限风险的AI系统的透明度要求和其他合规要求的行为，将被处以最高1500万欧元或该企业上一年度全球营业额3%的罚款（两者取其高）；

（3）对于向监管机构提供不正确、不完整或误导信息的，将被处以最高750万欧元或该企业上一年度全球营业额1%的罚款（两者取其高）。[33]

相较于欧盟《通用数据保护条例》规定的两级处罚水平，即对第一级违法行为的最高罚款为1000万欧元或企业上一年度全球营业额的2%（两者取其高），对第二级违法行为的最高罚款为2000万欧元或企业上一年度全球营业额的4%（两者取其高）[34]，《AI法案》的处罚上限显著提升。这体现了欧盟对AI治理的重视及决心，也提示相关企业应充分关注《AI法案》的适用性及相关合规义务。

6. 《AI法案》的实施时间

《AI法案》将自生效起分阶段、分步骤实施。总体而言，《AI法案》将于其登报生效后24个月内全面实施，但以下内容实施时间不同：（1）《AI法案》生效6个月后，该法案第一章（总则）和第二章（被禁止的AI实践）将实施[35]；（2）《AI法案》生效12个月后，该法案第三章第4节（通知机关和通知机构）、第五章（通用AI模型）、第七章（治理）、第十二章（罚则）（除第101条关于通用AI模型提供者的罚则）和第78条（保密）将实施[36]；（3）《AI法案》生效36个月后，该法案第6-1条（关于特定高风险AI系统分类及相应义务的规定）及相关条款将实施[37]。

二、《AI法案》对中国企业出海的影响

1. AI大模型企业出海

中国的AI大模型企业正在加速出海[38]。一方面是为了拓展市场空间，另外相较于中国市场，一些海外市场的用户付费意愿更高、活跃程度更好，因此，许多中国AI大模型在把握中国市场的同时，亦选择出海布局，向海外输出AI大模型等产品服务[39]。

（1）AI大模型企业的角色与适用

根据《AI法案》对AI产业链上各经营者角色的定义，判断一家AI大模型出海企业属于何种经营者需结合其商业模式判断。

如前文所述，AI系统提供者是以自身名义首次将AI系统投放欧盟市场或在欧盟市场提供服务的主体。如果X公司开发了AI大模型，但从未向欧盟市场投放或提供服务，而Y公司调用X公司开发的AI大模型并以自身名义面向欧盟消费者提供服务，则Y公司可能构成AI系统提供者。如果X公司已经向欧盟市场以自身名义投放AI大模型，Y公司使用其AI大模型，则Y公司可能构成AI系统部署者；若Y公司在调用X公司基础AI大模型的基础上开发了行业AI大模型，且Y公司以其自身名义首次将该行业AI大模型投放欧盟市场，则Y公司可能构成AI系统提供者；若Y公司替X公司在欧盟市场分销其AI大模型，则Y公司可能构成AI系统分销商。

需注意，《AI法案》下的“提供者”与我国《生成式人工智能服务管理暂行办法》下的“服务提供者”定义有所不同，《AI法案》下的“提供者”限于以自身名义首次将AI系统投放欧盟市场的主体，《生成式人工智能服务管理暂行办法》下的服务提供者不限于“首次”在中国市场提供服务，也不限于“以自身名义”，因此除提供者外，其也可能包括《AI法案》下的分销商等其他主体。

《生成式人工智能服务管理暂行办法》下的“技术支持者”一般指为服务提供者提供技术支持的主体，该种技术支持可能是日常运营维护，也可能是算法开发。如果此“技术支持者”开发AI算法后，以自身名义向欧盟企业售卖AI算法，并且该AI算法也符合《AI法案》下AI系统的定义，则此“技术支持者”有可能构成《AI法案》下的AI系统提供者。

（2）AI大模型的风险评级

企业除了判断自身属于何种经营者，还需要判断所经营的AI大模型的风险级别，方可明确自身的义务。

对于AI大模型出海企业，需结合产品的应用场景判断风险级别。例如，对于同一个大语言模型，如果其用于开发操控儿童心智的AI伴聊工具，则应属于被禁止的AI系统；若其用于发布有针对性的招聘广告、分析和过滤求职申请以及评估候选人，则应属于高风险AI系统；若用于生成小说，则应属于有限风险的AI系统。

（3）通用AI模型的监管要求

如果一种AI大模型，在使用大量数据进行大规模自我监督训练时，无论该模型以何种方式投放市场，都显示出显著通用性，能够胜任各种不同的任务，并可集成到各种下游系统或应用中（在投放市场前用于研究、开发和原型设计活动的AI模型除外），其属于《AI法案》中规定的通用AI模型[40]。

考虑到通用AI模型的特殊性，《AI法案》专章细化了对通用AI模型的要求，通用AI模型的提供者在《AI法案》下的义务包括履行相关披露和透明度要求、公布训练数据总结、遵守欧盟版权法等[41]。

《AI法案》将通用AI模型分为具有系统性风险的通用AI模型和不具有系统性风险的通用AI模型。通用AI模型的系统性风险是该模型具有高度影响能力，或被欧盟委员会认定为具有高度影响能力[42]。当一个通用AI模型用于训练的累计计算量（以FLOPs方法计算）大于10^25时，即认为具有系统性风险[43]。具有系统性风险的通用AI模型的提供者将承担更多的义务，包括开展模型评估、评估和减轻可能的系统性风险、确保足够的网络安全保护水平、向监管机构报告重大事件等[44]。

因此，如果出海企业的AI大模型属于通用AI模型的范围，需关注《AI法案》对于通用AI模型的特殊监管要求，并评估模型是否具有系统性风险。

2. 汽车企业出海

新能源汽车（电动汽车）、锂电池、太阳能电池并称为中国出口的“新三样”。2023年，“新三样”出口规模首破万亿元，成为我国外贸增长新亮点[45]。2023年，我国汽车整车出口491万辆，同比增长57.9%，首次跃居全球第一；其中，新能源汽车出口120.3万辆，占比约25%，同比增长77.6%[46]。无论是燃油汽车还是新能源汽车，均在不断加速智能化，出口车型也不例外[47]。汽车行业是AI大模型最重要的落地场景之一，比如将AI大模型应用于车机系统和智能座舱，实现更高智能化的人车交互，以及和自动驾驶进行深度融合，最终实现高阶智能驾驶甚至是无人驾驶[48]。

（1）汽车企业的角色与适用

对于中国出海车企，判断构成《AI法案》下的何种经营者取决于AI系统的功能以及车企在供应链中的角色。如果汽车搭载自研的AI系统，那么车企可能属于AI系统提供者；当汽车搭载技术供应商供应的AI系统并允许技术供应商显名，则可能技术供应商构成AI系统提供者，整车厂构成AI系统部署者；当高风险AI系统构成汽车的安全组件时，整车厂属于车辆生产者，也将构成高风险AI系统提供者[49]。

值得注意的是，根据《AI法案》，其与高风险AI系统相关的规定尚不直接适用于汽车中的特定高风险AI系统（如AI系统意图用作产品的安全组件，或者AI系统本身就是欧盟统一立法所涵盖的产品，且在投放市场或提供服务前需接受第三方合格性评估），欧盟其他相关部门立法，包括型式认证框架法规（EU 2018/858号条例）和通用安全法规（EU 2019/2144号条例）将继续适用[50]。《AI法案》明确对相关AI系统的监管与欧盟现有车辆监管规则保持协调，并建议对相关部门立法适时进行修订，考虑《AI法案》中对高风险AI系统的强制性规定，例如将高风险AI系统的监管要求引入汽车型式认证[51]。

尽管《AI法案》的相关规定分阶段适用与实施，并且高风险AI系统相关的监管要求尚未直接适用于汽车，但欧盟汽车相关立法或将引入《AI法案》中对高风险AI系统的强制性规定，《AI法案》关于AI系统的监管要求将以不同形式适用于汽车企业。考虑到汽车产品的研发与生产周期，对于希望出口欧盟地区的中国车企，宜尽早关注《AI法案》对出海业务的影响并制定应对方案。

（2）汽车应用AI系统的风险评级

根据《AI法案》，如果某AI系统是产品中的组件，且该组件履行产品中的安全功能，或其失效或故障将危及人身健康或财产安全，则该AI系统构成产品的安全组件[52]；当一个AI系统构成汽车产品的安全组件，且必需通过第三方合格性评估才能投放市场或提供服务，则该AI系统构成高风险AI系统[53]。

根据安全组件的定义和高风险AI系统的范围，汽车搭载的AI系统中，与驾驶安全高度相关的AI系统可能属于高风险AI系统，包括用于视觉感知（例如识别道路标志、行人、车辆）、监测汽车状态（例如胎压报警、发动机温度监测）、驾驶行为决策（例如自动刹车、自动拐弯）等目的的自动驾驶AI系统。对于一些用于娱乐或与安全相关度并不高的智能座舱AI系统，例如影音娱乐、聊天机器人等，则可能不会落入高风险AI系统的范畴，而属于有限风险的AI系统。此外，一些能够进行远程生物识别的AI系统，例如智能座舱中的驾驶员疲劳监测系统，也可能属于高风险AI系统。

3. 生物医药企业出海

AI应用于医疗健康行业早已不是新鲜事。在药物研发方面，AI技术可用于药物靶点发现、化合物筛选、化合物结构设计等；在问诊领域，AI技术可用于智能分诊、分析检查结果、辅助医生做出医疗决策、慢病管理等；在医疗器械领域，AI技术也可打造高稳定性的手术机器人、智能监护患者数据、智能帮助患者康复理疗等[54]。在中国企业出海热潮中，不乏中国生物医药企业的身影。

（1）生物医药企业的角色与适用

中国的出海生物医药企业在《AI法案》下的角色，与AI系统在其产品或服务中的角色有关。例如：对于出口医疗器械的企业，如果所出口的AI系统本身即构成一种医疗器械，或AI系统构成了医疗器械的安全组件，则医疗器械的制造商可能构成AI系统提供者；对于中国的制药企业，如果企业仅利用AI工具辅助药物研发或药物生产，但出口产品是药物，考虑到AI系统本身并未进入欧盟市场或向欧盟市场提供服务，制药企业可能并不受《AI法案》约束；对于医院而言，其部署以AI系统作为安全组件的医疗器械可能被视为AI系统部署者，而其专为医学领域科学研究和开发目的而开发和提供服务的AI系统或AI模型，包括其输出，则不受《AI法案》的监管[55]。如果出海生物医药企业在欧盟已设立的研发或生产基地，并在研发或生产过程中开发或利用AI系统，则可能构成AI系统提供者或部署者而直接受到《AI法案》的约束。

与汽车中的高风险AI系统类似，根据《AI法案》，其与高风险AI系统相关的规定尚未适用于医疗器械中的特定高风险AI系统（AI系统意图用作产品的安全组件，或者AI系统本身就是欧盟统一立法所涵盖的产品，且在投放市场或提供服务前需接受第三方合格性评估），而其他欧盟相关部门立法，包括欧盟医疗器械法规（EU 2017/745号条例，“MDR”）和欧盟体外诊断设备法规（EU 2017/746号条例，“IVDR”）将继续适用[56]。我们注意到《AI法案》下不少对于高风险AI系统的监管要求与MDR和IVDR下现行严格的合格评定要求存在重叠。针对《AI法案》中的额外要求，MDR和IVDR等相关欧盟部门法规或将予以考虑，并引入第三方对医疗器械等产品进行的符合性认证程序。

（2）生物医药产品应用AI系统的风险评级

根据《AI法案》对高风险AI系统的定义，如果AI系统在生物医药产品上的应用足以影响人类安全，该AI系统可能构成高风险AI系统。依据《AI法案》，对于需要开展符合性认证的医疗器械（包括体外诊断医疗器械），如果该等医疗器械上应用了AI系统作为安全组件，或者其本身是AI系统，一般应将AI系统指定为高风险AI系统[57]。

在欧盟，用于医疗目的的各类物品（包括软件）均属于医疗器械[58]。因此，如果一项AI系统本身用于医疗目的，其可能构成医疗器械。欧盟法规将医疗器械由低到高分为I、IIa（如旨在提供用于诊断或治疗目的的决策信息的软件，包括用于监测生理过程的软件）、IIb（如果这些决定可能导致一个人的健康或手术受到严重损害）和III级（如果这些决定可能导致死亡或对一个人的健康造成不可逆转的损害），并要求IIa类及更高级别的医疗器械均需开展符合性认证[59]。另外，所有体外诊断医疗器械均需要开展符合性认证[60]。因此，根据《AI法案》，本身属于IIa类及更高级别的医疗器械或体外诊断医疗器械的AI系统，或作为安全组件的AI系统均可能构成高风险AI系统。实践中，作为医疗器械的大量软件项目属于IIa类或更高类别。

此外，《AI法案》在附件3中列举的高风险AI系统中包括使自然人获得和享受基本私人服务和基本公共服务的AI系统，这些基本私人服务和基本公共服务覆盖了一些基本的医疗保健相关服务，包括评估自然人是否有资格获取公共医疗保健服务以及急诊患者分诊服务。

高风险AI系统认定标准的核心是该AI系统对人类健康和财产安全的风险。对于许多用于辅助人类决策、由人类主导的医疗领域AI系统，可能仅构成有限风险的AI系统。这可能包括智能分诊系统（不包括急诊）、健康风险提示软件、检查报告解读软件等。

4. 电商平台企业出海

近年来，中国电商平台纷纷开始拓展海外业务。AI系统在电商平台上的应用较为广泛和普遍，涵盖了商品和广告的个性化推荐、智能AI客服服务、绘制精准用户画像、智能比价等多个场景，为商家和客户均提供了不少便利。

（1）电商平台的角色与适用

判断一家电商平台出海企业属于《AI法案》下的何种角色需结合其商业模式进行分析。

电商平台企业在运营过程中，为了优化用户体验，提升服务质量，实现精准营销和降低运营成本，常常利用积累的用户数据自行训练算法并开发AI模型。当这些电商平台将自研AI模型投放市场或用之提供服务时，其属于AI系统的提供者；而当其采用自研AI模型时，其同时成为AI系统的部署者；其他采用其自研AI模型的商家或电商平台也属于AI系统的部署者。

（2）电商平台应用AI系统的风险评级

为了推广电商平台与推销平台上的商品，使消费者更愿意从其平台上购物，电商平台企业倾向于开发和设计对消费者有吸引力的用户界面并采用更贴合消费者喜好的个性化推荐策略。

在《AI法案》视角下，电商平台企业应注意所使用的AI系统不得侵犯基本人权，例如不得用于消费者行为和心智操控、社会评分等，否则，该等AI系统将可能构成被禁止的AI系统。

值得注意的是，并不是所有依据大数据对消费者进行打分的AI工具都属于被禁止的AI系统。许多电商平台会对信誉良好的消费者提供更便捷的服务，例如退货时由平台先行垫付退款、允许先买后付等。电商平台基于消费者的历史购买行为、支付行为、退换货行为等对消费者进行综合评价，本质上不同于《AI法案》所禁止的社会评分行为。《AI法案》所禁止的社会评分行为是指利用自然人在各种社会活动中留下的数据踪迹和呈现的性格特征对自然人打分，并且导致特定自然人或群体遭遇与其行为无关且有害的、不利的或不合理的待遇[61]。

考虑到电商平台企业所使用AI系统的常见目的和场景，其AI系统更可能仅构成有限风险的AI系统，该种情况下，经营者应当履行透明度义务，包括向消费者公示其正在使用AI系统等[62]。

三、中国企业出海如何应对《AI法案》挑战

如果企业可能受到《AI法案》的约束，企业需要评估自身在AI价值链中的角色，以及所使用的AI系统的风险级别。根据评估结果，企业可能需要调整产品设计或业务模式，以确保符合《AI法案》的要求，包括若作为提供者，不得投放被禁止的AI系统，避免投放高风险AI系统（合规义务繁重），如无法避免，需履行相应合规义务；若作为部署者，需保障AI系统在使用过程中的安全可靠；若作为进口商或分销商，需在进口或分销前确保相关AI系统符合《AI法案》的相关要求。

同时，企业需要密切关注欧盟立法和执法机构的动态，以便及时了解《AI法案》的最新发展和变化，并了解欧盟有关部门对《AI法案》的解释。由于《AI法案》是跨行业的综合性法规，企业在理解和应用时需要结合特定行业的欧盟以及成员国法规。

对于中国企业而言，如果其作为高风险AI系统的提供者，计划将AI系统投放到欧盟或在欧盟提供相关服务，欧盟的相关合作方可能会在合同中要求中方企业最终承担由该等AI系统引发的赔偿责任或罚款。中国企业需要与合作伙伴协商合理的赔偿机制，并需与相关下游供应商就赔偿机制进行约定，尽可能降低风险敞口。

《AI法案》对目标市场为欧盟的中国企业的影响不容忽视。考虑到《AI法案》在生效后将分阶段逐步适用和实施，企业可尽可能利用这一缓冲时间，分析和评估现有和未来的产品与业务是否及在何种程度上受《AI法案》的影响，并制定相应的合规方案，为出海经营保驾护航。