政务邮箱 移动门户 广东省司法厅 深圳市司法局微信 深圳市司法局微博 数据开放 无障碍浏览 进入关怀版 我的主页

网站支持IPv6

当前位置:首页 > 专题专栏 > 合规 > 预警信息

企业合规风险提示与预警信息(深度研究3)【总第152期】

来源: 日期:2026-01-22 字号:[] 人工智能朗读:

  深度解读韩国《AI基本法》

  

2024年12月26日,韩国国会通过《人工智能发展及信任基础建立基本法》(以下简称“AI基本法”),并在2026年1月正式施行。本文将从主要内容、创新与突破、企业应对三个方面对该法进行深度解读,以期帮助企业更加深入了解韩国发布此部法律的现实意义。

  一、主要内容:发展与规制并重

  韩国《AI基本法》正文一共六个章节四十三条款合计16000多字(韩文),围绕“发展与规制并重”的核心逻辑,构建了涵盖治理架构、产业促进、风险防范的全方位规则体系。以下对该法正文内容的重点进行全面而系统的归纳。

  1、构建多层次治理架构

  《AI基本法》系统构建了三层治理架构,确保政策协调与专业监督。

  国家人工智能委员会:作为最高决策机构,直属于总统,负责审议和决定AI发展与信任构建的重大政策、研究开发与投资战略,并制定相关计划。

  人工智能政策中心:设立于科学技术信息通信部下,作为专业智库与技术支撑机构,负责为AI总体规划提供专业技能支持、研究分析AI的社会影响,并协助相关政策制定与国际规范宣传。

  人工智能安全研究所:专注于安全风险防控,承担AI安全技术研究、风险评估标准制定、安全事故应急处理等工作,旨在保护公众生命、身体及财产安全,为AI技术的安全应用提供技术与监管支持。

  此外,法律规定科学技术信息通信部部长需每三年制定并修订国家AI基本计划,为AI发展提供宏观方向引领与战略布局。

  2、确立基于风险的分类监管体系

  《AI基本法》创新性地采用了基于风险的监管路径,将AI系统区分为“高影响AI”和“生成式AI”,并设置差异化义务。

  1)“高影响AI”的严格规制

  定义与范围:“高影响AI”被定义为对人类生命、安全及基本权利产生重大影响或带来潜在风险的AI系统。法律明确列举了其应用领域,包括能源供应、医疗保健、刑事调查、招聘决策、交通运输、教育评估等。

  特别义务:针对高影响AI,经营者需履行事前审查义务(主动识别并确认是否属于高影响AI)、影响评估义务(评估对个人基本权利的潜在影响)以及特殊安全保障义务(建立风险管理计划、用户保护机制、人工监督等)。

  2)“生成式AI”的透明度要求

  定义:“生成式AI”指通过模仿输入数据的结构和特性,生成文字、声音、图像、视频等多种输出的AI系统。

  核心义务:生成式AI的经营者需履行内容标注义务,明确标明生成内容来源于AI;对于难以与现实区分的声音、图像或视频等内容,需以明显方式告知用户。但在艺术或创意表达场景,可采取不妨碍内容展示的方式注明。

  3、产业促进与培育措施

  《AI基本法》通过系统的支持政策,旨在加速AI技术创新与产业生态建设,提升国家竞争力。

  技术创新支持:法律明确规定政府应通过提供研发资金、搭建数据共享与管理平台、制定AI技术标准等方式,支持AI技术的研发、应用与传播。特别强调促进AI学习数据的生产、收集、管理和利用,设立统一的数据共享系统。

  产业生态构建:法案注重对中小企业与初创企业的扶持,通过提供技术咨询、融资支持、优先提供资金、技术和市场资源等措施,降低其技术应用门槛。同时,法律还规定设立AI产业集群,集中资源培育高附加值产业,如智能医疗、自动驾驶等。

  人才培育与国际合作:法案规定政府应培养和支持AI专业人才,吸引海外专家与外资投资。同时,鼓励企业参与AI国际标准制定,支持海外市场拓展,提升全球竞争力。此外,法律还授权设立“韩国人工智能振兴协会”,负责推广AI技术、开展教育宣传及支持企业海外拓展。

  4、明确法律义务与追责机制

  《AI基本法》为AI业务者设定了明确的法律义务,并建立了相应的责任追究机制,以保障法律的有效实施。

  1)AI业务者

  AI业务者是指从事与AI产业相关的业务的主体,包括AI开发业务者、AI使用业务者,涵盖法人、团体、个人和国家机构等。

  2)核心合规义务

  透明度义务:提供高影响AI或生成式AI服务时,经营者必须提前告知用户该产品或服务基于相关AI运行;对于生成式AI的输出,需清晰标注其由AI生成;对于深度伪造的标识,必须用易于用户认知的方式进行告知。

  安全义务:对于累积运算量超过一定标准的AI系统,经营者需进行全生命周期风险识别、评估和降低,建立监测与应对安全事件的AI风险管理体系,将执行结果提交主管部门。

  高影响AI的特殊责任:除了制定和实施风险管理方案之外,还应在技术可行范围内制定说明方案(可解释性)、制定和落实用户保护方案、进行人为管理和监督、撰写和保存相关文件。

  域外效力与本地代表:法律规定符合特定用户数量或销售额标准的境外AI业务者,必须书面指定一名在韩国的本地代表,以配合履行相关合规义务。

  3)责任追究机制

  调查与整改:科学技术信息通信部在发现或怀疑存在违法行为时,可要求人工智能业务经营者提交相关材料或进行必要调查,并可责令暂停违法活动或要求整改。

  处罚措施:对未遵守整改要求或违反特定条款(如未履行预先通知义务或未指定本地代表)的经营者,可处以最高3000万韩元(约合15万元人民币)的罚款。

  二、创新和突破:平衡发展

  截至目前,全球范围内可以明确称为“已完成人工智能综合立法”的国家(地区)只有欧盟和韩国。它们分别代表了两种不同的治理哲学:欧盟以“风险为基础的前置监管”和韩国的“发展与信任并重”。

  1、立法策略与定位

  与欧盟那种横向的、严格的监管条例不同,韩国《AI基本法》选择了一条不同的路径。

  定位与功能:欧盟的AI法案是一个详细的监管条例,直接设定各类AI系统的合规要求。而韩国的《AI基本法》更像一部顶层设计的框架法,旨在为国家的AI发展提供宏观战略方向、分配资源并建立组织架构。

  核心理念:该法以“发展与规制并重”为核心逻辑。这意味着它并非单纯限制风险,而是试图在推动技术进步与防范潜在风险之间取得平衡。

  治理体系:法律确立了由国家人工智能委员会(总统直属)、人工智能政策中心(隶属于科技通信部)和人工智能安全研究所构成的三级治理体系。这种高规格的组织保障,特别是总统直属的委员会,有助于跨越部门壁垒,统筹全国之力发展AI。

  2、产业促进与生态构建的深入性

  这部法律在促进产业发展和构建生态方面,有着非常具体和深入的考量。

  对中小企业的倾斜支持:法案特别规定了对中小企业在培训、资金、政策优先性等方面的支持。这表明立法者意识到,健康的AI生态不能只依赖少数科技巨头,更需要广泛的中小企业参与和创新。

  基础设施建设:法案明确支持AI数据中心、AI产业集群等基础设施建设。这为AI技术和产业的落地提供了坚实的“土壤”和“舞台”。

  推动数据与标准化:法案采取相应措施以促进AI开发和利用的学习用数据的生产、收集、管理、分配和利用,并推进AI技术标准化项目。数据和标准是AI发展的关键要素,法律的关注点于此显得颇具前瞻性。

  3、风险规制路径的实用性

  在风险规制方面,韩国法案体现出一种“抓大放小、动态灵活”的实用主义思路。

  “高影响AI”概念的引入:虽然其风险分级可能不如欧盟四级分类细致,但这种相对粗线条的界定给予了监管机构更大的自由裁量空间,可以根据技术发展动态调整监管重点,避免规则过快过时。

  强制标识与透明度:法案要求对生成式AI内容进行强制标识,并规定了AI运营者的透明度义务。这是应对当前AI应用最紧迫挑战(如虚假信息)的直接措施。

  域外管辖与国内代表:法案规定,达到一定标准的境外AI服务提供者必须在韩国指定国内代理人。这一“长臂管辖”原则确保了境外企业同样遵守韩国法律,为本土市场和企业提供公平的竞争环境。

  4、国际竞争与规则话语权的战略性

  韩国通过这部法律,展现了其参与全球AI治理竞争的强烈意愿。

  抢占立法先机:韩国成为继欧盟之后,第二个制定AI基本法的国家。这一行动本身就在国际规则制定的博弈中占据了有利位置,提升了其话语权。

  输出“韩国模式”:法案的实施可能推动韩国AI治理国内标准与国际规则接轨。基于趋同的监管框架,韩国可与欧盟等采取类似监管措施的国家或国际组织合作,共同制定技术伦理基准,这有助于其国内标准国际化,提升产业国际竞争力。

  韩国《AI基本法》的特点不在于它树立了最严格的监管高墙,而在于它构建了一个兼具战略性、灵活性和产业友好性的治理框架。它更像是一份为国家AI发展铺设轨道的蓝图,其核心目标是在确保安全底线的同时,全力为韩国在全球治理规则制定中抢占一席之地,在激烈的全球AI竞争中提供了独特的制度工具和战略支点。

  三、企业应对:合规经营的要求

  虽然韩国已经颁布《AI基本法》,但作为一部综合性与框架性的立法,无论从内容还文字体量来看,它都无法涵盖社会生活、企业经营的多个方面。对于企业来讲,该法案明确将AI合规提升为强制性义务,但是具体应该如何实施合规计划呢?而且各国在AI监管原则和基本规则上也是大同小异,企业应该采取哪些不同的策略?

  1、识别合规义务

  涉韩企业依照该法确认自已属于“AI业务者”时,应当进一步明确自身应当承担合规义务内容,例如确认所涉AI系统是否属于“高影响AI”,如果是,则除了AI内容标识义务、还要履行制定风险管理方案、进行人为监督管理等更严格的责任。

  从通信企业角度看,移动基站、网络交换机、光传输设备等通信产品如果深度集成了AI功能(例如AI应用于网络流量优化、故障预测、智能运维),存在被归类为“高影响AI”的可能性。虽然《AI基本法》中没有直接将通信基础设施列入“高影响AI”,但是如果AI系统被应用于能源供应、饮用水生产、数字医疗设备、用于刑事侦查等法定应用场景时,将被归类为“高影响AI”;如果AI系统用于关键通信网络的故障自愈、应急指挥调度等,其失效可能间接影响公共安全,这种情况下被归类为“高影响AI”的可能性也会增加。因此如果通信产品中使用了AI技术,则应结合实际应用场景来判断其是否属于“高影响AI”。

  2、与现有其它法律的交互规制

  《AI基本法》与现行法律之间存在一定的监管重叠。2024年10月韩国政府颁布《关于处罚性暴力犯罪的特例法》(以下简称“特例法”),在治理“AI深度伪造”技术滥用方面与《AI基本法》存在明确的监管重叠和互补关系。2025年2月修订的韩国《个人信息保护法》实施细则、2024年8月修订的《促进信息和通信网络利用和信息保护法》在数据保护,AI生成内容方面也存在重叠。

  该法的制定也并非取代已有法律法规,而是构建一个基础性框架,与现行法律互补适用,这意味着企业需要同时满足《AI基本法》与特定领域法律的要求。因此,企业需要重视AI合规的系统性与跨领域特性。

  3、持续关注下位法令和指南出台

  韩国政府(主要是科学技术信息通信部)正在紧锣密鼓地制定下位的法令和指南,韩国电信技术协会也在推动制定生成式AI内容的验证技术标准,企业需要持续关注这些具体规定,确保全面合规。在现有法律法规没有进一步明确细则的情况下,也可以暂时参照已有的行业指引或参考其它国家的监管要求。

  4、制定专属的合规计划

  虽然各国AI监管基本原则(如安全、公平、透明)趋同,但各国在监管哲学、执行机制和合规重点上存在显著差异,直接影响到企业的合规策略。例如:欧盟的监管特点是基于风险的前置合规与处罚极其严厉,合规重点在于产品上市前就完成复杂的合规性评估,并建立详尽的技术文档;中国监管态势是已经出台了对生成式AI、深度合成、算法推荐、关键数据及重要数据等专项及相关的法规,合规重点是确保内容安全、算法合规和数据主权。

  韩国采取“发展与规制并重”监管路径,偏向鼓励的激励引导。对在韩企业而言,除了遵从AI内容标识、高影响AI等监管要求之外,还可以充分利用政府的支持政策,参与各类政府扶持的AI专项基金申报。对于创新业务模式,主动利用“监管沙盒”在受控环境中测试新产品和服务,突破现有法律限制;采纳最佳实践,积极参与合规体系认证。将这些合规策略的关键部分之一。

 

   【声明】

  1.本文作者为中兴通讯全球法律政策研究院,转载请联系获取授权并注明作者信息;

  2.本期信息仅做分享与交流之用,不构成深圳市司法局的任何法律意见或决策建议,同时并不保证将会在载明日期后继续对有关内容进行更新;

  3.不建议读者仅依赖于本文中的全部或部分内容而进行任何决策,因此造成的后果将由行为人自行负责,如您需要法律意见或者其他专家意见,建议您向具有相关资格的专业人士寻求专业帮助。


附件下载:

分享到: