12月26日，韩国国会通过了《人工智能发展和建立信任基本法》（以下简称“《AI基本法》”），是欧盟《人工智能法》（AI Act）之后全球第二部人工智能立法。
《AI基本法》结合了来自不同政党的 19 项独立提案，将在颁布后1年生效。
《AI基本法》共有5章43条，另有附则 3 条。
重头戏在第4章，明确了：事前认证、透明度保障措施、安全性保障措施、高影响AI运营者特殊要求及影响评估等义务。并对未在韩国设立实体的境外AI服务方（针对OpenAI?）且达到标准的，要求设立境内代表处并落实同等合规义务。
违反该法律的企业可能面临最高3000万韩元（约14.9万元人民币）的罚款，好少。
第四章中的合规义务比较重要，所以有逐条翻译。其他章节只概括了我觉得重要的内容。
韩语原文：《AI基本法》
01
总则
（一）AI的定义
“人工智能”是指通过电子方式实现人类智力功能，如学习、推理、感知、判断和语言理解的技术。
“人工智能系统”是指具有不同程度自主性和适应性，为实现特定目标而影响实际和虚拟环境，进行预测、推荐和决策等推理活动的基于人工智能的系统。
“人工智能技术”是指实现人工智能所需的硬件、软件技术或其应用技术。
（二）高影响AI的定义
与欧盟的高风险AI系统类似，《AI基本法》定义了“高影响人工智能”是指有可能对人的生命、身体安全以及基本权利造成重大影响或带来风险的人工智能系统，且在以下任一领域中被应用的情况：
①能源供应；②饮用水生产；③卫生医疗体系运作；④数字医疗器械开发使用；⑤核设施安全管理运营；⑥犯罪侦查生物识别信息利用；⑦影响个人权利义务的重大判断，如招聘、贷款；⑧交通系统运营；⑨资格确认、费用征收等政府决策；⑩学生教育评估；及总统令规定其他领域。
（二）适用范围
域外适用：即便针对在国外实施的行为，但若对国内市场或使用者产生影响的情况下，同样适用。
排除适用：对于总统令规定仅以国防或国家安保目的而开发、利用的人工智能不予适用。
02
为人工智能的健全发展与
信任基础构建的推进体系
设立了三个新机构：
（一）国家人工智能委员会
直属总统的机构，负责审议和决定人工智能发展和信任基础建设的主要政策。由总统担任委员长，包括副委员长和不超过45名委员，负责政策审议和决策。职能包括制定基本计划、研究开发战略、投资战略，以及促进国际合作等。
（二）人工智能政策中心
科技通信部下设机构，负责整合资源，支持人工智能政策的开发和国际标准的制定，以及分析人工智能对社会的影响。
（三）人工智能安全研究所
科技通信部下设机构，注于保护国民免受人工智能相关风险，维护人工智能社会信任基础，并执行相关安全政策研究和国际合作的专业机构。
03
人工智能技术开发与产业培育
韩国政府促进AI发展的相关措施，都是宣示性条款，不展开。
分别是：
第一节人工智能产业基础构建：13、支持人工智能技术开发及安全利用；14、人工智能技术的标准化、15、训练数据系统搭建。
第二节人工智能技术开发及产业推进：16、支持人工智能技术引进和应用；17、中小企业等的特别支持；18、鼓励创业；19、促进人工智能与其他产业融合；20、制度改进；21、人才保障；22、国际合作；23、AI产业区建设；24、认证；25、数据中心建设；26、设立韩国AI振兴协会。
04
人工智能伦理及可靠性保障
（一）AI伦理原则
1. 在人工智能的开发和应用过程中，确保不对人类的生命和身体、心理健康造成损害，增强其安全性和可靠性。
2. 确保所有人能够自由、方便地使用应用了人工智能技术的产品与服务，提高其可及性。
3. 致力于人工智能的发展和应用，以促进人类生活和繁荣。
后期政府会出台细则，并鼓励设立民间人工智能伦理自律委员会。
（二）安全可靠性认证
一个提供高风险AI事前要做的认证，并且列为政府采购AI的优先考虑事项。
第三十条（支持人工智能安全性与可靠性的检验、认证等）
①科学技术信息通信部长官可以推进以下各项事业，以支持团体等自主进行的旨在确保人工智能安全性与可靠性的检验、认证活动（以下简称“检验、认证等”）：
1. 普及人工智能开发指南；
2. 支持与检验、认证等有关的研究所；
3. 支持检验、认证等所使用的设备及系统的构建与运营；
4. 支持培养检验、认证等所需的专业人才；
5. 其他根据总统令规定，为支持检验、认证等所定事项。
②科学技术信息通信部长官可以根据总统令的规定，向希望获得检验、认证等的中小企业等提供相关信息，或给予行政及财政支持。
③提供高影响人工智能的人工智能业务者应努力在事前获得检验、认证等。
④ 国家机关等在计划使用高影响人工智能时，应优先考虑基于已获得检验、认证等的人工智能的产品或服务。
（三）透明度
高影响AI及AIGC服务事前告知、AIGC内容标识，明确告知用户声音、图像、视频是由AI生成的，未来将出台总统令明确标识的方式和豁免情形。
第三十一条款（确保人工智能透明度的义务）
①人工智能业务者在提供基于高影响人工智能或生成型人工智能的产品或服务时，必须事先告知用户该产品或服务是基于相关人工智能运营的事实。
②人工智能业务者在提供生成型人工智能或基于此的产品或服务时，必须标明该成果是由生成型人工智能生成的事实。
③人工智能业务者在提供难以与现实区分的虚拟声音、图像或视频等成果时，必须以用户能够明确识别的方式告知或标明该成果是由人工智能系统生成的事实。若该成果属于艺术创作或构成其一部分，则可以在不妨碍展示或享受的方式下进行告知或标明。
④其他关于第一项的事先告知、第二项的标明、第三项的告知或标明的方法及其例外等必要事项，由总统令规定。
（三）安全性
累积运算量超过一定数量级的AI系统，必需全面识别、评估、环节AI全周期风险，建立检测系统，管控AI风险。向信息通信部提交评估结果，审批后向社会公告。
第三十二条（确保人工智能安全性的义务）
①人工智能业务者对于使用累计运算量超过总统令规定标准的人工智能系统，必须执行以下事项以确保其安全性：
1. 全面识别、评估及缓解人工智能生命周期中的风险；
2. 建立监测并应对人工智能相关安全事故的风险管理体系。
②人工智能业务者必须向科学技术信息通信部长官提交第一项各款事项的执行结果。
③科学技术信息通信部长官应规定第一项各款事项的具体执行方式及第二项结果提交等必要事项，并予以公告。
（三）高影响AI
累首先自己根据定义识别是否属于高影响AI，如果搞不清楚可以请官方确认。
高影响AI运营者有各项义务，如：制定运营风险管理方案、用户保护方案等，并编写相关文件经官方审核后公示。
高影响AI还要做影响评估。
第三十三条（高影响人工智能的确认）
①人工智能业务者在提供人工智能或基于此的产品、服务时，必须事先审查该人工智能是否属于高影响人工智能，并在必要时请求科学技术信息通信部长官确认是否属于高影响人工智能。
②科学技术信息通信部长官在接到第一项的请求时，必须确认是否属于高影响人工智能，并在必要时设立专业委员会以获取相关咨询。
③科学技术信息通信部长官可以制定并分发有关高影响人工智能的标准和示例等指南。
④其他关于第一项的确认程序等必要事项，由总统令规定。
第三十四条（高影响人工智能业务者义务）
①人工智能业务者在提供高影响人工智能或基于此的产品、服务时，必须根据总统令的规定，采取包括以下内容的措施以确保高影响人工智能的安全性和可靠性：
1. 制定并运营风险管理方案；
2. 在技术可能的范围内，制定并执行对人工智能得出的最终结果、人工智能结果得出所依据的主要标准、人工智能开发和运用所使用的学习数据概要等的解释方案；
3. 制定并运营用户保护方案；
4. 对高影响人工智能进行人为管理和监督；
5. 编写和保管能够确认为确保安全性和可靠性所采取措施内容的文件；
6. 其他由委员会审议决定的，为确保高影响人工智能安全性和可靠性的事项。
② 科学技术信息通信部长官可以规定第一项各款措施的具体事项，并公告之，同时可以建议人工智能业务者遵守这些措施。
③ 如果人工智能业务者根据其他法律法规已经采取了与第一项各款相当的措施，并符合总统令的规定，则视为已经履行了第一项的措施。
第三十五条（人工智能影响评估） ①人工智能业务者在提供基于高影响人工智能的产品或服务时，应努力事先评估其对人的基本权利可能产生的影响（以下简称“影响评估”）。
②国家机关等在计划使用基于高影响人工智能的产品或服务时，应优先考虑已实施影响评估的产品或服务。
③其他关于影响评估的具体内容、方法等必要事项，由总统令规定。
（三）境外AI服务方
对于未在韩国设立实体的境外AI服务方，若达到标准的，须制定境内代理人，进行安全性评估、评估是否属于高影响AI，并同等落实法规要求的高影响AI安全性、可靠性各项保障措施。
第三十六条（指定国内代理人） ①在国内没有地址或营业所的人工智能业务者，若其用户数量、销售额等符合总统令规定的标准，必须以书面形式指定以下事项的代理人（以下简称“国内代理人”），并向科学技术信息通信部长官申报：
1.根据第三十二条第二项提交执行结果；
2.根据第三十三条第一项申请确认是否属于高影响人工智能；
3.根据第三十四条第一项各款执行确保安全性和可靠性措施所需的支持（包括对同款第五点所规定的文件的最新性和准确性进行检查）。
②国内代理人应为在国内有地址或营业所的个人或实体。
③若国内代理人在与第一项各款相关的事项中违反本法，视为指定该国内代理人的人工智能业务者实施了该行为。
05
附则
（一）罚则
信息通信部在怀疑AI企业违反第四章相关义务时可要求AI企业提供材料并派员调查，具体包括进入AI企业的办公室或工作场所，调查账簿、文件、资料或物品。若确认违反，命令AI企业停止或纠正违法行为。
未能有效提示AI服务或未指定境内代表落实各项义务的境外AI服务方或不遵守停止或纠正命令者，处以3000万韩元以下罚款。这个罚款金额真的好低啊。
（二）生效
本法自公布后1年的次日实施。但第2条第4项中的数字医疗设备部分自2026年1月24日起实施。
数字医疗设备即，根据《医疗器械法》第2条第1项规定的医疗器械，以及根据《数字医疗产品法》第2条第2项规定的数字医疗器械的开发与利用。
文章来自于“AI合规圈”，作者“何琛没有以”。
