随着人工智能对全球经济社会发展的影响日益加深，世界各国家、地区正积极致力于推动人工智能领域的创新。2024年12月26日，韩国通过了旨在促进人工智能发展、构建可信赖人工智能的《人工智能发展及信任基础建立基本法》（以下简称《人工智能基本法》），成为欧盟之后第二个制定人工智能基础性法律的国家。该法已于2025年1月21日公布，将于2026年1月22日起正式施行。
韩国《人工智能基本法》旨在为人工智能技术的研发和创新提供法律保障，促进技术升级和经济增长，提升国家竞争力。同时，注重人工智能的监管，以及个人隐私和数据安全保护，防范技术滥用，最终实现人工智能产业的动能增长与可信可控机制的协同发展。概言之，韩国希冀通过人工智能立法调和人工智能带来的机遇与风险，实现“可信赖的人工智能创新发展”，并为应对未来人工智能可能引发的社会问题提供制度支持。
立法背景
社会背景
韩国是全球数字化转型的先锋国家，对人工智能技术的接受度较高。但人工智能技术的快速普及与广泛应用也加剧了公众对隐私泄露、算法歧视等问题的担忧。此外，韩国正面临人口老龄化和低出生率的双重挑战，人工智能被视为缓解劳动力短缺的重要手段。但技术替代导致工作岗位减少的威胁也引发了公众担忧。为此，韩国通过基础性、针对性立法系统性规范人工智能，以促进社会公平与经济可持续发展。
法律背景
韩国高度重视人工智能领域的竞争发展，出台了一系列法律、政策，推动人工智能创新与应用。2008年，韩国出台《智能型机器人开发与普及促进法》，为机器人产业发展奠定了体系性扶植基础。2019年，为推动人工智能产业发展，韩国发布“人工智能国家战略”。2020年12月，韩国发布《人工智能法、制度、规制、整顿路线图》，旨在为人工智能时代奠定法律规范基础。此外，韩国的“数据三法”，即《个人信息保护法》《信息通信网法》《信用信息法》，为人工智能发展提供了法律基础与制度支持。
主要内容
《人工智能基本法》共分为5章，由43条正文与3条附则构成。该法以总则为顶层设计，确立了人工智能健康发展框架与信任基础，形成了涵盖治理组织架构、技术产业促进和可靠性安全保障的人工智能治理法律框架。
构建人工智能治理组织架构
《人工智能基本法》第2章系统构建了人工智能治理的组织架构。其中，科学技术情报通信部部长每三年根据相关部委以及地方政府的意见制定、修改和实施国家人工智能基本计划。国家人工智能委员会负责审议人工智能基本计划、人工智能政策等重要事项，统筹规划人工智能发展方向。该委员会还可设立专门的小组委员会，研讨人工智能领域的具体专业问题。
由韩国科学技术情报通信部部长设立人工智能政策中心与人工智能安全研究所。人工智能政策中心主要负责统筹制定人工智能发展战略与总体规划，为政策制定提供专业智库支持，并负责国际规范的宣传与传播。人工智能安全研究所主要负责人工智能技术安全风险的识别与防控，包括系统性定义分析安全威胁、研发评估标准与防护技术等，以维护人工智能社会的信任基础与发展秩序。
支持人工智能技术与产业发展
《人工智能基本法》第3章制定了促进人工智能技术开发与人工智能产业发展的相关政策。政府负有支持人工智能技术发展与安全使用的职责。第一，支持人工智能的技术研发、商业化、信息发布、产学合作等项目。第二，制定、修订人工智能技术相关的国内和国际标准，促进人工智能健康、安全发展。第三，促进人工智能学习数据的生产、收集、管理及利用，并设立可综合提供、管理学习数据的系统，支持公共与私营部门的数据共享与应用。
政府支持人工智能技术与产业发展的具体措施包括支持引进技术、特别扶持中小企业、促进创业、完善相关制度、吸引人才、加强国际合作、认定产业集群、设置示范基地、发展数据中心以及成立振兴协会等。核心举措集中于三方面：一是支持中小企业与初创企业，优先为其提供资金、技术和市场支持。二是拓展海外市场与吸引人才。通过国际合作、联合研发以及外商投资等方式促进企业出海；建立国际网络吸引海外人才，支持其在韩就业。三是建设人工智能数据中心，为人工智能企业与研究机构提供基础设施与政策支持；成立人工智能振兴协会，由其负责推广人工智能技术、拓展海外市场和开展教育宣传等。
注重防范人工智能潜在风险
《人工智能基本法》第4章明确了人工智能的管理原则，并为其健康发展提供相关保障，旨在确保人工智能应用的安全、透明与可信赖，维护用户权益与社会公益。
明确由政府制定人工智能伦理原则。包括安全可靠原则，即确保人工智能的研发安全可靠，不会对公众的身心健康产生危害。普惠与可获得原则，即人工智能应当普惠大众，所有人都可自由、公平、便捷地获取与使用人工智能，避免产生技术鸿沟。增进人类福祉原则，即人工智能应以促进人类社会繁荣发展为落脚点。
明确相关团体可以成立民间人工智能伦理委员会。委员会负责监督人工智能伦理原则的落实，调查人工智能技术研究、应用与开发过程中对安全和人权的影响，并对研发过程及结果进行监督。
明确要求提升人工智能系统的透明度。《人工智能基本法》规定提供具有较高影响力的人工智能以及生成式人工智能产品及服务的经营者，应当向用户履行事先告知义务，明确告知其产品及服务依托相关人工智能技术运行。对于人工智能生成的内容，经营者应清晰标注其来源于人工智能。此外，若人工智能生成的声音、图像或视频等内容与现实难以区分，需采用明显方式告知用户。但在涉及艺术或创意表达时，为不影响内容的展示和欣赏，可适当调整告知方式。
明确人工智能经营者的安全义务。经营者需对人工智能系统进行全生命周期即贯穿人工智能的开发、部署与更新阶段的风险评估。同时，建立风险管理系统，监测人工智能相关的安全事故，以降低风险。
明确高影响力人工智能经营者的责任。经营者需审查人工智能是否属于高影响力人工智能，并评估其对于个人基本权利的影响。此外还需采取以下措施确保该人工智能的安全可靠：制定并执行风险管理计划；在技术可行范围内，解释人工智能的最终结果与主要判断标准，并提供训练数据的概览；建立用户保护机制；加强对高影响力人工智能的人工监督和管理；创建及保存相关文件，以证明已采取必要的安全保障措施等。
预期影响
增加人工智能企业的合规成本
《人工智能基本法》要求企业确保人工智能技术安全、透明和负责任地使用，并严格监管高影响力和生成式人工智能系统。企业需对人工智能技术进行全生命周期风险评估、履行有关告知义务、建立风险管理系统，以及标注人工智能生成内容等，并需投入资源审查技术对个人基本权利的影响。这些措施在保障人工智能安全性和透明性的同时，也显著增加了企业的合规成本。
增强公众对人工智能的信任
《人工智能基本法》通过严格监管高影响力人工智能的开发、应用与运营，提升人工智能系统的透明度和决策可解释性，全面保障个人基本权利及公共利益，增强了公众对人工智能的信任。该法对高影响力人工智能和生成式人工智能实施全面且严格的监管与规范，确保技术开发和应用的安全性与合规性，从而降低诸如数据泄露、算法误判等风险。同时，要求明确标注人工智能生成内容，提高透明度，使用户知悉信息来源。此外，要求高影响力人工智能的经营者，应尽可能评估该人工智能对个人基本权利产生的影响，以确保人工智能的安全性与可靠性。
提升相关领域的国际竞争力
《人工智能基本法》的出台使韩国在全球人工智能治理标准制定中占据有利位置，有助于推动韩国人工智能治理国内标准与国际规则接轨。基于趋同的监管框架，韩国可与欧盟等采取类似监管措施的国家或国际组织合作，共同制定技术伦理基准。这不仅为企业提供了稳定的合规预期，更通过技术标准吸引外资、聚集创新技术，从而提升韩国在全球人工智能治理格局中的影响力，为其在人工智能产业全球布局中奠定制度优势。
