1月22日，韩国正式实施《关于人工智能发展和构建信赖基础的基本法》（以下简称《AI基本法》），成为继欧盟之后第二个出台此类法案的地区，此举引发业界高度关注。

　　韩国AI新法强调三大监管重点

　　韩国《AI基本法》构建了国家政策框架，重点关注风险评估、透明度及人类监督。该法要求，企业与开发者在影响用户日常生活及安全的“高风险”领域应用AI模型时须采取严格措施，对深度伪造、虚假信息等问题承担更多责任。

　　据媒体报道，韩国科学技术信息通信部解释称，韩国《AI基本法》旨在通过制定可信人工智能的国家标准，平衡创新与安全，尤其针对高影响系统，从而促进人工智能行业的发展。新法案涵盖三个领域：高影响人工智能、高性能人工智能的安全义务以及生成式人工智能的透明度要求。

　　该法引入“高风险AI”的概念，即在医疗、就业流程、饮用水生产、交通运输、贷款审查、核安全等领域，生成内容足以显著影响用户日常生活及安全的AI模型。法案规定，有关企业或机构使用“高风险AI”须安排真人监督；使用生成式AI模型提供产品或服务须事先告知用户；在难以区分AI生成内容与现实时，应予以明确标注。

　　在韩国提供人工智能服务的跨国企业，凡符合下列中任何一项条件，均须指派一名境内代表：全球年收入达到1万亿韩元（约合48.5亿元人民币）及以上、在韩国国内销售额达100亿韩元（约合4851万元人民币）及以上或在韩国日活跃用户达100万人及以上。按韩联社说法，美国开放人工智能研究中心（OpenAI）和谷歌公司目前符合上述条件。

　　该法规定，违规企业将面临最高3000万韩元（约合14.55万元人民币）罚款。

　　据悉，该法案将至少在一年内分阶段实施，其间重点开展咨询与教育工作。据报道，韩国政府在此期间不会进行事实调查或施加行政制裁。

　　在扶持政策方面，韩国科学技术信息通信部须每3年制定一次关于振兴AI产业、提升相关领域国家竞争力的基本规划；国家和地方自治团体须尊重创业者的创造精神，扶持相关产品、服务的研发工作。在监管措施方面，政府须制定相关制度，将AI在国民生活领域的潜在风险降至最低，引导安全使用。为确保AI安全性和可信性，政府还须扶持相关技术研发、教育及宣传活动。

　　欧盟AI“高风险”法案条款推迟生效

　　2024年8月1日，欧盟《人工智能法案》正式生效。该法案是全球首部全面监管人工智能的法规。

　　欧盟称，制定《人工智能法案》的目的在于，在维护民主、人权和法治的同时，推动普及值得信赖的人工智能。根据使用方法而非技术本身造成的影响风险进行分类。

　　风险分为四类，风险等级越高，管控越严格。其中，风险最高的情况包括：为唆使犯罪而利用人工智能技术操纵人的潜意识；使用高级监控摄像机等，将人脸识别等生物识别技术实时应用于犯罪搜查等。这些情况是被“禁止”的。第二高风险的情况包括：基于犯罪心理画像的犯罪预测、在入学考试和录用考试测评中应用人工智能。人类有义务保存和管理使用人工智能技术的历史记录。

　　该法案规定，聊天机器人等人工智能系统必须明确告知用户他们在与机器互动，人工智能技术提供商必须确保合成的音频、视频、文本和图像内容能够被检测为人工智能生成的内容。此外，该法案规定，禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。

　　如果企业涉足“禁止”领域，则被处以3500万欧元或全球年销售总额7％的罚款，以二者之中的更高金额为准进行处罚。如果没有履行除“禁止”以外的其他风险分类中的义务，则根据业务规模等处以1500万欧元或最高不超过全球年销售总额3％的罚款。

　　但是欧盟这部法律的施行并不顺利。2025年11月，欧盟委员会提交了一份65页的正式提案，计划高风险人工智能系统法案生效日期推迟至2027年底，法案原定生效期为2026年8月。修订后，不再有固定日期，而是必须等到相关技术标准与配套工具成熟后再启动，启动后还会给予6至12个月缓冲期。

　　欧盟称，该次修订带来最核心的变化是：医疗、汽车、教育等领域的高风险AI条款，将延至最晚2028年8月生效。同时，谁来监管ChatGPT等通用大模型、能不能拿用户数据训练AI，也有明显改变。

　　欧盟还对《人工智能法案》提出了有针对性的修改，例如为中小企业提供便利、简化技术文件要求，预计每年可节省至少2.25亿欧元。