Phase 18: Ethics, Safety & Alignment

监管框架 欧盟,美国,英国,韩国

基本的监管制度定义了2026年人工智能治理景观. 欧盟人工智能法 (生效于2024年8月1日) 自2025年2月2日起禁止实践和人工智能素养;自2025年8月2日起GPAI义务;全面适用性和2026年8月2日50条的透明度;已旧的GPAI和嵌入式高风险系统2027年8月2日;最高罚款为1500万欧元或全球营销额的3%. 国际公认证协会 (GPAI) 实践法典 (2025年7月10日):三章 透明度,版权,安全和安全 12项承诺;执行开始于2026年8月. 英国AISI ->人工智能安全研究所 (2025年2月):更名信号范围更窄. 美国AISI -> CAISI (2025年6月):NIST下AI标准和创新中心;转向支持增长的态度. 韩国人工智能框架法 (2026年12月通过,生效于2026年1月):第12条规定了MSIT下的AISI;授权外国人工智能公司的当地代表,风险评估,高影响和生成人工智能的安全措施.

Type: Learn

Languages: none

Prerequisites: Phase 18 · 18 (frontier frameworks), Phase 18 · 27 (data governance)

Time: ~75 minutes

学习目标

  • 描述欧盟人工智能法风险级别 (禁止,高风险,一般用途,有限风险) 和2025年8月/2026年8月/2027年8月的时间表.
  • 描述GPAI行为准则的三个章节,以及每个提供商的义务.
  • 描述2025年重品牌:英国AISI -> AI安全研究所;美国AISI -> CAISI;每个重品牌的含义在政策方向上.
  • 说明韩国人工智能框架法的核心规定.

问题

实验室框架 (课 18) 是自愿的. 监管框架是强制性的. 2024-2026 时期看到全面的人工智能监管的第一波生效. 部署者必须将技术控制映射到监管义务; 映射根据管辖区不同.

概念

欧盟人工智能法

In force 1 August 2024.风险级结构:

  • Prohibited practices根据"国家安全局"的规定,该国政府将对"国家安全局"的安全局 (包括"国家安全局") 进行监督.
  • High-risk systems要求对合规性评估,风险管理,伐木,透明度.
  • General-Purpose AI (GPAI) models应于2025年8月2日实施.所有GPAI提供商都有义务;系统风险GPAI (>1e25FLOP培训计算) 具有额外的义务.
  • Limited-risk systems根据第50条 (人工智能生成内容标签) 的透明度义务.

时间:

  • 2025年2月2日:禁止实践+人工智能素养.
  • 2025年8月2日:GDPI+治理
  • 2026年8月2日:全面适用性 + 50条透明性 +最高1500万欧元/3%的全球营销额的处罚.
  • 2027年8月2日:传统的GPAI+嵌入式高风险.

委员会建议在2025年底调整高风险时间表至16个月.

国际公认证监管机构的行为准则

发表于2025年7月10日.

  • Transparency.所有GPAI提供商.
  • Copyright.所有GPAI提供商.
  • Safety and Security.系统风险GPAI提供商 (估计5-15家公司).

签署者工作组由人工智能办公室主持,负责执行.执行从2026年8月2日开始;直到那时,信誉合规将被接受.

透明度法规50条

第一个草案2025年12月17日. 第二个草案2026年3月. 最后版本2026年6月. 涵盖AI生成内容标签,包括深度假冒.

英国人工智能安全研究所 (2025年2月)

改名为AI安全研究所.该品牌缩小范围:减少算法偏见和言论自由框架;专注于边界能力安全.开源的检查评估工具 (2024年5月).与雷德伍德 (课 10) 合作在控制安全案例上.

美国CAISI (2025年6月)

特朗普政府将NIST的AI安全研究所转化为AI标准和创新中心.根据VPVance的巴黎AI行动峰会的言论,转向"支持增长的AI政策".减少了对部署前评估的重视;重视了标准和创新支持.欧盟AI法案的监管立场的国内反权重.

韩国人工智能框架法

通过于2024年12月. 通过于2025年1月. 起效于2026年1月. 巩固了19个独立的人工智能法案.

第12条设立科学与信息通信技术部 (MSIT) 下的AISI.任务:

  • 韩国外国人工智能公司的当地代表.
  • 对于"高影响"人工智能系统的风险评估.
  • 产生人工智能和高影响人工智能的安全措施.

亚洲第一个具有全面水平人工智能法规的司法管辖区.

跨管辖区动态

  • 欧盟:严格,风险级别,严厉的处罚.
  • 美国:有利于创新,分散的州 (例如加州AB 2013 27课) 填补联邦空白.
  • 英国:安全重点有限,评估基础设施强.
  • 韩国:MSIT领导,专注于外国供应商.

许多司法管辖区的部署者必须遵守最严格的规定,而2026年通常是欧盟人工智能法.

在这个阶段的第18阶段

第18课是实验室自愿治理; 第24课是监管; 第25课是人工智能系统的新兴CVE类; 第26-27课涵盖文档 (卡片) 和培训数据治理.

用它

阅读欧盟人工智能法的主要来源:法规文本,GPAI实践准则,英国AISI检查框架.将您的部署映射到每个司法管辖区的适用义务.

运送它

这一课产生了outputs/skill-regulatory-map.md根据部署描述,它将绘制适用司法管辖区,每个级别的分类,每个司法管辖区的义务和期限结构.

运动

  1. 阅读欧盟人工智能法 (2024/1689年法规) 和GPAI实践准则 (2025年7月10日). 确定适用于每个GPAI提供商的三个义务,以及仅适用于系统风险GPAI的三个义务.
  1. 美国公司部署了该项目,运行在欧盟基础设施上,服务于韩国用户.
  1. 根据英国人工智能安全研究所的改名,范围缩小. 支持和反对更窄的框架. 确定每个职位都取决于哪些政策假设.
  1. 根据CAISI的"增长支持"框架,该框架与2022-2024年人工智能安全研究所模型的偏离. 确定这项框架将导致的两个可测量的政策转变.
  1. 描述一个湾区公司为韩国用户服务的运营影响.

关键词

TermWhat people sayWhat it actually means
EU AI Act"the regulation"Risk-tier-based horizontal AI regulation; in force Aug 2024
GPAI"general-purpose AI"Large foundation models; systemic-risk subset has additional obligations
Article 50"transparency obligations"AI-generated content labelling; applies Aug 2026
UK AISI"AI Security Institute"Renamed Feb 2025; narrower frontier-security focus
CAISI"US center for AI standards"Renamed Jun 2025 from AI Safety Institute; pro-growth posture
Korean AI Framework Act"MSIT horizontal regulation"First Asian comprehensive AI law; effective Jan 2026
Systemic-risk GPAI"the 1e25 FLOP threshold"Additional obligations tier; estimated 5-15 companies bound

进一步阅读

This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.

Browse the complete course catalog or open this lesson on GitHub.