Phase 18: Ethics, Safety & Alignment

چارچوب های نظارتی اتحادیه اروپا، ایالات متحده، انگلستان، کره

چهار رژیم اصلی تنظیم کننده چشم انداز حاکمیت هوش مصنوعی 2026 را تعریف می کند. قانون AI اتحادیه اروپا (در اثر 1 اوت 2024) اعمال ممنوع و سواد هوش مصنوعی از 2 فوریه 2025؛ تعهدات GPAI از 2 اوت 2025؛ کاربرد کامل و شفافیت ماده 50 2 اوت 2026; GPAI قدیمی و سیستم های با ریسک بالا 2 اوت 2027; مجازات تا 15 میلیون یورو یا 3٪ از گردش جهانی. کد عملی GPAI (10 ژوئیه 2025): سه فصل شفافیت، حق اشاعت، ایمنی و امنیت 12 تعهد؛ اجرای آن از اوت 2026 آغاز می شود. AISI -> موسسه امنیت هوش مصنوعی بریتانیا (فروری 2025): نامگذاری سیگنال ها دامنه محدودتر است. US AISI -> CAISI (جون 2025): مرکز استاندارد های هوش مصنوعی و نوآوری تحت NIST؛ تغییر به سمت موضع حمایت از رشد. قانون چارچوب هوش مصنوعی کره ای (از دسامبر 2024 تصویب شد، تا ژانویه 2026): ماده 12 AISI را تحت MSIT ایجاد می کند؛ نمایندگان محلی را برای شرکت های خارجی هوش مصنوعی، ارزیابی ریسک، اقدامات ایمنی برای هوش مصنوعی با تأثیر بالا و تولید کننده، اجباری می کند.

Type: Learn

Languages: none

Prerequisites: Phase 18 · 18 (frontier frameworks), Phase 18 · 27 (data governance)

Time: ~75 minutes

اهداف یادگیری

  • سطوح خطر قانون هوش مصنوعی اتحادیه اروپا (حظر، خطر بالا، هدف کلی، خطر محدود) و جدول زمانی اوت 2025 / اوت 2026 / اوت 2027 را توصیف کنید.
  • سه فصل کد شیوه GPAI را توصیف کنید و هر یک از این ارائه دهندگان را به چه دسته ای مربوط می کند.
  • برند های جدید 2025 را توصیف کنید: AISI -> AI Security Institute انگلستان؛ AISI -> CAISI ایالات متحده؛ هر یک از این برند ها در مورد سیاست های مربوط به آن چه می گویند.
  • بندۀ اصلی قانون چارچوب هوش مصنوعی کره را بیان کنید.

مشکل

چارچوب های آزمایشگاهی (درسی 18) داوطلبانه هستند. چارچوب های نظارتی اجباری هستند. دوره 2024-2026 شاهد اولین موج مقررات جامع هوش مصنوعی در اثر گرفته است. توسعه دهندگان باید کنترل های فنی را به تعهدات نظارتی نقشه برداری کنند. نقشه برداری با صلاحیت متفاوت است.

مفهوم

قانون هوش مصنوعی اتحادیه اروپا

In force 1 August 2024.ساختار سطح ریسک:

  • Prohibited practices(ماده ۵) نمره گذاری اجتماعی، شناسایی بیومتریکی از راه دور در زمان واقعی در عمومی (با استثنا از اجرای قانون) ، دستکاری استثمار آمیز گروه های آسیب پذیر.
  • High-risk systems(پاینه سوم) اشتغال، آموزش، اعتبار، اجرای قانون، عدالت، مهاجرت. نیاز به ارزیابی سازگاری، مدیریت ریسک، چوبی سازی، شفافیت.
  • General-Purpose AI (GPAI) models. 2 اوت 2025 اعمال می شود. همه ارائه دهندگان GPAI تعهدات دارند؛ GPAI ریسک سیستماتیک (> 1e25 FLOP محاسبه آموزش) تعهدات اضافی دارد.
  • Limited-risk systems. تعهدات شفافیت بر اساس ماده 50 (تسمینی محتوای تولید شده توسط هوش مصنوعی) .

زمان:

  • ۲ فوریه ۲۰۲۵: شیوه های ممنوع + سواد هوش مصنوعی.
  • ۲ آگوست ۲۰۲۵: GPAI + مدیریت.
  • 2 آگوست 2026: کاربرد کامل + شفافیت ماده 50 + مجازات تا 15 میلیون یورو / 3 درصد گردش جهانی.
  • ۲ آگوست ۲۰۲۷: GPAI میراث + ریسک بالا مستقر.

کمیسیون پیشنهاد کرد تا زمان بندی ریسک بالا را تا اواخر سال 2025 به ۱۶ ماه تنظیم کند.

کد عمل GPAI

منتشر شده در ۱۰ ژوئیه ۲۰۲۵. سه فصل:

  • Transparency.همه ارائه دهندگان GPAI
  • Copyright.همه ارائه دهندگان GPAI
  • Safety and Security.ارائه دهندگان GPAI ریسک سیستماتیک (تقدیر شده 5-15 شرکت)

12 تعهد به کل. یک گروه کاری امضا کننده تحت ریاست دفتر هوش مصنوعی اجرای اجرای آن را مدیریت می کند. اجرای آن از 2 اوت 2026 آغاز می شود؛ تا آن زمان، رعایت ایمان خوب پذیرفته می شود.

قانون شفافیت برای ماده 50

اولین مسودۀ 17 دسامبر 2025. مسودۀ دوم مارس 2026. نسخه نهایی ژوئن 2026. شامل برچسب گذاری محتوا تولید شده توسط هوش مصنوعی از جمله deepfakes لایه نظارتی که نیاز به تکنولوژی آبی نشان در درس 23 است.

موسسه امنیت هوش مصنوعی انگلستان (فروری 2025)

نامگذاری شده از موسسه ایمنی هوش مصنوعی. نام تجاری مجدد دامنه را محدود می کند: تعصب الگوریتم و چارچوب های آزادی بیان را کاهش می دهد؛ بر امنیت قابلیت های مرزی تمرکز می کند. ابزار ارزیابی انسپکت منبع باز (مائی 2024) . با Redwood (درس 10) در مورد موارد ایمنی کنترل همکاری می کند.

US CAISI (جون 2025)

دولت ترامپ موسسه ایمنی هوش مصنوعی NIST را به مرکز استانداردهای هوش مصنوعی و نوآوری تبدیل می کند. تغییر به سمت "سیاست های هوش مصنوعی در جهت رشد" بر اساس اظهارات اجلاس فعالیت هوش مصنوعی پاریس وی پی وانس. کاهش تاکید بر ارزیابی پیش از انتشار؛ تاکید بر استانداردها و حمایت از نوآوری. وزن ضد داخلی به موضع نظارتی قانون هوش مصنوعی اتحادیه اروپا.

قانون چارچوب هوش مصنوعی کره

در دسامبر 2024 تصویب شد. در ژانویه 2025 تصویب شد. در ژانویه 2026 موثر است. 19 لایحه جداگانه AI را تقویت می کند.

ماده 12، یک AISI را تحت وزارت علم و فناوری اطلاعات و ارتباطات (MSIT) ایجاد می کند.

  • نمایندگان محلی برای شرکت های خارجی هوش مصنوعی که در کره فعالیت می کنند.
  • ارزیابی ریسک برای سیستم های هوش مصنوعی "با تأثیر بالا".
  • اقدامات ایمنی برای هوش مصنوعی تولید کننده و هوش مصنوعی با تاثیر بالا

اولین حوزه قضایی آسیایی با یک مقررات عمودی عمودی جامع.

پویایی بین حوزه های قضایی

  • اتحادیه اروپا: مجازات های سخت، خطری و سنگین. معیار برای مقررات مربوط به حریم خصوصی.
  • ایالات متحده: ایالت های غیرمتمرکز که نوآوری را ترجیح می دهند (به عنوان مثال، کالیفرنیا AB 2013 درس 27) شکاف های فدرال را پر می کنند.
  • انگلستان: تمرکز امنیتی محدود، زیرساخت ارزیابی قوی.
  • کره: MSIT رهبری شده، متمرکز بر ارائه دهندگان خارجی.

فلسفه های نظارتی رقابتی. توسعه دهندگان در چندین حوزه قضایی باید با سخت ترین قانون، که در سال 2026 به طور معمول قانون هوش مصنوعی اتحادیه اروپا است، مطابقت داشته باشند.

جایی که این در مرحله 18 قرار داره

درس 18 حاکمیت داوطلبانه آزمایشگاهی است؛ درس 24 مقررات است؛ درس 25 یک کلاس نوظهور CVE برای سیستم های هوش مصنوعی است؛ درس 26-27 شامل اسناد (کاردها) و حاکمیت اطلاعات آموزشی است.

ازش استفاده کن

هیچ کد ای نیست. منابع اصلی قانون AI اتحادیه اروپا را بخوانید: متن مقررات، کد شیوه GPAI، چارچوب AISI UK Inspect. نقش پیاده سازی خود را به تعهدات قابل اجرا برای هر حوزه قضایی.

-باده

این درس به ما کمک می کندoutputs/skill-regulatory-map.md. با توجه به یک توصیف نشری، این نقشه قضیه های مربوطه، طبقه بندی های سطح در هر یک، تعهدات هر قضیه و ساختار مهلت را می سازد.

تمرینات

  1. قانون هوش مصنوعی اتحادیه اروپا (قوانین 2024/1689) و کد عمل GPAI (10 ژوئیه 2025) را بخوانید. سه تعهداتی را که برای هر ارائه دهنده GPAI و سه تعهداتی که فقط برای GPAI با ریسک سیستماتیک اعمال می شود، شناسایی کنید.
  1. یک کاربری توسط یک شرکت آمریکایی انجام می شود، بر روی زیرساخت های اتحادیه اروپا اجرا می شود و به کاربران کره خدمت می کند. کدام سه قانون قضایی اعمال می شود و کدام قانون مربوط به هر سوال اساسی است؟
  1. نامگذاری مجدد موسسه امنیت هوش مصنوعی انگلستان دامنه را محدود می کند. استدلال برای و علیه چارچوبی تنگ تر. شناسایی فرضیه سیاست هر موقعیت بستگی دارد.
  1. چارچوبی که CAISI برای رشد را حمایت می کند، از مدل موسسه ایمنی هوش مصنوعی 2022-2024 انحراف است. دو تغییر سیاست قابل اندازه گیری را که از این چارچوب پیروی می کند شناسایی کنید.
  1. قانون چارچوب هوش مصنوعی کره ای به نمایندگان محلی برای ارائه دهندگان خارجی نیاز دارد. پیامدهای عملیاتی برای یک شرکت منطقه خلیج که به کاربران کره خدمت می کند را توصیف کنید.

اصطلاحات کلیدی

TermWhat people sayWhat it actually means
EU AI Act"the regulation"Risk-tier-based horizontal AI regulation; in force Aug 2024
GPAI"general-purpose AI"Large foundation models; systemic-risk subset has additional obligations
Article 50"transparency obligations"AI-generated content labelling; applies Aug 2026
UK AISI"AI Security Institute"Renamed Feb 2025; narrower frontier-security focus
CAISI"US center for AI standards"Renamed Jun 2025 from AI Safety Institute; pro-growth posture
Korean AI Framework Act"MSIT horizontal regulation"First Asian comprehensive AI law; effective Jan 2026
Systemic-risk GPAI"the 1e25 FLOP threshold"Additional obligations tier; estimated 5-15 companies bound

خواندن بیشتر

This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.

Browse the complete course catalog or open this lesson on GitHub.