خطر دو استفاده سایبر، بیولوژی، شیمی، افزایش هسته ای
Type: Learn
Languages: Python, TypeScript
Prerequisites: Phase 18 · 17 (WMDP), Phase 18 · 18 (safety frameworks), Phase 18 · 28 (ecosystem)
Time: ~75 minutes
اهداف یادگیری
- روایت افزایش زیستی سال 2024 تا 2025 را توصیف کنید: "توسع خفیف" -> "در اوج" -> "توسع 2.53 برابر برای حذف ASL-3 کافی نیست".
- گزارش سایبری انتروپک نوامبر 2025 را شرح دهید: اتوماسیون مرتبط با چین در تا 90 درصد از کمپین های حملات سایبری.
- تخریب شکاف اجرای شیمیایی/بیو را شرح دهید: اصلاح در زمان واقعی آزمایش های آزمایشگاهی مرطوب با امکان دید.
- عدم همت مطلق نسبت به مبتدی و متخصص و پیامدهای آن برای ساخت پرونده های ایمنی را بیان کنید.
مشکل
درس 17 روش اندازه گیری است. درس 30 وضعیت اندازه گیری 2026 است. تصویر بین سال 2024 و اواخر سال 2025 تغییر زیادی کرد: سه از چهار دامنه از یک حد عبور کردند که چارچوب های 2024 پیش بینی نمی کردند.
مفهوم
داستان ارتقاء زیست شناسی/ کیمیا
سه مرحله (در درس 17 برای هماهنگی تکرار می شود):
- 2024 "mild uplift."ارزیابی های اولیه آماده سازی/RSP مزایای کوچکی نسبت به جستجوی اینترنت را گزارش کردند.
- April 2025 "on the cusp."مدل های OpenAI PF v2 هشدار داده اند که "در حال کمک به مبتدیان برای ایجاد تهدیدات بیولوژیکی شناخته شده هستند".
- 2025 Anthropic bioweapon-acquisition trial.مطالعه کنترل شده برای مبتدی ها؛ افزایش 2.53 برابر در وظایف مرحله ی کسب؛ کافی نیست تا ASL-3 را رد کند.
تغییر کیفیت است: "خفیف" در عرض ۱۸ ماه حتی بدون پیشرفت در توانایی ها به "قابل قبول" تبدیل شد.
فرسایش شکاف اجرای شیمیایی/بیو
دفاع تاریخی: اطلاعات ضروری است اما کافی نیست؛ مهارت اجرای پروتکل، مبتدی ها را مسدود می کند. مدل های مرزی 2025 با چشم انداز بخشی از این دفاع را شکست می دهند:
- Real-time protocol correction.GPT-5.2، Gemini 3 Pro، Claude Opus 4.5، Grok 4.1 می تواند در میان روند ویدیو و خطا های نمایی را مشاهده کند.
- December 2025 OpenAI demonstration.GPT-5 که در آزمایش های آزمایشگاهی مرطوب می شود، از طریق بهینه سازی پروتکل، بهبود بهره وری 79 برابر را به دست می آورد.
پیامد: مهارت های دفاعی در اجرای، کاهش می یابد. شکاف های در زمینه خرید و تجهیزات باقی مانده است، اما شکاف در زمینه دانش خاموش کاهش می یابد.
ارتقاء سایبری (نویمبر 2025)
گزارش نوامبر 2025 Anthropic: بازیگران دولتی مرتبط با چین از ابزار کدگذاری آژانس کلود برای اتوماسیون 80-90 درصد از کمپین های حملات سایبری استفاده کردند. مداخله انسانی فقط در 4-6 مرحله مورد نیاز بود.
پیامدهای:
- کدگذاری آژانس اولیه اتوماسیون حمله است. کمک سایبری هوش مصنوعی قبلی در سطح کدهای کپی محدود بود؛ جریان کار آژانس شامل شناسایی، بهره برداری، پس از بهره برداری و اخراج است.
- 4-6 گام انسان، گلو شکنی هستند؛ افزایش ظرفیت آینده این تعداد را کاهش می دهد.
- استفاده دوگانه دفاعی: " دسترسی قابل اعتماد " آزمایشی OpenAI سازمان های امنیتی (شركات پاسخگویی به حوادث تاسیس شده، دولت) را با دسترسی به قابلیت دفاعی فراهم می کند. عدم همت در دسترسی به مدافعان را در صورت مقیاس آزمایشی مورد حمایت قرار می دهد.
طرف دفاعی این کار با خواندن کد مرتب شده که اجازه تجزیه و تحلیل شما را می دهد شروع می شود. مسیر مهندسی معکوس در مرحله 13 آن را در برنامه هایی که شما خودتان ایجاد می کنید، با تجزیه و تحلیل فقط ثابت آموزش می دهد: یک خواننده ELF در Lesson 13.32، جدا کردن درLesson 13.33، به عنوان کد پشوودوکد درLesson 13.34، و يک دفترچه شواهد که مشاهدات را از آنچه درLesson 13.35.Inside a Decompilerیک عامل که این کار را انجام می دهد به همان دفترچه نیاز دارد، زیرا یک تجزیه مطمئن هنوز هم می تواند بر اساس حدس باشد.
هسته ای
این مدل خطر متفاوت است: جذب مواد شکافگر در مشکل غالب است نه اطلاعات. ارتقاء هوش مصنوعی در لایه اطلاعات در عمل افزایش مبتدی محدود را فراهم می کند. گزارش آزمایشگاه های بزرگ 2024-2025 عبور آستانه خاص هسته ای را شناسایی می کند.
مبتدی نسبت به متخصص مطلق
یک الگوی در تمام چهار دامنه:
- Novice-relative uplift.بالا، چندان دهنده، هر آنتروپيك 2025 بايو، 2.53x
- Expert-absolute capability.سقف بالا. يک کارشناس بيشتر از يک مبتدئ ميگيره چون اين کارشناس ميدونه چه چيزي رو بپرسد و چطور تعبيرش کنه
در مورد موارد ایمنی: صرف رفع مبتدیان (به وسیله فیلترهای ورودی، رد، عدم اطمینان) برای کنترل مطلق متخصص کافی نیست. اقدامات اضافی لازم است: سخت کردن تحریک، یادگیری توانایی (درسه 17) و پروتکل های کنترل (درسه 10).
ترکیب بین حوزه ها
| Domain | 2024 | 2025 | Inflection |
|---|---|---|---|
| Bio | mild uplift | 2.53x uplift, ASL-3 approach | acquisition-phase automation |
| Chem | mild uplift | execution-gap erosion via vision | real-time wet-lab correction |
| Cyber | code assistance | 80-90% campaign automation | agentic coding |
| Nuclear | limited | limited | material-access bottleneck holds |
سه دامنه از حد عبور کردند. یکی از آنها با موانع غیر اطلاعاتی محدود می شود.
جایی که این در مرحله 18 قرار داره
درس 30 سنگ پایه است: تصویر دوگانه ای که هر درس قبلی به اندازه گیری، محدود کردن یا حاکمیت کمک می کند. درس 17-18 اندازه گیری و چارچوب را می دهد؛ درس 12-16 ابزار ارزیابی را می دهد؛ درس 24-25 لایه تنظیم و افشا سازی را می دهد؛ درس 28 محیط زیست تحقیقاتی را می دهد. درس 30 جایی است که شواهد فرود می آید.
ازش استفاده کن
هیچ کد ای. گزارش سایبری آنترپیک نوامبر 2025، برنامه آماده سازی OpenAI v2 اپریل 2025 را مطالعه کنید و خلاصه ی شورای ریسک های استراتژیک 2025 AI x Bio را بخوانید.
-باده
این درس به ما کمک می کندoutputs/skill-dual-use-triage.mdدر نظر گرفتن یک گزارش قابلیت یا حادثه 2026، در چهار حوزه مورد بررسی قرار می گیرد و مشخص می کند که آیا این ادعا بر افزایش توانایی مبتدی یا توانایی مطلق متخصص یا هر دو تأثیر می گذارد.
تمرینات
- گزارش سایبری نوامبر 2025 آنترپیک را بخوانید. مراحل 4-6 مداخله انسانی را لیست کنید و استدلال کنید که کدام یک در یک مدل نسل بعدی اولین بار به طور خودکار انجام می شود.
- شکاف اجرای شیمیایی/بیو از طریق دید کاهش می یابد. ارزیابی ای طراحی کنید که بدون عبور از مرزهای ITAR/EAR افزایش دانش ساکت را اندازه گیری کند.
- ارتقاء هسته ای به نظر می رسد محدود به دسترسی مواد است. استدلال برای و علیه این موضع است که یک پیشرفت آینده AI می تواند این گلو بطری تغییر دهد.
- ساخت یک مورد ایمنی (درسه ستون درس 18) برای یک مدل مرز سایبری که هم مبتدی و هم متخصص را افزایش می دهد.
- یکی از چهار دامنه را انتخاب کنید و یک پیش بینی یک پاراگراف 2027 را بر اساس مسیر 2024-2025 بنویسید. شواهد را شناسایی کنید که پیش بینی شما را جعلی می کند.
اصطلاحات کلیدی
| Term | What people say | What it actually means |
|---|---|---|
| Uplift | "AI helps attackers" | Increase in attacker capability attributable to AI assistance |
| Novice-relative uplift | "multiplicative" | How much AI helps a novice vs status-quo |
| Expert-absolute capability | "ceiling" | Maximum capability an expert can extract from the model |
| Execution gap | "doing vs knowing" | Historical defense: tacit wet-lab skill blocks novices |
| Agentic coding | "autonomous attacks" | Multi-step autonomous cyber-task execution |
| Acquisition phase | "pre-synthesis steps" | Procurement, equipment, permit stages of a bio threat |
| Trusted access | "defender-only pilot" | OpenAI 2025 program giving vetted defenders capability access |
خواندن بیشتر
- Anthropic — November 2025 cyber threat report اتوماسیون کمپین های مرتبط با چین
- OpenAI — Preparedness Framework v2 (April 15, 2025) بایو "در حاشیه"
- Anthropic — RSP v3.0 (February 2026) آستانه های بیولوژیکی ASL-3
- Council on Strategic Risks — 2025 AI x Bio wrapup ترکیب پایان سال
This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.
Browse the complete course catalog or open this lesson on GitHub.