Phase 18: Ethics, Safety & Alignment

दोहरे उपयोग के जोखिम साइबर, जैव, रसायन, परमाणु वृद्धि

2026 दोहरे उपयोग की तस्वीर, डोमेन द्वारा डोमेन। जैव/रसायनः पाठ 17 में WMDP शामिल है; मानव जाति के जैव हथियार अधिग्रहण परीक्षण (2.53x वृद्धि) और ओपनएआई की अप्रैल 2025 तैयारी ढांचे v2 चेतावनी ("ज्ञात जैविक खतरों को बनाने के लिए नवशिकियों की सार्थक मदद करने की कगार पर") मोड़ बिंदु है। साइबर (नोभेम्बर 2025 मानव रिपोर्ट): चीन से जुड़े राज्य अभिनेताओं ने क्लाउड के एजेंटिक कोडिंग टूल का उपयोग साइबर हमले के अभियान के 90% तक स्वचालित करने के लिए किया, जिसमें केवल 4-6 चरणों में मानव हस्तक्षेप किया गया था; ओपनएआई "विश्वासयोग्य पहुंच" पायलट रक्षा दोहरे उपयोग के काम के लिए सत्यापित सुरक्षा संगठनों को क्षमता पहुंच देता है। केमिकल/बायो निष्पादन अंतर क्षरणः क्लासिक रक्षा "केवल सूचना तक पहुंच अपर्याप्त है।" दृष्टि-सक्षम सीमा मॉडल (GPT-5.2, Gemini 3 Pro, Claude Opus 4.5, Grok 4.1) गीले-लैब वीडियो का अवलोकन कर सकते हैं और वास्तविक समय में सुधार प्रदान कर सकते हैं। दिसंबर 2025: ओपनएआई ने गीले-लैब प्रयोगों पर जीपीटी-5 को दोहराते हुए दिखाया, एआई-चालित प्रोटोकॉल अनुकूलन के माध्यम से 79 गुना दक्षता में सुधार प्राप्त किया। नवशिकियों के प्रति विशेषज्ञ पैटर्नः एआई नवशिकियों को अधिक सापेक्ष उन्नति प्रदान करता है लेकिन विशेषज्ञों को अधिक पूर्ण क्षमता प्रदान करता है।

Type: Learn

Languages: Python, TypeScript

Prerequisites: Phase 18 · 17 (WMDP), Phase 18 · 18 (safety frameworks), Phase 18 · 28 (ecosystem)

Time: ~75 minutes

सीखने के लक्ष्य

  • 2024-2025 जैव-उच्चरण कथा का वर्णन करेंः "हल्के-हल्के" -> "कमी पर" -> "एएसएल-3 को बाहर करने के लिए 2.53x उच्चरण अपर्याप्त है। "
  • नवंबर 2025 में मानव साइबर रिपोर्ट का वर्णन करेंः साइबर हमले अभियान के 90% तक में चीन से जुड़े स्वचालन।
  • केमिकल/बायो निष्पादन-गॅप क्षरण का वर्णन करेंः गीले-लैब प्रयोगों के वास्तविक समय में दृष्टि सक्षम सुधार।
  • नवशिकियों के संबंध में विशेषज्ञों के संबंध में पूर्ण असममितता और सुरक्षा-केस निर्माण के लिए इसके प्रभाव का वर्णन करें।

समस्या

पाठ 17 माप पद्धति है। पाठ 30 माप की 2026 स्थिति है। 2024 और 2025 के अंत के बीच तस्वीर में काफी बदलाव आयाः चार डोमेन में से तीन एक सीमा पार कर गए जो 2024 फ्रेमवर्क ने प्रत्याशित नहीं किया था।

अवधारणा

जैव/रसायनिक उत्थान कथा

तीन चरण (समंजस्य के लिए पाठ 17 से दोहराया जाता है):

  1. 2024 "mild uplift."आरटीपी/आरएसपी मूल्यांकन में इंटरनेट खोज के मुकाबले शुरुआती लोगों के लिए छोटे फायदे सामने आए।
  2. April 2025 "on the cusp."ओपनएआई पीएफ v2 ने चेतावनी दी कि मॉडल "नवीन लोगों को ज्ञात जैविक खतरों को बनाने में सार्थक मदद करने के कगार पर हैं।"
  3. 2025 Anthropic bioweapon-acquisition trial.नियंत्रित नवशिकियों का अध्ययन; अधिग्रहण चरण के कार्यों में 2.53 गुना वृद्धि; ASL-3 को बाहर करने के लिए पर्याप्त नहीं।

परिवर्तन गुणात्मक हैः "मजबूत" अठारह महीने के भीतर "सम्भवतः सक्षम" में विकसित हुआ, भले ही क्षमता का सफलता नहीं हो।

रसायन/बायो निष्पादन अंतर क्षरण

ऐतिहासिक रक्षाः जानकारी आवश्यक है लेकिन पर्याप्त नहीं है; प्रोटोकॉल निष्पादन की कौशल नवजातों को ब्लॉक करती है। दृष्टि के साथ 2025 सीमा मॉडल इस रक्षा को आंशिक रूप से तोड़ते हैंः

  • Real-time protocol correction.GPT-5.2, Gemini 3 Pro, Claude Opus 4.5, Grok 4.1 प्रक्रिया के बीच गीले-लैब वीडियो और फ्लैग त्रुटियों का अवलोकन कर सकते हैं।
  • December 2025 OpenAI demonstration.गीले-लैब प्रयोगों पर जीपीटी-5 पुनरावृत्ति प्रोटोकॉल अनुकूलन के माध्यम से 79 गुना दक्षता में सुधार प्राप्त करता है।

इसका मतलब यह है कि रक्षा के रूप में निष्पादन कौशल का क्षरण हो रहा है। खरीद और उपकरण में खाई बनी हुई है, लेकिन चुपके ज्ञान में खाई कम हो रही है।

साइबर उछाल (नवंबर 2025)

एंथ्रोपिक की नवंबर 2025 रिपोर्टः चीन से जुड़े राज्य अभिनेताओं ने क्लाउड के एजेंटिक कोडिंग टूल का उपयोग साइबर हमले के अभियान के 80-90% को स्वचालित करने के लिए किया। केवल 4-6 चरणों में मानव हस्तक्षेप की आवश्यकता थी।

प्रभाव:

  • एजेंटिक कोडिंग हमले-स्वचालित करने की आदिमता है। पहले एआई साइबर सहायता कोड स्निपेट स्तर पर सीमित थी; एजेंटिक वर्कफ़्लो में टोही, शोषण, पोस्ट-एक्सप्लोरेशन और एक्सफिल्ट्रेशन को एकीकृत किया गया है।
  • मानव चरण 4-6 बोतल की गर्दन है; भविष्य में क्षमता वृद्धि उस संख्या को कम कर देगा।
  • रक्षा के लिए दोहरे उपयोगः ओपनएआई के "विश्वासयोग्य पहुंच" पायलट सत्यापित सुरक्षा संगठनों (स्थापित घटना प्रतिक्रिया फर्म, सरकार) को रक्षा के लिए क्षमता पहुंच प्रदान करता है। पायलट स्केल होने पर पहुंच में असममितता रक्षकों को अनुकूलित करती है।

इस काम का रक्षात्मक पक्ष संकलित कोड पढ़ने से शुरू होता है जिसे आपको विश्लेषण करने की अनुमति है। चरण 13 में रिवर्स इंजीनियरिंग ट्रैक इसे स्वयं के निर्माण वाले कार्यक्रमों पर सिखाता है, केवल स्थैतिक विश्लेषण के साथः एक ELF रीडर में Lesson 13.32, में विघटनLesson 13.33, में छद्म कोड में उठाया Lesson 13.34, और एक सबूत की पुस्तिका जो निष्कर्षों के अलावा अवलोकन तथ्यों को अलग रखता हैLesson 13.35. . .Inside a Decompilerएक एजेंट जो इस काम करता है उसी की जरूरत है, क्योंकि एक आत्मविश्वास से decompilation अभी भी एक अनुमान पर आधारित हो सकता है.

परमाणु

सार्वजनिक दस्तावेज में चार सीबीआरएन डोमेन में से कम से कम विश्लेषण किया गया। खतरा मॉडल अलग हैः विखंडन सामग्री अधिग्रहण कठिनाई पर हावी है, सूचना नहीं। सूचना परत पर एआई वृद्धि व्यावहारिक रूप से सीमित नौसिखिया वृद्धि प्रदान करती है। 2024-2025 प्रमुख प्रयोगशाला रिपोर्ट परमाणु-विशिष्ट सीमा पार की पहचान करती है।

नवजात-सापेक्ष बनाम विशेषज्ञ-असली

चारों डोमेन में एक पैटर्नः

  • Novice-relative uplift.उच्च. गुणन. प्रति मानव 2025 जीव, 2.53x.
  • Expert-absolute capability.एक विशेषज्ञ एक नौसिखिया से अधिक निकालता है क्योंकि विशेषज्ञ जानता है कि क्या पूछना है और कैसे व्याख्या करना है।

सुरक्षा मामलों के लिए प्रभावः केवल शुरुआती उत्थान (इनपुट फ़िल्टर, अस्वीकृति, अनिश्चितता के माध्यम से) को संबोधित करना विशेषज्ञ-पूर्ण नियंत्रण के लिए अपर्याप्त है। अतिरिक्त उपायों की आवश्यकता हैः उत्तेजना-कठोर, क्षमता-निष्पादन (पाठ 17), और नियंत्रण प्रोटोकॉल (पाठ 10) ।

क्षेत्र-पार संश्लेषण

Domain20242025Inflection
Biomild uplift2.53x uplift, ASL-3 approachacquisition-phase automation
Chemmild upliftexecution-gap erosion via visionreal-time wet-lab correction
Cybercode assistance80-90% campaign automationagentic coding
Nuclearlimitedlimitedmaterial-access bottleneck holds

तीन डोमेन सीमा पार कर चुके हैं। एक गैर-सूचनात्मक बाधाओं से घिरा हुआ है।

जहां यह चरण 18 में फिट बैठता है

पाठ 30 मुख्य है: वर्तमान दोहरे उपयोग की तस्वीर जो प्रत्येक पिछले पाठ मापने, सीमित करने या शासन करने में योगदान देता है। पाठ 17-18 माप और ढांचे को देते हैं; पाठ 12-16 मूल्यांकन उपकरण देते हैं; पाठ 24-25 नियामक और प्रकटीकरण परत देते हैं; पाठ 28 अनुसंधान पारिस्थितिकी तंत्र देता है। पाठ 30 वह जगह है जहां सबूत उतरते हैं।

इसका प्रयोग करें

कोई कोड नहीं। मानव विज्ञान नवंबर 2025 साइबर रिपोर्ट, ओपनएआई के तैयारी ढांचे v2 अप्रैल 2025 अपडेट और रणनीतिक जोखिम 2025 पर परिषद एआई एक्स बायो रैपिड पढ़ें।

इसे भेजें

यह सबक हमें फल देता हैoutputs/skill-dual-use-triage.md. 2026 क्षमता दावा या घटना रिपोर्ट को देखते हुए, यह चार क्षेत्रों में triages करता है और यह पहचानता है कि क्या दावा नौसिखिया-संबंधी उन्नयन, विशेषज्ञ-सकल क्षमता या दोनों को प्रभावित करता है।

व्यायाम

  1. मानव हस्तक्षेप के 4-6 चरणों को सूचीबद्ध करें और तर्क दें कि अगली पीढ़ी के मॉडल में स्वचालित होने वाला पहला कौन सा होगा।
  1. दृष्टि के माध्यम से रसायन/जीव निष्पादन अंतर कम हो रहा है। एक मूल्यांकन डिजाइन करें जो ITAR/EAR सीमाओं को पार किए बिना चुपके ज्ञान को बढ़ाए।
  1. परमाणु उदय सामग्री तक पहुंच से सीमित प्रतीत होता है। तर्क दें और इस स्थिति के खिलाफ कि भविष्य में एआई की सफलता इस बोतल के गले को बदल सकती है।
  1. साइबर-सक्षम सीमा मॉडल के लिए एक सुरक्षा मामले (पाठ 18 तीन स्तंभ) का निर्माण करना जो नौसिखिया और विशेषज्ञ दोनों को जोड़ता है।
  1. चार डोमेन में से एक चुनें और 2024-2025 की प्रक्षेपवक्र के आधार पर एक पैराग्राफ 2027 पूर्वानुमान लिखें। उन साक्ष्यों की पहचान करें जो आपके पूर्वानुमान को गलत साबित करेंगे।

प्रमुख शर्तें

TermWhat people sayWhat it actually means
Uplift"AI helps attackers"Increase in attacker capability attributable to AI assistance
Novice-relative uplift"multiplicative"How much AI helps a novice vs status-quo
Expert-absolute capability"ceiling"Maximum capability an expert can extract from the model
Execution gap"doing vs knowing"Historical defense: tacit wet-lab skill blocks novices
Agentic coding"autonomous attacks"Multi-step autonomous cyber-task execution
Acquisition phase"pre-synthesis steps"Procurement, equipment, permit stages of a bio threat
Trusted access"defender-only pilot"OpenAI 2025 program giving vetted defenders capability access

आगे पढ़ना

This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.

Browse the complete course catalog or open this lesson on GitHub.