Nguy cơ sử dụng kép Cyber, Bio, Chemistry, Nuclear Uplift
Type: Learn
Languages: Python, TypeScript
Prerequisites: Phase 18 · 17 (WMDP), Phase 18 · 18 (safety frameworks), Phase 18 · 28 (ecosystem)
Time: ~75 minutes
Mục tiêu học tập
- Mô tả câu chuyện nâng sinh học 2024-2025: " nâng nhẹ " -> " trên đỉnh " -> " nâng 2,53 lần không đủ để loại trừ ASL-3 ".
- Mô tả báo cáo mạng của Anthropic tháng 11 năm 2025: Tự động hóa liên quan đến Trung Quốc lên đến 90% của chiến dịch tấn công mạng.
- Mô tả sự xói mòn khoảng cách thực hiện hóa học/biô: điều chỉnh thời gian thực cho phép nhìn thấy các thí nghiệm trong phòng thí nghiệm ướt.
- Cụ thể sự bất đối xứng tuyệt đối đối đối với người mới bắt đầu và chuyên gia và ý nghĩa của nó đối với việc xây dựng trường hợp an toàn.
Vấn đề
Bài học 17 là phương pháp đo lường. Bài học 30 là trạng thái đo lường năm 2026. Hình ảnh đã thay đổi đáng kể giữa năm 2024 và cuối năm 2025: ba trong bốn lĩnh vực đã vượt qua ngưỡng mà các khung 2024 không dự đoán.
Khái niệm
Câu chuyện nâng cao sinh học/ hóa học
Ba giai đoạn (được lặp lại từ Bài học 17 để phù hợp):
- 2024 "mild uplift."Các đánh giá chuẩn bị/RSP sớm báo cáo những lợi thế nhỏ đối với người mới bắt đầu tìm kiếm trên Internet.
- April 2025 "on the cusp."OpenAI PF v2 cảnh báo các mô hình đang "được chuẩn bị giúp đỡ những người mới bắt đầu tạo ra những mối đe dọa sinh học được biết đến".
- 2025 Anthropic bioweapon-acquisition trial.Nghiên cứu kiểm soát cho người mới bắt đầu; tăng 2.53 lần trong các nhiệm vụ giai đoạn thu thập; không đủ để loại trừ ASL-3.
Sự thay đổi là chất lượng: "mềm" đã phát triển thành "có khả năng cho phép" trong vòng mười tám tháng, ngay cả khi không có một bước đột phá khả năng.
Phế độ phân hủy phân hủy hóa học/biô
Phòng vệ lịch sử: thông tin là cần thiết nhưng không đủ; kỹ năng thực hiện giao thức ngăn chặn người mới bắt đầu. Mô hình biên giới 2025 với tầm nhìn phá vỡ biện pháp phòng thủ này một phần:
- Real-time protocol correction.GPT-5.2, Gemini 3 Pro, Claude Opus 4.5, Grok 4.1 có thể quan sát video wet-lab và cờ lỗi giữa thủ tục.
- December 2025 OpenAI demonstration.GPT-5 lặp lại trên thí nghiệm trong phòng thí nghiệm ướt đạt được hiệu quả cải thiện 79 lần thông qua tối ưu hóa giao thức.
Kết quả: kỹ năng thực hiện như phòng thủ đang bị xói mòn.
Tăng cường mạng (Tháng 11 năm 2025)
Báo cáo tháng 11 năm 2025 của Anthropic: Các nhà nước có liên quan đến Trung Quốc đã sử dụng công cụ mã hóa tác nhân của Claude để tự động hóa 80-90% chiến dịch tấn công mạng.
Những tác động:
- Mã hóa đại lý là nguyên thủy tự động tấn công. trợ giúp mạng AI trước đó được giới hạn ở mức đoạn mã; dòng công việc đại lý tích hợp công nhận, khai thác, hậu khai thác và giải phóng.
- Dấu hiệu là 4-6 bước của con người; tăng khả năng trong tương lai sẽ làm giảm số lượng đó.
- Sử dụng hai lần phòng thủ: Phi công "luồng truy cập đáng tin cậy" của OpenAI cung cấp cho các tổ chức an ninh được kiểm tra (các công ty phản ứng tình huống đã thành lập, chính phủ) quyền truy cập khả năng cho phòng thủ.
Mặt phòng thủ của công việc này bắt đầu bằng việc đọc mã biên soạn mà bạn được phép phân tích.Lesson 13.32, phá vỡ trong Lesson 13.33, nâng lên mã giả trong Lesson 13.34, và một sổ cái bằng chứng giữ các sự kiện quan sát được tách biệt với những người suy luận trongLesson 13.35- Inside a Decompilermáy cho thấy toàn bộ đường ống trên một chức năng. một đại lý làm công việc này cần cùng một sổ cái, bởi vì một phân tích tự tin vẫn có thể dựa trên một đoán.
Tiêu vũ hạt nhân
Các lĩnh vực CBRN được phân tích ít nhất trong bốn tài liệu công khai. Mô hình đe dọa khác nhau: thu thập vật liệu phân hạch chiếm ưu thế về sự khó khăn, chứ không phải thông tin. nâng cao AI trên lớp thông tin cung cấp nâng cao người mới bắt đầu hạn chế trong thực tế. Báo cáo 2024-2025 của phòng thí nghiệm lớn xác định một vượt ngưỡng cụ thể về hạt nhân.
Người mới bắt đầu tương đối với chuyên gia tuyệt đối
Một mô hình trên tất cả bốn lĩnh vực:
- Novice-relative uplift.cao, nhân lên, mỗi năm sinh học năm 2025 của Anthropic, 2,53x.
- Expert-absolute capability.Một chuyên gia có thể thu được nhiều hơn một người mới bắt đầu bởi vì chuyên gia biết phải hỏi gì và cách giải thích.
Sự liên quan đến các trường hợp an toàn: chỉ giải quyết việc nâng cao người mới bắt đầu (thông qua bộ lọc đầu vào, từ chối, không chắc chắn) là không đủ cho kiểm soát chuyên môn tuyệt đối.
Kết hợp xuyên lĩnh vực
| Domain | 2024 | 2025 | Inflection |
|---|---|---|---|
| Bio | mild uplift | 2.53x uplift, ASL-3 approach | acquisition-phase automation |
| Chem | mild uplift | execution-gap erosion via vision | real-time wet-lab correction |
| Cyber | code assistance | 80-90% campaign automation | agentic coding |
| Nuclear | limited | limited | material-access bottleneck holds |
Ba lĩnh vực đã vượt qua ngưỡng. Một vẫn bị giới hạn bởi các rào cản không thông tin.
Khi điều này phù hợp với giai đoạn 18
Bài học 30 là đá cốt: bức tranh sử dụng hai cách hiện tại mà mỗi bài học trước đó đóng góp vào việc đo lường, hạn chế hoặc quản lý. Bài học 17-18 cho phép đo và khung; Bài học 12-16 cho phép đánh giá; Bài học 24-25 cho phép kiểm soát và tiết lộ lớp; Bài 28 cho phép sinh thái nghiên cứu. Bài học 30 là nơi mà bằng chứng hạ cánh.
Sử dụng nó
Không có mã. Đọc báo cáo mạng tháng 11 năm 2025 của Anthropic, bản cập nhật Quadro chuẩn bị v2 tháng 4 năm 2025 của OpenAI và kết luận chung của Hội đồng về rủi ro chiến lược năm 2025 AI x Bio.
Chuyển nó
Bài học này sẽ mang lại kết quả outputs/skill-dual-use-triage.md. Với một tuyên bố khả năng hoặc báo cáo sự cố năm 2026, nó phân loại qua bốn lĩnh vực và xác định xem tuyên bố có ảnh hưởng đến nâng cao tương đối với người mới bắt đầu, khả năng chuyên môn tuyệt đối, hoặc cả hai.
Các bài tập
- Đọc báo cáo mạng tháng 11 năm 2025 của Anthropic. Đặt ra 4-6 bước can thiệp của con người và tranh luận xem sẽ là gì đầu tiên tự động hóa trong mô hình thế hệ tiếp theo.
- Khoảng cách thực hiện hóa học/biô đang bị xói mòn qua tầm nhìn. Thiết kế một đánh giá đo lường nâng cao kiến thức ngầm mà không vượt qua ranh giới ITAR/EAR.
- Sự nâng cao hạt nhân dường như bị giới hạn bởi sự tiếp cận vật liệu. Phúc luận cho và chống lại lập trường rằng một đột phá AI trong tương lai có thể thay đổi nút thắt này.
- Xây dựng một trường hợp an toàn (Lớp học 18 ba cột) cho một mô hình biên giới có khả năng mạng mà kết hợp cả người mới bắt đầu và chuyên gia nâng cao.
- Chọn một trong bốn miền và viết một dự báo 2027 một đoạn dựa trên quỹ đạo 2024-2025.
Các điều khoản chính
| Term | What people say | What it actually means |
|---|---|---|
| Uplift | "AI helps attackers" | Increase in attacker capability attributable to AI assistance |
| Novice-relative uplift | "multiplicative" | How much AI helps a novice vs status-quo |
| Expert-absolute capability | "ceiling" | Maximum capability an expert can extract from the model |
| Execution gap | "doing vs knowing" | Historical defense: tacit wet-lab skill blocks novices |
| Agentic coding | "autonomous attacks" | Multi-step autonomous cyber-task execution |
| Acquisition phase | "pre-synthesis steps" | Procurement, equipment, permit stages of a bio threat |
| Trusted access | "defender-only pilot" | OpenAI 2025 program giving vetted defenders capability access |
Đọc thêm
- Anthropic — November 2025 cyber threat report Tự động hóa chiến dịch liên kết với Trung Quốc
- OpenAI — Preparedness Framework v2 (April 15, 2025) bio "đối với cổng"
- Anthropic — RSP v3.0 (February 2026) Giá trị thâm nhập ASL-3
- Council on Strategic Risks — 2025 AI x Bio wrapup Kết hợp cuối năm
This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.
Browse the complete course catalog or open this lesson on GitHub.