Política de Escalagem Responsável Antropical v3.0
Type: Learn
Languages: Python (stdlib, RSP threshold decision engine)
Prerequisites: Phase 15 · 06 (AAR), Phase 15 · 07 (RSI)
Time: ~45 minutes
O problema
Os laboratórios Frontier publicam políticas de escalagem que são em parte documentos técnicos, em parte documentos de governança e em parte sinais para os reguladores. RSP v3.0 é o documento atual Anthropic. Ler de perto importa não porque o cumprimento com ele é vinculativo (não é), mas porque o enquadramento molda como um laboratório concebe o risco catastrófico e como eles comunicam compensações ao público.
A diferença v3.0 vs v2.0 é a unidade útil. O que foi adicionado: Mapa de estrada de segurança fronteiriça, relatórios de riscos, o limiar de I&D-4 da IA. O que foi removido: o compromisso de pausa de 2023. O que foi reformado: um cronograma de mitigação de dois níveis dividido entre a Antropic unilateral e a recomendação da indústria. Revisão externa SaferAI reduziu a pontuação de 2.2 (v2) para 1.9 (v3.0). É assim que uma política de escala pode ser menos rigorosa enquanto parece mais polida.
O conceito
O calendário de mitigação de dois níveis
- Anthropic unilateral actionsO treinamento termina acima de um limiar, medidas de segurança específicas, portas de implantação específicas.
- Industry-wide recommendationsA Anthropic não se compromete a promover a segurança, mas a promover políticas.
A estrutura de dois níveis não estava no v2. Significa que um leitor precisa olhar para a coluna em que cada compromisso vive. Uma medida de segurança na coluna "recomendação para toda a indústria" não é a promessa da Anthropic; é a esperança da Anthropic.
O limiar de I&D-4 da IA
Este é o nível de capacidade RSP v3.0 nomeia como o próximo limiar importante. Especificamente: um modelo que poderia automatizar uma fração substancial da pesquisa de IA a um custo competitivo. Uma vez que a Anthropic acredita que um modelo o cruza, eles devem publicar um caso afirmativo identificando riscos de desalinhamento e mitigações antes de continuar a escala.
Claude Opus 4.6 não ultrapassa o limite de risco segundo o anúncio v3.0. O documento acrescenta: "Certamente, descartar isso está ficando difícil". Essa fraseção é importante; admite que o limiar está perto o suficiente para ser uma preocupação real, não um limite especulativo.
A lição 6 (Automated Alignment Research) e a lição 7 (Recursive Self-Improvement) alimentam diretamente este limiar.
Mapa de rota da segurança nas fronteiras e relatórios de riscos
O v3.0 eleva dois tipos de artefatos a documentos permanentes:
- Frontier Safety RoadmapO documento apresenta um quadro de orientação para o futuro que descreve os trabalhos de segurança planejados, as expectativas de capacidade e a investigação sobre a mitigação.
- Risk ReportO documento retrospectivo sobre modelos específicos após a liberação, que descreve a capacidade observada e o risco residual.
Ambos são públicos. Ambos são atualizados em uma cadência declarada. A utilidade é: o leitor pode rastrear como o que a Anthropic disse que faria em um Roadmap compara com o que relatam em um Relatório de Risco.
Removendo a cláusula de pausa
O RSP de 2023 incluiu um compromisso explícito de pausa: se um modelo ultrapassasse os limiares de capacidade específicos, o treinamento interromperia até que as atenuações fossem implementadas. V3.0 substitui a pausa explícita por uma formulação mais suave (publicar um caso afirmativo, prosseguir se as atenuações forem adequadas). SaferAI e outros analistas chamaram isso diretamente como a regressão mais forte no novo documento.
O argumento político para a mudança: os limites quantitativos em 2023 revelaram-se inalcançáveis pelos referências de capacidade da era 2026 porque os referências em si foram re-escalados. O contra-argumento: uma cláusula de pausa numa política de escala é um instrumento de compromisso; a sua eliminação elimina a credibilidade da política.
A redução do nível da SaferAI
A SaferAI é uma organização independente que avalia documentos de estilo RSP. Sua classificação pública: 2023 Anthropic RSP obteve 2.2 (de uma escala onde 4.0 é a melhor RSP atual e 1.0 é nominal). v3.0 obteve 1.9.
Os fatores de redução de classificação por SaferAI:
- Os limites de qualidade substituíram os de qualidade.
- A pausa de compromisso foi removida.
- As mitigações do limiar de I&D-4 da IA são descritas como "casos afirmativos" em vez de medidas específicas.
- Os mecanismos de revisão dependem do Grupo Consultivo de Segurança da Anthropic, com supervisão independente limitada.
O que esta lição não é
Esta não é uma lição de conformidade. RSP v3.0 não é uma regulamentação; nada obriga a Anthropic a segui-la. A lição é ler o documento com a especificidade e o ceticismo que merece. As políticas de escalagem são os principais laboratórios públicos de sinais fronteiriços emitidos sobre posturas de risco catastrófico. Ler bem é uma habilidade prática para qualquer pessoa cujo trabalho depende das capacidades fronteiriças.
Usá-lo
code/main.pyImplementa um pequeno motor de decisão que reflete a forma de avaliação do limiar de RSP: dado um modelo candidato e um conjunto de medições de capacidade, retorne se o limiar de I&D-4 da IA foi ultrapassado, as seções de casos afirmativos necessárias e se a implantação pode continuar. É intencionalmente simples; o ponto é tornar a lógica do documento explícita.
Envia-o
outputs/skill-scaling-policy-review.mdRevisar uma política de escalagem (Anthropic, OpenAI, DeepMind ou interna) em relação à referência v3.0: estrutura de dois níveis, limiares, compromissos de pausa, revisão independente.
Exercícios
- Corra .
code/main.py- Introdução de três modelos sintéticos em diferentes níveis de capacidade.
- Leia RSP v3.0 em sua totalidade (32 páginas). Identifique cada compromisso que vive na categoria "recomendações para toda a indústria". Qual desses compromissos teria sido "antropico unilateral" na v2?
- Leia a metodologia de classificação RSP da SaferAI. Reproduzir a pontuação 1,9 para a versão 3.0 aplicando sua rubrica ao documento. Qual linha de rubrica levou a rebaixada mais?
- Propõe um compromisso de substituição que preserve a credibilidade da política, reconhecendo o problema da recalculação dos valores de referência de 2026.
- Compare RSP v3.0 com OpenAI Preparedness Framework v2 (Lessão 20). Escolha uma área onde v3.0 é mais forte. Escolha uma área onde o Framework de Preparedness é mais forte.
Termos-chave
| Term | What people say | What it actually means |
|---|---|---|
| RSP | "Anthropic's scaling policy" | Responsible Scaling Policy; v3.0 effective Feb 24, 2026 |
| AI R&D-4 | "Research-automation threshold" | Capability to automate substantial AI research at competitive cost |
| Affirmative case | "Safety justification" | Published argument that risks are identified and mitigations adequate |
| Frontier Safety Roadmap | "Forward plan" | Standing document on planned safety work and expected capabilities |
| Risk Report | "Retrospective on a model" | Standing document on observed capability and residual risk after release |
| Two-tier mitigation | "Unilateral vs industry" | Anthropic commitments vs industry recommendations, separated |
| Pause commitment | "2023 clause" | Explicit promise to pause training; removed in v3.0 |
| SaferAI rating | "Independent RSP grade" | Third-party rubric; v3.0 scored 1.9 (v2 was 2.2) |
Mais leitura
- Anthropic — Responsible Scaling Policy v3.0 a política completa de 32 páginas.
- Anthropic — RSP v3.0 announcement resumo das alterações a partir de v2.
- Anthropic — Frontier Safety Roadmap documento permanente ligado a partir do RSP v3.0.
- Anthropic — Risk Report: February 2026 retrospectiva sobre o modelo de fronteira Claude Opus 4.6, quando foi publicado.
- Anthropic — Measuring agent autonomy in practice liga a IA R&D-4 à autonomia medida.
This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.
Browse the complete course catalog or open this lesson on GitHub.