सुरक्षा रहस्य, एपीआई कुंजी रोटेशन, लेखा परीक्षा लॉग, गार्डरेल्स
api.openai.com,api.anthropic.com2026 घटना ड्राइवरः विकृत आईसी / सीडी क्रेडेंशियल्स के माध्यम से वर्सेल आपूर्ति श्रृंखला हमले ग्राहकों की तैनाती के हजारों में परिवेश को बाहर निकाला।Type: Learn
Languages: Python (stdlib, toy PII-scrubber + audit-log writer)
Prerequisites: Phase 17 · 19 (AI Gateways), Phase 17 · 13 (Observability)
Time: ~60 minutes
सीखने के लक्ष्य
- गुप्त प्रबंधन के चार विरोधी पैटर्न (वीसीएस में कॉन्फ़िग फ़ाइलें, हार्डकोड किए गए एनवी, स्प्रैडशीट, स्थैतिक कुंजी) को सूचीबद्ध करें और उनके प्रतिस्थापन का नाम दें।
- 2026 उत्पादन मानक के रूप में एआई-गेटवे-प्लस-फॉर-वॉल्ट पैटर्न की व्याख्या करें।
- एक समान टोकनकरण (एक ही मूल्य → एक ही स्थान धारक) के साथ एक PII स्क्रबर लागू करें ताकि अर्थशास्त्र जीवित रहे।
- 2026 में वर्सेल आपूर्ति श्रृंखला की घटना का नाम बताइए और इससे आईसी/सीडी प्रमाणपत्र स्वच्छता के बारे में क्या सीखा गया।
समस्या
एक प्रशिक्षु प्रतिबद्धता .envएपीआई कुंजी के साथ. वे इसे जल्दी से हटा देते हैं. कुंजी पहले से ही git इतिहास में हैं GitGuardian स्कैन इसे पकड़ता है, आपकी रोटेशन प्रक्रिया है "टीम को धीमा करें, 40 कॉन्फ़िग फ़ाइलों को अपडेट करें, सभी सेवाओं को पुनः तैनात करें। " 8 घंटे बाद, आपकी सेवाओं का आधा लाइव है और आधा विंडोज तैनात करने के लिए इंतजार कर रहा है।
अलग से, उपयोगकर्ता संकेतों में शामिल हैं "मेरा SSN है 123-45-6789." संकेत OpenAI जाता है. आप एक BAA है लेकिन अपनी आंतरिक नीति है आगे भेजने से पहले पीआईडी को मास्क करने के लिए. आप नहीं किया.
अलग से, आपके ईकेएस क्लस्टर के एलएलएम कैड किसी भी इंटरनेट होस्ट तक पहुंच सकता है। कोई व्यक्ति DNS खोज के माध्यम से डेटा को हमलावर नियंत्रित डोमेन में बाहर निकालता है। कुछ भी इसे अवरुद्ध नहीं करता है।
एमएलएम सेवाओं के लिए सुरक्षा तीनों वेक्टरों को संबोधित करना होगाः वॉल्ट समर्थित क्रेडेंशियल, पीआईआई स्क्रबिंग, नेटवर्क एक्जॉस्ट फ़िल्टरिंग, ऑडिट लॉग।
अवधारणा
केंद्रीकृत वॉल्ट + आईएएम-रोल खींच
Vault: हाशिकोर्प वॉल्ट, एडब्ल्यूएस सीक्रेट मैनेजर, अज़ूर की वॉल्ट, जीसीपी सीक्रेट मैनेजर. सच्चाई का एक स्रोत।
IAM role: app/gateway अपनी IAM पहचान के माध्यम से प्रमाणित करता है, एक स्थिर कुंजी नहीं. Vault टोकन के जीवनकाल के लिए रहस्य लौटाता है.
The AI-gateway pattern: गेटवे खींचता है OPENAI_API_KEYअनुरोध समय पर वॉल्ट से. वॉल्ट में घूमते हैं; अगले अनुरोध नई कुंजी प्राप्त करता है. कोई पुनः तैनात नहीं.
रोटेशन पॉलिसी ≤ 90 दिन
सभी एपीआई कुंजी, वॉल्ट रूट टोकन, आईसी / सीडी क्रेडेंशियल, स्वचालित रोटेशन जहां संभव हो। मैनुअल रोटेशन लॉग और ट्रैक किया गया।
गुप्त स्कैन
- TruffleHog कमिट पर रेजेक्स + एंट्रॉपी।
- GitGuardian वाणिज्यिक, उच्च सटीकता।
- Gitleaks ओएसएस, आईसी में चलाता है।
हर प्रतिबद्धता पर चलें, अगर नए रहस्य का पता चला तो पीआर को ब्लॉक करें।
शून्य-विश्वास की स्थिति
- सभी खातों पर एमएफए की आवश्यकता होती है।
- एसएसओ SAML/OIDC के माध्यम से।
- आरबीएसी (रोल-आधारित) या एबीएसी (एट्रिब्यूट-आधारित) बारीक अनाज तक पहुंच के लिए।
- अल्पकालिक टोकन (घंटे, दिन नहीं)
- डिवाइस मुद्रा केवल डिस्क एन्क्रिप्शन वाले कॉर्प डिवाइस।
पीआईआई / पीआईआई स्क्रबिंग
आपके इंफ्रारेड को छोड़ने से पहलेः
- इकाई मान्यता (स्पेस एनईआर, प्रेसिडियो, वाणिज्यिक)
- मुखौटा से जुड़ी संस्थाएं:
"My SSN is 123-45-6789"→"My SSN is [SSN_TOKEN_A3F]". . - एक समान मूल्य मानचित्र एक ही स्थानधारक के लिए ताकि LLM संबंध बनाए रखे।
- LLM प्रतिक्रिया के लिए वैकल्पिक रिवर्स मैपिंग।
स्थैतिक रेजेक्स फ़िल्टर मूल पैटर्न को पकड़ते हैं, एनईआर अधिक पकड़ता है. दोनों का उपयोग करें.
इनपुट + आउटपुट गार्डरेल
इनपुटः ज्ञात जेलब्रेक, प्रतिबंधित विषयों को ब्लॉक करें; प्रति उपयोगकर्ता दर सीमा।
आउटपुटः रिजेक्स स्क्रब लीक हुए रहस्यों के लिए (एपीआई कुंजी पैटर्न, अस्वीकार संदर्भों में ईमेल पैटर्न), नीति उल्लंघन के लिए वर्गीकरण।
नेटवर्क एक्जिट व्हाइटलिस्ट
एक समर्पित उप-नेट में LLM सेवाएंः
- श्वेतसूची:
api.openai.com,api.anthropic.com, वेक्टर डीबी अंत बिंदुओं, वॉल्ट अंत बिंदुओं. - बाकी सब कुछः गिर.
- DNS के माध्यम से केवल अनुमतियों के समाधान (डीएनएस सुरंग निकालने से बचें) ।
लेखा परीक्षा लॉग
प्रत्येक LLM कॉल का अपरिवर्तनीय लॉग जिसमेंः
- समय का टिकट।
- उपयोगकर्ता / किरायेदार।
- शीघ्र हैश (गोपनीयता के लिए कच्चे संकेत नहीं) ।
- मॉडल + संस्करण।
- टोकन गिनती.
- लागत।
- प्रतिक्रिया हैश।
- किसी भी गार्डरेल यात्राओं.
नियामक आवश्यकताओं के अनुसार प्रतिधारण (SOC 2 1 वर्ष, HIPAA 6 वर्ष) ।
2026 वर्सेल घटना
आपूर्ति श्रृंखला हमलेः सीआई/सीडी क्रेडेंशियल्स को हजारों ग्राहक तैनाती में बाधित किया गया। पाठः सीआई/सीडी क्रेडेंशियल्स प्रो-एक्विवलेंट हैं। वेव में स्टोर करें। संकीर्ण रूप से दायरा। आक्रामक रूप से घूमना।
संख्याओं को याद रखना चाहिए
- रोटेशन पॉलिसीः ≤ 90 दिन।
- प्रत्येक प्रतिबद्धता पर स्कैन करें: ट्रफलहोग / GitGuardian / Gitleaks.
- Vercel 2026: आईसी/सीडी क्रेडेंशियल्स को कमजोरी हुई → हजारों ग्राहक के परिवेश लीक हुए।
- लेखा परीक्षा लॉग रखरखावः SOC 2 = 1 वर्ष, HIPAA = 6 वर्ष।
इसका प्रयोग करें
code/main.pyएक टू-टू पीआईआई स्क्रबर को लगातार टोकनकरण और केवल परिशिष्ट लेखा लॉग के साथ लागू करता है।
इसे भेजें
यह सबक हमें फल देता हैoutputs/skill-llm-security-plan.mdनियामक दायरा और वर्तमान स्थिति को देखते हुए, वॉल्ट माइग्रेशन, स्क्रबर, एक्जिट, ऑडिट लॉग की योजनाएं।
व्यायाम
- दौड़ें
code/main.pyएक ही SSN से दो संकेत भेजें. पुष्टि करें कि दोनों एक ही स्थान धारक प्राप्त करते हैं. - OpenAI + Anthropic + Weaviate नामक vLLM-on-EKS तैनाती के लिए नेटवर्क एक्सेस नीति को डिज़ाइन करें।
- आप git इतिहास में एक कुंजी की खोज (2 साल पुराना) । सही जवाब क्या है कुंजी घूमना, स्क्रब इतिहास, या दोनों? सही ठहराना।
- आपके लेखा परीक्षा लॉग 10 जीबी/दिन बढ़ता है। डिजाइन प्रतिधारण स्तर (गर्म 30d, गर्म 12mo, ठंडा 6 वर्ष) ।
- तर्क दें कि क्या रिवर्स टोकनाइजेशन (एलएलएम प्रतिक्रिया में वास्तविक मूल्यों को वापस बदलना) स्थानधारकों को दृश्यमान रखने के मुकाबले जटिलता के लायक है।
प्रमुख शर्तें
| Term | What people say | What it actually means |
|---|---|---|
| Vault | "secrets store" | Centralized credential management service |
| IAM role | "identity-based auth" | Role assumed by app; returns short-lived creds |
| OIDC for CI/CD | "cloud-issued tokens" | No static keys in CI — identity via OIDC |
| TruffleHog / GitGuardian / Gitleaks | "secret scanners" | Commit-time secret detection |
| RBAC / ABAC | "access control" | Role-based vs attribute-based |
| PII scrubbing | "data masking" | Remove or tokenize sensitive entities |
| Consistent tokenization | "stable placeholders" | Same value → same token each time |
| Mesh approach | "Mesh tokenization" | Semantic-preserving tokenization pattern |
| Egress whitelist | "outbound allowlist" | Only permitted domains reachable |
| Audit log | "immutable history" | Append-only record for compliance |
आगे पढ़ना
- Doppler — Advanced LLM Security
- Portkey — Manage LLM API keys with secret references
- Datadog — LLM Guardrails Best Practices
- JumpServer — Secrets Management Best Practices 2026
- Microsoft Presidio पीआईआई का पता लगाना और अनामिक बनाना।
- HashiCorp Vault docs
This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.
Browse the complete course catalog or open this lesson on GitHub.