امنیت رازها، چرخش کلید API، دفترچه های بازرسی، رایل های نگهبان
api.openai.com،api.anthropic.comو غیره، تمام موارد دیگر را متوقف کنید. راننده حادثه 2026: حمله به زنجیره تامین Vercel از طریق اعتبارات CI / CD آسیب دیده، محیط را در هزاران انتشار مشتری نفوذ کرد.Type: Learn
Languages: Python (stdlib, toy PII-scrubber + audit-log writer)
Prerequisites: Phase 17 · 19 (AI Gateways), Phase 17 · 13 (Observability)
Time: ~60 minutes
اهداف یادگیری
- چهار الگوی ضد مدیریت مخفی (فایل های پیکربندی در VCS، env سخت کد، جداول برقی، کلید های جامد) را لیست کنید و جایگزین آنها را نام دهید.
- الگوی خیمه کشیدن دروازه های هوش مصنوعی را به عنوان استاندارد تولید 2026 توضیح دهید.
- پیاده سازی یک PII scrubber با توکن سازی ثابت (هم ارزش → هم جای گیرنده) به طوری که معنویات زنده بمانند.
- حادثه زنجیره تامین ورسل 2026 و آنچه در مورد بهداشت اعتبار CI / CD یاد می دهد را نام ببرید.
مشکل
یک کارآموزی انجام می دهد.envکلید های API. آنها آن را به سرعت حذف می کنند. کلید ها در تاریخچه git هستند GitGuardian اسکن آن را می گیرد، روند گردش شما "تیم را کند، 40 فایل پیکربندی را به روز کنید، تمام خدمات را دوباره به کار ببرید". 8 ساعت بعد، نیمی از خدمات شما زنده هستند و نیمی منتظر انتشار پنجره هستند.
به طور جداگانه، پیام های کاربر شامل "SSN من 123-45-6789 است". پیام به OpenAI می رود. شما BAA دارید اما سیاست داخلی شما این است که اطلاعات شخصی را قبل از ارسال پنهان کنید. شما این کار را نکردید.
به طور جداگانه، قاب LLM کلستر EKS شما می تواند به هر میزبان اینترنت دسترسی داشته باشد. کسی داده ها را از طریق جستجوی DNS به یک دامنه کنترل شده توسط مهاجم خارج می کند. هیچ چیزی مانع آن نمی شود.
امنیت خدمات LLM باید به سه متری پاسخ دهد: اعتبارات پشتيباني شده با خزانه، پاکسازی اطلاعات شخصی، فیلتر خروج شبکه، سوابق بازرسی
مفهوم
قفسه مرکزی + کشش نقش IAM
Vault: خندق هاشیکارپ، مدیر اسرار AWS، خندق کلید Azure، مدیر اسرار GCP. یک منبع حقیقت.
IAM role: app/gateway از طریق هویت IAM خود، نه یک کلید جامد، تأیید می کند. Vault رمز را برای عمر توکن باز می گرداند.
The AI-gateway pattern: دروازه کششOPENAI_API_KEYدر وقت درخواست، در خزانه چرخش کنید، درخواست بعدی کلید جدید را دریافت می کند. هیچ بازنویسی نیست.
سیاست گردش ≤ 90 روز
تمام کلید های API، توکن های ریشه خزانه، اعتبارات CI/CD، چرخش خودکار در هر کجا که امکان پذیر باشد، چرخش دستی ثبت شده و ردیابی شده است.
اسکن مخفی
- TruffleHog regex + entropy در commits
- GitGuardian تجاری، دقت بالا
- Gitleaks OSS، در CI اجرا می شود.
هر کاري که انجام ميده رو انجام بده، اگه راز جديد پيدا بشه، پي آر رو مسدود کن
حالت عدم اعتماد صفر
- MFA در تمام حساب ها مورد نیاز است.
- SSO از طریق SAML/OIDC
- RBAC (بنیاد نقش) یا ABAC (بنیاد ویژگی) برای دسترسی به دانه های نازک.
- توکن های کوتاه مدت (ساعت ها نه روزهای)
- حالت دستگاه فقط دستگاه های corp با رمزگذاری دیسک
شسته کردن PII / PHI
قبل از اينکه اين پيغام از زیرآغاز شما خارج بشه:
- شناسایی واحد (spaCy NER، Presidio، تجاری).
- ماسک ها و اجسام مربوطه:
"My SSN is 123-45-6789"→"My SSN is [SSN_TOKEN_A3F]". . - توکن سازی سازگار (مکان میش): نقشه های ارزش مشابه به همان صاحب مکان به طوری که LLM روابط را حفظ می کند.
- نقشه برداری معکوس برای پاسخ LLM
فیلترهای Regex ثابت الگوهای اساسی را میگیرند، NER بیشتر را میگیرند. از هر دو استفاده کنید.
محافظ های ورودی + ورودی
ورودی: بلاک کردن jailbreaks شناخته شده، موضوعات ممنوع؛ حد نرخ هر کاربر.
محصول: regex scrub برای مخفی های دزدیده شده (نمونه های کلید API، نمونه های ایمیل در زمینه های انکار) ، طبقه بندی کننده برای نقض سیاست.
لیست سفید خروج شبکه
خدمات LLM در زیر شبکه اختصاصی:
- لیست سفید:
api.openai.com،api.anthropic.com، نقطه های آخر ویکتور DB، نقطه های آخر قفسه - همه چيز ديگه: بذار پايين
- DNS از طریق حل کننده فقط اجازه دهنده (از خروج تونل DNS اجتناب کنید).
دفترچه حسابرسی
ثبت نام نام نام هر تماس LLM با:
- . زماني
- کاربر / مستاجر
- هاش فوری (نه پرسشی خام برای حریم خصوصی).
- مدل + نسخه
- نمره ها مهم هستن
- هزینه
- جواب هاش
- هر سفري که از ريل محافظت ميکنه
نگه داشتن مطابق با الزامات قانونی (SOC 2 1 سال، HIPAA 6 سال).
حادثه ورسل 2026
حمله زنجیره تامین: اعتبارات CI / CD آسیب دیده در محیط هزاران انتشار مشتری نفوذ می کند. درس: اعتبارات CI / CD برابر است. در قفسه ذخیره کنید. محدوده باریک است. به شدت چرخید.
شماره هایی که باید به یاد داشته باشی
- سیاست گردش: ≤ 90 روز
- هر کاري رو انجام بده: ترافل هاگ / گيت گاردين / گيتليک
- ورسل 2026: اعتبارات CI/CD به خطر افتاده → هزاران مشتری در محیط نفوذ کرده اند.
- نگه داشتن دفترچه بازرسی: SOC 2 = 1 سال، HIPAA = 6 سال.
ازش استفاده کن
code/main.pyیک دستگاه پاک کننده اطلاعات شخصی با توکن های ثابت و یک دفترچه حسابرسی تنها به عنوان یک ضمیمه را پیاده سازی می کند.
-باده
این درس به ما کمک می کندoutputs/skill-llm-security-plan.md. با توجه به دامنه نظارتی و وضعیت فعلی، برنامه های مهاجرت خزانه، پاکسازی، خروج، دفترچه حسابرسی
تمرینات
- فرار کن
code/main.pyدو تا پیام از همون ساینس رو بفرستین و تایید کنید که هر دو نفر یه جای هم دارن - سیاست خروج شبکه را برای یک برنامه کاربردی vLLM-on-EKS با نام OpenAI + Anthropic + Weaviate طراحی کنید.
- شما یک کلید را در تاریخچه git کشف می کنید. پاسخ درست چیست؟ کلید را چرخش کنید، تاریخچه را پاک کنید، یا هر دو؟ توجیه کنید.
- دفترچه حسابرسی شما 10 گیگابایت در روز رشد می کند. سطوح حفظ طراحی (گرم 30 روز، گرم 12 ماه، سرد 6 سال)
- استدلال کنید که آیا توکن سازی معکوس (بدل ارزش های واقعی به پاسخ LLM) ارزش پیچیدگی را نسبت به حفظ دید رکورد دارد.
اصطلاحات کلیدی
| Term | What people say | What it actually means |
|---|---|---|
| Vault | "secrets store" | Centralized credential management service |
| IAM role | "identity-based auth" | Role assumed by app; returns short-lived creds |
| OIDC for CI/CD | "cloud-issued tokens" | No static keys in CI — identity via OIDC |
| TruffleHog / GitGuardian / Gitleaks | "secret scanners" | Commit-time secret detection |
| RBAC / ABAC | "access control" | Role-based vs attribute-based |
| PII scrubbing | "data masking" | Remove or tokenize sensitive entities |
| Consistent tokenization | "stable placeholders" | Same value → same token each time |
| Mesh approach | "Mesh tokenization" | Semantic-preserving tokenization pattern |
| Egress whitelist | "outbound allowlist" | Only permitted domains reachable |
| Audit log | "immutable history" | Append-only record for compliance |
خواندن بیشتر
- Doppler — Advanced LLM Security
- Portkey — Manage LLM API keys with secret references
- Datadog — LLM Guardrails Best Practices
- JumpServer — Secrets Management Best Practices 2026
- Microsoft Presidio شناسایی اطلاعات شخصی و ناشناس سازی.
- HashiCorp Vault docs
This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.
Browse the complete course catalog or open this lesson on GitHub.