Phase 16: Multi-Agent & Swarms

حالت شکست MAST، تفکر گروهی، مونوکلتور، خطاهای کاسک

طبقه بندی مرجع برای سال 2026 اینهMAST(Cemri et al., NeurIPS 2025, arXiv:2503.13657), حاصل از 1642 ردیابی اجرای در 7 حالت پیشرفته منبع باز MAS نشان دادن 41–86.7% failure rate. سه دسته اصلی: Specification Problems(41.77%) عدم وضوح نقش، تعریف های نامشخصی وظایفCoordination Failures(36.94%) شکستگی ارتباطات، عدم همگام سازی حالتVerification Gaps(21.30%) عدم تأیید، عدم وجود چک کیفیت.Groupthinkخانواده (arXiv:2508.05687) اضافه می کند: سقوط یک فرهنگ (مودل پایه مشابه → شکست های مرتبط) ، تعصب مطابق (اعمالی که اشتباهات یکدیگر را تقویت می کنند) ، نظریه ضعیف ذهن، دینامیک انگیزه های مخلوط، شکست های قابل اعتماد در کاسک. مثال کاسک: طوفان های آزمایش مجدد که در آن شکست پرداخت باعث تکرار سفارش می شود، که باعث تکرار آزمایش موجودی می شود، که خدمات موجودی را بیش از حد می سوزد (۱۰ بار بار در ثانیه نیاز به قطع مدار). مسمومیت حافظه: توهم یک عامل به حافظه مشترک وارد می شود، عوامل پایین به عنوان واقعیت آن را در نظر می گیرند؛ دقت به تدریج کاهش می یابد، و تشخیص علت ریشه دردناک می کند.STRATUS(NeurIPS 2025) از طریق عوامل تشخیص / تشخیص / اعتبار سنجی تخصصی 1.5x بهبود موفقیت کاهش را گزارش می دهد. این درس به عنوان اهداف مهندسی درجه اول با حالت های شکست برخورد می کند.

Type: Learn

Languages: Python (stdlib)

Prerequisites: Phase 16 · 13 (Shared Memory), Phase 16 · 14 (Consensus and BFT), Phase 16 · 15 (Voting and Debate Topology)

Time: ~75 minutes

مشکل

سیستم های چند عامل 41-86.7% از زمان در وظایف واقعی شکست می خورند (Cemri و همکارانش در سال 2025 این را در 7 MAS منبع باز اندازه گیری کردند). این با "فقط عوامل بیشتری اضافه کنید" قابل تنظیم نیست. شکست ها دلایل ساختاری دارند. تاکسونومی MAST به شما دسته ها را می دهد. این درس هر دسته را به یک الگوی تشخیص، تشخیص و کاهش مشخص نقشه می زند تا اعداد به نظر خودخواه متوقف شوند.

شیوه تولید 2026 این است که حالت های شکست را به عنوان ورودی طراحی در نظر بگیرید. معماری شما "به اندازه کافی خوب" نیست تا زمانی که بتوانید به هر دسته MAST اشاره کنید و کاهش کاری که انجام داده اید را نام ببرید.

مفهوم

دسته بندی های MAST

Specification Problems (41.77% of failures).وظیفه مامور به اندازه کافی مشخص نشده بود.

دوتا نقش: دو عامل هر دو فکر می کنند که آنها بازبینی کننده هستند.
وظیفه زیرنویس شده: "این را خلاصه کنید" وقتی کاربر زاویه خاصی را می خواست.
معیار موفقیت ضمنی: مامور نمی تواند بگوید که آیا موفق شده است.

کاهش:

قراردادهای صریح نقش را بنویسید. هر یک از عوامل در پیامک نشان می دهد چه کاری انجام می دهد و چه کاری انجام نمی دهد.
قبل از اينکه مامور شروع بشه، تعريف کن "کار انجام شده به نظر مياد X"
بررسی مشخصات قبل از پرواز: یک مامور جداگانه قبل از فرستادن تعریف وظایف را بررسی می کند.

Coordination Failures (36.94%).ارتباطات یا خرابات حالت

نمونه هایی:

دو عامل بدون همگامگي حالت مشترک رو به روز مي کنن
پیام گم شده بین ماموران (شکست قطار، زمان توقف)
حالت حرکت: عامل A فکر می کند که کار انجام شده است؛ عامل B هنوز در حال اجرا است.

کاهش:

حالت مشترک نسخه ای با مواقعی خوش بینانه
تایید صریح برای پیام های انتقادی (بازگیری تا زمان ارسال)
بازرسی های متزامن با حالت دوره ای؛ کشف حرکت زودرس.

Verification Gaps (21.30%).هیچ چک مستقل در خروجی نیست

نمونه هایی:

يه مامور ادعا ميکنه موفق شده، هيچکس تصديق نميکنه
هر يک از عوامل زنجیره اي به قدرت پيشوا اعتماد ميکنه
پوشش تست در رفتار های ترکیب جدید از دست رفته

کاهش:

عامل مستقل تأیید کننده (درسه 13) دسترسی به منبع مستقل تنها برای خواندن.
قرارداد صریح انتقال: "خروجی A باید قبل از شروع B از چک C عبور کند".
ثبت نتایج برای تجزیه و تحلیل پس از هاک

خانواده ی تفکر گروهی (arXiv:2508.05687)

پنج شکست مرتبط با زمانی که عوامل همگما یا تقلید یکدیگر را:

Monoculture collapse.همان مدل پایه یا داده های آموزشی → اشتباهات مرتبط. وقتی سه عامل یک LLM را به اشتراک می گذارند، آنها توهمات آن را به اشتراک می گذارند.

Conformity bias.ماموران با بلند ترين و مطمئن ترين همسال خود را به جاي خودش تعويض مي کنند، حتي وقتي که اشتباه ميکنن.

Deficient ToM.عوامل نتوانند باورهای یکدیگر را شبیه سازی کنند؛ هماهنگی از هم جدا می شود (درسی 18).

Mixed-motive dynamics.ماموران با انگیزه های جزئی متفق به سمت وسط سازش حرکت می کنند که هیچ کس را راضی نمی کند.

Cascading reliability failures.الگوی خطا یک قطعه باعث ایجاد الگوهای خطا در قطعات وابسته می شود.

نمونه ای از طوفان های بازتجربه

یک الگوی کلاسیک حادثه 2026:

payment service fails 10% of requests
   ↓
order agent retries payment (exponential backoff but naive)
   ↓
each retry is a new order-inventory check
   ↓
inventory service sees 2x normal load
   ↓
inventory service starts timing out
   ↓
every order retries inventory check
   ↓
inventory service sees 10x normal load
   ↓
cluster goes down

درست کردن کلاسیک است:circuit breakers. وقتی نرخ خطا در جریان پایین از حد حد عبور کند، مدار کوتاه با نتایج پیش فرض یا پیش فرض.

قطع مدار یکی از چند عامل کاهش شکست است که شما به طور مستقیم از سیستم های توزیع شده بدون تغییر قرض می گیرید.

مسمومیت حافظه (بررسی مجدد)

از درس ۱۳: توهم یک عامل به واقعیت حافظه مشترک تبدیل می شود؛ عوامل پایین تر در مورد واقعیت مسموم استدلال می کنند.

به تدریج کاهش دقت نشانه ای است. شما تصادف نمی کنید، شما حرکت کند می کنید که مشکل ریشه دارد.

کاهش: فقط ثبت اضافه، اصل، تایید کننده غیر قابل نوشتن. قبلا در درس 13 پوشش داده شده است.

STRATUS مواد تخصصی برای تشخیص شکست

STRATUS (NeurIPS 2025) گزارش 1.5x بهبود موفقیت کاهش زمانی که شما:

Detection agent.ساعت ها برای الگوهای علائم (مختلفی بالا، افزایش دوباره، حرکت دقیق)
Diagnosis agent.با توجه به علائم، علت اصلی را از تاکسونومی MAST به طور بالقوه تحلیل می کند.
Validation agent.بعد از استفاده از روش کاهش، بررسی کنید که علائم واضح است.

این واکنش حادثه به سبک SRE است که به سیستم های عامل اعمال می شود. سه نقش می تواند همه ی آنها ماموران LLM با پیام های تخصصی باشند.

حسابرسی حالت شکست

بهترین شیوه برای سال 2026 یک حسابرسی سالانه (یا هر انتشار عمده) در حالت شکست است:

Trace sample.1000 تا اثر اعدام واقعي جمع کن
Categorize.برای هر شکست ردیابی، نقشه به MAST + گروه فکر دسته بندی.
Compute failure-by-category rate.کدوم دسته ها نظام شما رو تحت کنترل قرار ميده؟
Rank mitigations.کدام راه حل بیشتر شکست ها را از بین می برد؟
Pick 2-3 mitigations.اجرای آن؛ بازرسی سه ماهه آینده

نظم مهم تر از انتخاب های خاص است بدون حسابرسی، شکست ها به شور می پیوندند و هرگز به طور سیستماتیک حل نمی شوند.

وقتی سیستم ها به طور خاموش شکست می خورند

خطرناک ترین دسته شکست، شکست صحیح خاموش است. یک سیستم که به شدت شکست می خورد (صدم، استثناء، هشدار) می تواند نظارت شود. یک سیستم که نتایج قابل باور اما اشتباه را تولید می کند، نمی تواند با استفاده از دفترچه های استثناء شناسایی شود. به همین دلیل شکاف های تأیید گران ترین دسته برای هر شکست هستند، اگرچه تنها 21.30% از نظر شمارش هستند.

سرمایه گذاری در:

بررسی انسانی مبتنی بر نمونه
تست های بازپسین مجموعه داده های طلایی
کراس-آژانت کراس-چیکنگ در نتایج مهم.

شکست در مقابل شکست آهسته

برخی از شکست ها بلافاصله هستند؛ برخی آهسته هستند. شکست های فوری (وقت پایان، عدم مطابقت طرح، خطای نویسنده) برای تشخیص ارزان هستند. شکست های آهسته (سمیدن حافظه، انحراف یک کلچر، دوگلو بودن نقش) برای تشخیص و جلوگیری گران است.

حرکت مهندسی 2026: پروکسی های شکست آهسته ابزار به طوری که شما می توانید حرکت را قبل از اینکه یک خطا قابل مشاهده شود، بگیرید. نرخ توافق، نرخ تکرار، توزیع طول خروجی و فاصله ویرایش بین نسخه های عامل متوالی همه پروکسی های مفید هستند.

آن را بسازید

code/main.pyابزار:

FailureTaxonomy حوادث شبیه سازی شده را به دسته بندی MAST + Groupthink طبقه بندی می کند.
CircuitBreaker الگوی کلاسیک؛ وقتی نرخ خطا از حد عبور می کند باز می شود.
RetryStormSimulator شکست کاسکاد را نشان می دهد؛ شکاف مدار را روشن می کند.
DetectionAgent نسخه ای از "استراتوس"

راه رفتن:

python3 code/main.py

تولید انتظار می رود:

طوفان دوباره بدون قطع مدار: خطاهای موجودی منفجر می شوند (تخونیک)
با قطع مدار: کلاه در حد، پاسخ های حالت تخریب شده ارائه شده است.
عامل تشخیص، الگوی را نشان می دهد و دسته MAST را نام می دهد.

ازش استفاده کن

outputs/skill-mast-auditor.mdیک حسابرسی حالت شکست در سبک MAST را در یک سیستم چند عامل اجرا می کند. ردیابی → طبقه بندی → رتبه بندی کاهش.

-باده

نظم در حالت شکست در تولید:

MAST audit per quarter.نه سالانه، با رشد سیستم شما دسته ها تغییر می کنند.
Circuit breakers everywhere.هر تماس خارج شده به هر سرویس وابسته. حد افتتاح پیش فرض با میزان خطای 5-10٪
Golden datasets.اونها کوچک و با کیفیت هستن، دست به دستشون داده شده و هر هفته باشون تست بازپسين مي کنن
STRATUS trio.تشخیص + تشخیص + اعتبارگرایان نظارت بر تولید. فقط با عامل تشخیص شروع کنید؛ تشخیص را در زمانی اضافه کنید که علائم سر و صدا باشد.
Failure budget.SLO رو به طور واضح برای نرخ شکست در دسته بندی ها بیان کنید. بیش از بودجه باعث شروع مکالمه توقف حمل و نقل می شود.

تمرینات

فرار کنcode/main.py. برقراري که قطع مدار طوفان رو باز کنه . درآمدهاي شکست رو عوض کنيد و تعديل رو مشاهده کنيد
اجرای یکslow-failure proxy: نرخ توافق در سه عامل موازی. وقتی به شدت کاهش می یابد، هشدار را فعال کنید. یک حرکت یک واحد کشت را با پیوستن به تدریج به تولیدات عامل شبیه سازی کنید.
Cemri et al. (arXiv:2503.13657) را بخوانید. یکی از 7 سیستم MAS خود را انتخاب کنید و سه دسته شکست اصلی را نقشه برداری کنید. این ها چگونه با آنچه MAST پیش بینی می کند مقایسه می شوند؟
مقاله Groupthink را بخوانید (arXiv:2508.05687). مشخص کنید که کدام از پنج الگوی در تولید سخت ترین تشخیص است.
یک سه نفر تشخیص تشخیص تشخیص تایید STRATUS برای یک سیستم چند عامل خاص طراحی کنید که می دانید. تشخیص برای چه علائم نظارت می کند؟ تشخیص چه کاهشاتی را توصیه می کند؟ تایید چگونه کار می کند؟

اصطلاحات کلیدی

Term	What people say	What it actually means
MAST	"The 2026 taxonomy"	Cemri 2025; 3 root categories + 14 sub-types of failures.
Specification Problem	"Role ambiguity"	Task or role under-defined; agents do not know what to do.
Coordination Failure	"State drift"	Communication or sync breakdown between agents.
Verification Gap	"No one checked"	Outputs accepted without independent validation.
Groupthink family	"Homogeneity failures"	Monoculture, conformity, deficient ToM, mixed-motive, cascading.
Monoculture collapse	"Same model, same hallucinations"	Correlated errors from shared base model or training data.
Retry storm	"Cascading error amplification"	One failure triggers retries which amplify load downstream.
Circuit breaker	"Fail fast on error rate"	Open when error rate exceeds threshold; short-circuit with default.
STRATUS	"Incident response trio"	Detection + diagnosis + validation agents. 1.5x mitigation success.
Memory poisoning	"Hallucinations propagate"	Shared-memory fact tainted; downstream agents reason on poison.

خواندن بیشتر

Cemri et al. — Why Do Multi-Agent LLM Systems Fail? تگزینوم MAST، NeurIPS 2025
Groupthink failures in multi-agent LLMs مونوکلچر، مطابقت و طبقه بندی پنج خانواده
STRATUS — specialized agents for MAS incident response ورود به روند NeurIPS 2025 (انتخاب + تشخیص + اعتبار)
Release It! — stability patterns (Nygard) مرجع کنونیک قطع مدار
Anthropic — Multi-agent research system یادداشت های حالت شکست تولید

This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.

Browse the complete course catalog or open this lesson on GitHub.