Phase 16: Multi-Agent & Swarms

أساليب الفشل MAST، التفكير الجماعي، الحضارة، الأخطاء في التقييم

Type: Learn

Languages: Python (stdlib)

Prerequisites: Phase 16 · 13 (Shared Memory), Phase 16 · 14 (Consensus and BFT), Phase 16 · 15 (Voting and Debate Topology)

Time: ~75 minutes

المشكلة

أنظمة متعددة الوكلاء تفشل في 41-86.7% من الوقت في المهام الحقيقية (قيس سيمري وزملاء 2025 هذا عبر 7 MAS مفتوح المصدر). وهذا لا يمكن تحديده عن طريق "إضافة المزيد من الوكلاء فقط".

ممارسة الإنتاج 2026 هي التعامل مع أوضاع الفشل كمدخلات التصميم. لا تكون بنيتك "جيدة بما فيه الكفاية" حتى تتمكن من الإشارة إلى كل فئة MAST وتسمية التخفيف الذي قمت بتنفيذه.

المفهوم

فئات MAST

Specification Problems (41.77% of failures).لم يتم تعريف مهمة العميل بشكل صارم بما فيه الكفاية.

• عدم وضوح الدور: وكلاء يعتقدون كلاهما أنهم المراجعون.
• المهمة تحدد بشكل أقل: "الجمع هذا" عندما يريد المستخدم زاوية محددة.
• معايير النجاح ضمنية: الوكيل لا يستطيع أن يقول ما إذا كان نجح.

التخفيف:

• اكتب عقدات الدور الصريحة. تنص طلبات كل وكيل على ما يفعل وما لا يفعل.
• اختبارات قبول لكل مهمة قبل أن يبدأ العميل، حدد "التي تمت تبدو مثل X"
• التحقق من المواصفات قبل الرحلة: يقوم وكيل منفصل بمراجعة تعريف المهمة قبل الإرسال.

Coordination Failures (36.94%).إصدارات الاتصالات أو إصدارات الحالة

أمثلة:

• اثنان من العملاء تحديث الحالة المشتركة دون التزامن.
• رسالة مفقودة بين العملاء (فشل الصف، توقيت).
• التجريد الحالي: العميل A يعتقد أن المهمة قد انتهت، العميل B لا يزال ينفذ.

التخفيف:

• الإصدارات المشتركة مع التزامن التفاؤل.
• الاعتراف الصريح بالرسائل الحرجة (تجربة أخرى حتى يتم إيقافها).
• نقاط تفتيش متزامنة الدولة بشكل دوري، اكتشاف التجول مبكراً.

Verification Gaps (21.30%).لا يوجد إختبار مستقل للخروج

أمثلة:

• عميل واحد يزعم النجاح، لا أحد يصدق.
• سلسلة من العملاء كل يثق في خروجه السابق.
• تغطية اختبارية مفقودة على السلوك المكوّن الناشئ.

التخفيف:

• وكيل التحقق المستقل (الدرس 13) إمكانية الوصول إلى المصدر المستقل فقط.
• عقد التسليم الصريح: "إنتاج A يجب أن يمر بالتحقق C قبل أن تبدأ B".
• تسجيل النتائج لتحليل ما بعد الحالة

عائلة التفكير الجماعي (arXiv:2508.05687)

خمسة أخطاء ذات صلة عندما يتضامن العاملون أو يحاكسون بعضهم البعض:

Monoculture collapse.نفس النموذج الأساسي أو بيانات التدريب → الأخطاء المتصلة عندما يشارك ثلاثة عملاء في ماجستير في التدريب، فإنهم يشاركون الهلوسات.

Conformity bias.يتكيف العملاء مع أشدّ صوتاً أو الأكثر ثقة، حتى عندما يكون خطأ.

Deficient ToM.الفاعلون يفشلون في أن يكونوا نموذجين لآراء بعضهم البعض؛ التنسيق ينهار (الدرس 18).

Mixed-motive dynamics.العملاء الذين لديهم حافزات متناغمة جزئيا يندفعون نحو وسط التسوية، والذي لا يرضي أحد.

Cascading reliability failures.نمط الخطأ في أحد المكونات يؤدي إلى نمط الخطأ في المكونات المعتمدة.

مثال على الضحايا

نمط حادثة كلاسيكية لعام 2026:

Copypayment service fails 10% of requests
   ↓
order agent retries payment (exponential backoff but naive)
   ↓
each retry is a new order-inventory check
   ↓
inventory service sees 2x normal load
   ↓
inventory service starts timing out
   ↓
every order retries inventory check
   ↓
inventory service sees 10x normal load
   ↓
cluster goes down

الإصلاح هو كلاسيكي:circuit breakersعندما يتجاوز معدل الخطأ في التيار التدريجي العدالة، يتم إصدار دائرة قصيرة مع نتائج مخزنة أو افتراضية. بالإضافة إلى ميزانيات محاولة إعادة المحدودة لكل طلب.

مفكّرات الدوائر هي واحدة من القليل من التخفيف من فشل العاملين المتعددين التي تستعيرها مباشرة من الأنظمة الموزعة دون تعديل.

تسمم الذاكرة (تم مراجعتها)

من الدروس 13: تصبح الهلوسة من أحد العاملين حقيقة ذاكرة مشتركة؛ العاملين في المستقبل يجادلون على حقيقة مسمومة.

التدهور التدريجي في الدقة هو العلامة. لا تحصل على حادث، ولكن تحصل على التحرك البطيء الذي يصعب الجذر.

التخفيف: سجل إضافة فقط، منشأ، مؤكدة غير قابلة للكتابة.

ستراتس عوامل متخصصة للكشف عن الفشل

STRATUS (NeurIPS 2025) يبلغ عن تحسن 1.5x في نجاح التخفيف عند نشر:

• Detection agent.مراقبة أنماط الأعراض (خلاف كبير، ارتفاعات في المحاولة، وتحرك دقة).
• Diagnosis agent.بالنظر إلى الأعراض، يُستنتج السبب الجذري المحتمل من تصنيف MAST.
• Validation agent.بعد تطبيق التخفيف، تحقق من ان الأعراض واضحة.

هذا هو استجابة الحوادث على النمط SRE، تطبق على أنظمة العملاء. يمكن أن تكون جميع الأدوار الثلاثة عملاء LLM مع طلبات متخصصة.

مراجعة حالة الفشل

أفضل الممارسات لعام 2026 هي مراجعة سنوية (أو لكل إصدار رئيسي) لنظام الفشل:

1. Trace sample.جمع 1000 أثر حقيقي للاقتحام
2. Categorize.للفشل في كل دليل، خريطة إلى MAST + مجموعةفكر الفئات.
3. Compute failure-by-category rate.أي فئات تهيمن على نظامك؟
4. Rank mitigations.أي حل سيُزيل أكثر الفشل؟
5. Pick 2-3 mitigations.تنفيذ؛ إعادة التدقيق الربع القادم.

التأديب هو أكثر أهمية من الخيارات المحددة بدون مراجعات، الفشل يدمج في الضوضاء ولا يتم التعامل معه بشكل منهجي أبدا.

عندما تفشل الأنظمة بصمت

فصيلة الفشل الأكثر خطورة هي الفشل الصامت. يمكن مراقبة النظام الذي يفشل بصوت عال (الفشل، الاستثناء، التحذير). لا يمكن الكشف عن النظام الذي ينتج نتائج معقولة ولكن خاطئة من خلال سجلات الاستثناء. لهذا السبب هي فجوات التحقق الأكثر تكلفة في الفشل على الرغم من أنها تبلغ 21.30% فقط من العد.

الاستثمار في:

• مراجعة البشر على أساس العينات
• اختبارات رجعة مجموعة بيانات ذهبية
• التحقق من نتائج مهمة

الفشل مقابل الفشل البطيء

بعض الفشل فوري؛ بعض بطيء. الفشل الفوري (توقيت التوقف، عدم مطابقة النظام، خطأ المؤلف) رخيص للكشف عنه. الفشل البطيء (سمم الذاكرة، وانحراف الزراعة الواحدة، عدم وضوح الدور) مكلف للكشف عنه ومنع.

خطوة هندسية 2026: أجهزة البروكسيات البطيئة الفشل حتى تتمكن من التقاط الانحراف قبل أن يصبح خطأ مرئي. معدل الاتفاق، معدل محاولة إعادة، توزيع طول الخروج، ومسافة التحرير بين إصدارات وكيل متتالية هي جميعها البروكسيات المفيدة.

بناءها

code/main.pyتطبيقات:

• FailureTaxonomy تصنف الحوادث المثيرة إلى فئات MAST + Groupthink.
• CircuitBreakerالنمط الكلاسيكي؛ يفتح عندما يتجاوز معدل الخطأ العد.
• RetryStormSimulator يظهر فشل التقييم؛ يطفئ قطع الدوائر / يطفئ.
• DetectionAgent مُطابقة الأعراض على طراز STRATUS

أركض

Copypython3 code/main.py

الناتج المتوقع:

• إعادة محاولة العاصفة بدون قطع الدوائر: تفجر أخطاء المخزون (تم محاكاة).
• مع قطع الدوائر: القفص عند العدوان؛ الاستجابة في وضع التدهور.
• وكيل الكشف يرمز على النمط ويعطي أسماء للفئة MAST.

استخدمها

outputs/skill-mast-auditor.mdيقوم بإجراء مراجعة في وضع الفشل على نظام متعدد الوكلاء على النمط MAST.

أرسله

الانضباط في حالة الفشل في الإنتاج:

• MAST audit per quarter.ليس سنوياً، فصائل تتغير مع نمو نظامك
• Circuit breakers everywhere.كل مكالمة خارجه إلى أي خدمة تعتمد عليها.
• Golden datasets.صغيرة عالية الجودة، تدقيقها يدوياً، اختبار التراجع ضدهم أسبوعياً
• STRATUS trio.الاكتشاف + التشخيص + عوامل التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحقق من التحققق من التحقق من التحققق من التحققق من التحققق من التحقق.
• Failure budget.المبلغ المبرر لعدد الفشل حسب الفئة. تجاوز الميزانية يثير محادثة توقف الشحن.

التمارين

1. أركضcode/main.pyتأكد من قطع الدوائر تغطية العاصفة التجربة مرة أخرى، وتغيير عتبة الفشل ومراقبة التنازل.
2. تنفيذslow-failure proxy: معدل الاتفاق بين 3 عوامل متوازية عندما ينخفض بشدة، أطلق تحذير. محاكاة التدفق في الزراعة الوحيدة عن طريق التنسيق التدريجي للخروج من العامل.
3. اقرأ Cemri et al. (arXiv:2503.13657). اختر واحد من 7 أنظمة MAS الخاصة بهم واخترع أفضل 3 فئات الفشل. كيف تتقارن هذه مع ما يتوقع MAST؟
4. اقرأ ورقة Groupthink (arXiv:2508.05687). حدد أي من الأنماط الخمسة هي الأكثر صعوبة في الكشف عنها في الإنتاج. اقترح مقياسًا استبداديًا.
5. تصميم ثلاثي التشخيص التشخيص التحقق التحقق للتحقق من التحقق من التشخيص للتحقق من التحقق من النشاط المتعدد العاملات المحددة التي تعرفها. ما هي الأعراض التي يراقبها التحقق؟ ما هي التخفيفات التي توصي بها التشخيص؟ كيف تؤكد التحقق من أن هذه الأعراض تعمل؟

الشروط الرئيسية

المزيد من القراءة

• Cemri et al. — Why Do Multi-Agent LLM Systems Fail? تصنيف MAST، NeurIPS 2025
• Groupthink failures in multi-agent LLMs الحصن الواحد، التوافق، وتصنيف الخمسة العائلات
• STRATUS — specialized agents for MAS incident response إدخال إجراءات NeurIPS 2025 (الاكتشاف + التشخيص + التحقق من التحقق من التحقق)
• Release It! — stability patterns (Nygard) إشارة مقاطع الدوائر القنونية
• Anthropic — Multi-agent research system ملاحظات عن وضع الفشل في الإنتاج

This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.

Browse the complete course catalog or open this lesson on GitHub.