Phase 16: Multi-Agent & Swarms

الإجماع والتسامح مع الخطأ البيزنطيني للعملاء

النظم الموزعة الكلاسيكية BFT تلبي LLM الاستوكاستية في 2025-2026 ظهرت ثلاثة اتجاهات بحثية: CP-WBFT(arXiv:2511.10400) يزن كل صوت بواسطة تحقيق ثقةDecentLLMs(arXiv:2507.14928) يذهب دون قائد مع مقترحات العمال المتوازية والجمع الهندسي-الوسطي. WBFT(arXiv:2505.05103) يجمع بين التصويت الموزن مع التجميع الهيئريكي لتمييز العقدة الأساسية والجوار. النتيجة التجريبية الصادقة من "هل يمكن للوكلاء الذكاء الاصطناعي الاتفاق؟" (arXiv:2603.01213) هي أن الاتفاقية المتوسطة هشة اليوم وكيل خدع واحد يمكن أن يفسد خليط من الوكلاء. إن إمكانية إعادة التأمين الضروري ضرورية ولكنها ليست كافية. هذه الدروس تبني بروتوكول BFT الحد الأدنى، وتحقن ثلاث هجمات محددة للعوامل (الكذبة البيزنطية، التوافق السيكوفانتي، وحالة الحذف المتصلة بالخطأ) ، وتقييم كيفية التعامل مع كل فاريانت توافق.

Type: Learn + Build

Languages: Python (stdlib)

Prerequisites: Phase 16 · 07 (Society of Mind and Debate), Phase 16 · 13 (Shared Memory)

Time: ~75 minutes

المشكلة

لديك وكلاء N LLM كل واحد ينتج إجابة. يختلفون. صوت الأغلبية يختار الخطأ لأن اثنين من العملاء مترابطين (الموديل الأساسي نفسه، بيانات التدريب نفسها، أنماط الفشل نفسها). وكيل ثالث يحدث أن يكون خاطئا بطريقة جديدة لذلك الأغلبية هي أغلبية كاذبة.

الآن أضف عامل خدع: إنه يكذب عمداً. أو عامل سيكوفانسي: يوافق على من تحدث آخر. في BFT الكلاسيكية، افتراض أن العقد البيزنطية هي جزء f < n/3والواقع في عام 2026 هو أن عقدة القانون العلمي هي مستقرة حتى عندما تكون صادقة، تتواصل بين النماذج، وتتأثر بمخرجات بعضها البعض. لا يمكنك أن تعاملهم كمتصوّرين مستقلين برنولي.

لا يخطئ BFT الكلاسيكي (PBFT ، 1999) إنه غير كامل. إنه يتعامل مع التحولات البيتية التعسفية. لا يتعامل مع "ثلاث عملاء صادقين يشتركون الهلوسة لأنهم يشتركون بيانات التدريب". هذا الدروس يبني على أساس PBFT وطبقات على ثلاثة تكييفات 2025-2026 .

المفهوم

ما الذي يمنحه لك الـ BFT الكلاسيكية

التسامح العملي للخطأ البيزنطيني (كاسترو و ليسكوف، OSDI 1999)f < n/3العقد البيزنطية. يتكون البروتوكول من ثلاث مراحل (إعداد مسبق، إعداد، الالتزام) و اثنين من البدائيات (رسائل موقعة، شهادات الاحتساب).n >= 3f + 1العقد الصادقة أو الخبيثة.

الضمانات قوية ولكن فرض:

Independent faults.البيزنطيون لا يتنسقون
Honest nodes are truly honest.صحيحة النتائج الصادقة ليست مشكلة، البروتوكول يضبط فقط الخلافات.
The question has a ground-truth answer.الإجماع على حقيقة خاطئة لا يزال إجماعًا.

وكلاء القانون ينتهكون كل ثلاثة. وكلاء يعملون على نفس النموذج الأساسي يشتركون في الأخطاء. LLM "صادق" لا يزال يوهم. وعلى الأسئلة الغامضة، "الحقيقة" هي ما يقرر الوكلاء لا يوجد أوراكل خارجي.

الهجمات الثلاثة الخاصة بـ "إم إل إم"

Byzantine lie.وكيل واحد يخرج إجابة خاطئة عمداًf < n/3. . .

Sycophantic conformity.يقرأ أحد الوكلاء إجابات الآخرين قبل التصويت ويوافق مع آخر من تحدث. ليس ضارة، ولكنه يتوافق مع أصوات الأشد صوتًا. لا يمنع BFT الكلاسيكي هذا لأن الوكيل يمر كل فحص توقيع.

Correlated-error monoculture.ثلاثة عملاء يشتركون في نموذج أساسي. هم يسهلون نفس الإجابة الخطأ. غالبية خاطئة. BFT الكلاسيكية لا تساعد لأن كل ثلاثة "بشكل صادق" توافق.

ردود الأفعال 2025-2026

CP-WBFT(arXiv:2511.10400) اعتماد-بثبت وزنه BFT. يعلق كل ناخب مسح ثقة إلى إجابته (احتمال تقرير ذاتي، أو توقعات نموذج قياس منفصل). يقياس وزنه التصويت بثقة. أبلغ +85.71% تحسن BFT على الرسوم البيانية الكاملة. التخفيف من: التوافق المثابر (يميل العملاء الموافقة إلى أن يكون لديهم ثقة منخفضة في موقفهم المتطوع).

DecentLLMs(arXiv:2507.14928) بدون قائد. يقدم عملاء العمال بالتوازي، يقدم عملاء المقيّمين مقترحات، والجواب النهائي هو المتوسط الهندسية للمواقف التي تم تسجيلها. قوية عندما f < n/2التخفيف من: الكذبة البيزنطية والخطأ المتصل (الوسط الجغرافي قوي إلى المستويات الخفيفة ويركض نحو العنقود الكثيف ، وليس المتوسط المتحيز على النموذج).

WBFT(arXiv:2505.05103) وزن BFT مع التجميع الهيئريكي. يتم تعيين أوزان التصويت حسب جودة الاستجابة بالإضافة إلى درجة الثقة التي تعلمتها من التاريخ. يجب أن يصل عملاء الكلاستير إلى Core و Edge ؛ يجب أن يصل العملاء الأساسيين إلى توافق أولاً ، يتبعهم عملاء Edge. التخفيف من: التوسع (الاتفاق الأساسي صغير وسرع) و جزئيا للاشتراك (يمكن اختيار Core للتنوع).

تجربي: "هل يمكن لوكلاء الذكاء الاصطناعي الاتفاق؟" (arXiv:2603.01213)

تقيس الورق الاتفاقية المتعددة (مثليات الـLLM تتفق على قيمة رقمية واحدة) عبر نماذج حدود متعددة.

حتى بدون أي خصوم، لا يتفق وكلاء LLM على الأسئلة المتوسطة عند معدلات تتجاوز 30٪ على العديد من المعايير.
وكيل واحد يتبنى شخصية خدعة يمكن أن يسحب إجماع خليط من العاملين 40+ نقطة مئوية من خط الأساس الصادق.
معدلات عدم الوفاق تتوافق مع تنوع النموذج مجموعات متجانسة تختلف أكثر من مجموعات متجانسة (الجيد: الأخطاء غير المتصلة) ولكن أيضاً تتحرك ببطء (سيئة: وقت أطول للتوافق).

المخرج: يقدم لك BFT آلة لمواءمة المخرجات، لكنه لا يخبرك ما إذا كانت المخرجات المواءمة صحيحة. مزج مع التحقق (المرحلة 16 · 08 تخصص الدور) ، والتنوع (مرحلة 16 · 15 اختلافات النقاش) ، وكلاء التقييم (مرحلة 16 · 24 مقاييس).

البروتوكول الأساسي، تم تجريدها

الحد الأدنى من الجولة المطلوبة للعملاء في مجال القانون:

1. task arrives; each agent i produces answer a_i
2. each agent attaches confidence probe c_i in [0, 1]
3. aggregator collects (a_i, c_i) from all n agents
4. aggregator groups by semantic cluster (equivalent answers)
5. aggregator computes weight for each cluster C:
     w(C) = sum_{i in C} c_i
6. winner = cluster with max weight, if max > threshold * sum(c_i)
   else: retry or escalate
7. minority clusters logged with provenance for post-hoc audit

الخطوة التجميعية التعريفية هي التحول المحدد لدرجة الماجستير. الجوابين "تقارير الدراسة 4.2%" و "تحسن 4.2%" هما نفس المجموعة. سيغيب عن هذا التحقق من المساواة الحزمية الباهظة. في الإنتاج، استخدم نموذج إضافة رخيص أو تشكيل صريح.

تحديد العدوان

نعمthresholdالمعلم يقرر متى تقبل ومتى تحاول مرة أخرى. منخفض جدا: تقبل الأغلبية الضعيفة. عالية جدا: لا تقبل أي شيء.n=5-7العاملين، أعلى بالنسبة للأصغر nتحت عتبة، تصاعد إلى البشر أو إلى مجموعة من العملاء مختلفة.

حيث لا يساعد التوافق

Ambiguous questions.إذا لم يكن هناك حقيقة أساسية في السؤال، فإن الإجماع هو رأي.
Compound questions."كتابة الرمز وتفسيرها" اثنين من الإجابات. التصويت على كل مستقلة.
Adversarial multi-round.إذا كان العملاء قادرين على مراقبة الجولات السابقة ومقارنة (نقاش Du 2023) ، فإنهم يبدأون في الاتفاق مع بعضهم البعض بغض النظر عن الحقيقة.

بناءها

code/main.pyتطبيقات:

AgentVoter سياسة مكتوبة مع (الرد، الثقة).
MajorityVote التعددية الكلاسيكية
CPWBFT التصويت الموزن على الثقة مع التجميع الترقمي.
DecentLLMs جمع الوسط الهندسي على المقترحات التي تم تسجيلها.
Scenarioيدير كل جمع تحت ثلاثة أنماط هجوم.

أنماط الهجوم المطبقة:

byzantine: وكيل يكذب بثقة عالية.
sycophancy: وكيل واحد نسخ الإجابة الأولى التي يراه، مع نفس الثقة.
monoculture: ثلاثة عملاء يشتركون في إجابة خاطئة (خطأ متواصل) مع ثقة معتدلة.

أركض

python3 code/main.py

الناتج المتوقع: جدول من (الهجوم، المجمع) -> الإجابة النهائية، مع تسليط الضوء على الإجابة الصحيحة. تفشل التعددية في حالة الزراعة الواحدة. يقلل وزن الثقة من CPWBFT من التخفيف. يسحب المتوسط الهندسي لـ DecentLLMs نحو الكلاستر النزيه عندما تكون الزراعة الواحدة أقل من نصف السكان.

استخدمها

outputs/skill-consensus-designer.mdيخطط بروتوكول توافق على مجموعة متعددة الوكلاء: طريقة التجميع والوزن والحد والسياسة التصعيد لدورات الفرعية.

أرسله

قبل إرسال أي آلية توافق:

Attack-test with at least the three patternsيجب أن يفشل بروتوكولك بشكل متوقع، وليس بصمت
Log every minority clusterمجموعة الأقليات هي نظام التحذير المبكر للخطأ المتصل
Enforce bounded rounds.لا "استمر في النقاش حتى يتفق"
Separate agreement from correctness.إنتاج الإجماع يذهب إلى المؤكد؛ المؤكد مستقل عن المجموعة.
Monitor the agreement rate.ارتفاع حاد يعني تعصب التوافق، وانخفاض حاد يعني التحرك النموذجي.

التمارين

أركضcode/main.py. تأكيد التعدد يفشل الهجوم على الزراعة الواحدة ولكن CPWBFT يخفف جزئيا منه عندما يكون ثقة الزراعة الواحدة أقل من 0.7.
أضف نمط هجوم رابع:silent abstention رفض أحد الوكلاء الإجابة ("لا أعرف"). كيف يجب على كل جمعي التعامل مع الامتناع؟ تنفيذ اختيارك.
تغيير التجميع الترجموي من تشكيل السلاسل إلى تشابه التضمين (استخدم أي نموذج متضمين مفتوح المصدر). ماذا يحدث لهجوم التضامن؟
قراءة CP-WBFT (arXiv:2511.10400). تنفيذ خطوة تحديد دراسة الثقة (نموذج تحديد مقياس منفصل يحقق من ثقة كل وكيل ذاتية الإبلاغ عنها). قياس زيادة الدقة على سيناريو الزراعة الواحدة.
اقرأ "هل يمكن للوكلاء الذكاء الاصطناعيين التوافق؟" (arXiv:2603.01213). قم بتكرار تجربة اتفاقية مستوى بسيطة: ثلاثة وكلاء، سؤال مستوى واحد، طلب الشخص الخادع. هل يكتشف CPWBFT أو DecentLLMs؟

الشروط الرئيسية

Term	What people say	What it actually means
BFT	"Byzantine fault tolerance"	Castro-Liskov 1999 protocol for consensus with `f < n/3` arbitrary faults.
Byzantine	"Any bad behavior"	A node that can lie, drop messages, fail silently — anything but crash safely.
Confidence probe	"How sure are you?"	Self-reported or calibrator-predicted probability attached to a vote.
Semantic clustering	"Same answer, different words"	Grouping equivalent answers before counting votes.
Geometric median	"Robust center"	The point minimizing sum of distances to sample points. Robust to outliers, unlike the mean.
Monoculture	"Same model, same failures"	Correlated errors when agents share training data or base model.
Sycophantic conformity	"Agreeing with the loud voice"	An agent's vote biases toward whoever spoke first/loudest.
Core/Edge	"Hierarchical BFT"	WBFT split: small Core consensus first, Edge nodes follow. Bounds latency.