Phase 16: Multi-Agent & Swarms

نظرية العقل والتنسيق الناشئ

لي وغيره (arXiv:2310.10701) أظهر أن وكلاء ماجستير في الدراسة العليا في معرض تعاونية لعبة نصية emergent high-order Theory of Mind(ToM) التفكير حول ما يعتقده وكيل آخر حول معتقدات وكيل ثالث ولكن يفشل في التخطيط على الأفق الطويل بسبب إدارة السياق والوهلوسة. قياس ريدل (arXiv:2510.05174) التآزر في ترتيب أعلى في جميع أنحاء السكان ووجد أن onlyحالة ToM-prompt تنتج التمييز المرتبط بالهوية والتكميلية المستهدفة؛ لا تظهر LLM ذات القدرة المنخفضة إلا ظهورًا مزيفًا. وهذا يعني أن ظهور التنسيق هو سريع مشروط ويعتمد على النموذج، وليس مجانا. هذا الدروس يطبق عاملًا أدنى من ذوي الوعي بالتعاون، ويقوم بمهمة تعاونية مع أو بدون طلب من التعاون، ويقاس دلتا التنسيق ضد بروتوكول Riedl 2025.

Type: Learn + Build

Languages: Python (stdlib), TypeScript

Prerequisites: Phase 16 · 07 (Society of Mind and Debate), Phase 16 · 17 (Generative Agents)

Time: ~75 minutes

المشكلة

التنسيق متعدد الوكلاء غالبا ما يبدو سحريا: الوكلاء تقسم العمل، تتوقع بعضها البعض، وتجنب الإفراج. عادة ما يكون هذا "الظهور" هو عنصر من الهندسة السريعة

استنتاج ريدل لعام 2025 أكثر صرامة: في ظل ظروف خاضعة للسيطرة، لا يظهر التنسيق إلا عندما يتم تحفيز العملاء على التفكير حولother agents' minds(ToM). بدون خطوة ToM، حتى النماذج القوية تظهر أنماط التنسيق التي لا تتحمل التحكم الإحصائي. هذا مهم بالنسبة للإنتاج: الفرق ترسل "تنسيق وكلاء متعددين" ميزات تعتمد على خطوة و هشة.

هذا الدروس يعامل ToM كقدرة محددة (التفكير حول المعتقدات حول المعتقدات) ، ويتم بناء عامل أدنى ToM-وعي، ويقيس ما هو التنسيق الحقيقي يبدو مثل مقابل ما هو ترتدي الفوركس يبدو مثل.

المفهوم

ما تعنيه "TOM"

علم النفس التنموي: يعتقد الطفل في الثالثة من عمره أن عالم الآخر يطابق عالمهم. يفهم الطفل في الخامسة من عمره أن الآخرين لديهم معتقدات مختلفة. يعتقد الطفل في السابعة من عمره أن الكرة تحت الكأس. هذه هي صفراً، أو الأول، أو الثاني من النظام ToM.

بالنسبة لعملاء ماجستير في مجال القانون، توم يأمر الخريطة إلى:

Zeroth-order:لا يوجد نموذج للآخرين، الوكيل يعمل فقط بناء على ملاحظاته
First-order:العميل لديه نموذج من معتقدات العميل الآخر "أليس تؤمن بـ "إكس
Second-order:"أليس) تعتقد أن (بوب)) يعتقد (إكس) "

وجدت Li et al. 2023 أن ToM من الدرجة الأولى والثانية تظهر في وكلاء LLM في الألعاب التعاونية ولكن تتدهور مع الأفق الطويل والتواصل غير الموثوق به.

اختبار سالي-آن، في المختصر

اختبار إيمان كاذب عام 1985: تضع سالي مرمرًا في السلة A ، تغادر. تنتقل آن إلى السلة B. أين ستبحث سالي عندما تعود؟ يقول طفل ذو ToM من الدرجة الأولى السلة A (اعتقاد سالي يختلف عن الواقع). يقول طفل بدون السلة B.

تمكن الـ LLM من عصر GPT-4 من اجتياز الاختبارات على نمط Sally-Anne عندما يتم وضعها بوضوح. فإنها تفشل عندما يكون السرد طويلًا أو يتغير المشهد عدة مرات أو يتم صياغة السؤال بشكل غير مباشر. هذه هي الحالة العملية لعام 2026 لـ ToM في LLM الإنتاج.

قياس التنسيق في ريدل

قامت ريدل (arXiv:2510.05174) ببناء اختبار على نطاق السكان: N العاملين، هدف تعاوني، ظروف سريعة متغيرة.

Identity-linked differentiation.هل يتطور العملاء لتمييز دور مستقر مع مرور الوقت؟
Goal-directed complementarity.هل تصرفات العملاء تكمل بعضها البعض (مهام فرعية مختلفة) بدلاً من التكرار؟
Higher-order synergy.مقياس إحصائي لمعرفة ما إذا كانت المجموعة تحقق ما لم يتمكن أي مجموعة فرعية من تحقيقه.

النتيجة: فقط في حالة استئناف ToM تنتج جميع المقاييس الثلاثة إشارة فوق الخط الأساسي. دون استئناف ToM ، تتحرك المقاييس بالقرب من فرصة لنماذج القدرة المتوسطة. تظهر النماذج الكبيرة بعض التنسيق دون استئناف ToM صريح ولكن التأثير أصغر من الاستئناف الصريح.

وهم التنسيق

بدون مراقبة إحصائية، "تنسيق الطوارئ" في الاحتفالات غالبا ما يعكس:

الهندسة السريعة التي تشتوي بالتنسيق (الجهاز يطلب من يقول "العمل معا").
تحيز المراقب (نرى أنماط نتوقع).
اختيار بعد المباراة من الركضات الناجحة.

يجب أن تعتبر أنظمة الإنتاج التي تسويق "تنسيق الطوارئ" دون إشارة قابلة للقياس تسويقية.

عميل ذو أدنى معرفة

الهيكل:

code

agent state:
  own_beliefs:    {facts the agent believes}
  other_models:   {other_agent_id -> {beliefs_the_agent_attributes_to_them}}
  actions_last_N: [history of others' actions]

observation update:
  - update own_beliefs from direct observation
  - update other_models[agent_id] from their action + prior beliefs

action selection:
  - enumerate candidate actions
  - for each, predict what each other agent will do next given their modeled beliefs
  - pick action that maximizes joint outcome under those predictions

نعمother_modelsسمة ToM هي حالة ToM. النظام الأول ToM يحتفظ بمستوى واحد فقط. النظام الثاني يضيفother_models[i][other_models_of_j]ما أعتقد أن العميل أعتقد أن العميل جي يعتقد.

لماذا يؤلم الأفق الطويل

وثيقة لي وغيره: تسبب حدود السياق في أن ينسى العاملون أي معتقد ينتمي إلى من. يضيف الهلوسة معتقدات كاذبة إلى نماذج العاملين الآخرين. كلاهما ينتج أخطاء "ظننت أنه اعتقد X" تتزايد مع مرور الوقت.

التخفيفات الوثيقة في الورقة وملاحقات في الفترة من 2024 إلى 2026:

Explicit ToM state in the prompt.النموذج المُهيّن: {agent_id: belief_list}. يجبر على الاستيلاء للحفاظ على التزام الهوية-الإيمان.
Shorter reasoning chains.تحديثات أقل من ToM في كل دور يقلل من الهلوسة المركبة.
External ToM store.الحفاظ على النموذج خارج سياق ماجستير القانون؛ حقن فقط الأجزاء ذات الصلة في كل دور.

عندما تفشل التوتر في الإنتاج

Adversarial settings.وكلاء مع ToM جيدة أسهل للتلاعب (يمكنك أن نموذج ما نموذج لك، ثم استغلال).
Heterogeneous teams.عندما تكون النماذج مختلفة، فإن نموذج ToM الذي يعمل لمعارض واحد لا يُعظم.
Ground-truth-dependent tasks.التفكير هو حول المعتقدات، إذا كان الصواب يعتمد على الحقائق، يمكن أن يكون التفكير هو الاهتمام.

التنسيق الذي يمكنك قياسه

ثلاثة إشارات عملية أن تنسيق الفريق حقيقي بدلاً من التنقل السريع:

Complementarity over time.على مهام متعددة التحولات، هل تتضمن أعمال العملاء مهام فرعية منفصلة؟
Anticipation.هل عمل العميل A في المنحو T + 1 يعتمد على توقعات حول عمل B في T + 2 التي تبين أنها صحيحة؟
Correction.عندما يخطئ A قراءة اعتقاد B في المنحو T، هل A تصحيح من خلال المنحو T + 2؟

هذه القواعد قابلة للقياس في نظام متعدد الوكلاء المسجلين. وهي النسخة الجوهرية من رواية "التنسيق".

بناءها

code/main.pyتطبيقات:

ToMAgent تتبع معتقداتها الخاصة ونماذج معتقدات العميل الآخر.
مهمة تعاونية: يجب على ثلاثة عملاء جمع ثلاثة رموز من ثلاثة صناديق؛ كل صناديق يمكن أن تحتوي على رموز واحدة. لا يمكن للعملاء التواصل؛ فإنهم يستنتجون النية من أفعال بعضهم البعض.
تشكيلات:zeroth_order(لا توم) و first_order(توم مع نموذج الاعتقاد المستوى الواحد).
قياس أكثر من 200 تجربة عشوائية: معدل الانتهاء، معدل التكرار (العاملين يستهدفون نفس الصندوق) ، متوسط المواجهات إلى الانتهاء.

أركض

code

python3 code/main.py
npx tsx code/main.ts

الناتج المتوقع: عوامل النظام الصفر تضاعف الجهد بمعدل ~ 35% وتكمل ~ 60% من التجارب في 10 دورات. عوامل ToM النظام الأول تضاعف عند ~ 5% وتكمل ~ 95%. النخاع هو تأثير التنسيق القابل للقياس.

استخدمها

outputs/skill-tom-auditor.mdهي مهارة تدقيق ادعاء نظام متعدد الوكلاء "التنسيق الطارئ". تحقق على التجهيز السريع، والإحصائيات المهمة مقابل التحكم، ومقياس التكامل.

أرسله

قائمة التحقق من المطالبة بالتنسيق:

Control condition.نسخة من نظامك بدون طلب التنسيق، قم بتقييم الاثنين
Statistical test.هل الفرق بين النظام والتحكم مهم في p < 0.05على مقياسك؟
Complementarity measure.التخلّف عن العمل مع مرور الوقت، ليس فقط النجاح النهائي.
Failure-case log.عندما يتلاشى العملاء بشكل خاطئ، كيف تبدو دولة "توم"؟
Model-capacity disclosure.إذا اختفى التأثير على النماذج الصغيرة، قل ذلك.

التمارين

أركضcode/main.pyتأكيد أن التطبيق الأول يقلل من معدل تكرار بنحو 7x هل تبقى الفجوة عندما تتحرك إلى 5 وكلاء و 5 صناديق؟
تنفيذ ToM من الدرجة الثانية (الوكيل A يظهر ما يعتقد B عن C). هل يتحسن من الدرجة الأولى؟ في أي مهام؟
إدخالhallucinationفي حالة ToM: تحويل عشوائية واحدة من المعتقدات في كل دور. كم هذا يضعف أداء الرتبة الأولى؟
اقرأ لي وغيره (arXiv:2310.10701). استعادوا نتائج "تدهور الأفق الطويل": مع نمو المداولة من 10 إلى 30 ، كيف يتغير أداء ToM من الدرجة الأولى؟
اقرأ Riedl 2025 (arXiv:2510.05174). تنفيذ إحصاءات التزامن من النظام العالي على سجلات المحاكاة الخاصة بك. هل التأثير موجود دون حالة التشغيل التوقيعية ToM؟

الشروط الرئيسية

Term	What people say	What it actually means
Theory of Mind	"Understanding others' minds"	The capacity to model another agent's beliefs. Graded by order (0, 1, 2+).
Sally-Anne test	"The false-belief test"	1985 developmental psychology; LLMs pass plain versions, fail complex ones.
First-order ToM	"A believes X"	Modeling one other's beliefs about facts.
Second-order ToM	"A believes B believes X"	Recursive modeling one level deeper.
Identity-linked differentiation	"Stable roles over time"	Riedl's metric: roles persist, not random.
Goal-directed complementarity	"Disjoint actions"	Agents target different subtasks, not the same one.
Higher-order synergy	"Group exceeds any subset"	Riedl's statistical measure for real coordination.
Coordination illusion	"It looks coordinated"	Prompt-dressed appearance of coordination without measurable signal.