Phase 16: Multi-Agent & Swarms

نظریه ذهن و هماهنگی فوری

لی و همکارانش (arXiv:2310.10701) نشان دادند که نمایندگان LLM در یک نمایشگاه بازی متن همکاریemergent high-order Theory of Mind(ToM) استدلال در مورد آنچه یک عامل دیگر در مورد باورهای یک عامل سوم باور دارد اما به دلیل مدیریت زمینه و توهم در برنامه ریزی افق طولانی ناکام می شود. ریلد (arXiv:2510.05174) همگراهای درجه بالاتر را در سراسر یک جمعیت اندازه گیری کرد و دریافت که onlyشرایط ToM-prompt تفاوت مرتبط با هویت و مکملیت هدفمند را ایجاد می کند؛ LLM های ظرفیت پایین تر فقط ظهور جعلی را نشان می دهند. یعنی، ظهور هماهنگی به صورت فوری و مشروط و وابسته به مدل است، نه رایگان. این درس یک عامل کمترین آگاهی از ToM را اجرا می کند، یک کار همکاری را با و بدون تحریک ToM انجام می دهد و دلتای هماهنگی را در برابر پروتکل Riedl 2025 اندازه می گیرد.

Type: Learn + Build

Languages: Python (stdlib), TypeScript

Prerequisites: Phase 16 · 07 (Society of Mind and Debate), Phase 16 · 17 (Generative Agents)

Time: ~75 minutes

مشکل

هماهنگی چند عامل اغلب به نظر می رسد جادویی: عوامل کار را تقسیم می کنند، یکدیگر را پیش بینی می کنند، از تخلیه اجتناب می کنند. معمولا این "ظهور" یک اثر از مهندسی سریع است.

یافته های ریلد برای سال 2025 سخت تر است: در شرایط کنترل شده، هماهنگی تنها زمانی رخ می دهد که عوامل به استدلال در مورد other agents' minds(ToM) حتی بدون پیام ToM، مدل های قوی نیز الگوهای هماهنگی را نشان می دهند که از کنترل های آماری زنده نمی مانند. این برای تولید مهم است: تیم ها ویژگی های " هماهنگی چند عامل" را که وابسته به پیام و شکننده هستند، ارسال می کنند.

این درس به ToM به عنوان یک توانایی خاص (بررسی درباره باورها در مورد باورها) ، یک عامل کمترین ToM را ایجاد می کند و اندازه گیری می کند که هماهنگی واقعی به نظر می رسد در مقابل لباس فوری به نظر می رسد.

مفهوم

معنی ToM

روانشناسی رشد: یک کودک ۳ ساله فکر می کند دنیای داخلی هر کسی با دنیای آنها مطابقت دارد. یک کودک ۵ ساله درک می کند دیگران معتقدات متفاوتی دارند. یک کودک ۷ ساله دلایل اعتقادات درباره باورها ("او فکر می کند من فکر می کنم توپ زیر فنجان است") این ها صفر، درجه اول و دوم ToM هستند.

برای مامورین LLM، ToM نقشه را به:

Zeroth-order:هیچ مدل دیگری نیست، عامل فقط بر اساس مشاهدات خودش عمل می کند.
First-order:"آليس به عقيدت "آليس باور داره
Second-order:"آليس باور داره باب باور داره "

لی و همکارانش در سال 2023 دریافتند که ToM درجه اول و دوم در بازی های همکاری در عوامل LLM ظاهر می شود اما با افق طولانی و ارتباطات غیرقابل اعتماد کاهش می یابد.

آزمون سالي-آن، به طور خلاصه

یک آزمون باور نادرست ۱۹۸۵: سالی یک سنگ مرمر را در سبد A قرار می دهد، می گذارد. آن آن را به سبد B منتقل می کند. سالی وقتی به خانه برگردد، به کجا نگاه می کند؟ یک کودک با درجه اول ToM می گوید سبد A (اعتقاد سالی از واقعیت متفاوت است). یک کودک بدون می گوید سبد B.

LLM های عصر GPT-4 وقتی به وضوح مطرح می شوند، آزمون های سبک سالی-آن را از دست می دهند. زمانی که روایت طولانی است، صحنه چندین بار تغییر می کند یا سوال به طور غیرمستقیم مطرح می شود، شکست می خورند. این وضعیت عملی 2026 ToM در LLM های تولید است.

اندازه گیری هماهنگی ریلد

ریلد (arXiv:2510.05174) یک آزمایش در مقیاس جمعیت ساخت: عوامل N، یک هدف همکاری، شرایط سریع متغیر.

Identity-linked differentiation.آیا عوامل با گذشت زمان تفاوت های ثابت نقش را ایجاد می کنند؟
Goal-directed complementarity.آیا اقدامات عوامل به جای تکرار یکدیگر (کار های فرعی مختلف) مکمل یکدیگر هستند؟
Higher-order synergy.اندازه گیری آماری از اینکه آیا گروه چیزی را که هیچ زیر مجموعه ای نمی تواند به دست آورد، به دست آورد یا نه.

نتیجه: تنها در شرایط فوری ToM هر سه متریک سیگنال را بالاتر از خط اصلی تولید می کنند. بدون ToM، متریک ها در مورد مدل های ظرفیت متوسط نزدیک به احتمال می شوند. مدل های بزرگ نشان دهنده برخی از هماهنگی بدون پیام ToM صریح هستند اما اثر کوچکتر از پیام صریح است.

توهم هماهنگی

بدون کنترل آماری، "هم هماهنگی فوری" در نمایشگاه ها اغلب نشان می دهد:

مهندسی سریع که با هماهنگی پخته می شود (سستمهای سیستم که می گویند "با هم کار کنید").
تعصب ناظر (ما الگوهای انتظار را می بینیم).
انتخاب پس از بازی هاک از رنز های موفق

سیستم های تولیداتی که بدون سیگنال قابل اندازه گیری "تنسبیله ای جدید" را به بازار عرضه می کنند باید به عنوان بازاریابی مورد نظر قرار گیرند.

يه مامور کم کم از همه آگاه

ساختار:

code

agent state:
  own_beliefs:    {facts the agent believes}
  other_models:   {other_agent_id -> {beliefs_the_agent_attributes_to_them}}
  actions_last_N: [history of others' actions]

observation update:
  - update own_beliefs from direct observation
  - update other_models[agent_id] from their action + prior beliefs

action selection:
  - enumerate candidate actions
  - for each, predict what each other agent will do next given their modeled beliefs
  - pick action that maximizes joint outcome under those predictions

.other_modelsصفتی است ToM حالت. درجه اول ToM نگه می دارد فقط یک سطح. درجه دوم اضافه می کندother_models[i][other_models_of_j]فکر کنم مامور به چيزي که فکر مي کنم مامور به چيزي که فکر مي کنم مامور به چيزي که فکر مي کنم باور داره

چرا افق بلند درد می کند

لی و همکاران: محدودیت های زمینه باعث می شود عوامل فراموش کنند که کدام اعتقاد به چه کسی تعلق دارد. توهم باورهای نادرست را به مدل های دیگر عامل اضافه می کند. هر دو تولید می کنند "من فکر کردم او فکر X" اشتباهات که با گذشت زمان پیچیده می شود.

کاهش میزان میزان مصرفی در سال های 2024 تا 2026:

Explicit ToM state in the prompt.فرمت ساختاری: {agent_id: belief_list}. نياز به بازيافت براي حفظ ارتباطي بين شناخت و باور
Shorter reasoning chains.کمتر از توم به روز رسانی در هر نوبت باعث کاهش توهمات ترکیب شده می شود.
External ToM store.مدل را خارج از زمینه LLM نگه دارید؛ فقط قطعات مربوطه را در هر نوبت تزریق کنید.

جایی که ToM در تولید شکست خورده است

Adversarial settings.عوامل با ToM خوب آسان تر برای دستکاری هستند (شما می توانید آنچه را که آنها از شما مدل می کنند، پس از آن بهره برداری کنید).
Heterogeneous teams.هنگامی که مدل ها متفاوت هستند، مدل ToM که برای یک مخالف کار می کند، عمومی نمی شود.
Ground-truth-dependent tasks.توم درباره باورهاست؛ اگر درست بودن به واقعیت ها بستگی داشته باشد، توم می تواند یک خنثی کننده باشد.

هماهنگی که واقعا می توانید اندازه گیری کنید

سه سیگنال عملی که نشان می دهد هماهنگی یک تیم واقعی است نه سریع پوشیده شده:

Complementarity over time.در طول یک کار چند نوبت، آیا اقدامات ماموران شامل فرعی وظایف متمایز می شود؟
Anticipation.آیا عمل عامل A در نوبت T+1 به پیش بینی در مورد عمل B در T+2 بستگی دارد که درست ثابت شد؟
Correction.وقتی A اعتقاد B را در نوبت T اشتباه می خواند، آیا A با نوبت T+2 درست می کند؟

این ها در یک سیستم چند عامل ثبت شده قابل اندازه گیری هستند. آنها نسخه مادی روایت "تنسبی" هستند.

آن را بسازید

code/main.pyابزار:

ToMAgent بر اساس باورهای خود و مدل های باورهای عامل دیگر.
یک کار همکار: سه عامل باید سه توکن را از سه جعبه جمع کنند؛ هر جعبه می تواند یک توکن را نگه دارد. عوامل نمی توانند با یکدیگر ارتباط برقرار کنند؛ آنها از اقدامات یکدیگر قصد را نتیجه می دهند.
دو تدوین: zeroth_order(بدون توم) وfirst_order(توم با مدل باور یک سطح)
اندازه گیری بیش از 200 آزمایش تصادفی: میزان تکمیل، میزان تکرار (دو عامل به سمت یک جعبه) ، میانگین بازگشت به تکمیل.

راه رفتن:

code

python3 code/main.py
npx tsx code/main.ts

تولید انتظار می رود: عوامل صفر در درجه ~ 35% تلاش را دوبرابر می کنند و ~ 60% از آزمایش ها را در 10 نوبت تکمیل می کنند. عوامل ToM در درجه اول در درجه ~ 5% تکرار می کنند و ~ 95% کامل می شوند. دلتا اثر هماهنگی قابل اندازه گیری است.

ازش استفاده کن

outputs/skill-tom-auditor.mdاین مهارت است که ادعای یک سیستم چند عامل را از "همبستگی فوری" بررسی می کند.

-باده

فهرست چک مطالبات هماهنگی:

Control condition.نسخه ي سيستم بدون تلقين هماهنگي.
Statistical test.تفاوت بین سیستم و کنترل در p < 0.05در اندازه گیریات؟
Complementarity measure.اختلاف عمل در طول زمان، نه فقط موفقیت نهایی.
Failure-case log.وقتي ماموران اشتباه هماهنگي ميکنن، دولت توم چطوري به نظر مياد؟
Model-capacity disclosure.اگه اثرش در مدل های کوچکتر از بین میره، بگو

تمرینات

فرار کنcode/main.py. تایید اولين ترتيب ToM نرخ دوبرابرگي را به حدود 7x کاهش مي دهد. وقتي به 5 عامل و 5 جعبه مقیاس ميذاري، شکاف ادامه داره؟
اجرای ToM درجه دوم (اعمال A مدل آنچه B در مورد C فکر می کند) آیا نسبت به درجه اول بهبود می یابد؟ در چه وظایف؟
تزریق یکhallucinationبه حالت ToM: به طور تصادفی یک باور در هر نوبت را تغییر دهید. این عملکرد درجه اول را چقدر کاهش می دهد؟
Li et al. (arXiv:2310.10701) را تکرار کنید: با افزایش نوبت ها از 10 به 30، عملکرد ToM درجه اول شما چگونه تغییر می کند؟
Riedl 2025 را بخوانید (arXiv:2510.05174). آمار همگامگی درجه بالاتر را در دفترچه های شبیه سازی خود پیاده سازی کنید. آیا این اثر بدون شرایط فوری ToM وجود دارد؟

اصطلاحات کلیدی

Term	What people say	What it actually means
Theory of Mind	"Understanding others' minds"	The capacity to model another agent's beliefs. Graded by order (0, 1, 2+).
Sally-Anne test	"The false-belief test"	1985 developmental psychology; LLMs pass plain versions, fail complex ones.
First-order ToM	"A believes X"	Modeling one other's beliefs about facts.
Second-order ToM	"A believes B believes X"	Recursive modeling one level deeper.
Identity-linked differentiation	"Stable roles over time"	Riedl's metric: roles persist, not random.
Goal-directed complementarity	"Disjoint actions"	Agents target different subtasks, not the same one.
Higher-order synergy	"Group exceeds any subset"	Riedl's statistical measure for real coordination.
Coordination illusion	"It looks coordinated"	Prompt-dressed appearance of coordination without measurable signal.

خواندن بیشتر

Li et al. — Theory of Mind for Multi-Agent Collaboration via Large Language Models ToM جدید در بازی های همکاری؛ حالت شکست افق طولانی
Riedl — Emergent Coordination in Multi-Agent Language Models اندازه گیری در مقیاس جمعیت؛ ToM محرک حالت حمل است
Premack & Woodruff — Does the chimpanzee have a theory of mind? اصل مفهوم ToM در سال 1978
Baron-Cohen, Leslie, Frith — Does the autistic child have a theory of mind? مقاله سالی-آن (1985)

This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.

Browse the complete course catalog or open this lesson on GitHub.