Phase 16: Multi-Agent & Swarms

मन का सिद्धांत और उभरते समन्वय

Li et al. (arXiv:2310.10701) ने दिखाया कि एक सहकारी पाठ खेल प्रदर्शनी में LLM एजेंट emergent high-order Theory of Mind(ToM) दूसरे एजेंट के विश्वासों के बारे में क्या विश्वास करता है इसके बारे में तर्क करना लेकिन संदर्भ प्रबंधन और भ्रम के कारण दीर्घकालिक योजना में विफलता। Riedl (arXiv:2510.05174) ने एक आबादी में उच्च-क्रम के तालमेल को मापा और पाया कि onlyToM-prompt स्थिति से पहचान से जुड़ी अंतर और लक्ष्य-उन्मुख पूरकता होती है; कम क्षमता वाले LLM केवल झूठी उभरती हुई दिखाते हैं। यानी समन्वय का उद्भव शीघ्र-शर्त और मॉडल-निर्भर है, मुक्त नहीं। इस पाठ में न्यूनतम ToM-जाहिर एजेंट लागू किया जाता है, ToM के साथ और बिना सहयोगात्मक कार्य चलाया जाता है, और Riedl 2025 प्रोटोकॉल के खिलाफ समन्वय डेल्टा मापता है।

Type: Learn + Build

Languages: Python (stdlib), TypeScript

Prerequisites: Phase 16 · 07 (Society of Mind and Debate), Phase 16 · 17 (Generative Agents)

Time: ~75 minutes

समस्या

बहु-एजेंट समन्वय अक्सर जादुई लगता हैः एजेंट श्रम को विभाजित करते हैं, एक दूसरे की भविष्यवाणी करते हैं, रिडंडेंसी से बचते हैं। आमतौर पर यह "उत्पत्ति" शीघ्र इंजीनियरिंग का एक कलाकृत्य है किसी ने एजेंटों को "संयोजन" करने के लिए कहा।

रिडेल की 2025 की खोज अधिक सख्त हैः नियंत्रित परिस्थितियों में, समन्वय केवल तब ही प्रकट होता है जब एजेंटों को तर्क देने के लिए प्रेरित किया जाता है other agents' minds(ToM) ToM प्रॉम्प्ट के बिना, यहां तक कि मजबूत मॉडल समन्वय पैटर्न दिखाते हैं जो सांख्यिकीय नियंत्रणों से बच नहीं सकते हैं। यह उत्पादन के लिए मायने रखता हैः टीमें "बहु-एजेंट समन्वय" सुविधाओं को भेजती हैं जो त्वरित-निर्भर और नाजुक हैं।

यह पाठ ToM को एक विशिष्ट क्षमता के रूप में व्यवहार करता है (विश्वासों के बारे में धारणाओं के बारे में तर्क), एक न्यूनतम ToM-जागरूक एजेंट बनाता है, और मापता है कि वास्तविक समन्वय कैसा दिखता है बनाम त्वरित ड्रेसिंग कैसा दिखता है।

अवधारणा

ToM का क्या अर्थ है

विकास मनोविज्ञानः एक 3 वर्षीय बच्चा किसी की भी आंतरिक दुनिया को उनकी दुनिया से मेल खाती है। एक 5 वर्षीय बच्चा समझता है कि दूसरों के पास अलग-अलग विश्वास हैं। एक 7 वर्षीय बच्चा विश्वासों के बारे में विश्वासों के बारे में कारणों ("वह सोचती है कि मुझे लगता है कि गेंद कप के नीचे है") । ये शून्य, पहला और दूसरा क्रम ToM हैं।

LLM एजेंटों के लिए, ToM निम्नलिखित के लिए नक्शा आदेश देता हैः

Zeroth-order:एजेंट केवल अपने स्वयं के अवलोकनों पर कार्य करता है।
First-order:एजेंटों के पास एक मॉडल है जो एक दूसरे के विश्वासों का है।
Second-order:एजेंटों के मॉडल पुनरावर्ती विश्वासों. "एलिस का मानना है कि बॉब X में विश्वास करता है।

लि और सहयोगियों ने 2023 में पाया कि सहकारी खेलों में एलएलएम एजेंटों में प्रथम और द्वितीय क्रम के टोएम उभरते हैं लेकिन लंबे क्षितिज और अविश्वसनीय संचार के साथ गिरावट आते हैं।

सैली-एनी टेस्ट, संक्षेप में

1985 में एक झूठी विश्वास परीक्षाः सली ने टोकरी ए में एक संगमरमर डाल दिया, छोड़ दिया। ऐनी इसे टोकरी बी में ले गई। वह लौटने पर सली कहां देखती है? एक बच्चे के साथ पहली श्रेणी ToM टोकरी ए (सली का विश्वास वास्तविकता से अलग है) कहता है। एक बच्चे के बिना टोकरी बी कहता है।

जीपीटी-4 युग के एलएलएम स्पष्ट रूप से प्रस्तुत किए जाने पर सली-एनी शैली के परीक्षणों को पास करते हैं। वे विफल होते हैं जब कथा लंबी होती है, दृश्य कई बार बदल जाता है, या सवाल अप्रत्यक्ष रूप से कहा जाता है। यह उत्पादन एलएलएम में टॉम की व्यावहारिक स्थिति 2026 है।

रिडल का समन्वय माप

Riedl (arXiv:2510.05174) ने जनसंख्या पैमाने पर परीक्षण का निर्माण कियाः N एजेंट, एक सहकारी उद्देश्य, चर शीघ्रता की स्थिति।

Identity-linked differentiation.क्या एजेंट समय के साथ-साथ भूमिकाओं में स्थिर अंतर विकसित करते हैं?
Goal-directed complementarity.क्या एजेंटों की क्रियाएं दोहराने के बजाय एक दूसरे को पूरक करती हैं (अलग-अलग उप-कार्य) ?
Higher-order synergy.यह एक सांख्यिकीय माप है कि क्या समूह वह हासिल करता है जो कोई उपसमूह नहीं कर सकता है।

परिणामः केवल ToM शीघ्र स्थिति के तहत सभी तीन मीट्रिक मूल रेखा से ऊपर संकेत उत्पन्न करते हैं। ToM शीघ्रता के बिना, मीट्रिक मध्यम क्षमता वाले मॉडल के लिए संभावना के करीब फैले हुए हैं। बड़े मॉडल स्पष्ट ToM शीघ्रता के बिना कुछ समन्वय दिखाते हैं लेकिन प्रभाव स्पष्ट शीघ्रता के साथ की तुलना में छोटा है।

समन्वय भ्रम

बिना सांख्यिकीय नियंत्रण के, डेमो में "उत्पादक समन्वय" अक्सर दर्शाता हैः

समन्वय में बेक करने वाले त्वरित इंजीनियरिंग (सिस्टम संकेत जो कहते हैं "एक साथ काम करें") ।
पर्यवेक्षक पूर्वाग्रह (हम हम उम्मीद पैटर्न देखते हैं) ।
सफल रन का पोस्ट हॉक चयन।

मापने योग्य संकेत के बिना "उत्पादक समन्वय" को बाजार में लाने वाले उत्पादन प्रणालियों को विपणन के रूप में माना जाना चाहिए। दावा करने से पहले उपाय करें।

एक न्यूनतम ToM-जागरूक एजेंट

संरचनाः

code

agent state:
  own_beliefs:    {facts the agent believes}
  other_models:   {other_agent_id -> {beliefs_the_agent_attributes_to_them}}
  actions_last_N: [history of others' actions]

observation update:
  - update own_beliefs from direct observation
  - update other_models[agent_id] from their action + prior beliefs

action selection:
  - enumerate candidate actions
  - for each, predict what each other agent will do next given their modeled beliefs
  - pick action that maximizes joint outcome under those predictions

other_modelsविशेषता ToM राज्य है. पहले क्रम ToM केवल एक स्तर रखता है. दूसरे क्रम जोड़ता हैother_models[i][other_models_of_j] जो मुझे लगता है एजेंट मुझे लगता है एजेंट जे विश्वास करता है.

लंबी दूरी का दर्द क्यों होता है

Li et al. दस्तावेज़ः संदर्भ सीमाएं एजेंटों को यह भूलने के लिए प्रेरित करती हैं कि कौन सी मान्यता किसके लिए है। भ्रम अन्य एजेंट मॉडल में झूठी मान्यताओं को जोड़ता है। दोनों "मुझे लगा कि उसने एक्स सोचा" त्रुटियां पैदा करती हैं जो समय के साथ जटिल होती हैं।

इस पेपर में दस्तावेज किए गए और 2024-2026 में अनुवर्ती उपायों के बारे मेंः

Explicit ToM state in the prompt.संरचित प्रारूप: {agent_id: belief_list}पहचान-विश्वास बंधन को बनाए रखने के लिए पुनर्प्राप्ति को मजबूर करता है।
Shorter reasoning chains.प्रति बारी कम ToM अद्यतनों से यौगिक भ्रम कम होता है।
External ToM store.मॉडल को LLM संदर्भ से बाहर रखें; प्रति बारी केवल प्रासंगिक भागों का इंजेक्शन दें।

जब ToM उत्पादन में विफल रहता है

Adversarial settings.अच्छे ToM वाले एजेंटों को हेरफेर करना आसान होता है (आप उस मॉडल को मॉडल कर सकते हैं जो वे आपके मॉडल को मॉडल करते हैं, फिर इसका शोषण कर सकते हैं) ।
Heterogeneous teams.जब मॉडल अलग होते हैं तो एक प्रतिद्वंद्वी के लिए काम करने वाला ToM मॉडल सामान्य नहीं होता है।
Ground-truth-dependent tasks.ToM विश्वासों के बारे में है; यदि सत्यता तथ्यों पर निर्भर करती है, तो ToM एक विचलित हो सकता है।

आप वास्तव में माप सकते हैं समन्वय

तीन व्यावहारिक संकेत एक टीम के समन्वय वास्तविक है बजाय शीघ्र-बस्त्रितः

Complementarity over time.एक बहु-टर्न कार्य पर, एजेंटों की कार्रवाई अलग-अलग उप-कार्य को कवर करती है?
Anticipation.क्या एजेंट ए की टर्न T + 1 पर कार्रवाई T + 2 पर B की कार्रवाई के बारे में एक भविष्यवाणी पर निर्भर करती है जो सही निकली?
Correction.जब A ने T के मोड़ पर B की धारणा को गलत समझा है, तो क्या A ने T+2 के मोड़ से सही किया है?

ये लॉग किए गए मल्टी-एजेंट सिस्टम में मापा जा सकता है। वे "संयोजन" कथा का भौतिक संस्करण हैं।

इसे बनाओ

code/main.pyकार्य करता हैः

ToMAgent अपने विश्वासों और अन्य एजेंटों के विश्वास मॉडल को ट्रैक करता है।
एक सहकारी कार्यः तीन एजेंटों को तीन बक्से से तीन टोकन एकत्र करना चाहिए; प्रत्येक बक्से में एक टोकन हो सकता है। एजेंट संवाद नहीं कर सकते; वे एक दूसरे के कार्यों से इरादे का अनुमान लगाते हैं।
दो कॉन्फ़िगरेशनः zeroth_order(कोई ToM नहीं) और first_order(एक स्तर के विश्वास मॉडल के साथ ToM) ।
200 यादृच्छिक परीक्षणों पर मापः पूर्णता दर, दोहराव दर (एक ही बॉक्स को लक्षित करने वाले दो एजेंट), औसत पूर्णता तक मोड़।

दौड़ें:

code

python3 code/main.py
npx tsx code/main.ts

अपेक्षित आउटपुटः शून्य-क्रम के एजेंट ~ 35% की दर से प्रयास दोहराते हैं और 10 वक्रों में ~ 60% परीक्षण पूरा करते हैं। प्रथम-क्रम के ToM एजेंट ~ 5% पर दोहराते हैं और ~ 95% पूरा करते हैं। डेल्टा मापे जाने योग्य समन्वय प्रभाव है।

इसका प्रयोग करें

outputs/skill-tom-auditor.mdएक कौशल है जो बहु-एजेंट प्रणाली के "उत्पादक समन्वय" के दावे का ऑडिट करता है।

इसे भेजें

समन्वय दावों की जाँच सूचीः

Control condition.समन्वय संकेत के बिना अपने सिस्टम का एक संस्करण. दोनों मापें.
Statistical test.क्या सिस्टम और नियंत्रण के बीच अंतर महत्वपूर्ण है p < 0.05अपने मीट्रिक पर?
Complementarity measure.समय के साथ कार्रवाई-विच्छेद, केवल अंतिम सफलता नहीं।
Failure-case log.जब एजेंट गलत समन्वय करते हैं, तो ToM राज्य कैसा दिखता है?
Model-capacity disclosure.यदि छोटे मॉडल पर प्रभाव गायब हो जाता है, तो ऐसा कहें।

व्यायाम

दौड़ेंcode/main.py. पहले आदेश ToM दोहराव दर को कम करता है ~ 7x. क्या अंतर बरकरार है जब आप 5 एजेंट और 5 बॉक्स के लिए पैमाने पर?
दूसरे क्रम के ToM को लागू करें (एजेंट ए मॉडल करता है कि B क्या सोचता है C के बारे में) क्या यह पहले क्रम के मुकाबले बेहतर है? किस कार्यों पर?
एक इंजेक्शनhallucinationToM राज्य में: यादृच्छिक रूप से प्रति बारी एक विश्वास बारी। यह पहले क्रम के प्रदर्शन को कितना कम करता है?
Li et al. (arXiv:2310.10701) पढ़ेंः "लंबे क्षितिज गिरावट" निष्कर्ष को दोहराएंः जैसे-जैसे बारी 10 से 30 तक बढ़ जाती है, आपके पहले क्रम के ToM प्रदर्शन में कैसे बदलाव होता है?
Riedl 2025 (arXiv:2510.05174) पढ़ें। अपने सिमुलेशन लॉग पर उच्च-क्रम के सहकार्य के आंकड़े लागू करें। क्या ToM शीघ्र स्थिति के बिना प्रभाव मौजूद है?

प्रमुख शर्तें

Term	What people say	What it actually means
Theory of Mind	"Understanding others' minds"	The capacity to model another agent's beliefs. Graded by order (0, 1, 2+).
Sally-Anne test	"The false-belief test"	1985 developmental psychology; LLMs pass plain versions, fail complex ones.
First-order ToM	"A believes X"	Modeling one other's beliefs about facts.
Second-order ToM	"A believes B believes X"	Recursive modeling one level deeper.
Identity-linked differentiation	"Stable roles over time"	Riedl's metric: roles persist, not random.
Goal-directed complementarity	"Disjoint actions"	Agents target different subtasks, not the same one.
Higher-order synergy	"Group exceeds any subset"	Riedl's statistical measure for real coordination.
Coordination illusion	"It looks coordinated"	Prompt-dressed appearance of coordination without measurable signal.

आगे पढ़ना

Li et al. — Theory of Mind for Multi-Agent Collaboration via Large Language Models सहकारी खेलों में उभरते ToM; दीर्घकालिक विफलता मोड
Riedl — Emergent Coordination in Multi-Agent Language Models जनसंख्या पैमाने पर माप; ToM प्रलोभन लोड-बहन स्थिति है
Premack & Woodruff — Does the chimpanzee have a theory of mind? 1978 में TOM अवधारणा की उत्पत्ति
Baron-Cohen, Leslie, Frith — Does the autistic child have a theory of mind? सली-एनी पेपर (1985)

This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.

Browse the complete course catalog or open this lesson on GitHub.