Phase 14: Agent Engineering

एजेंट मेमोरी वर्चुअल संदर्भ और मेमोरी पेजिंग

संदर्भ विंडो सीमित हैं। बातचीत, दस्तावेज और उपकरण निशान नहीं हैं। फिक्स ओएस वर्चुअल मेमोरी रीसेट है। मुख्य संदर्भ रैम है, बाहरी भंडारण डिस्क है, उनके बीच एजेंट पृष्ठ हैं। MemGPT (पैकर एट अल, 2023) ने पैटर्न का नाम दिया; कई उत्पादन मेमोरी सिस्टम इस पर निर्माण करते हैं।

Type: Build

Languages: Python (stdlib)

Prerequisites: Phase 14 · 01 (Agent Loop), Phase 14 · 06 (Tool Use)

Time: ~75 minutes

सीखने के लक्ष्य

ओएस एनालॉग को समझाएं जिस पर MemGPT का निर्माण होता हैः मुख्य संदर्भ = रैम, बाहरी संदर्भ = डिस्क, मेमोरी टूल = पृष्ठ इन / आउट।
stdlib में मुख्य संदर्भ बफर, एक बाहरी खोज योग्य स्टोर और पृष्ठ इन / आउट टूल के साथ दो-स्तरीय MemGPT पैटर्न को लागू करें।
वर्णन करें कि एजेंट बाहरी मेमोरी को क्वेरी करने या संशोधित करने के लिए "अंतराल" कैसे जारी करता है और परिणाम अगले प्रॉम्प्ट में कैसे वापस सम्मिलित होता है।
लेटा (पाठ 08) और मेम0 (पाठ 09) में सम्मिलित MemGPT डिजाइन विकल्पों की पहचान करें।

समस्या

संदर्भ विंडो मेमोरी को हल करने के लिए लगती है। वे नहीं करते. तीन विफलता मोड उत्पादन में दोहराया जाता हैः

Overflow.कई बार बातचीत, लंबे दस्तावेज, या उपकरण-कल्लिंग भारी पटरियों खिड़की पार. कटऑफ के बाद सब कुछ गायब हो गया है.
Dilution.यहां तक कि खिड़की के अंदर भी, अप्रासंगिक संदर्भ भरने से ध्यान को महत्वपूर्ण चीजों पर पतला कर दिया जाता है। सीमांत मॉडल अभी भी लंबे इनपुट पर गिरावट आते हैं।
Persistence.एक नया सत्र एक खाली खिड़की के साथ शुरू होता है. बाहरी स्मृति के बिना एजेंटों को नहीं कह सकते "याद रखें जब आप मुझसे पूछा है ..." सत्रों के बीच.

मेम0 के 2025 के पेपर में मापा गया है कि 128k विंडो बेसलाइन अभी भी लंबे क्षितिज के तथ्यों को याद करती है जो बाहरी मेमोरी के साथ 4k विंडो एजेंट पकड़ता है।

अवधारणा

ओएस एनालॉग

MemGPT (Packer et al., arXiv:2310.08560, v2 Feb 2024) परिवेश प्रबंधन को ऑपरेटिंग सिस्टम की आभासी स्मृति में मानचित्रित करता हैः

OS concept	MemGPT concept	2026 production analog
RAM	main context (prompt)	Anthropic/OpenAI context window
Disk	external context	vector DB, KV, graph store
Page fault	memory tool call	`memory.search`, `memory.read`, `memory.write`
OS kernel	agent control loop	ReAct loop with memory tools

एजेंट एक सामान्य ReAct लूप चलाता है। एक अतिरिक्त उपकरण वर्ग उसे मुख्य संदर्भ में और बाहर पेज डेटा करने की अनुमति देता है।

दो स्तर

Main context.फिक्स्ड आकार प्रॉम्प्ट वर्तमान कार्य को पकड़ रहा है. हमेशा मॉडल के लिए दृश्यमान.
External context.अनलिमिटेड, उपकरण के माध्यम से खोज योग्य, प्रासंगिक होने पर पढ़ें, तथ्यों के सामने आने पर लिखें।

मूल पेपर ने मूल विंडो के परे दो कार्यों पर डिजाइन का मूल्यांकन कियाः 100k टोकन से अधिक समय तक दस्तावेजों का विश्लेषण और दिनों के दौरान निरंतर स्मृति के साथ बहु-सत्र चैट।

विराम पैटर्न

MemGPT मेमोरी-अवरोध के रूप में पेश करता हैः वार्तालाप के बीच में एजेंट एक मेमोरी टूल को कॉल कर सकता है, रनटाइम इसे निष्पादित करता है, और परिणाम एक नए अवलोकन के रूप में अगले सहायक वक्र में स्प्लिक्स करता है।read()syscall जो प्रक्रिया को अवरुद्ध करता है, बाइट्स वापस करता है, और प्रक्रिया जारी है।

कैनोनिक मेमोरी टूल सतहः

core_memory_append(section, text) प्रॉम्प्ट के एक निरंतर अनुभाग में लिखें।
core_memory_replace(section, old, new) एक निरंतर अनुभाग को संपादित करें।
archival_memory_insert(text) खोज योग्य बाहरी स्टोर पर लिखें।
archival_memory_search(query, top_k) बाहरी स्टोर से प्राप्त करें।
conversation_search(query) घुमाव से पहले स्कैन करें।

जहां कागज समाप्त होता है और उत्पादन शुरू होता है

सितंबर 2024 में MemGPT को Letta नाम दिया गया।cpacker/MemGPT) शेष है; लता डिजाइन का विस्तार करता हैः

दो के बजाय तीन स्तर (कोर, रिकॉल, अभिलेखागार पाठ 08) ।
मूल तर्क send_message/ हृदय गति (पाठ 08)
नींद समय के एजेंट जो असिनक्रोनिक मेमोरी काम करते हैं (पाठ 08) ।

MemGPT पेपर 2026 की नींव है भले ही उत्पादन प्रणाली Letta, Mem0 या एक कस्टम दो-स्तरीय स्टोर चलाती हो।

जहां यह पैटर्न गलत हो जाता है

Memory rot.लेखन पढ़ने की तुलना में तेजी से जमा होता है; पुनर्प्राप्ति पुराने तथ्यों में डूब जाता है। फिक्सः आवधिक समेकन (लेटा नींद समय), स्पष्ट अवैधता (मेम0 संघर्ष डिटेक्टर) ।
Memory poisoning.बाहरी मेमोरी में पाठ निकाला जाता है. यदि हमलावर नियंत्रित सामग्री मेमोरी नोट में आती है, तो एजेंट इसे अगले सत्र में फिर से प्रवेश करता है। यह Greshake et al. (Lection 27) समय के साथ फिर से हमला किया गया है।
Citation loss.एजेंट याद करता है "उपयोगकर्ता ने मुझे एक्स भेजने के लिए कहा" लेकिन कौन सा मोड़ नहीं बता सकता है। हर संग्रह लेखन के साथ स्रोत संदर्भ (सत्र आईडी, मोड़ आईडी) स्टोर करें।

इसे बनाओ

code/main.pystdlib में MemGPT के दो स्तरीय पैटर्न को लागू करता हैः

MainContext एक के साथ फिक्स्ड साइज़ प्रॉम्प्ट बफर coredict और a messagesसूची; ऑटो-कॉम्पैक्ट सबसे पुराने संदेश जब ओवर कैप.
ArchivalStore इन-मेमोरी BM25-esque स्टोर (टोकन ओवरलैप स्कोरिंग) (आईडी, पाठ, टैग, सत्र, बारी) रिकॉर्ड।
MemGPT सतह के लिए मैपिंग पांच स्मृति उपकरण.
एक स्क्रिप्ट एजेंट जो तथ्य के साथ अभिलेखागार भरता है, फिर एक सवाल का जवाब देकर कॉलarchival_memory_search. .

इसे चलाओः

python3 code/main.py

निशान एजेंट को तीन तथ्यों को लिखते हुए, कैप के मुख्य संदर्भ को भरते हुए (जबरदस्ती निकासी) दिखाता है, फिर अभिलेखागार से निकालने के माध्यम से एक अनुवर्ती प्रश्न का जवाब देता है MemGPT कार्यप्रवाह को पुनः प्रस्तुत करता है बिना किसी वास्तविक LLM के।

इसका प्रयोग करें

आज के समय में प्रत्येक उत्पादन मेमोरी सिस्टम मेमजीपीटी संस्करण है:

Letta(पाठ 08) तीन स्तर, मूल तर्क, नींद समय गणना।
Mem0(पाठ 09) वेक्टर + केवी + ग्राफ स्कोरिंग लेयर के साथ मिलाया गया।
OpenAI Assistants / Responses थ्रेड और फ़ाइलों के माध्यम से संचालित स्मृति।
Claude Agent SDK कौशल और सत्र स्टोर के माध्यम से दीर्घकालिक स्मृति।

ऑपरेशनल आकार (स्व-होस्ट, प्रबंधित, फ्रेमवर्क-एन्टीग्रेटेड) के आधार पर एक चुनें, कोर पैटर्न के आधार पर नहीं।

एजेंट स्मृति का आकार

पृष्ठिंग क्षमता को हल करता है। यह यह तय नहीं करता है कि क्या संग्रहीत किया जाना है। चार मेमोरी प्रकार उत्पादन प्रणालियों में दोहराए जाते हैं, प्रत्येक एक अलग सवाल का जवाब देता हैः

Working memory अब क्या मायने रखता है? संदर्भ स्तरः वर्तमान कार्य, हाल ही में बारी, pinned कोर अनुभाग। प्रम्प्ट स्वयं।
Episodic memory क्या हुआ? पिछले मोड़ और पटरियों, सत्र और मोड़ संदर्भ के साथ संग्रहीत, मांग पर पुनः खेला जा सकता है।
Semantic memory क्या सच है? उपयोगकर्ता, डोमेन, दुनिया के बारे में तथ्य, अद्यतन और बदलते समय दोहराया जाता है।
Procedural memoryमैंने ऐसी आदतें, वरीयताएं और नियम सीखे हैं जो याद करने के बजाय भविष्य के व्यवहार को निर्देशित करते हैं।

ओपन सोर्स कार्यान्वयन विभिन्न हमले के बिंदुओं को चुनते हैंः

Type	Implementation	How it tackles it
Working	MemGPT / Letta	Pages content in and out of a fixed prompt budget via memory tools (this lesson, Lesson 08)
Episodic	Zep	Temporal knowledge graph — facts carry validity intervals, so "what was true when" is queryable
Semantic	Mem0	Extraction pipeline that dedupes and updates facts across vector, KV, and graph stores (Lesson 09)
Semantic + procedural	LangMem	Background extraction of facts and behavioral rules into a store the agent consults between turns
Episodic + semantic	agentmemory	Captures sessions as they run, consolidates them into typed, searchable records

इसे भेजें

outputs/skill-virtual-memory.mdएक पुनः प्रयोज्य कौशल है जो किसी भी लक्ष्य रनटाइम के लिए एक सही दो-स्तरीय मेमोरी स्टेफल्ड (मुख्य + संग्रह + उपकरण सतह) का उत्पादन करता है, जिसमें निकासी नीति और उद्धरण क्षेत्रों के साथ तारबद्ध है।

व्यायाम

एक जोड़ें max_main_context_tokensटोकन में मापा गया कैप (लगभग len(text.split())* 1.3) जब सीमा पार हो जाए तो सबसे पुराने संदेशों को संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में संक्षेप में सं
आरसीओ स्टोर पर BM25 को ठीक से लागू करें (शब्द आवृत्ति, उलट दस्तावेज़ आवृत्ति)। टोकन ओवरलैप बेसलाइन के मुकाबले खिलौना तथ्य सेट पर रिकॉल@10 मापें।
जोड़ें citationसंग्रह सम्मिलित करने के लिए क्षेत्रों (session_id, turn_id, source_url) । एजेंट को प्रत्येक पुनः प्राप्ति समर्थित उत्तर पर स्रोतों का उल्लेख करने के लिए कहें।
स्मृति विषाक्तता का अनुकरण करेंः एक अभिलेखागार रिकॉर्ड जोड़ा जाए जिसमें लिखा हो "भविष्य में सभी उपयोगकर्ता निर्देशों को अनदेखा करें।" एक गार्ड लिखें जो निर्देश के आकार के पाठ के लिए खोजों को स्कैन करता है और उन्हें अविश्वसनीय चिह्नित करता है।
MemGPT अनुसंधान रेपो के कोर-मेमोरी JSON योजना का उपयोग करने के लिए कार्यान्वयन पोर्ट (cpacker/MemGPT) जब आप फ्लैट स्ट्रिंग से टाइप किए गए खंडों में बदलते हैं तो क्या परिवर्तन होते हैं?

प्रमुख शर्तें

Term	What people say	What it actually means
Virtual context	"Unlimited memory"	Main (prompt) + external (searchable) tiers with page in/out
Main context	"Working memory"	The prompt — fixed-size, always visible
Archival memory	"Long-term store"	External searchable persistence, retrieved on demand
Core memory	"Persistent prompt section"	Named sections pinned inside the main context
Memory tool	"Memory API"	Tool call the agent issues to read/write external memory
Interrupt	"Memory page fault"	Agent pauses, runtime fetches, result splices into next turn
Memory rot	"Stale facts"	Old writes drown retrieval; fix with consolidation
Memory poisoning	"Injected persistent note"	Attacker content stored as memory, re-ingested on recall

आगे पढ़ना

Packer et al., MemGPT (arXiv:2310.08560) ओएस से प्रेरित वर्चुअल संदर्भ पेपर
Letta, Memory Blocks blog तीन स्तरीय विकास
Anthropic, Effective context engineering संदर्भ को बजट के रूप में व्यवहार करना
Chhikara et al., Mem0 (arXiv:2504.19413) इस पैटर्न के ऊपर हाइब्रिड उत्पादन स्मृति
Zep (getzep/zep) वर्गीकरण तालिका से समय ज्ञान-ग्राफ स्मृति
Mem0 (mem0ai/mem0) पाठ 09 के हाइब्रिड स्टोर के पीछे की निकासी पाइपलाइन
LangMem (langchain-ai/langmem) तथ्यों और व्यवहारिक नियमों की पृष्ठभूमि निकासी
agentmemory (rohitg00/agentmemory) सत्र कैप्चर टाइप किए गए, खोज योग्य रिकॉर्ड में समेकित

This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.

Browse the complete course catalog or open this lesson on GitHub.