Phase 14: Agent Engineering

एंथ्रोपिक के वर्कफ़्लो पैटर्नः सरल और जटिल

श्लंट्ज़ और झांग (एंट्रोपिक, दिसंबर 2024) एजेंटों (डायनामिक टूल-यूज) से वर्कफ़्लो (पूर्वनिर्धारित पथ) को अलग करते हैं। पांच वर्कफ़्लो पैटर्न अधिकांश मामलों को कवर करते हैं। सीधे एपीआई कॉल से शुरू करें। एजेंटों को केवल तभी जोड़ें जब चरणों की भविष्यवाणी नहीं की जा सकती है।

Type: Learn + Build

Languages: Python (stdlib)

Prerequisites: Phase 14 · 01 (Agent Loop)

Time: ~60 minutes

सीखने के लक्ष्य

  • एंथ्रोपिक के पांच वर्कफ़्लो पैटर्न का नाम देंः शीघ्र चेनिंग, रूटिंग, समानांतर, ऑर्केस्ट्रेटर-कार्यकर्ता, मूल्यांकनकर्ता-अनुकूलनकर्ता।
  • एजेंट बनाम वर्कफ्लो अंतर और प्रत्येक की इंजीनियरिंग लागत को समझाएं।
  • एजेंट के बजाय कार्यप्रवाह को कब चुनना है (और इसके विपरीत) की पहचान करें।
  • एक स्क्रिप्ट LLM के खिलाफ STDlib में सभी पांच पैटर्न लागू करें।

समस्या

टीमें उन समस्याओं के लिए मल्टी-एजेंट फ्रेमवर्क की तलाश करती हैं जिन्हें एक एकल फ़ंक्शन कॉल की आवश्यकता होती है। लागत वास्तविक हैः फ्रेमवर्क परतें जोड़ते हैं जो संकेतों को अस्पष्ट करते हैं, नियंत्रण प्रवाह को छिपाते हैं, और समय से पहले जटिलता को आमंत्रित करते हैं। श्लंट्ज़ और झांग की दिसंबर 2024 पोस्ट सबसे अधिक उद्धृत उद्योग की धक्का हैः सरल शुरू करें, केवल जब यह अपनी लागत अर्जित करता है तो जटिलता जोड़ें।

अवधारणा

कार्यप्रवाह बनाम एजेंट

  • Workflow.एलएलएम और उपकरण पूर्वनिर्धारित कोड पथों के माध्यम से व्यवस्थित किए जाते हैं। इंजीनियर ग्राफ के मालिक हैं।
  • Agent.एलएलएम अपने स्वयं के उपकरणों को गतिशील रूप से निर्देशित करते हैं और अपने स्वयं के कदम उठाते हैं। मॉडल ग्राफ का मालिक है।

दोनों के लिए अपना स्थान है। वर्कफ़्लो सस्ता, तेज़ और डिबग करने में आसान है। एजेंट खुले-खुले समस्याओं को अनलॉक करते हैं लेकिन विफलता मोड को तर्क देना मुश्किल बनाता है।

बढ़ी हुई LLM

सभी पांच पैटर्न के लिए आधारः एक एलएलएम जिसमें तीन क्षमताएं हैं जो खोज (पुनर्प्राप्त), उपकरण (कार्य), स्मृति (अस्तित्व) में वायर्ड हैं। किसी भी एपीआई कॉल इनका उपयोग कर सकता है।

पांच पैटर्न

  1. Prompt chaining.कॉल 1 का आउटपुट कॉल 2 में इनपुट होता है। जब किसी कार्य में एक साफ रैखिक विघटन होता है, तो इसका उपयोग करें। चरणों के बीच वैकल्पिक प्रोग्रामेटिक गेट।
  1. Routing.एक वर्गीकरणकर्ता एलएलएम चुनता है कि कौन सा डाउनस्ट्रीम एलएलएम या उपकरण का आह्वान करना है। जब अलग-अलग इनपुट को अलग-अलग हैंडलिंग की आवश्यकता होती है (स्तर-1 समर्थन बनाम धनवापसी बनाम बग बनाम बिक्री) ।
  1. Parallelization.N LLM कॉल को एक साथ चलाएं, संकलित परिणाम। दो रूपः खंड (अलग टुकड़े) और मतदान (एक ही प्रॉम्प्ट, N रन, बहुमत / संश्लेषण) ।
  1. Orchestrator-workers.एक ऑर्केस्ट्रेटर एलएलएम गतिशील रूप से तय करता है कि कौन से श्रमिक (साथ ही एलएलएम) चलाने के लिए और उनके उत्पादन को संश्लेषित करता है। एजेंट लूप्स के समान लेकिन ऑर्केस्ट्रेटर अनिश्चित काल तक लूप नहीं करता है।
  1. Evaluator-optimizer.एक LLM एक उत्तर का प्रस्ताव देता है, दूसरा LLM इसका मूल्यांकन करता है। मूल्यांकनकर्ता पास होने तक दोहराएं। यह आत्म-संशोधन (लक्षण 05) सामान्य है।

जहां कार्यप्रवाह एजेंटों को हराता है

  • Predictable tasks.यदि आप चरणों को सूचीबद्ध कर सकते हैं, तो आपको करना चाहिए।
  • Cost-bound tasks.कार्यप्रवाहों में सीमांकित चरण संख्या होती है; एजेंट सर्पिल हो सकते हैं।
  • Compliance-bound tasks.लेखा परीक्षकों को ग्राफ पढ़ना चाहिए, न कि ट्रैकटोरियों से निष्कर्ष निकालना चाहिए।

जहां एजेंटों काम के प्रवाह से बेहतर

  • Open-ended research.अगला कदम कब होगा, यह इस बात पर निर्भर करता है कि अंतिम कदम क्या लौटा।
  • Variable-length tasks.मिनट से घंटे तक काम जहां चरण संख्या अज्ञात है।
  • Novel domains.जब आप अभी तक सही कार्यप्रवाह नहीं जानते हैं खोज पहले, बाद में संकलित करें।

संदर्भ इंजीनियरिंग साथी

"एआई एजेंटों के लिए प्रभावी संदर्भ इंजीनियरिंग" (एंट्रोपिक 2025) आसन्न अनुशासन को औपचारिक बनाता हैः 200k विंडो एक बजट है, एक कंटेनर नहीं। क्या शामिल करना है, कब संपीड़ित करना है, संदर्भ को कब बढ़ने देना है। संदर्भ संपीड़न पर चरण 14 पाठ में विस्तार से कवर किया गया है (पुनर्विचार से पहले इस पाठ्यक्रम में चरण 14 पहले पाठ 06 में।)

इसे बनाओ

code/main.pyएक ScriptedLLM:

  • prompt_chain(input, steps) क्रमशः
  • route(input, classifier, handlers) वर्गीकरण + भेजना।
  • parallel_vote(prompt, n, aggregator) N रन, संकलित।
  • orchestrator_workers(task, workers) संगीतकार श्रमिकों को चुनता है।
  • evaluator_optimizer(task, proposer, evaluator, max_iter) पार करने तक लूप।

इसे चलाओः

python3 code/main.py

प्रत्येक पैटर्न अपना निशान प्रिंट करता है। प्रति पैटर्न कोड की कुल पंक्तियां ~ 10-15 हैं; एक फ्रेमवर्क की लागत हजारों में मापी जाती है।

इसका प्रयोग करें

  • प्रत्यक्ष एपीआई अधिकांश कार्यों के लिए कहता है।
  • केवल जब पैटर्न को वास्तव में टिकाऊ राज्य (लंगग्राफ), अभिनेता-मॉडल समवर्ती (ऑटोजेन v0.4) या भूमिका टेम्पलेटिंग (क्रूएआई) की आवश्यकता होती है।
  • जब आप इसे पुनर्निर्माण किए बिना क्लाउड कोड हर्नर आकार चाहते हैं तो क्लाउड एजेंट एसडीके के लिए पहुंचें।

इसे भेजें

outputs/skill-workflow-picker.mdकिसी दिए गए कार्य विवरण के लिए सही पैटर्न चुनता है, जिसमें निर्णय के तर्क और कार्यप्रवाहों में कमी होने पर एजेंट के लिए रिफैक्टर पथ शामिल है।

व्यायाम

  1. एक विश्वसनीयता सीमा के साथ रूटिंग लागू करें। सीमा के नीचे -> मानव तक बढ़ें। एक स्तर-1 समर्थन उपयोग मामले के लिए सीमा सीमा कहां जाती है?
  2. को समय का समय जोड़ेंparallel_vote. . . जब एक कॉल लटका है तो क्या होता है?
  3. घुमाओevaluator_optimizerएक डाकू मेंः दो बार में शीर्ष 2 आउटपुट बनाए रखें ताकि देर से अच्छा परिणाम देर से खराब परिणाम से ओवरराइट न हो।
  4. शीघ्र चेनिंग को रूटिंग के साथ जोड़ेंः एक राउटर तीन श्रृंखलाओं में से एक का चयन करता है। टोकन लागत बनाम एक एकल बड़े-प्रोम्प्ट विकल्प का माप करें।
  5. अपने उत्पादन सुविधाओं में से एक चुनें, कार्यप्रवाह ग्राफ खींचें, कदम गिनें. क्या एक एजेंट वास्तव में यहाँ बेहतर होगा?

प्रमुख शर्तें

TermWhat people sayWhat it actually means
Workflow"Predefined flow"Engineer-owned graph of LLM and tool calls
Agent"Autonomous AI"Model-owned graph; dynamic tool direction
Augmented LLM"LLM with tools"LLM + search + tools + memory; the atomic unit
Prompt chaining"Sequential calls"Output of call N is input to call N+1
Routing"Classifier dispatch"Pick which chain/model handles the input
Parallelization"Fan out"N concurrent calls; aggregate by sectioning or voting
Orchestrator-workers"Dispatcher agent"Orchestrator LLM picks specialist LLMs dynamically
Evaluator-optimizer"Proposer + judge"Iterate until evaluator passes; Self-Refine generalized

आगे पढ़ना

This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.

Browse the complete course catalog or open this lesson on GitHub.