Phase 15: Autonomous Systems

ميزانيات العمل، أعلى حدود التكرار، وحكام التكاليف

ارتفع تكلفة الشهر للماجستير في مجال التجارة الإلكترونية المتوسطة الحجم من $1,200 to $4,800 بعد أن تمكن فريقها من مهارة "تتتبع الطلبات". هذا ليس خطأ في التسعير. هذا هو وكيل وجد حلولًا جديدًا واصلت الإنفاق بداخله. مجموعة أدوات حكم وكلاء مايكروسوفت (أبريل 2, 2026) تشكيل الدفاع ضد هذه الفئة: حسب الطلبmax_tokens، على كل مهمة رمزية وبالدولار ميزانيات، يومي / شهري أقصى حد، وتكرار القيود، وتوجيه النموذج المرتبة، التخزين السريع، النوافذ السياقية، نقاط تفتيش HITL على الإجراءات المكلفة، اغتيال المفاتيح في خرق الميزانية. إنتروبيك كلود وكيل القانون SDK السفينة نفس البدائية تحت أسماء مختلفة. حدود السرعة المالية على سبيل المثال، قطع الوصول على > 50 دولار في 10 دقائق القبض على حلقات أسرع من القيود الشهرية.

Type: Learn

Languages: Python (stdlib, layered cost-governor simulator)

Prerequisites: Phase 15 · 10 (Permission modes), Phase 15 · 12 (Durable execution)

Time: ~60 minutes

المشكلة

وكلاء مستقلون ينفقون أموال حقيقية في كل جولة. إنتاج شاتبوت سيء هو رد سيء؛ حلقة شرير وكيل هو فاتورة. المصطلح الموثق في الصناعة لنظام الفشل هو "رفض المحفظة"

إنّ الحزمة ليست رقمًا واحدًا، بل مجموعة من الحدود في مقياسات زمنية مختلفة وذكائها: لكل طلب، لكل مهمة، لكل ساعة، لكل يوم، كل شهر. يلتقط كومة مصممة بشكل جيد حلقة هربة في غضون دقائق، وتسرب بطيء في غضون ساعات، وإطلاق سيئ في غضون يوم. يحتفظ نفس كومة بالمدفوعة على الإطلاق عندما يكون الوكيل بعيد الأفق ومتنازل.

هذه درس هندسي: الرياضيات بسيطة، والتنظيم هو حيث تفشل الفرق. قائمة الحدود أدناه كلها هي المسمّية إما في مجموعة أدوات حكم وكيل مايكروسوفت أو أدوات SDK وكيل كود الأنثروبي.

المفهوم

كومة التكاليف

max_tokens per request.بسيط، يمنع أي مكالمة واحدة من إصدار إكمال غير محدود.
Per-task token budget.خلال الرحلة كلها لا تتجاوز رموز N توقف صلب في القفص
Per-task dollar budget.نفس الشئ مع الرموز ولكن بالعملةmax_budget_usdفي "كلود كود".
Per-tool call cap.لا يزيد عن N WebFetchالمكالماتshell_execمكالمات الخ
Iteration cap (max_turns).إجمالي تكرار حلقة العميل؛ يمنع حلقات التفكير اللامتناهي.
Per-minute / per-hour / per-day / per-month cap.النوافذ المتدحرجة، تلتقط تسربات في مقياسات زمنية مختلفة
Financial velocity limit.على سبيل المثال، "إذا تجاوزت الإنفاق 50 دولار في 10 دقائق، قلص الوصول".
Tiered model routing.الاختيار الافتراضي لنموذج أصغر؛ تصاعد إلى نموذج أكبر فقط عندما يرى المصنف أن المهمة تبرر ذلك.
Prompt caching.يتم تخزين السياق السريع والثابت للنظام في الاحتفاظ بالمتزود؛ تكلفة رمزية لإعادة إرسالها قريبة من الصفر.
Context windowing.التجميع / التجميع للحفاظ على السياق النشط تحت عتبة؛ خفض تكلفة الرمز المباشر.
HITL checkpoints on expensive actions.قبل أن يكون إجراء معروف بأنه مكلف (دعوة طويلة للأدوات، تنزيل كبير، تحديث نموذج مكلف) ، يتطلب أن يضرب الإنسان.
Kill switch on budget breach.الإجتماع يُجبر عندما تنفجر أيّة حزمة. يتم تسجيل الحزمة؛ يتطلب مسار منفصل يمكن إعادة تمكينه.

لماذا كومة، وليس قبعة واحدة

يلتقط الحد الأولي الشهري واحد العميل الهارب فقط بعد أن يختفي المحفظة. لا يلتقط الحد الأولي الواحد لكل طلب أي شيء على مستوى الجلسة. يتطلب أنواع الفشل المختلفة مقياسات زمنية مختلفة:

Runaway loop(الوكيل عالق في محاولة ثانية 5): تم القبض عليه بواسطة حد السرعة.
Slow leak(الوكيل يقوم بعمل متوقع بنحو 2x لكل مهمة): يتم القبض عليه بواسطة الحد الأقصى اليومي.
Bad release(النسخة الجديدة تستخدم رموز 5x): تم القبض عليها بواسطة حد أسبوعي / شهري.
Legitimate surge(طلب حقيقي، ليس حشرة): تم القبض عليه بواسطة السقف الساعات / اليوم مع سجل واضح.

سطح ميزانية الحزام

كشف SDK وكيل كود كلود (دوايات عامة):

max_turns- كأس التكرار
max_budget_usd الحد الأقصى للدولار؛ الإجهاض في جلسة الإجهاض على الانتهاك.
allowed_tools- لا ، لاdisallowed_tools حاسوب الأدوات و حاسوب الدينيل
نقاط الركبة قبل استخدام الأداة لحساب التكاليف المخصصة.

إضافة إلى سلم وضع الإذن (المدرسة 10).autoModeجلسة بدونmax_budget_usdأنثروبيك صراحة إطار وضع السيارات كما يتطلب التحكم في الميزانية؛ التصنيف هو orthogonal للتكلفة.

قانون الاتحاد الأوروبي للاستخبارات الذكية، وكالة OWASP Top 10

تغطي مجموعة أدوات حكم وكلاء مايكروسوفت أفضل 10 وكالات OWASP ومتطلبات قانون الاتحاد الأوروبي للاستخدام الذكي الفكري المادة 14 (الإشراف البشري).

الملاحظين$1,200 → $4800 حالة

الحالة الحقيقية في وثائق مايكروسوفت: وكيل تجارة إلكترونية ارتفع تكلفة الشهرية ثلاثة أضعاف بعد إضافة أداة جديدة. أداة سمحت للعميل لتحقيق حالة الطلب خلال كل جلسة. لا يوجد اكتشاف حلقة لا يوجد قبعة لكل أداة لا توجد تحذيرات عن نمو الأسبوع على الأسبوع كان الإصلاح هو كأس لكل أداة بالإضافة إلى تحذير يومي للنمو هذه هي القالب: كل سطح أداة جديدة هو حلقة محتملة جديدة؛ كل أداة جديدة تحتاج إلى حدة خاصة بها وتنبيه خاص بها.

استخدمها

code/main.pyيقلل وكيل يعمل مع ولا بدون كومة ضخمة من الحكام التكلفة. يتحرك وكيل المحاكاة في حلقة استطلاع بعد بعض التحولات. يلتقط كومة الطائرات داخل نافذة السرعة بينما لا تنطلق كأس شهري واحد حتى أيام بعد ذلك.

أرسله

outputs/skill-agent-budget-audit.mdيقوم بمراجعة مجموعة الحكام التكلفة لتنفيذ العميل المقترح ويشير إلى الطبقات المفقودة.

التمارين

أركضcode/main.pyتأكد من حد السرعة قبل حجب التكرار على مسار حلقة استطلاع الانتخابات الآن تعطيل الحد السرعة و قياس كم "إنفاق" الوكيل قبل حجب التكرار يلتقطه.

تصميم مجموعة من الحواجز لكل أداة لموكل المتصفح (المعلم 11) أي أداة تحتاج إلى الحواجز الأكثر ضيقة؟ أي أداة يمكن أن تعمل دون حدود دون مخاطر؟

اقرأ وثائق مجموعة أدوات حكم وكلاء مايكروسوفت. قم بإدراج كل نوع من الأسماء. قم بتخطيط كل واحدة من أوضاع الفشل (حلقة التفشيل، التسرب البطيء، الإفراج السيئ، الزخم).

سعر عملية غير مراقبة خلال الليل لمهام واقعية (مثل "تجربة 50 إصدار في إعادة التأمين").max_budget_usdعند 2x تقدير نقطتك. تبرير 2x.

كود كودmax_budget_usdتصميم حد سرعة تكملة ستفرضها خارجاً ما الذي يؤدي إلى قطع، وما الذي يشبه إعادة التمكن؟

الشروط الرئيسية

Term	What people say	What it actually means
Denial of Wallet	"Runaway bill"	Agent loop generating spend with no cap to stop it
max_tokens	"Per-request cap"	Ceiling on a single completion's size
max_turns	"Iteration cap"	Ceiling on agent loop iterations in a session
max_budget_usd	"Dollar kill switch"	Session cost cap; aborts on breach
Velocity limit	"Rate cap"	Limit on spend per short window (e.g., $50 / 10 min)
Tiered routing	"Small model first"	Cheap model default; escalate only when classifier warrants
Prompt caching	"Cached system prompt"	Provider-side cache reduces re-send token cost to near zero
HITL checkpoint	"Human approval gate"	Human tap required before expensive action