मॉडल, सिस्टम और डेटासेट कार्ड
Type: Build
Languages: Python (stdlib, model-card + datasheet + system-card generator)
Prerequisites: Phase 18 · 18 (safety frameworks), Phase 18 · 24 (regulatory)
Time: ~60 minutes
सीखने के लक्ष्य
- मूल मिशेल एवं सहयोगी 2019 मॉडल कार्ड और जेब्रू एवं सहयोगी 2018 डेटाशीट का वर्णन करें।
- डेटा कार्ड की दूरबीन/परिसकोपिक/मिक्रोस्कोपिक परतों का वर्णन करें।
- सिस्टम कार्ड और उनके अंत-से-अंत कवरेज का वर्णन करें।
- 2024-2025 के तीन विकास (स्वचालित उत्पादन, सत्यापित प्रमाणपत्र, स्थिरता रिपोर्टिंग) का उल्लेख करें।
समस्या
नियामक ढांचे (पाठ 24) और प्रयोगशाला सुरक्षा नीतियां (पाठ 18) दोनों दस्तावेज की आवश्यकता होती है। दस्तावेज प्रारूप मॉडल-विशिष्ट (मॉडल कार्ड) से डेटासेट-विशिष्ट (डेटाशीट) तक विकसित हुए। प्रत्येक पारदर्शिता के एक अलग दायरे को संबोधित करता है। 2024-2025 स्वचालन और सत्यापित-प्रमाणन कार्य लंबे समय से अपनाने की समस्या को संबोधित करता है।
अवधारणा
मॉडल कार्ड (Mitchell et al. 2019)
धाराएँः
- मॉडल विवरण।
- नियत उपयोग।
- कारक (मूल्यांकन के लिए प्रासंगिक जनसांख्यिकीय या पर्यावरणीय कारक) ।
- मेट्रिक्स.
- मूल्यांकन डेटा।
- प्रशिक्षण डेटा।
- मात्रात्मक विश्लेषण (कारक द्वारा विभक्त)
- नैतिक विचार।
- गुफाएं और सिफारिशें।
Adoption Problem: Oreamuno et al. Hugging Face मॉडल कार्ड के 2023 ऑडिट में केवल 0.3% दस्तावेज नैतिक विचार पाया गया।
डेटासेट के लिए डेटाशीट (Gebru et al. 2018)
इलेक्ट्रॉनिक-डेटाशीट एनालॉग।
- प्रेरणा (डेटासेट का निर्माण क्यों किया गया था) ।
- रचना (इसमें क्या है)
- संग्रह प्रक्रिया (यह कैसे इकट्ठा किया गया था)
- लेबलिंग (यदि लागू हो)
- उपयोग (चाहे, मनाही, जोखिम)
- वितरण.
- रखरखाव.
सीएसीएम 2021 में प्रकाशित। डेटाशीट अपस्ट्रीम प्रलेखन है; मॉडल कार्ड डेटाशीट सटीकता पर निर्भर करता है।
डेटा कार्ड (पुष्कर्ना एवं अन्य, गूगल 2022)
मॉड्यूलर परतों विस्तृत. तीन ज़ूम स्तरोंः
- Telescopic.गैर-विशेषज्ञों के लिए उच्च स्तरीय सारांश।
- Periscopic.एमएल अभ्यासकों के लिए मध्य स्तर का अवलोकन।
- Microscopic.लेखा परीक्षकों के लिए विस्तृत विशेषता स्तर पर दस्तावेज।
सीमा-वस्तु फ्रेमिंगः एक ही दस्तावेज़ से अलग-अलग पाठकों द्वारा अलग-अलग जानकारी निकाली जाती है।
सिस्टम कार्ड
दायराः मॉडल + सुरक्षा स्टैक + तैनाती संदर्भ सहित अंत-से-अंत एआई प्रणाली। खंडों में आमतौर पर शामिल हैंः
- सुरक्षा क्षमताओं।
- शीघ्र इंजेक्शन से सुरक्षा।
- डेटा-उत्पादन का पता लगाना।
- घोषित मानवीय मूल्यों के अनुरूप होना।
- घटना प्रतिक्रिया।
सिद्धपुरवाला 2024 और मेटा सिस्टम स्तर पर पारदर्शिता कार्य। "ट्रस्ट के नीले चित्र" (arXiv:2509.20394) मॉडल कार्ड के लिए तैनाती परत के पूरक के रूप में सिस्टम कार्ड को औपचारिक बनाता है।
2024-2025 के विकास
- CardGen (Liu et al. 2024).एलएलएम के माध्यम से स्वचालित मॉडल कार्ड जनरेशन; मानकीकृत मिशेल 2019 क्षेत्रों पर कई मानव-लेखित कार्डों की तुलना में उच्च उद्देश्य रिपोर्ट।
- Download correlation (Liang et al. 2024).विस्तृत मॉडल कार्ड HF को अपनाने के दबाव पर 29% तक अधिक डाउनलोड दरों के साथ सहसंबंधित है अब बाजार-चालित है, न कि केवल अनुपालन-चालित।
- Laminator (Duddu et al. 2024).हार्डवेयर TEE/क्रिप्टोग्राफिक हस्ताक्षर के माध्यम से सत्यापित प्रमाणपत्र मॉडल कार्ड को दावा का प्रमाण ले जाने की अनुमति देता है, न कि केवल दावा।
- Sustainability (Jouneaux et al. July 2025).कार्बन, जल और कम्प्यूटिंग-ऊर्जा पदचिह्न के लिए अतिरिक्त; उभरते आईएसओ मानक।
- Regulatory cards.यूरोपीय संघ के AI अधिनियम (पाठ 24) GPAI प्रथा संहिता पारदर्शिता अध्याय अनुपालन कलाकृतियों के रूप में मॉडल कार्ड की आवश्यकता है।
जहां यह चरण 18 में फिट बैठता है
पाठ 24-25 नियामक और सीवीई परतें हैं। पाठ 26 प्रलेखन परत है। पाठ 27 प्रशिक्षण-डेटा शासन है, जो डेटाशीट के अपस्ट्रीम है। पाठ 28 अनुसंधान पारिस्थितिकी तंत्र है जो कार्ड में संदर्भित मूल्यांकन का उत्पादन करता है।
इसका प्रयोग करें
code/main.pyएक खिलौना तैनाती के लिए एक न्यूनतम मॉडल कार्ड, डेटाशीट और सिस्टम कार्ड उत्पन्न करता है। प्रत्येक कैनोनिकल खंड संरचना का पालन करता है। आप प्रारूप की जांच कर सकते हैं और तीन स्कोप की तुलना कर सकते हैं।
इसे भेजें
यह सबक हमें फल देता हैoutputs/skill-card-audit.md. एक मॉडल कार्ड, डेटाशीट या सिस्टम कार्ड दिया गया है, यह खंड कवरेज, संख्यात्मक विखंडन और सत्यापित प्रमाण पत्र की उपस्थिति का लेखा परीक्षा करता है।
व्यायाम
- दौड़ें
code/main.py. उत्पन्न कार्डों की जांच करें. कमजोर खंडों की पहचान करें (केवल स्थान धारक के लिए) और निर्दिष्ट करें कि उन्हें किस प्रमाण से मजबूत किया जाएगा।
- दो जनसांख्यिकीय समूहों में एक मात्रात्मक विघटित विश्लेषण के साथ मॉडल कार्ड का विस्तार करें (पाठ 20) ।
- ओरेमुनो एट अल. 2023 पर 0.3% को अपनाने की दर पढ़ें। मॉडल कार्ड विनिर्देश में एक संरचनात्मक परिवर्तन का प्रस्ताव करें जो नैतिक विचारों के अपनाने को बढ़ाएगा।
- Laminator (Duddu et al. 2024) सत्यापित प्रमाणपत्रों के लिए TEEs का उपयोग करता है। एक मॉडल-कार्ड फ़ील्ड डिज़ाइन करें जिसमें मूल्यांकन परिणाम का क्रिप्टोग्राफिक प्रमाण पत्र होता है और सत्यापितकर्ता की भूमिका का वर्णन किया जाता है।
- अपनी पिछली परियोजनाओं में से एक या एक परिकल्पनात्मक तैनाती के लिए एक सिस्टम कार्ड (सिस्टम कार्ड, मॉडल कार्ड नहीं) लिखें। तीसरे पक्ष के लेखा परीक्षकों के लिए उच्चतम मूल्य वाले अनुभाग की पहचान करें।
प्रमुख शर्तें
| Term | What people say | What it actually means |
|---|---|---|
| Model Card | "the Mitchell card" | Mitchell et al. 2019 standard documentation for ML models |
| Datasheet | "the Gebru datasheet" | Gebru et al. 2018 standard documentation for datasets |
| Data Card | "the Pushkarna card" | Google 2022 modular layered data documentation |
| System Card | "the deployment card" | End-to-end AI system documentation including safety stack |
| Boundary object | "different readers, one doc" | Data Cards framing: same document serves diverse audiences |
| Verifiable attestation | "the Laminator attestation" | Cryptographic or TEE proof attached to a documentation claim |
| Sustainability field | "carbon / water footprint" | Emerging 2025 addition for environmental accounting |
आगे पढ़ना
- Mitchell et al. — Model Cards for Model Reporting (arXiv:1810.03993, FAT* 2019) कैनोनिक मॉडल कार्ड
- Gebru et al. — Datasheets for Datasets (CACM 2021, arXiv:1803.09010) डाटाशीट पेपर
- Pushkarna et al. — Data Cards (Google 2022) स्तरीय डेटा प्रलेखन
- Sidhpurwala et al. — Blueprints of Trust (arXiv:2509.20394) सिस्टम कार्ड औपचारिकता
This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.
Browse the complete course catalog or open this lesson on GitHub.