Phase 18: Ethics, Safety & Alignment

بطاقات النموذج والنظام ومجموعة البيانات

تنشئ ثلاث تنسيقات وثائقية شفافية الذكاء الاصطناعي. بطاقات النموذج (ميتشل وآخرون) 2019) علامات التغذية للنماذج: بيانات التدريب، التحليلات الكمية المجزئة، والاعتبارات الأخلاقية، والتحذيرات؛ فقط 0.3% من بطاقات نموذج Hugging Face توثيق الاعتبارات الأخلاقية (Oreamuno et al. 2023). ورق بيانات لمجموعات البيانات (Gebru et al. 2018، CACM) الحافز، التركيب، عملية جمع، التسمية، التوزيع، الصيانة؛ التشابه الإلكتروني-صفحة البيانات. بطاقات البيانات (Pushkarna et al., Google 2022) التفاصيل المكونة من طبقات (التلسكوبية والبيريسكوبية والجهاز المجهري) ككائنات حدودية للقراء المتنوعين. تطورات 2024-2025: توليد آلي عبر الـ LLM (CardGen، Liu et al. 2024) ؛ تتصل تفاصيل بطاقة النموذج بزيادة تصل إلى 29٪ في تنزيل HF (Liang et al. 2024) ؛ الشهادات التي يمكن التحقق منها (Laminator، Duddu et al. 2024) ؛ إضافات تقارير الاستدامة للكربون/المياه (Jouneaux et al. تموز/يوليو 2025) ؛ بطاقات تنظيمية الاتحاد الأوروبي/ISO الناشئة. بطاقات النظام (سيدپور ولا 2024؛ شفافية على مستوى النظام الأساسي؛ "خطوط الأساسية للثقة" arXiv: 2509.20394) مستندات نظام الذكاء الاصطناعي من نهاية إلى نهاية تغطي قدرات الأمن، وحماية الحقن السريع، وكشف التفريغ البيانات، والتنسيق مع القيم البشرية.

Type: Build

Languages: Python (stdlib, model-card + datasheet + system-card generator)

Prerequisites: Phase 18 · 18 (safety frameworks), Phase 18 · 24 (regulatory)

Time: ~60 minutes

أهداف التعلم

وصف بطاقة نموذج ميتشل وآخرين لعام 2019 الأصلية ورقة بيانات جيبرو وآخرين لعام 2018.
وصف الطبقة التلسكوبية/الموسيقية/الميكروسكوبية لبطاقات البيانات.
وصف بطاقات النظام وتغطيتها من نهاية إلى نهاية.
بيان ثلاثة تطورات 2024-2025 (الإنتاج الآلي، والشهادات المتحقق منها، وإعداد تقارير الاستدامة).

المشكلة

تتطلب الإطار التنظيمي (الدرس 24) وسياسات السلامة المختبرية (الدرس 18) وثائق. تطورت تنسيقات الوثائق من نموذج محدد (بطاقات النموذج) إلى مجموعة بيانات محددة (صفحات بيانات) إلى نظام محددة (بطاقات النظام). كل منها يعالج نطاقًا مختلفًا من الشفافية. يعالج العمل التلقائي والشهادة المثبتة من 2024 إلى 2025 مشكلة اعتماد طويلة الأمد.

المفهوم

بطاقات النموذج (Mitchell et al. 2019)

القسم:

تفاصيل النموذج
الاستخدام المقصود
العوامل (العوامل الديموغرافية أو البيئية ذات الصلة للتقييم).
المقاييس
بيانات التقييم
بيانات التدريب
التحليلات الكمية (موزعة حسب العوامل).
اعتبارات أخلاقية
الكهوف والوصيات

مشكلة تبني: أوريامونو وزملاءها، 2023 مراجعة بطاقات نموذج Hugging Face وجدت 0.3% فقط وثيقة اعتبارات أخلاقية.

ورق بيانات لمجموعات البيانات (Gebru et al. 2018)

تشبيهات إلكترونية ورقة بيانات.

الدافع (لماذا تم إنشاء مجموعة البيانات).
التركيب (ما في ذلك).
عملية جمعها (كيف تم تجميعها).
التسمية (إن وجدت)
الاستخدامات (المقصودة، المحظورة، المخاطر).
التوزيع
صيانة

نشرت في CACM 2021. ورقة البيانات هي الوثائق المتقدمة؛ تعتمد بطاقة النموذج على دقة ورقة البيانات.

بطاقات البيانات (بوشكارنا وغيرها، جوجل 2022)

التفاصيل المكونة من طبقات ثلاث مستويات للتزويج

Telescopic.ملخص رفيع المستوى لغير الخبراء
Periscopic.إشعار عام للممارسين في مجال المعلومات المختصة
Microscopic.وثائق مفصلة على مستوى الميزات للمدققين.

إطار الحدود: القراء المختلفون يستخرجون معلومات مختلفة من نفس الوثيقة.

بطاقات النظام

نطاق: نظام الذكاء الاصطناعي من نهاية إلى نهاية بما في ذلك النموذج + كومة السلامة + سياق النشر.

قدرات الأمن
حماية الحقن السريع
اكتشاف إفراز البيانات
التوافق مع القيم البشرية المعلنة
رد فعل الحادث

سيدبوروالا 2024 و عمل شفافية على مستوى النظام المتحرك. "خطوط الأمان" (arXiv: 2509.20394) يعلن رسمية بطاقة النظام كإكمال طبقة التنفيذ للطاقات النموذجية.

التطورات 2024-2025

CardGen (Liu et al. 2024).توليد بطاقات النموذج الآلي عبر LLM؛ تقارير أكثر موضوعية من العديد من بطاقات المؤلفة من قبل الإنسان على حقل ميتشل 2019 الموحدة.
Download correlation (Liang et al. 2024).تتصل بطاقات النموذج المفصلة مع معدلات التنزيل أعلى بنسبة تصل إلى 29٪ على ضغط تبني HF الآن مدفوعة بالسوق ، وليس فقط الامتثال.
Laminator (Duddu et al. 2024).الشهادات المتحققة عن طريق التوقيعات التكنولوجية TEE / التشفيرية تسمح بطاقة النموذج بحمل دليل على المطالبة ، وليس مجرد المطالبة.
Sustainability (Jouneaux et al. July 2025).إضافة للكربون والماء وآثار الطاقة الحاسوبية؛ معايير ISO الناشئة.
Regulatory cards.قانون الاتحاد الأوروبي لذكاء الذكاء الاصطناعي (درس 24) فصيل قانون الممارسة GPAI للشفافية يتطلب بطاقات النموذج كشيء أساسي للامتثال.

حيث يتناسب هذا مع المرحلة 18

الدروس 24-25 هي الطبقات التنظيمية و CVE. الدروس 26 هي طبقة الوثائق. الدروس 27 هي تدريب الحكم البيانات، والتي هي إدارة ورقة البيانات. الدروس 28 هي النظام البحثي الذي ينتج التقييمات المرجعية في البطاقات.

استخدمها

code/main.pyيُولد بطاقة نموذجية، ورقة بيانات، وبطاقة النظام للحصول على تعزيز لعبة. يتبع كل منها بنية القسم القنوني. يمكنك فحص النموذج ومقارنة المجالين الثلاث.

أرسله

هذا الدرس يُنتجoutputs/skill-card-audit.md. مع إعطاء بطاقة نموذجية أو ورقة بيانات أو بطاقة النظام، فإنه يُدقق تغطية القسم، وتقسيم العددي، وما إذا كانت الشهادات قابلة للتحقق موجودة.

التمارين

أركضcode/main.py- فحص البطاقات المولدة، وتحديد القسمات الضعيفة (للمسجل فقط) وتحديد الأدلة التي ستعززها.

تمديد بطاقة النموذج مع تحليل مقمي منفصل على مجموعتين ديمغرافيكيتين (الدرس 20).

اقرأ Oreamuno et al. 2023 حول معدل تبني 0.3٪ اقترح تغيير هيكلي واحد في مواصفات بطاقة النموذج التي من شأنها زيادة تبني التفكير الأخلاقي.

يستخدم Laminator (Duddu et al. 2024) TEEs للتحقق من الشهادات. صمم حقل بطاقة نموذج يحمل شهادة رمزية لنتيجة التقييم ووصف دور المؤكد.

اكتب بطاقة النظام (بطاقة النظام، وليس بطاقة النموذج) لأحد مشاريعك السابقة أو تنفيذ افتراضي. حدد القسم الأكثر قيمة للمدققين من طرف ثالث.

الشروط الرئيسية

Term	What people say	What it actually means
Model Card	"the Mitchell card"	Mitchell et al. 2019 standard documentation for ML models
Datasheet	"the Gebru datasheet"	Gebru et al. 2018 standard documentation for datasets
Data Card	"the Pushkarna card"	Google 2022 modular layered data documentation
System Card	"the deployment card"	End-to-end AI system documentation including safety stack
Boundary object	"different readers, one doc"	Data Cards framing: same document serves diverse audiences
Verifiable attestation	"the Laminator attestation"	Cryptographic or TEE proof attached to a documentation claim
Sustainability field	"carbon / water footprint"	Emerging 2025 addition for environmental accounting