معايير العدالة مجموعة، فردية، مضادة
Type: Learn
Languages: Python (stdlib, three-criteria comparison)
Prerequisites: Phase 18 · 20 (bias), Phase 02 (classical ML)
Time: ~60 minutes
أهداف التعلم
- أوضح معايير العدالة المجموعية الثلاثة (المساواة الديموغرافية والاحتمالات المتساوية ومساواة دقة الاستخدام المشروط) ونتيجة واحدة من عدم الإمكانية.
- وصف العدالة الفردية من خلال صيغة Dwork et al. 2012 Lipschitz.
- وصف العدالة المضادة للواقع واستمرارها في التبعية من الرسم البياني للسبب.
- شرح المضادات المتراجعة و لماذا تتجنب مشكلة التدخل على صفة المحمية.
المشكلة
كانت الدروس 20 عن قياس التحيز. الدروس 21 عن تحديد معيار العدالة الذي يجب أن يخدم القياس. تقدم الأسرة الثلاثة معايير مختلفة بناءً على بنية يمكن أن يكون نموذجًا عادلًا في المجموعة وغير عادلًا فرديًا ، وعادلًا بشكل مضاد وغير عادل في المجموعة. اختيار المعيار هو قرار سياسي ؛ لا يوجد معيار مثالي عالميًا.
المفهوم
العدالة في المجموعة
- Demographic parity.P Y=1 A=a = P Y=1 A=a') لجميع المجموعات. معدلات القبول متساوية.
- Equalized odds.P Y=1 Y=y، A=a) = P Y=1 Y=y، A=a') TPR و FPR متساوين عبر المجموعات.
- Conditional use accuracy equality.P Y y = y , A = a) = P Y y , Y = y , A = a') قيمة تنبؤية متساوية بين المجموعات.
الإمكانية (تشولديشوفا، كلاينبرغ-موليناتان-راغافان 2017): لا يمكن الوفاء بهذه الثلاثة في وقت واحد في ظل أسعار أساسية غير متساوية.
العدالة الفردية
Dwork et al. 2012. خريطة قرار f هي فردية عادلة فيما يتعلق بمقاييس التشابه المحددة للمهمة d إذا f(x) - f(x') <= L * d(x, x') لبعض ثابتة Lipschitz.
يتطلب تحديد d. سؤال سياسية، وليس إحصائي.
العدالة المضادة للواقع
كوسنر وزملاء 2017 . قرار عادل بشكل مُضاد للأفراد i إذا كان ، تحت نموذج سببي للسكان ، قرار لا يتغير عندما يتم تغيير صفات حساسة i بشكل مُضاد.
يتطلب DAG السببية. DAG هو اختيار النموذج. العدالة المضادة للواقع هو فقط مبرر مثل DAG.
التداول بين الفئة الفيدرالية مقابل الدقة
نيوريبيس 2024 النظرية: هناك تنافس متأصل بين العدالة المضادة للواقع والدقة التنبؤية. يمكن لأسلوب نموذجية تجسدية تحويل متنبؤ مثالي غير عادل إلى متنبؤ CF ، بتكلفة دقة محدودة. تعتمد تكلفة الدقة على حجم معدل الصفات الحساسة في المتنبؤ غير عادل المثالي.
المضادات المتراجعة
arXiv:2401.13935 (يناير 2024). تتطلب المعاكسات التقليدية تدخلات على الصفة الحساسة "هل سيتغير القرار إذا كان هذا الشخص من جنس مختلف". من الناحية القانونية، هذا مشكل: لا يمكن التدخل في الصفات المحمية في قانون التصنيف.
تُعكس المضادات التراجعية الاتجاه: بدلاً من التدخل في الصفة، اسأل ما هو مزيج من الميزات الفعلية الفردية التي قد أدت إلى النتيجة المضادة للواقع. هذا يتجنب الاعتراض القانوني.
المصالحة الفلسفية
ICLR Blogposts 2024. مع رسم سببية في اليد، فإن تلبية بعض تدابير العدالة الجماعية تتضمن العدالة المضادة. الأسرة الثلاثة ليست متقاطعة؛ إنها جوانب مختلفة من نفس الهيكل السببي الأساسي.
هذا لا يحل نظرية الإستحداث (معدلات الأساس غير المتساوية لا تزال تمنع العدالة الجماعية في وقت واحد). لكنه يظهر أن المعارضة الواضحة بين "الجماعة" و"الفردية / المضادة" هي جزئيا مصدر عدم التوضيح حول النموذج السببي.
حيث يتناسب هذا مع المرحلة 18
الدروس 20 هي قياس التحيز. الدروس 21 هي تعريف العدالة. الدروس 22 هي الخصوصية (الخصوصية التفاضلية). الدروس 23 هي علامة المياه. هذه هي الدروس المجاورة للتخصيص التي تكمل الدروس 7-11.
استخدمها
code/main.pyيُبني مجموعة بيانات تصنيف ثنائي لعبة مع سمة حساسة ومعدلات أساسية غير متساوية. احسب المساواة الديموغرافية والاحتمالات المتساوية ومساواة الدقة الاستخدام المشروطية على تصنيف بسيط. لاحظ عدم توافق المقاييس الثلاثة. تطبق إعادة الوزن للمساواة الديموغرافية وتلاحظ تكلفتها على الثانية الأخرى.
أرسله
هذا الدرس يُنتجoutputs/skill-fairness-criterion.md. في ظل ادعاء أو سياسة العدالة، تحدد المعيار الذي يُدعى، وما إذا كان النموذج يمكن أن يستوفي المعايير المتبقية في ظل أسعار الأساس المتقدمة غير المتساوية، وما هي المادة الجوهرية التي يعتمد عليها المطالبة.
التمارين
- أركض
code/main.py. إعداد بيانات المجموعة الثلاثة على البيانات الافتراضية. تطبيق إعادة الوزن المستهدفة على المساواة الديموغرافية وإعادة الإبلاغ.
- تنفيذ مقياس Dwork et al. 2012 لعدالة الفرد باستخدام L2 على الميزات غير الحساسة.
- قراءة Kusner et al. 2017. بناء DAG السببية بسيطة ذات اثنين من الميزات لتحديد نقاط الاستئناف وتحديد شرط العدالة المضادة التي تنطوي عليها.
- تقرير "الواقع المضادة للعودة إلى الوراء" لعام 2024 يتجنب التدخل في الصفات المحمية. وصف سيناريو يكون فيه هذا مهمًا للامتثال القانوني.
- يجادل مصالحة ICLR 2024 أن العدالة المجموعية والمعاكسة الفعلية هي جوانب من نفس الهيكل. اختر اثنين من المعايير الثلاثة في
code/main.pyويقولون عن افتراض السبب الذي يجعلهم متساوين.
الشروط الرئيسية
| Term | What people say | What it actually means |
|---|---|---|
| Demographic parity | "equal rates" | P(Y=1 |
| Equalized odds | "equal TPR/FPR" | Equal true-positive and false-positive rates across groups |
| Conditional use accuracy | "equal PPV/NPV" | Equal predictive values across groups |
| Individual fairness | "Lipschitz condition" | Similar individuals get similar decisions |
| Counterfactual fairness | "causal alteration invariance" | Decision unchanged under counterfactual attribute alteration |
| Backtracking counterfactual | "explain via actuals" | Counterfactual reasoned backward from outcome, not forward from attribute |
| Impossibility theorem | "the three conflict" | Chouldechova / KMR 2017: group criteria mutually exclusive under unequal base rates |
المزيد من القراءة
- Dwork et al. — Fairness through Awareness (arXiv:1104.3913) العدالة الفردية
- Kusner, Loftus, Russell, Silva — Counterfactual Fairness (arXiv:1703.06856) العدالة المضادة للواقع
- Chouldechova — Fair prediction with disparate impact (arXiv:1703.00056)- مستحيل
- Backtracking Counterfactuals (arXiv:2401.13935) نموذج جديد للتدخلات ذات الصفات المحمية
This free lesson is part of the AI Engineering from Scratch curriculum. Read the full explanation, run the lesson code, and verify the result in the interactive reader or from the repository source.
Browse the complete course catalog or open this lesson on GitHub.