في أعقاب فضائح تحيز الذكاء الاصطناعى رفيعة المستوى الأخيرة ، بدأت الشركات تدرك أنها بحاجة إلى إعادة التفكير في إستراتيجية الذكاء الاصطناعى لتضمين ليس فقط عدالة الذكاء الاصطناعى ، ولكن أيضًا خوارزمية الإنصاف على نطاق أوسع باعتبارها مبدأً أساسياً. في المعهد العملي ، نقوم بتثقيف شركات Fortune 500 حول علوم البيانات و الذكاء الاصطناعى. من خلال عملنا ، اكتشفنا أن العديد من الشركات تكافح من أجل تكوين تعريف واضح للنزاهة الحسابية لمنظمتها. وبدون تعريف واضح ، فإن مبادرات الإنصاف حسنة النية تكمن في عالم النوايا الحسنة ولا تصل أبداً إلى تأثير ملموس. لكن تعريف الإنصاف ليس سهلاً كما يبدو. يبرز مثالان مدى صعوبة ذلك.
أولاً ، ضع في اعتبارك ما حدث في أمازون في عام 2016 ، عندما أصدرت الشركة تسليم Prime في نفس اليوم إلى 27 منطقة حضرية. واجهت الشركة الكثير من الانتقادات عندما أظهرت بلومبرج أن الأحياء الأمريكية الإفريقية تاريخياً مثل برونكس في مدينة نيويورك أو ساوثسايد شيكاغو استُبعدت من أحياءها المؤهلة. في أتلانتا ، كان 96٪ من السكان البيض يعيشون في منطقة توصيل في نفس اليوم ، بينما كان 41٪ فقط من السكان السود يعيشون في هذه المنطقة. كان المثال صارخًا بشكل خاص لأنه أثار ذكريات مؤلمة للبطانة الحمراء ، وهي ممارسة في الثلاثينيات من القرن الماضي حيث تم تمييز الأحياء التي تقطنها أغلبية من الأقليات "الخطرة" بالحبر الأحمر على الخرائط التي رسمتها مؤسسة القروض لأصحاب المنازل الفيدرالية - وهي ممارسة تمييزية تم حظره منذ أكثر من 50 عامًا. في قضية Amazon ، تطلب الأمر من أعضاء الكونغرس ومسؤولي المدينة من أجل Amazon للبدء في تضمين العديد من الأحياء المستبعدة سابقًا في مناطق تسليم Prime في نفس اليوم.
قال بائع التجزئة عبر الإنترنت ومقره سياتل بلومبرج إن أحد الاعتبارات الرئيسية التي استخدمتها في الخوارزمية لاتخاذ هذا القرار هو تركيز أعضاء Prime. من المؤكد أن استخدام تركيز عضوية Prime باعتباره مؤشر KPI الخاص بهم فعال من حيث التكلفة من منظور لوجيستي ، وقد يبدو أنه غير متحيز ونزيه ، إذا أخذنا ذلك بالقيمة الاسمية. ولكن بالنظر إلى الأنماط التاريخية لعدم المساواة العرقية ، يمكن أن تظهر المقاييس التي تركز على الربحية تحيزًا صارخًا ضد الأقليات. في الواقع ، يمنع قانون الحقوق المدنية لعام 1964 متلقي التمويل الفيدرالي من استخدام ممارسات "محايدة الوجه" لها تأثير سلبي غير مبرر على أفراد الطبقة المحمية. حتى إذا كان القانون لا ينطبق مباشرة على العديد من الشركات التي لا تتلقى أموالًا فدرالية ، فإنه لا يزال يوفر دليلًا جيدًا للتوقعات المجتمعية.
الشركات التي تسعى إلى تجنب الفضيحة لا تحتاج فقط إلى تجنب المعاملة المتباينة (معاملة صريحة للفئات المحمية بشكل سلبي) ، بل تحتاج أيضًا إلى البحث عن الأثر المتباين لأفعالها.
المثال الثاني يأتي أيضًا من عام 2016 ، عندما نشرت ProPublica مقالة عن التحيز في الآلة ، تزعم أن خوارزمية تستخدمها المحاكم للمساعدة في قرارات الكفالة كانت متحيزة ضد المدعى عليهم السود. ستنتج الخوارزمية "درجة مخاطرة" للمدعى عليهم الفرديين الذين قدروا فرصتهم في إعادة التسجيل. وجد منفذ الأخبار غير الربحي أنه من بين المدعى عليهم الذين لم يعترضوا في نهاية المطاف ، فقط 24٪ من المدعى عليهم البيض قد تم تصنيفهم عن طريق الخطأ على أنها عالية الخطورة من قبل الخوارزمية ، مقابل 45٪ للمدعى عليهم السود. هؤلاء المدعى عليهم الذين لم يعيدوا الإساءة في نهاية المطاف كانوا أكثر عرضة للحرمان بكفالة في انتظار المحاكمة وكانوا أكثر عرضةً للحكم عليهم لفترة أطول بسبب تصنيفهم عالي المخاطر من الخوارزمية.
ومع ذلك ، توصلت مجموعة من الباحثين المستقلين في ستانفورد وبيركلي إلى استنتاج مختلف عن طريق فحص نفس البيانات ، من خلال النظر في مقياس مختلف. ووجدوا أن المدعى عليهم الذين اعتبرتهم الخوارزمية لديهم درجات مخاطرة مماثلة كان لديهم نفس الاحتمال في إعادة الحساب ، بصرف النظر عن عرقهم. قد يبدو أن هذا يبطل التحليل الذي أجراه Pro-Publica ، لكن هاتين النتيجتين صحيحتان في وقت واحد حتى في حين أن تفسيراتهما مختلفة تمامًا. يمكن أن يؤدي قياس البيانات من خلال العود النهائي للمدعى عليه (كما فعل ProPublica) مقابل درجات المخاطرة لدى المدعى عليه (كما فعل الباحثون) إلى تفسيرات مختلفة للغاية حول عدالة خوارزمية قرار الكفالة. في الواقع ، أظهر الباحثون في جامعة شيكاغو وجامعة كورنيل أن التدابير المستخدمة من قبل الباحثين ProPublic و Stanford-Berkeley مضمونة لتكون على خلاف. وبشكل أكثر تحديدًا ، نظرًا للطبيعة غير الكاملة للتنبؤ بالعودة وتاريخ اللامساواة الهيكلية التي أدت إلى ارتفاع معدلات الحبس بين الأميركيين الأفارقة ، فمن المستحيل رياضياً تلبية عدالة هذين الإجراءين.
وبعبارة أخرى ، فإن تعريف العدالة يأتي إلى المقياس الذي نختار استخدامه.
توضح هاتان الدراستان الحاليتان أن قادة الشركات بحاجة إلى تثقيف أنفسهم حول قياس الإنصاف حتى يكون بإمكانهم أن يقرروا بذكاء كيفية تعريفه لمؤسساتهم. يعني أيضًا دمج المقياس الذي تم اختياره كمؤشر أداء رئيسي ، أو KPI ، لاستخدامه جنبًا إلى جنب مع مقاييس العمل التقليدية مثل الإيرادات أو الربحية. لا تزال الشركات تتصارع مع هذه التعريفات بالضبط وتداعياتها وهذه محادثات مهمة تبدأ الآن. تلعب الخوارزميات الذكاء الاصطناعى والخوارزميات دورًا رئيسيًا في اقتصاد القرن الحادي والعشرين ، وقد يكون لفشل القادة في فهم الآثار المترتبة على الإنصاف في الذكاء الاصطناعي أو الخوارزميات عواقب وخيمة. في النهاية ، الأمر متروك لهم لتحديد معنى الإنصاف بالنسبة لمنظمتهم. تحتاج الشركات إلى البدء في التفكير في القضايا الشائكة المتعلقة بالإنصاف الخوارزمي اليوم ، إذا كانت تأمل في الانتقال إلى مجمعنا الذي يحركه الذكاء الاصطناعي غدًا.
