فوائد ومخاطر اتخاذ القرارات بواسطة الخوارزمية

إنه أمر واضح من أن عملية صنع القرار عن طريق الخوارزمية يمكن أن تكون غير كاملة. كما أنه من الواضح أن عملية صنع القرار من قبل البشر يمكن أن تكون غير كاملة أيضًا. ومع ذلك ، فإن العيوب عبر هذين النوعين من القرارات ربما لا تكون هي نفسها. كيف ومتى يجب أن يستفيد المجتمع من صنع القرار من قبل Algorthm؟ يقدم Cass R. Sunstein نظرة عامة مدروسة في “استخدام الخوارزميات في المجتمع” (مراجعة الاقتصاد النمساوي، ديسمبر 2024 ، 37: 399-420).

يؤكد Sunstein على مزايزتين كبيرتين لاتخاذ القرارات عن طريق الخوارزمية: يمكن أن يتجنب التحيز والضغط. ينشأ التحيز عندما يتأثر قاض معين أو طبيب بشكل مفرط بعوامل معينة ، مثل ما إذا كانوا يرون ما بدا وكأنه حالة مماثلة مؤخرًا. تعتبر صغار الصدفة مجرد السمة الإنسانية للتناقض ، حيث قد يتم تطبيق قواعد القرار طرقًا مختلفة إذا كان الطقس جيدًا أو سيئًا ، أو قبل أو بعد الغداء. (للحصول على نظرة عامة على اتخاذ القرارات في قضايا الكفالة ، مع الإشارة إلى التحيز ، والضغط ، والدور المحتمل للخوارزميات ، فإن نقطة البداية المفيدة هي “نظام المحاكمة الأمريكية: موازنة الحقوق الفردية والمصالح العامة” ، من قبل Crystal S. Yang و Will Dobbie ، في قضية خريف 2021 من مجلة المنظورات الاقتصادية ، حيث أعمل كمحرر إدارة.)

هنا ، أود التركيز على بعض التحفظات التي يلخصها Sunstein حول اتخاذ القرارات الخوارزمية-والتي قد يتم التغلب عليها مع أنظمة أفضل بمرور الوقت ، وربما لا.

1) حتى لو قامت الخوارزمية بعمل أفضل من معظم البشر ، فإن بعض البشر سوف يفعلون أفضل من الخوارزمية. يكتب سونشتاين:

تشير بعض الأعمال المهمة إلى أنه على الرغم من أن الخوارزميات تتفوق على 90 ٪ من القضاة البشرية في سياق قرارات الكفالة ، فإن أفضل 10 ٪ من القضاة يتفوقون على الخوارزميات. يبدو أن السبب هو أن أفضل القضاة لديهم ويستخدمون معلومات خاصة لاتخاذ قرارات أفضل. وهم يعتبرون العوامل التي لا توجد بها الخوارزميات. يبدو أنهم لديهم شيء مثل المعرفة المحلية – فهم للمدعى عليه أو الظروف التي تفتقر إليها الخوارزميات. يمكن أن نتخيل بسهولة اكتشاف مماثل للأطباء. من الممكن أن يعرف أفضل الأطباء من يختبرون أمراض القلب ، لأنهم يرون شيئًا ما ، أو شيء ما ، لا تفكر فيه الخوارزميات.

2) المكسب من استخدام الخوارزميات في العديد من السياقات صغيرة نسبيًا من حيث النسبة المئوية ، على الرغم من أن نسبة مئوية صغيرة يتم تطبيقها على عدد كبير من الأشخاص يمكن أن تكون ذات معنى بالتأكيد. يكتب سونشتاين:

كما لاحظت ، فإن الخوارزميات تعمل بشكل أفضل من الناس ، لكنها لا تفعل بشكل أفضل بشكل مذهل. تأتي الأرقام الإجمالية المثيرة للإعجاب ، من حيث مكاسب الرعاية الاجتماعية ، من حقيقة أن السكان الكبار جدًا متورطون. إذا أظهرت الخوارزميات زيادة في الدقة في الدقة مقارنة بالبشر ، فقد نجد تحسينات كبيرة على ما يبدو. إذا كانت الخوارزمية يمكن أن تنتج زيادة طفيفة في دقة الفحص لأمراض القلب ، فقد نرى انخفاضًا كبيرًا في الوفيات. لكن زيادة طفيفة في الدقة لا تزال طفيفة. لقد قلت ، على سبيل المثال ، أن الصيغ تفعل أفضل من الأطباء. ولكن في الدراسة المتوسطة ، فإن الصيغ هي 73 ٪ من الوقت ، في حين أن الأطباء على حق 68 ٪ من الوقت.

3) الناس لا يرحمون أكثر من خطأ الخوارزمية من الخطأ البشري. سونشتاين:

باختصار ، الناس أقل تسامحًا مع الخوارزميات
من البشر. … هل هذا عقلاني؟ إذا أراد الناس اتخاذ القرار الصحيح ، فهذا ليس كذلك. إذا كان هدفهم هو كسب المال أو تحسين صحتهم ، فيجب عليهم الاعتماد على القرار الأفضل. لكن مرة أخرى: إذا كان الناس يتمتعون باتخاذ القرارات ، فقد يكون التفضيل لاتخاذ قرارات المرء عقلانية تمامًا. ربما يجد الناس القرارات ذات الصلة متعة لاتخاذها. ربما يحبون التعلم. ربما صنع القرار هو نوع من اللعبة. ربما يحبون الشعور بالمسؤولية. ربما يحبون حقيقة المسؤولية. إذا كان الأمر كذلك ، فإن نفور الخوارزمية ليس خطأ على الإطلاق.

4) تعقيد أكبر سيحد من فائدة الخوارزمية. على سبيل المثال ، قد تقدم الخوارزمية وراء تطبيق المواعدة توصيات أكثر عرضة للنجاح من أولئك الذين لم يوهموا – لكن بالتأكيد لا يوجد ضمان للحب الحقيقي. يروي سونشتاين قصة مثيرة للاهتمام عن مسابقة التنبؤات التي تسمى تحدي العائلات الهشة ، والتي تعلم التواضع حول تنبؤات الخوارزميات.

هناك مجموعة بيانات تسمى العائلات الهشة ودراسة رفاهية الطفل. لقد جمعت بيانات عن الآلاف من العائلات التي لديها أولياء الأمور غير المتزوجين ، حيث أنجبت الأم طفلًا في عام 2000. جمعت الدراسة الكثير من البيانات حول هذه العائلات في وقت الولادة ، ثم تابعت في سن 1 و 3 و 5 و 9. وكانت هذه التحدي قد تم استخدام هذه البيانات السابقة للتنبؤ ببعض المواجهات حول الطفل أو العائلة عندما تحول الطفل إلى 15. كما اتضح ، كانت العديد من التنبؤات مماثلة لبعضها البعض ، ولكن حرفيًا لم يكن أي منها دقيقًا للغاية. يكتب سونشتاين:

كان السؤال المركزي بسيطًا: أي من الفرق الـ 160 ستقدم تنبؤات جيدة؟ الجواب هو: لا شيء منهم. صحيح أن خوارزميات تعلم الآلة كانت أفضل من عشوائي. لم تكن فظيعة. لكنهم لم يكونوا أفضل بكثير من العشوائية ، وبالنسبة للنتائج ذات الأحداث الواحدة-مثل ما إذا كان مقدم الرعاية الأساسي قد تم تسريحه أو كان في التدريب على العمل-كانت أفضل قليلاً من العشوائية. يخلص الباحثون إلى أن “الدقة التنبؤية المنخفضة لا يمكن أن تعزى بسهولة إلى حدود أي باحث أو نهج معين ؛ حاول المئات من الباحثين المهمة ، ولا يمكن لأحد أن يتنبأ بدقة”. على الرغم من أساليبهم المتنوعة ، أنتجت الفرق الـ 160 تنبؤات كانت قريبة جدًا من بعضها البعض – وليست جيدة. كما قال الباحثون ، “كانت التقديمات أفضل بكثير في التنبؤ ببعضهم البعض من التنبؤ بالحقيقة”. الدرس المعقول هو أننا لا نفهم حقًا العلاقة بين العائلات في عام واحد وحيث ستكون بضع سنوات من هنا. … يمكنك أن تتعلم الكثير حول المكان الذي أصبح فيه شخص ما الآن في الحياة ، ولا يزال ، قد لا تكون قادرًا على القول كثيرًا على الإطلاق
حول نتائج محددة في المستقبل.

5) الخوارزميات ليست جيدة ، وربما لا يمكن أن تكون جيدة ، في ما يسمى أحيانًا الأحداث التي تعتمد على المسار. إن السؤال عندما سترتفع أو تسقط حركة سياسية معينة ، أو ما إذا كان هناك فعل موسيقي أو فيلم معين سيصبح شائعًا ، سيعتمد على تكشف سلسلة الأحداث. تعتمد الخوارزمية على أنماط من الأحداث الماضية ، وقد لا تكون جيدة في التنبؤ بتوقيت أو احتمال سلاسل الأحداث المستقبلية.

التحدي هو النظر في كل من فوائد ومقايضات الخوارزميات في إعدادات مختلفة. إذا كان شخص ما أحبه يواجه قرارًا بكفالة ، ولا أعرف من سيكون القاضي ، فأنا شخصياً أفضل أن تتخذ الخوارزمية القرار. عندما يتعلق الأمر بالخوارزميات التي تحكم السيارات ذاتية القيادة ، من الواضح أن الكثير من الناس أقل تسامحًا مع الأخطاء والحوادث الناجمة عن خوارزمية أكثر من أخطاء وحوادث السائقين البشريين. في العديد من السياقات ، من الحب إلى الاحتمالات المستقبلية ، قد تكون التوجيه من اتباع خوارزمية إيجابية ، ولكنها صغيرة جدًا.

بالنسبة لي ، فإن الخوارزميات مثيرة للاهتمام دائمًا لأنها تحدد أسبابًا لقرار أساسي. في بعض الأحيان ستعرض الأسباب التحيز والضوضاء في اتخاذ القرارات البشرية ؛ في بعض الأحيان يمكن أن تعرض الخوارزمية نفسها التحيز. ولكن عندما تعرف الأسباب ، يمكنك تقييم القرار بشكل أكثر وضوحًا.