هل يخطط Elon Musk لاستخدام الذكاء الاصطناعي لإدارة حكومة الولايات المتحدة؟ يبدو أن هذه خطته ، لكن الخبراء يقولون إنها “فكرة سيئة للغاية”.

أطلقت Musk عشرات الآلاف من موظفي الحكومة الفيدرالية من خلال وزارة الكفاءة الحكومية الخاصة به (DOGE) ، ويقال إنه يطلب من العمال الباقين إرسال الإدارة بريدًا إلكترونيًا أسبوعيًا يضم خمس نقاط رصاصة تصف ما أنجزوه في هذا الأسبوع.

نظرًا لأن هذا سوف يطول بلا شك على مئات الآلاف من هذه الأنواع من رسائل البريد الإلكتروني ، فإن Musk يعتمد على الذكاء الاصطناعي لمعالجة الاستجابات والمساعدة في تحديد من يجب أن يظل عاملاً. يقال إن جزءًا من هذه الخطة هو استبدال العديد من العمال الحكوميين بأنظمة الذكاء الاصطناعي.

لم يتضح بعد كيف تبدو أي من أنظمة الذكاء الاصطناعى هذه أو كيف تعمل – شيء من الديمقراطيين في مؤتمر الولايات المتحدة يطالبون بالملء – لكن الخبراء يحذرون من أن استخدام الذكاء الاصطناعي في الحكومة الفيدرالية دون اختبار قوي والتحقق من هذه الأدوات يمكن أن يكون له عواقب كارثة.

“لاستخدام أدوات الذكاء الاصطناعى بمسؤولية ، يجب تصميمها مع وضع غرض معين في الاعتبار. يجب أن يتم اختبارها والتحقق من صحتها. يقول كاري كوجليانز ، أستاذ القانون والعلوم السياسية في جامعة بنسلفانيا ، إنه ليس من الواضح ما إذا كان يتم القيام بأي من ذلك هنا.

يقول Coglianese إنه إذا تم استخدام الذكاء الاصطناعى لاتخاذ قرارات بشأن من يجب إنهاء من وظيفته ، فسيكون “متشككًا للغاية” في هذا النهج. يقول إن هناك إمكانات حقيقية للغاية لإنشاء أخطاء ، لكي تكون الذكاء الاصطناعي متحيزة وللمشاكل المحتملة الأخرى.

إنها فكرة سيئة للغاية. لا نعرف أي شيء عن كيفية اتخاذ منظمة العفو الدولية مثل هذه القرارات [including how it was trained and the underlying algorithms]يقول شوبيتا بارثاساراتاثي ، أستاذة السياسة العامة بجامعة ميشيغان: “البيانات التي ستستند إليها مثل هذه القرارات ، أو لماذا يجب أن نعتقد أنها جديرة بالثقة”.

لا يبدو أن هذه المخاوف تعيق الحكومة الحالية ، خاصة مع Musk – رجل أعمال ملياردير ومستشار مقرب للرئيس الأمريكي دونالد ترامب – يقود التهمة على هذه الجهود.

تخطط وزارة الخارجية الأمريكية ، على سبيل المثال ، لاستخدام الذكاء الاصطناعى لمسح حسابات وسائل التواصل الاجتماعي للمواطنين الأجانب لتحديد أي شخص قد يكون مؤيدًا في حماس في محاولة لإلغاء تأشيراتهم. لم تكن حكومة الولايات المتحدة شفافة حتى الآن حول كيفية عمل هذه الأنواع من الأنظمة.

أضرار غير مكتشفة

يقول Hilke Schellmann ، أستاذ الصحافة في جامعة نيويورك وخبير في الذكاء الاصطناعي: “تهتم إدارة ترامب حقًا بمتابعة الذكاء الاصطناعي بأي ثمن ، وأود أن أرى استخدامًا عادلًا وعادلًا ومنصفًا لمنظمة العفو الدولية”. “يمكن أن يكون هناك الكثير من الأضرار التي لم يتم اكتشافها.”

يقول خبراء الذكاء الاصطناعى أن هناك العديد من الطرق التي يمكن أن يخطئ فيها استخدام الحكومة من الذكاء الاصطناعي ، وهذا هو السبب في أنه يجب تبنيه بعناية وضمير. يقول كوجليانز إن الحكومات في جميع أنحاء العالم ، بما في ذلك هولندا والمملكة المتحدة ، واجهت مشاكل مع منظمة العفو الدولية التي تم إعدامها بشكل سيئ والتي يمكن أن ترتكب أخطاء أو إظهار التحيز ، ونتيجة لذلك حرمت من مزايا رفاهية السكان بشكل خاطئ الذي يحتاجون إليه ، على سبيل المثال.

في الولايات المتحدة ، واجهت ولاية ميشيغان مشكلة مع الذكاء الاصطناعي التي تم استخدامها للعثور على الاحتيال في نظام البطالة عندما حددت بشكل غير صحيح آلاف حالات الاحتيال المزعوم. تم التعامل مع العديد من تلك المنافع التي تم رفضها بقسوة ، بما في ذلك التعرض لعقوبات متعددة واتهموا بالاحتيال. تم إلقاء القبض على الناس وحتى طلبوا للإفلاس. بعد فترة مدتها خمس سنوات ، اعترفت الدولة بأن النظام كان معيبًا وبعد عام انتهى به الأمر إلى استرداد 21 مليون دولار للمقيمين المتهمين بشكل خاطئ بالاحتيال.

يقول Parthasarathy: “في معظم الأوقات ، لا يعرف المسؤولون الذين يشترون ونشر هذه التقنيات سوى القليل عن كيفية عملهم ، وتحيزاتهم وقيودهم ، والأخطاء”. “نظرًا لأن المجتمعات ذات الدخل المنخفض والتهميش تميل إلى الحصول على أكبر قدر من الاتصال بالحكومات من خلال الخدمات الاجتماعية [such as unemployment benefits, foster care, law enforcement]، يميلون إلى أن يتأثروا أكثر من الذكاء الاصطناعي. “

تسببت الذكاء الاصطناعي أيضًا في مشاكل في الحكومة عندما يتم استخدامها في المحاكم لتحديد أشياء مثل أهلية الإفراج المشروط لشخص ما أو في أقسام الشرطة عندما يتم استخدامها لمحاولة التنبؤ بمكان حدوث الجريمة.

يقول Schellmann إن الذكاء الاصطناعي المستخدمة من قبل أقسام الشرطة يتم تدريبه عادة على البيانات التاريخية من تلك الإدارات ، ويمكن أن يتسبب ذلك في أن يوصي الذكاء الاصطناعى بالمناطق الزائدة التي كانت زائدة منذ فترة طويلة ، وخاصة مجتمعات الألوان.

منظمة العفو الدولية لا تفهم أي شيء

واحدة من المشكلات التي يحتمل أن تستخدم الذكاء الاصطناعي لاستبدال العمال في الحكومة الفيدرالية هي أن هناك العديد من أنواع الوظائف المختلفة في الحكومة التي تتطلب مهارات ومعرفة محددة. قد يكون لدى شخص تكنولوجيا المعلومات في وزارة العدل وظيفة مختلفة تمامًا عن وظيفة في وزارة الزراعة ، على سبيل المثال ، على الرغم من أن لديهم نفس المسمى الوظيفي. لذلك ، يجب أن يكون برنامج الذكاء الاصطناعي معقدًا ومدربًا للغاية حتى للقيام بعمل متواضع في استبدال عامل بشري.

“لا أعتقد أنه يمكنك قطع وظائف الناس بشكل عشوائي ثم [replace them with any AI]يقول كوجليانز. “المهام التي كان أداء هؤلاء الأشخاص غالبًا ما تكون متخصصة ومحددة للغاية.”

يقول Schellmann إنه يمكنك استخدام AI للقيام بأجزاء من وظيفة شخص ما قد تكون متوقعة أو متكررة ، لكن لا يمكنك استبدال شخص ما تمامًا. سيكون ذلك من الناحية النظرية من الناحية النظرية إذا كنت تريد قضاء سنوات في تطوير أدوات الذكاء الاصطناعى المناسبة للقيام بالكثير ، والكثير من أنواع الوظائف المختلفة – مهمة صعبة للغاية وليس ما يبدو أن الحكومة تفعله حاليًا.

“هؤلاء العمال لديهم خبرة حقيقية وفهم دقيق للقضايا ، وهو ما لا يفعله الذكاء الاصطناعي. يقول Parthasarathy: في الواقع ، لا تفهم “أي شيء”. “إنه استخدام للطرق الحسابية للعثور على أنماط ، استنادًا إلى البيانات التاريخية. وهكذا من المحتمل أن يكون لها فائدة محدودة ، وحتى تعزيز التحيزات التاريخية. “

أصدرت إدارة الرئيس الأمريكي السابق جو بايدن أمرًا تنفيذيًا في عام 2023 ركزت على الاستخدام المسؤول لمنظمة العفو الدولية في الحكومة وكيف سيتم اختبار الذكاء الاصطناعى والتحقق منه ، ولكن تم إلغاء هذا الأمر من قبل إدارة ترامب في يناير. يقول Schellmann إن هذا قد جعل من المرجح أن يتم استخدام الذكاء الاصطناعى بمسؤولية في الحكومة أو أن الباحثين سيكونون قادرين على فهم كيفية استخدام الذكاء الاصطناعي.

كل هذا قيل ، إذا تم تطوير الذكاء الاصطناعى بمسؤولية ، فقد يكون مفيدًا للغاية. يمكن لمنظمة العفو الدولية أتمتة المهام المتكررة حتى يتمكن العمال من التركيز على أشياء أكثر أهمية أو مساعدة العمال على حل المشكلات التي يكافحون معها. ولكن يجب إعطاء الوقت للوقت للنشر بالطريقة الصحيحة.

يقول كوغليانز: “هذا لا يعني أننا لا نستطيع استخدام أدوات الذكاء الاصطناعي بحكمة”. “لكن الحكومات تتهدم عندما تحاول الاندفاع والقيام بالأشياء بسرعة دون المدخلات العامة المناسبة والتحقق الشامل والتحقق من كيفية عمل الخوارزمية بالفعل.”