تعمل ميزة الذكاء الاصطناعي في أجهزة iPhone على إصدار تنبيهات بشأن الأخبار المزيفة، مما يثير المخاوف بشأن قدرة التكنولوجيا على نشر المعلومات المضللة.

في الأسبوع الماضي، تم إطلاق ميزة مؤخرًا بواسطة تفاحة الذي يلخص إشعارات المستخدمين باستخدام الذكاء الاصطناعي، ودفع إشعارات تطبيق بي بي سي نيوز الملخصة بشكل غير دقيق حول قصة المذيع حول نصف نهائي بطولة PDC World Darts، مدعيًا كذبًا أن لاعب السهام البريطاني Luke Littler قد فاز بالبطولة.

وقع الحادث قبل يوم واحد من المباراة النهائية للبطولة، والتي فاز بها ليتلر.

بعد ذلك، بعد ساعات فقط من وقوع هذا الحادث، ادعى إشعار منفصل صادر عن شركة Apple Intelligence، نظام الذكاء الاصطناعي التابع لشركة التكنولوجيا العملاقة، كذبًا أن أسطورة التنس رافائيل نادال قد أعلن عن مثليته.

تحاول هيئة الإذاعة البريطانية (BBC) منذ شهر تقريبًا إقناع شركة Apple بإصلاح المشكلة. اشتكت هيئة الإذاعة الحكومية البريطانية لشركة أبل في ديسمبر/كانون الأول بعد أن ولَّدت ميزة الذكاء الاصطناعي الخاصة بها عنوانًا كاذبًا يشير إلى أن لويجي مانجيوني، الرجل الذي تم القبض عليه بعد مقتل براين طومسون، الرئيس التنفيذي لشركة التأمين الصحي UnitedHealthcare، في نيويورك، أطلق النار على نفسه – وهو ما لم يحدث أبدًا.

ولم تكن شركة Apple متاحة على الفور للتعليق عندما اتصلت بها CNBC. وفي يوم الاثنين، قالت شركة آبل لبي بي سي إنها تعمل على تحديث لحل المشكلة عن طريق إضافة توضيح يوضح متى تكون شركة Apple Intelligence مسؤولة عن النص المعروض في الإشعارات. حاليًا، تظهر إشعارات الأخبار التي تم إنشاؤها على أنها تأتي مباشرة من المصدر.

وقالت الشركة في بيان تمت مشاركته مع بي بي سي: “إن ميزات Apple Intelligence في مرحلة تجريبية، ونحن نعمل باستمرار على إجراء تحسينات بمساعدة تعليقات المستخدمين”. وأضافت شركة Apple أنها تشجع المستخدمين على الإبلاغ عن مخاوفهم إذا شاهدوا “ملخص الإشعارات غير المتوقعة”.

بي بي سي ليست المؤسسة الإخبارية الوحيدة التي تأثرت بسبب قيام شركة Apple Intelligence بتلخيص إشعارات الأخبار بشكل غير دقيق. وفي نوفمبر/تشرين الثاني، أرسلت هذه الخاصية إشعارًا ملخصًا بواسطة الذكاء الاصطناعي يزعم خطأً أن رئيس الوزراء الإسرائيلي بنيامين نتنياهو قد تم اعتقاله.

تم الإبلاغ عن الخطأ على تطبيق الوسائط الاجتماعية Bluesky بواسطة كين شوينكي، أحد كبار المحررين في موقع الصحافة الاستقصائية ProPublica.

تواصلت CNBC مع بي بي سي ونيويورك تايمز للتعليق على الحل الذي اقترحته شركة آبل لمشكلة المعلومات الخاطئة المتعلقة بميزة الذكاء الاصطناعي.

تروج شركة Apple لملخصات الإشعارات التي تم إنشاؤها بواسطة الذكاء الاصطناعي باعتبارها وسيلة فعالة لتجميع وإعادة كتابة معاينات إشعارات تطبيقات الأخبار في تنبيه واحد على شاشة قفل المستخدمين.

إنها ميزة تقول Apple إنها مصممة لمساعدة المستخدمين على فحص إشعاراتهم للحصول على التفاصيل الأساسية وتقليل الكم الهائل من التحديثات التي يعرفها العديد من مستخدمي الهواتف الذكية.

ومع ذلك، فقد أدى ذلك إلى ما يشير إليه خبراء الذكاء الاصطناعي بـ “الهلوسة” – وهي الاستجابات الناتجة عن الذكاء الاصطناعي والتي تحتوي على معلومات خاطئة أو مضللة.

وقال بن وود، كبير المحللين في السوق التي تركز على التكنولوجيا: “أظن أن شركة آبل لن تكون وحدها في مواجهة تحديات المحتوى الناتج عن الذكاء الاصطناعي. لقد رأينا بالفعل العديد من الأمثلة على خدمات الذكاء الاصطناعي التي تروي بثقة الأكاذيب، ما يسمى بـ “الهلوسة”.” وقالت شركة الأبحاث CCS Insights لـ CNBC.

في حالة شركة آبل، نظرًا لأن الذكاء الاصطناعي يحاول دمج الإشعارات وتكثيفها لإظهار ملخص أساسي فقط للمعلومات، فإنه يمزج الكلمات معًا بطريقة غير دقيقة لوصف الأحداث – ولكن مع تقديمها بثقة كحقائق.

وأضاف وود: “لقد واجهت شركة أبل التعقيد الإضافي المتمثل في محاولة ضغط المحتوى في ملخصات قصيرة جدًا، مما أدى في النهاية إلى تسليم رسائل خاطئة”. وأضاف: “ستسعى شركة أبل بلا شك إلى معالجة هذا الأمر في أقرب وقت ممكن، وأنا متأكد من أن المنافسين سيراقبون عن كثب لمعرفة كيفية استجابتها”.

يعمل الذكاء الاصطناعي التوليدي من خلال محاولة اكتشاف أفضل إجابة ممكنة لسؤال أو مطالبة أدخلها المستخدم، بالاعتماد على كميات هائلة من البيانات التي يتم تدريب نماذج اللغة الكبيرة الأساسية عليها.

في بعض الأحيان قد لا يعرف الذكاء الاصطناعي الإجابة. ولكن نظرًا لأنه تمت برمجته لتقديم استجابة دائمًا لمطالبات المستخدم، فقد يؤدي ذلك إلى حالات يكذب فيها الذكاء الاصطناعي بشكل فعال.

ليس من الواضح متى سيتم إصلاح حل Apple للخلل في ميزة تلخيص الإشعارات الخاصة بها. وقال صانع iPhone إنه يتوقع وصول واحد في “الأسابيع المقبلة”.