أوبن إيه آي يفسد كاشف النص المكتوب بالذكاء الاصطناعي حول “معدل الدقة المنخفض”
أغلقت شركة OpenAI أداة تصنيف الذكاء الاصطناعي الخاصة بها ، وهي أداة ادعت أنها تحدد احتمالية كتابة مقطع نصي بواسطة ذكاء اصطناعي آخر. في حين أن الكثير استخدمها وربما اعتمد عليها بشكل غير حكيم للقبض على عمليات الاحتيال التي تتطلب جهدًا منخفضًا ، فقد تقاعدت شركة OpenAI بسبب “معدل الدقة المنخفض” الذي انتقده على نطاق واسع.
تبدو النظرية القائلة بأن النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يحتوي على ميزة أو نمط محدد يمكن اكتشافه بشكل موثوق به بديهية ، ولكن حتى الآن لم يتم إثباتها عمليًا. على الرغم من أن بعض النصوص التي تم إنشاؤها قد يكون لها تأثير واضح ، إلا أن الاختلافات بين النماذج اللغوية الكبيرة والسرعة التي تم تطويرها بها جعلت من المستحيل الاعتماد عليها.
كان اختبار TechCrunch الخاص لمجموعة من أدوات الكشف عن الكتابة بالذكاء الاصطناعي قاطعًا أنها في أفضل الأحوال مصابة بالفشل ، وفي أسوأ الأحوال عديمة القيمة تمامًا. من بين سبعة مقتطفات نصية تم إنشاؤها لمجموعة متنوعة من أجهزة الكشف ، حدد GPTZero خمسة بشكل صحيح ، ومصنف OpenAI واحد فقط. وكان ذلك مع نموذج لغوي لم يكن متطورًا حتى في ذلك الوقت.
لكن البعض أخذ ادعاءات الاكتشاف في ظاهرها ، أو بالأحرى أعلى بكثير ، لأن OpenAI شحنت أداة المصنف بقائمة من القيود المهمة بما يكفي لدرجة أن المرء يتساءل عن سبب طرحها للأمر على الإطلاق. الأشخاص الذين يشعرون بالقلق من أن الطلاب أو المتقدمين للوظائف أو المستقلين كانوا يقدمون نصًا تم إنشاؤه سيضعونه في المصنف لاختباره ، وعلى الرغم من أنه لا ينبغي الوثوق بالنتائج ، إلا أنهم في بعض الأحيان كانوا كذلك.
بالنظر إلى أن نماذج اللغة قد تحسنت وانتشرت فقط ، يبدو أن شخصًا ما في الشركة قرر أن الوقت قد حان لأخذ هذه الأداة المتقلبة في وضع عدم الاتصال. “نحن نعمل على دمج التعليقات ونبحث حاليًا عن تقنيات مصدر أكثر فاعلية للنص” ، كما ورد في ملحق 20 يوليو إلى منشور إعلان المصنف. (يبدو أن فك تشفير كان أول من لاحظ التغيير.)
سألت عن التوقيت والمنطق وراء إغلاق المصنف ، وسوف أقوم بالتحديث إذا سمعت. لكن من الغريب أن يحدث ذلك في الوقت الذي انضمت فيه شركة OpenAI إلى العديد من الشركات الأخرى في “التزام طوعي” بقيادة البيت الأبيض لتطوير الذكاء الاصطناعي بشكل أخلاقي وشفاف.
من بين الالتزامات التي تعهدت بها الشركات تطوير طرق قوية للعلامات المائية و / أو الكشف. أو محاولة القيام بذلك ، على أي حال: على الرغم من قيام كل شركة بإصدار ضجيج بهذا المعنى خلال الأشهر الستة الماضية أو نحو ذلك ، لم نر بعد أي علامة مائية أو طريقة كشف لا يتم الالتفاف عليها بشكل تافه.
لا شك في أن أول من ينجز هذا العمل الفذ سيكافأ بوفرة (أي أداة من هذا القبيل ، إذا كانت موثوقة حقًا ، ستكون لا تقدر بثمن في ظروف لا حصر لها) لذلك ربما يكون من غير الضروري جعلها جزءًا من أي اتفاقيات ذكاء اصطناعي.
