يقوم OpenAI بحل فريق سلامة Superalignment AI

قامت شركة OpenAI بحل فريقها الذي يركز على المخاطر طويلة المدى للذكاء الاصطناعي بعد عام واحد فقط من إعلان الشركة عن المجموعة، حسبما أكد مصدر مطلع على الوضع لـ CNBC يوم الجمعة.

وقال الشخص، الذي تحدث شريطة عدم الكشف عن هويته، إنه سيتم إعادة تعيين بعض أعضاء الفريق في عدة فرق أخرى داخل الشركة.

تأتي هذه الأخبار بعد أيام من إعلان قائدي الفريق، المؤسس المشارك لـ OpenAI، إيليا سوتسكيفر وجان ليك، عن مغادرتهما الشركة الناشئة المدعومة من مايكروسوفت. كتب Leike يوم الجمعة أن “ثقافة وعمليات السلامة في OpenAI قد تراجعت عن المنتجات اللامعة”.

تم نشر الخبر لأول مرة بواسطة Wired.

وقد ركز فريق OpenAI’s Superalignment، الذي تم الإعلان عنه العام الماضي، على “الاكتشافات العلمية والتقنية لتوجيه أنظمة الذكاء الاصطناعي والتحكم فيها بشكل أكثر ذكاءً منا”. في ذلك الوقت، قالت شركة OpenAI إنها ستخصص 20% من قدرتها الحاسوبية للمبادرة على مدى أربع سنوات.

أعلن Sutskever وLeike يوم الثلاثاء عن مغادرتهما على X، بفارق ساعات، ولكن يوم الجمعة، شارك Leike المزيد من التفاصيل حول سبب تركه للشركة الناشئة.

“لقد انضممت لأنني اعتقدت أن OpenAI سيكون أفضل مكان في العالم لإجراء هذا البحث،” كتب Leike على X. “ومع ذلك، كنت أختلف مع قيادة OpenAI حول الأولويات الأساسية للشركة لبعض الوقت، حتى وصلنا أخيرًا إلى نقطة الانهيار.”

كتب Leike أنه يعتقد أن الكثير من النطاق الترددي للشركة يجب أن يركز على الأمن والمراقبة والتأهب والسلامة والتأثير المجتمعي.

وكتب: “من الصعب جدًا حل هذه المشكلات، وأنا قلق من أننا لسنا على المسار الصحيح للوصول إلى هناك”. “على مدار الأشهر القليلة الماضية، كان فريقي يبحر عكس اتجاه الريح. وفي بعض الأحيان كنا نكافح من أجل الحوسبة وكان إنجاز هذا البحث المهم يزداد صعوبة.”

وأضاف ليك أن OpenAI يجب أن تصبح “شركة AGI للسلامة أولاً”.

وكتب: “إن بناء آلات أكثر ذكاءً من الإنسان هو مسعى خطير بطبيعته”. “تتحمل شركة OpenAI مسؤولية هائلة نيابة عن البشرية جمعاء. ولكن على مدى السنوات الماضية، تراجعت ثقافة وعمليات السلامة عن المنتجات اللامعة.”

ولم تستجب شركة Leike على الفور لطلب التعليق، ولم تقدم OpenAI تعليقًا على الفور.

تأتي عمليات المغادرة رفيعة المستوى بعد أشهر من تعرض OpenAI لأزمة قيادة شملت المؤسس المشارك والرئيس التنفيذي Sam Altman.

في نوفمبر/تشرين الثاني، أقال مجلس إدارة OpenAI ألتمان، مدعيًا في بيان له أن ألتمان لم يكن “صريحًا باستمرار في اتصالاته مع مجلس الإدارة”.

يبدو أن القضية تزداد تعقيدًا في كل يوم تالي، حيث أفادت صحيفة وول ستريت جورنال ووسائل إعلام أخرى أن سوتسكيفر ركز اهتمامه على ضمان أن الذكاء الاصطناعي لن يؤذي البشر، في حين كان آخرون، بما في ذلك ألتمان، أكثر حرصًا على المضي قدمًا في هذا المشروع. تقديم التكنولوجيا الجديدة.

أدت الإطاحة بألتمان إلى استقالات – أو تهديدات بالاستقالات – بما في ذلك رسالة مفتوحة موقعة من قبل جميع موظفي OpenAI تقريبًا، وضجة من المستثمرين، بما في ذلك مايكروسوفت. وفي غضون أسبوع، عاد ألتمان إلى الشركة، وخرج أعضاء مجلس الإدارة هيلين تونر، وتاشا ماكولي، وإيليا سوتسكيفر، الذين صوتوا لإقالة ألتمان. ظل Sutskever ضمن طاقم العمل في ذلك الوقت ولكنه لم يعد بصفته عضوًا في مجلس الإدارة. ظل آدم دانجيلو، الذي صوت أيضًا لصالح الإطاحة بألتمان، عضوًا في مجلس الإدارة.

عندما سُئل ألتمان عن حالة Sutskever في مكالمة Zoom مع الصحفيين في مارس، قال إنه لا توجد تحديثات لمشاركتها. وقال ألتمان: “أنا أحب إيليا… أتمنى أن نعمل معًا لبقية مسيرتنا المهنية، مسيرتي المهنية، أيًا كان”. “لا يوجد شيء للإعلان عنه اليوم.”

وفي يوم الثلاثاء، شارك ألتمان أفكاره بشأن رحيل سوتسكيفر.

وكتب ألتمان: “هذا أمر محزن للغاية بالنسبة لي؛ إيليا هو بسهولة أحد أعظم العقول في جيلنا، والنور الهادي لمجالنا، وصديق عزيز”. على X. “إن تألقه ورؤيته معروفان جيدًا، أما دفئه وتعاطفه فهو أقل شهرة ولكنه ليس أقل أهمية.” وقال ألتمان إن مدير الأبحاث جاكوب باتشوكي، الذي يعمل في OpenAI منذ عام 2017، سيحل محل سوتسكيفر ككبير العلماء.

تأتي أخبار رحيل Sutskever وLeike، وحل فريق Superalignment، بعد أيام من إطلاق OpenAI نموذجًا جديدًا للذكاء الاصطناعي وإصدار سطح المكتب من ChatGPT، إلى جانب واجهة مستخدم محدثة، وهي أحدث جهود الشركة لتوسيع استخدام برنامج الدردشة الآلي الشهير الخاص بها.

وقالت رئيسة التكنولوجيا ميرا موراتي يوم الاثنين في حدث تم بثه مباشرة إن التحديث يجلب نموذج GPT-4 للجميع، بما في ذلك مستخدمي OpenAI المجانيين. وأضافت أن الطراز الجديد GPT-4o “أسرع بكثير” مع إمكانات محسنة في النصوص والفيديو والصوت.

قالت OpenAI إنها تخطط في النهاية للسماح للمستخدمين بإجراء محادثة فيديو مع ChatGPT. وقال موراتي: “هذه هي المرة الأولى التي نخطو فيها خطوة كبيرة إلى الأمام عندما يتعلق الأمر بسهولة الاستخدام”.