OpenAI تطلق أداة استنساخ الصوت لأول مرة، لكنها ترى أنها محفوفة بالمخاطر للغاية بالنسبة للإصدار العام | تكنولوجيا
يقول منشئ ChatGPT إن Voice Engine يمكنه نسخ صوت الشخص بناءً على عينة صوتية مدتها 15 ثانية.
كشفت شركة OpenAI النقاب عن أداة لاستنساخ أصوات الأشخاص، لكنها أحجمت عن إصدارها للعامة بسبب مخاوف بشأن احتمال إساءة استخدامها في عام انتخابي رئيسي.
يمكن لـ Voice Engine نسخ صوت الشخص بناءً على عينة صوتية مدتها 15 ثانية، وفقًا لمنشور مدونة OpenAI الذي يوضح الأداة.
لكن منشئ ChatGPT “يتخذ نهجًا حذرًا ومستنيرًا” تجاه التكنولوجيا ويأمل في بدء حوار حول “النشر المسؤول للأصوات الاصطناعية”، حسبما ذكرت الشركة في منشور المدونة المنشور يوم الجمعة.
وقالت الشركة الناشئة التي تتخذ من سان فرانسيسكو مقراً لها: “نحن ندرك أن توليد خطاب يشبه أصوات الناس ينطوي على مخاطر جسيمة، والتي تتصدر أولوياتنا بشكل خاص في عام الانتخابات”.
“نحن نتعامل مع الشركاء الأمريكيين والدوليين من مختلف أنحاء الحكومة ووسائل الإعلام والترفيه والتعليم والمجتمع المدني وخارجها لضمان دمج ملاحظاتهم أثناء البناء.”
نحن نشارك ما تعلمناه من معاينة صغيرة الحجم لـ Voice Engine، وهو نموذج يستخدم إدخال النص وعينة صوتية واحدة مدتها 15 ثانية لإنشاء كلام يبدو طبيعيًا يشبه المتحدث الأصلي إلى حد كبير. https://t.co/yLsfGaVtrZ
– أوبن إيه آي (@OpenAI) 29 مارس 2024
وقالت OpenAI إنها ستتخذ “قرارًا أكثر استنارة” بشأن نشر التكنولوجيا على نطاق واسع بناءً على الاختبار والنقاش العام.
وأضافت الشركة أنها تعتقد أن التكنولوجيا يجب أن يتم طرحها فقط من خلال إجراءات تضمن أن “المتحدث الأصلي يضيف صوته إلى الخدمة عن عمد” ويمنع “إنشاء أصوات مشابهة جدًا لشخصيات بارزة”.
وبرزت إساءة استخدام الذكاء الاصطناعي باعتبارها مصدر قلق كبير قبل الانتخابات هذا العام في البلدان التي تمثل حوالي نصف سكان العالم.
وسيتوجه الناخبون في أكثر من 80 دولة، بما في ذلك المكسيك وجنوب أفريقيا والولايات المتحدة، إلى صناديق الاقتراع في عام 2024، الذي وُصف بأنه أكبر عام انتخابي في التاريخ.
لقد خضع تأثير الذكاء الاصطناعي على الناخبين للتدقيق بالفعل في العديد من الانتخابات.
استخدم رئيس الوزراء الباكستاني السابق المسجون عمران خان الخطب التي أنشأها الذكاء الاصطناعي لجذب مؤيديه في الفترة التي سبقت الانتخابات البرلمانية في البلاد في فبراير.
في يناير/كانون الثاني، أطلق أحد الناشطين السياسيين للمرشح الرئاسي الأمريكي دين فيليبس، مكالمة هاتفية آلية تنتحل شخصية الرئيس الأمريكي جو بايدن، وحثت الناخبين على عدم الإدلاء بأصواتهم في الانتخابات التمهيدية للحزب الديمقراطي في نيو هامبشاير.
قالت OpenAI إنها نفذت العديد من إجراءات السلامة لشركائها الذين يختبرون Voice Engine، “بما في ذلك وضع علامة مائية لتتبع أصل أي صوت يتم إنشاؤه بواسطة Voice Engine، بالإضافة إلى المراقبة الاستباقية لكيفية استخدامه”.
