تقول شركة Eleven Labs ، الشركة الناشئة التي تقف وراء أداة استنساخ الصوت بالذكاء الاصطناعي ، إنها شهدت “زيادة في الاستخدام المسيء” لبرامجها مع انتشار التلاعب بالصوت عبر الإنترنت.
أطلقت الشركة التي تتخذ من لندن مقراً لها مؤخراً نسخة تجريبية من منصتها لإنشاء “أدوات تنتج كلمات ذات أصوات قريبة جداً من الواقع” بعد أن جمعت مليوني دولار.
شارك مستخدمو صفحة “4chan” المجهولة رسائل تم إنشاؤها باستخدام البرنامج الذي يحتوي على أصوات مزيفة لعدد من المشاهير ، بما في ذلك الممثلة البريطانية إيما واتسون والمذيع الأمريكي جو روغان ، بهدف جعلها جمل عنصرية وجندرية مطلقة.
في إحدى هذه الرسائل ، سُمع صوت مشابه لصوت إيما واتسون وهو يقرأ مقتطفًا من كتاب أدولف هتلر “كفاحي” ، بينما في رسالة أخرى سمع صوت مشابه لصوت المحلل الأمريكي بن شابيرو وهو يهدد باغتصاب الممثل إسكندريا أوكاسيو. -كورتيز.
كما تم إساءة استخدام أصوات المخرجين كوينتين تارانتينو وجورج لوكاس.
وكتبت Eleven Labs على تويتر يوم الاثنين “نريد حل هذه المشكلة من خلال اعتماد تدابير حماية إضافية”.
من بين اقتراحات الشركة الناشئة تعزيز عملية تحديد هوية المستخدم ، والتحقق بشكل أفضل من حقوق الملكية الفكرية للنماذج ، واعتماد إجراءات التحقق اليدوي.
و “Eleven Labs” هي واحدة من عدة شركات تطور برامج تعتمد على برامج الذكاء الاصطناعي التي يمكن لأي شخص استخدامها.
حظيت هذه الأدوات باهتمام كبير منذ أن أطلقت OpenAI في نهاية العام الماضي chatbot GBT القادر على الإجابة على مجموعة متنوعة من الأسئلة وكتابة النصوص.
ومع ذلك ، فإن هذه البرامج مصحوبة بمخاوف تتعلق بتقنية “deepfake” ، والتي تقوم على التلاعب الرقمي بالصور أو الأصوات لتتناسب مع الواقع.