OpenAI ने अपने नए AI वीडियो जनरेशन एप Sora में हाल ही में बड़ा बदलाव करते हुए अब सेलेब्रिटीज के डीपफेक वीडियो बनाने पर पूरी तरह रोक लगा दी है। बता दें कि Sora 2 मॉडल के लॉन्च के बाद कई यूजर्स ने मशहूर हस्तियों की शक्ल और आवाज का उपयोग कर नकली वीडियो बनाने शुरू कर दिए थे, जिससे सोशल मीडिया और मीडिया जगत में विवाद खड़ा हो गया।
मौजूदा जानकारी के अनुसार, इस मुद्दे ने तब तूल पकड़ लिया जब ब्रेकिंग बैड के अभिनेता ब्रायन क्रैंस्टन ने सार्वजनिक रूप से शिकायत की कि उनके चेहरे और आवाज का बिना अनुमति के इस्तेमाल किया जा रहा है। उन्होंने इसे अमेरिका के मीडिया यूनियन SAG-AFTRA के सामने रखा, जो 1.7 लाख से अधिक कलाकारों का प्रतिनिधित्व करती है। क्रैंस्टन ने बयान जारी कर कहा कि यह केवल उनकी नहीं बल्कि हर कलाकार की पहचान की सुरक्षा का मामला है और उन्होंने OpenAI की इस दिशा में उठाई गई कार्रवाई की सराहना की है।
गौरतलब है कि केवल जीवित कलाकार ही नहीं, बल्कि रॉबिन विलियम्स और जॉर्ज कार्लिन जैसे दिवंगत सेलेब्रिटीज के परिवारों ने भी OpenAI से शिकायत की थी। उनका कहना था कि उनके प्रियजनों की आवाज और चेहरा बिना अनुमति के इस्तेमाल होना अनैतिक और अस्वीकार्य है।
OpenAI ने अपनी ओर से बयान जारी करते हुए कहा कि कंपनी अब “ऑप्ट इन पॉलिसी” अपना रही है। इसका मतलब है कि किसी भी व्यक्ति की आवाज या चेहरा तभी इस्तेमाल किया जा सकेगा जब वह स्वयं इसकी अनुमति देगा। कंपनी ने स्वीकार किया कि पहले कुछ “अनजाने जनरेशन” हुए थे और अब सुरक्षा उपायों को और मजबूत किया जा रहा है।
बताया जा रहा है कि Sora एप का कैमियो फीचर यूजर्स को खुद का AI अवतार बनाकर वीडियो में शामिल करने की सुविधा देता है। लेकिन कुछ यूजर्स ने इसका गलत इस्तेमाल कर मशहूर हस्तियों के डीपफेक वीडियो बना दिए, जिसके बाद कंपनी ने इस फीचर को सीमित करना पड़ा। फिलहाल यह एप केवल iOS यूजर्स के लिए उपलब्ध है और एंड्रॉयड सपोर्ट जल्द जोड़ा जाएगा।
मौजूद जानकारी के अनुसार, यह पहली बार नहीं है जब Sora एप विवादों में आया है। इससे पहले OpenAI को मार्टिन लूथर किंग जूनियर जैसे ऐतिहासिक व्यक्तित्वों से जुड़े आपत्तिजनक और नस्लभेदी कंटेंट को ब्लॉक करना पड़ा था। अब कंपनी ने स्पष्ट किया है कि किसी भी सार्वजनिक या ऐतिहासिक शख्सियत के प्रतिनिधि अपनी पहचान के इस्तेमाल पर रोक लगाने की औपचारिक रिक्वेस्ट कर सकते हैं।