Deepfake: डीपफेक वे एआई कंटेंट होते हैं, जो AI का उपयोग करके बनाए जाते हैं और गलत जानकारी फैलाने के लिए उपयोग किए जाते हैं। इनका इस्तेमाल सार्वजनिक हस्तियों के बारे में गलत जानकारी फैलाने, नकली आपत्तिजनक सामग्री बनाने, या धोखाधड़ी और स्कैम के लिए किया जाता है।

Meta ने एक नया टूल 'वीडियो सील' जारी किया है, जो आर्टिफिशियल इंटेलिजेंस (AI) द्वारा बनाए गए वीडियो में अदृश्य वॉटरमार्क लगाने की क्षमता रखता है। यह नया टूल कंपनी के मौजूदा वॉटरमार्किंग टूल्स, जैसे 'ऑडियो सील' और 'वॉटरमार्क एनीथिंग' में शामिल हो गया है। कंपनी ने सुझाव दिया है कि यह टूल ओपन-सोर्स होगा, लेकिन अभी तक इसका कोड सार्वजनिक नहीं किया गया है। दिलचस्प बात यह है कि Meta का दावा है कि यह तकनीक, वीडियो की गुणवत्ता को प्रभावित किए बिना वॉटरमार्क को टिकाऊ बनाएगी और इसे हटाने के आम प्रयासों के खिलाफ मजबूती प्रदान करेगी।

जेनरेटिव AI के विकास के बाद से इंटरनेट पर डीपफेक्स की भरमार हो गई है। डीपफेक्स वे AI कंटेंट होते हैं, जो एआई का उपयोग करके बनाए जाते हैं और गलत जानकारी फैलाने के लिए उपयोग किए जाते हैं। इनका इस्तेमाल सार्वजनिक हस्तियों के बारे में गलत जानकारी फैलाने, नकली आपत्तिजनक सामग्री बनाने, या धोखाधड़ी और स्कैम के लिए किया जाता है।

जैसे-जैसे AI सिस्टम बेहतर होते जा रहे हैं, डीपफेक्स की पहचान करना और मुश्किल होता जा रहा है। एक सर्वेक्षण के अनुसार, 70 प्रतिशत लोग पहले से ही वास्तविक और AI-जनित आवाज के बीच अंतर करने में असमर्थ महसूस करते हैं।

Sumsub के आंकड़ों के अनुसार, 2022 में डीपफेक धोखाधड़ी उत्तर अमेरिका में 1,740 प्रतिशत और एशिया-प्रशांत क्षेत्र में 1,530 प्रतिशत बढ़ी। यह संख्या 2022 से 2023 के बीच दस गुना तक बढ़ गई। डीपफेक्स को लेकर बढ़ती चिंताओं के बीच, कई एआई मॉडल डेवलपर्स ने सिंथेटिक सामग्री की पहचान के लिए वॉटरमार्किंग टूल जारी करना शुरू कर दिया है। इस साल की शुरुआत में गूगल ने एआई टेक्स्ट और वीडियो पर वॉटरमार्क लगाने के लिए 'सिंथआईडी' (SynthID) लॉन्च किया था। माइक्रोसॉफ्ट ने भी इसी तरह के उपकरण जारी किए हैं।

टेक्नोलॉजी से जुड़ी ताज़ा खबरे पढ़ने के लिए जुड़े रहे हमारे Website पर!