दिल्ली हाई कोर्ट ने शुक्रवार को एक महत्वपूर्ण अंतरिम आदेश जारी करते हुए सोशल मीडिया प्लेटफॉर्म्स और पोर्न वेबसाइट्स को एक सोशल मीडिया इन्फ्लूएंसर के डीपफेक और एआई-जनरेटेड अश्लील तस्वीरों और वीडियो को हटाने का निर्देश दिया। यह मामला न केवल गोपनीयता और गरिमा के उल्लंघन से संबंधित है, बल्कि यह एआई तकनीक के दुरुपयोग और डिजिटल युग में व्यक्तिगत अधिकारों की सुरक्षा के महत्व को भी रेखांकित करता है।
जस्टिस पुरुषेंद्र कुमार कौरव ने अपने आदेश में कहा कि अपलोड किया गया कंटेंट “पूरी तरह से निंदनीय, अपमानजनक और वादी के मौलिक अधिकारों का स्पष्ट उल्लंघन” है। कोर्ट ने यह भी निर्देश दिया कि वादी को स्वतंत्रता है कि वह प्रतिवादी नंबर 28 से 31 या किसी अन्य मध्यस्थ प्लेटफॉर्म/वेबसाइट को बाद में खोजे गए उन यूआरएल की सूचना दे सकती है, जिनमें आपत्तिजनक तस्वीरें या समान कंटेंट हो। इन प्लेटफॉर्म्स को तुरंत कार्रवाई करनी होगी।
सोशल मीडिया इन्फ्लूएंसर ने हाई कोर्ट का रुख करते हुए दावा किया कि ऑनलाइन अपलोड किए गए वीडियो और तस्वीरें उन्हें अश्लील और दुर्भावनापूर्ण तरीके से दर्शाते हैं। उनके वकील ने तर्क दिया कि इस तरह का कंटेंट न केवल उनकी गोपनीयता, गरिमा और प्रतिष्ठा के मौलिक अधिकारों का उल्लंघन है, बल्कि यह एक गंभीर सिविल टॉर्ट (नागरिक अपकृत्य) भी है। कोर्ट ने प्रथम दृष्टया इन तर्कों से सहमति जताते हुए निषेधाज्ञा (इंजंक्शन) जारी की।
जस्टिस कौरव ने मेटा (फेसबुक) और एक्स कॉर्प (ट्विटर) को निर्देश दिया कि वे उन सोशल मीडिया हैंडल्स का पूरा विवरण साझा करें, जिन्होंने अपमानजनक कंटेंट पोस्ट किया। इसके अलावा, कोर्ट ने मामले की गोपनीयता को ध्यान में रखते हुए वादी का नाम और अन्य विवरण कोर्ट कार्यवाही से हटाने और मुकदमे के शीर्षक को संशोधित करने के लिए रजिस्ट्री को निर्देश दिया।
इस मामले में वादी-इन्फ्लूएंसर की ओर से अधिवक्ता राघव अवस्थी ने पैरवी की, जबकि गूगल की ओर से अधिवक्ता ममता रानी झा, रोहन आहूजा, श्रुत्तिमा एहेरसा, दिया और ऐश्वर्या उपस्थित हुए। केंद्र सरकार का प्रतिनिधित्व अधिवक्ता चेतन्य पूरी, अनुभव त्यागी, निशा और पुनीत सिंह ने किया।
यह निर्णय डिजिटल युग में एआई-जनित कंटेंट के दुरुपयोग को रोकने और व्यक्तिगत अधिकारों की रक्षा के लिए एक मील का पत्थर साबित हो सकता है। यह न केवल सोशल मीडिया प्लेटफॉर्म्स की जिम्मेदारी को रेखांकित करता है, बल्कि यह भी दर्शाता है कि कोर्ट तकनीकी दुरुपयोग के खिलाफ कठोर कदम उठाने को तैयार है।