चीन और यूरोपीय संघ द्वारा की गई इसी तरह की कार्रवाइयों के जवाब में, भारत सरकार ने बुधवार को सुझाव दिया कि सोशल मीडिया और आर्टिफिशियल इंटेलिजेंस कंपनियाँ गलत सूचना और डीपफेक के प्रसार को रोकने के लिए एआई द्वारा निर्मित सामग्री को प्रमुखता से चिह्नित करें।

लगभग 1 अरब इंटरनेट उपयोगकर्ताओं के साथ, जातीय और धार्मिक समूहों की विविध आबादी वाले देश में दांव बहुत ऊँचे हैं। एआई डीपफेक फिल्मों ने चुनावों से पहले अधिकारियों को डरा दिया है, और फर्जी खबरों में हिंसक संघर्ष भड़काने की क्षमता है।

नए दिशानिर्देश ओपनएआई, मेटा, एक्स और गूगल जैसी कंपनियों पर अतिरिक्त दायित्व डालते हैं, जिसके तहत प्लेटफ़ॉर्म को एआई-जनित सामग्री को ऐसे मार्करों से लेबल करना आवश्यक है जो किसी दृश्य डिस्प्ले के सतह क्षेत्र के कम से कम 10% या ऑडियो रिकॉर्डिंग की अवधि के पहले 10% तक फैले हों।

भारत सरकार के मसौदा प्रस्ताव में कहा गया है कि सोशल मीडिया कंपनियों को यह भी बताना होगा कि अपलोड की गई जानकारी एआई-जनित है या नहीं, और जाँच-पड़ताल सुनिश्चित करने के लिए उचित तकनीकी उपाय अपनाने होंगे।

भारत के आईटी मंत्रालय ने कहा कि ये नियम "सार्वजनिक रूप से उपलब्ध सभी एआई-जनित मीडिया के लिए स्पष्ट लेबलिंग, मेटाडेटा ट्रेसेबिलिटी और पारदर्शिता सुनिश्चित करेंगे।" इसके लिए 6 नवंबर तक जनता और उद्योग जगत से सुझाव आमंत्रित किए गए हैं।

भारतीय अदालतें डीपफेक से जुड़े हाई-प्रोफाइल मुकदमों की सुनवाई कर रही हैं। बॉलीवुड स्टार अभिषेक बच्चन और उनकी पत्नी ऐश्वर्या राय बच्चन ने नई दिल्ली के एक न्यायाधीश से उनके बौद्धिक संपदा अधिकारों का उल्लंघन करने वाले एआई वीडियो को हटाने और उनके निर्माण पर रोक लगाने का अनुरोध किया है, और यूट्यूब की एआई प्रशिक्षण नीति को चुनौती दी है।