भारत सरकार की सख्ती के आगे झुके एलन मस्क: Grok AI में ‘न्यूडिटी’ और ‘स्पाइसी मोड’ पर लगा बैन
दुनिया के सबसे अमीर इंसान एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI ने अपने चर्चित चैटबॉट ग्रोक (Grok) में बड़े बदलाव किए हैं। दुनिया भर में हो रहे विरोध और भारत सरकार द्वारा दिए गए कड़े अल्टीमेटम के बाद, कंपनी ने ग्रोक के उस फीचर को हटा दिया है जिसका इस्तेमाल असली लोगों की तस्वीरों को आपत्तिजनक कपड़ों में बदलने (AI Undressing) के लिए किया जा रहा था।
स्पाइसी मोड पर गिरी गाज, अब नहीं बनेंगी अश्लील तस्वीरें
ग्रोक का ‘स्पाइसी मोड’ अपनी बेबाकी के लिए चर्चा में था, लेकिन हाल ही में इसका दुरुपयोग महिलाओं और बच्चों की ‘डीपफेक’ तस्वीरें बनाने के लिए होने लगा। भारी कानूनी दबाव के बाद अब ग्रोक किसी भी असली व्यक्ति की फोटो को बिकिनी या अंडरवियर जैसे उत्तेजक कपड़ों में एडिट नहीं कर सकेगा। कंपनी ने इसके लिए तकनीकी सुरक्षा दीवारें (Guardrails) खड़ी कर दी हैं।
भारत का 72 घंटे का अल्टीमेटम लाया रंग
इस बदलाव के पीछे भारत सरकार का कड़ा रुख सबसे बड़ा कारण माना जा रहा है। भारत के आईटी मंत्रालय (MeitY) ने सोशल मीडिया प्लेटफॉर्म X को 72 घंटे की चेतावनी दी थी। सरकार ने स्पष्ट किया था कि यदि अश्लील सामग्री नहीं रोकी गई, तो X से ‘सेफ हार्बर’ यानी कानूनी सुरक्षा छीन ली जाएगी, जिससे कंपनी सीधे तौर पर अदालती कार्रवाई के घेरे में आ जाती।
प्रमुख प्रतिबंध और बदलाव:
- प्रीमियम ग्राहकों के लिए ही फीचर: अब फोटो बनाने और एडिट करने की सुविधा केवल पैसे देने वाले (Premium) यूजर्स के लिए ही उपलब्ध होगी, ताकि दुरुपयोग करने वालों की पहचान हो सके।
- जियो-ब्लॉकिंग: जिन देशों में एआई के जरिए ऐसी तस्वीरें बनाना अपराध है, वहां यह फीचर पूरी तरह ब्लॉक रहेगा।
- X पर कार्रवाई: विवाद बढ़ने के बाद X ने भारत में 3,500 से अधिक पोस्ट हटाई हैं और कई आपत्तिजनक अकाउंट्स को हमेशा के लिए बंद कर दिया है।
वैश्विक स्तर पर घिरा था Grok
सिर्फ भारत ही नहीं, बल्कि मलेशिया और इंडोनेशिया ने भी इस पर प्रतिबंध लगा दिया था। अमेरिका के कैलिफोर्निया, ब्रिटेन और यूरोपीय संघ ने भी इसकी जांच शुरू कर दी थी। विशेषज्ञों का मानना है कि यह कदम एआई कंपनियों के लिए एक सबक है कि तकनीक की आज़ादी किसी की मर्यादा से बड़ी नहीं हो सकती।
“हमने असली लोगों की गरिमा की रक्षा के लिए तकनीकी उपाय लागू किए हैं। अब ग्रोक का उपयोग किसी को अपमानित करने के लिए नहीं किया जा सकेगा।”
— X सेफ्टी टीम का आधिकारिक बयान
