Grok AI पर अश्लील कंटेंट का आरोप, IT मंत्रालय ने X को जारी किया सख्त नोटिस

नई दिल्ली: सोशल मीडिया प्लेटफॉर्म X की AI सेवा Grok को लेकर केंद्र सरकार ने कड़ा रुख अपनाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X Corp को नोटिस भेजते हुए सूचना प्रौद्योगिकी अधिनियम और IT नियमों के उल्लंघन का आरोप लगाया है।

मंत्रालय का कहना है कि Grok AI का इस्तेमाल महिलाओं को निशाना बनाकर अश्लील, अभद्र और यौन रूप से आपत्तिजनक कंटेंट तैयार करने और फैलाने में किया जा रहा है, जो गंभीर चिंता का विषय है।

ड्यू डिलिजेंस में लापरवाही का आरोप

MeitY ने नोटिस में स्पष्ट किया है कि X Corp ने IT Act 2000 और IT Rules 2021 के तहत तय वैधानिक ड्यू डिलिजेंस दायित्वों का सही तरीके से पालन नहीं किया। रिपोर्ट्स के मुताबिक, यूजर्स Grok की AI क्षमताओं का दुरुपयोग कर सिंथेटिक तस्वीरें और वीडियो बना रहे हैं, जिससे लोगों की निजता का सीधा उल्लंघन हो रहा है।

प्राइवेसी और महिला सुरक्षा पर खतरा

मंत्रालय ने चेतावनी देते हुए कहा है कि इस तरह का कंटेंट न सिर्फ यौन उत्पीड़न को सामान्य बनाता है, बल्कि मौजूदा कानूनी सुरक्षा ढांचे को भी कमजोर करता है। सरकार ने X से जल्द ठोस कदम उठाने और प्लेटफॉर्म पर AI के दुरुपयोग को रोकने के लिए प्रभावी उपाय करने को कहा है।

MeitY ने संकेत दिए हैं कि यदि नियमों का पालन नहीं किया गया, तो आगे कड़ी कानूनी कार्रवाई की जा सकती है।