केंद्र सरकारच्या इशाऱ्यानंतर 'X' कडून ६०० हून अधिक खाती बंद
नवी दिल्ली: आर्टिफिशियल इंटेलिजन्सचा (AI) गैरवापर करून महिलांची अश्लील चित्रे तयार करणाऱ्या 'ग्रोक' (Grok) चॅटबॉट प्रकरणी सोशल मीडिया प्लॅटफॉर्म 'X' ने आपली चूक मान्य केली आहे. केंद्र सरकारने दिलेल्या कडक इशाऱ्यानंतर 'X' ने अशा प्रकारचा मजकूर रोखण्यासाठी ठोस पावले उचलली असून, आतापर्यंत ३,५०० हून अधिक आक्षेपार्ह पोस्ट हटवल्या आहेत. तसेच, नियमांचे उल्लंघन करणाऱ्या ६०० हून अधिक युजर्सची खाती कायमस्वरूपी बंद करण्यात आली आहेत.
शिवसेना (यूबीटी) खासदार प्रियंका चतुर्वेदी यांनी २ जानेवारी रोजी आयटी मंत्री अश्विनी वैष्णव यांना पत्र लिहून या गंभीर प्रकाराकडे लक्ष वेधले होते. काही विकृत युजर्स महिलांच्या फोटोंचा वापर करून 'ग्रोक एआय'च्या माध्यमातून आक्षेपार्ह आणि अश्लील चित्रे तयार करत असल्याचे त्यांनी पुराव्यासह स्पष्ट केले होते. याची दखल घेत केंद्र सरकारने त्याच दिवशी 'X' ला ताकीद दिली होती की, जर असा अश्लील मजकूर त्वरित हटवला नाही, तर कंपनीवर कायदेशीर कारवाई केली जाईल. केंद्र सरकारच्या माहिती तंत्रज्ञान मंत्रालयाने सर्व सोशल मीडिया कंपन्यांना अश्लील, मुलांच्या लैंगिक शोषणाशी संबंधित मजकुराबाबत 'आयटी' कायद्याचे काटेकोर पालन करण्याची कडक सूचना दिली आहे.
या कारवाईनंतर 'X' ने आपली भूमिका स्पष्ट करताना म्हटले आहे की, भारत त्यांच्यासाठी एक मोठी बाजारपेठ असून ते येथील कायद्यांचा आणि नियमांचा पूर्ण सन्मान करतील. सुरुवातीला एलन मस्क यांनी या प्रकरणावर प्रतिक्रिया देताना तंत्रज्ञानाचा बचाव केला होता. मात्र, दबावानंतर कंपनीने कंटेंट मॉडरेशन अधिक मजबूत करण्याचे मान्य केले आहे.
दरम्यान, खासदार प्रियंका चतुर्वेदी यांनी कंपनीच्या कारवाईवर पुन्हा एकदा प्रश्नचिन्ह उपस्थित केले आहे. 'X' ने आक्षेपार्ह चित्रे तयार करणे पूर्णपणे थांबवण्याऐवजी ही सुविधा केवळ 'पेड युजर्स' (पैसे भरणाऱ्या ग्राहकांसाठी) मर्यादित केली असल्याचा आरोप त्यांनी केला आहे. महिला आणि मुलांच्या सुरक्षेसाठी हे पाऊल पुरेसे नसून, प्लॅटफॉर्म अशा निंदनीय वर्तनाचे कमाईसाठी (मॉनेटायझेशन) वापर करत असल्याबद्दल त्यांनी तीव्र नाराजी व्यक्त केली आहे. केंद्र सरकारच्या नव्या मार्गदर्शक सूचनांनुसार, कंपन्यांनी अशा गैरप्रकारांना आळा न घातल्यास त्यांना गंभीर कायदेशीर परिणामांना सामोरे जावे लागणार आहे.
