X ने 600 अकाउंट बंद किए और 3,500 पोस्ट डिलीट किए
Grok obscene AI content: सोशल मीडिया प्लेटफ़ॉर्म X ने अपने AI एप Grok पर बन रहे अश्लील कंटेंट को लेकर सख्त नियम लागू किए हैं। कंपनी ने कहा है कि ऐसे कंटेंट को तुरंत हटाया जाएगा। साथ ही, यदि कोई यूज़र Grok का इस्तेमाल करके आपत्तिजनक सामग्री तैयार करता है, तो उसके खिलाफ वही कार्रवाई की जाएगी जो सीधे अवैध कंटेंट अपलोड करने पर होती है। यानी ऐसे यूज़र्स का अकाउंट स्थायी रूप से बैन कर दिया जाएगा।
X ने भारत सरकार की ओर से आपत्ति जताए जाने के तीन दिन बाद नए नियम लागू किए हैं। केंद्र सरकार ने 2 जनवरी को X से कहा था कि वह AI एप Grok के माध्यम से बनाई जा रही अश्लील और फूहड़ सामग्री को तुरंत हटाए, वरना कानूनी कार्रवाई की जाएगी।
दरअसल, शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने शुक्रवार को AI चैटबोट Grok के गलत इस्तेमाल को लेकर चिंता व्यक्त की थी। उन्होंने आईटी मंत्री को पत्र लिखा, जिसमें कहा गया कि कुछ लोग AI की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं, जो बेहद गंभीर मामला है।
इससे पहले X के मालिक इलॉन मस्क ने शनिवार को कहा था कि कुछ लोग यह कह रहे हैं कि Grok आपत्तिजनक तस्वीरें बना रहा है। लेकिन उन्होंने इसे ऐसे उदाहरण के रूप में बताया जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना। पेन यह तय नहीं करता कि क्या लिखा जाएगा; यह वही व्यक्ति तय करता है जो उसे इस्तेमाल करता है।
मस्क ने कहा कि Grok भी इसी तरह काम करता है। आपको क्या मिलेगा, यह काफी हद तक इस पर निर्भर करता है कि आप इसमें क्या इनपुट डालते हैं। इसका जिम्मेदार टूल नहीं, बल्कि इसे इस्तेमाल करने वाला व्यक्ति होता है।
महिलाओं की तस्वीरों का गलत इस्तेमाल
कुछ यूज़र्स सोशल मीडिया प्लेटफ़ॉर्म X पर फर्जी अकाउंट बनाते हैं और इन अकाउंट्स से महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद Grok AI को निर्देश (प्रॉम्प्ट) दिया जाता है कि इन तस्वीरों को आपत्तिजनक और गलत तरीके से दिखाया जाए।
AI को अक्सर यह प्रॉम्प्ट दिया जाता है कि तस्वीरों में कपड़े बदल दिए जाएँ या उन्हें यौन संदर्भ में प्रस्तुत किया जाए। इन तस्वीरों के लिए महिलाओं की कोई अनुमति नहीं ली जाती, और कई बार वे खुद भी नहीं जानती कि उनकी तस्वीरों का इस तरह इस्तेमाल किया जा रहा है। आरोप है कि Grok इस तरह की गलत प्रॉम्प्ट्स को रोकने के बजाय उन्हें स्वीकार कर लेता है।
(For more news apart from X Admits Lapses, Deletes Over 600 Accounts After Government Action on Grok Obscene Content news in hindi, stay tuned to Rozanaspokesman Hindi)
