Elon Musk की सोशल मीडिया कंपनी X और उसका AI चैटबॉट Grok हाल के दिनों में लगातार विवादों में रहा है। आरोप सामने आए कि सेफ्टी गार्डरेल्स मौजूद होने के बावजूद Grok का इस्तेमाल अश्लील और आपत्तिजनक तस्वीरें बनाने के लिए किया जा रहा है। बढ़ते विरोध और कानूनी चिंताओं के बीच अब X ने Grok को लेकर सख्त कदम उठाए हैं।
रियल लोगों की अश्लील AI तस्वीरों पर बैन
X ने स्पष्ट किया है कि जिन देशों में कानून इसकी अनुमति नहीं देता, वहां Grok के जरिए रियल लोगों की अश्लील या आपत्तिजनक तस्वीरें बनाना पूरी तरह प्रतिबंधित कर दिया गया है। यह फैसला खासतौर पर AI से बनाए गए अश्लील डीपफेक्स को लेकर उठे भारी विरोध के बाद लिया गया है।
Grok की ब्लॉक की गई इमेज जनरेशन सुविधा
कंपनी के अनुसार अब Grok के जरिए रियल लोगों को बिकिनी, अंडरवियर या इसी तरह के कपड़ों में दिखाने वाली इमेज जनरेट नहीं की जा सकेगी। यह पाबंदी फ्री और पेड दोनों तरह के यूजर्स पर लागू होगी, जिससे AI के दुरुपयोग को रोका जा सके।
पेड सब्सक्राइबर्स तक सीमित इमेज फीचर
X ने यह भी ऐलान किया है कि Grok अकाउंट से इमेज जनरेट करना और इमेज एडिट करना अब सिर्फ पेड सब्सक्राइबर्स के लिए उपलब्ध होगा। कंपनी का मानना है कि इससे जवाबदेही बढ़ेगी और नियमों का उल्लंघन करने वालों पर सख्त कार्रवाई करना आसान होगा।
जीरो टॉलरेंस पॉलिसी रहेगी सख्त
X ने साफ किया है कि ये बदलाव उसकी मौजूदा सेफ्टी पॉलिसी में किसी तरह की ढील नहीं हैं। प्लेटफॉर्म पर बनाया और शेयर किया गया हर AI कंटेंट X के नियमों के अनुरूप होना जरूरी है। बच्चों के यौन शोषण, अवांछित यौन कंटेंट के खिलाफ कंपनी की ‘जीरो टॉलरेंस’ नीति पहले की तरह लागू रहेगी।
पेरेंट्स के लिए खुशखबरी, WhatsApp देगा बच्चों के अकाउंट पर कंट्रोल