एलन मस्क के एआई टूल ग्रोक को सोमवार को महिलाओं और नाबालिगों की आपत्तिजनक तस्वीरें बनाने के लिए बढ़ते इंटरनेशनल विरोध का सामना करना पड़ा।
यूरोपियन यूनियन ने भी इसकी निंदा की और ब्रिटेन ने जांच की चेतावनी दी।
ग्रोक पर हाल ही में एडिट इमेज बटन लॉन्च होने के बाद इंटरनेट पर गलत इस्तेमाल की शिकायतों की बाढ़ आ गई, जिससे यूजर्स “उसे बिकिनी पहनाओ” या “उसके कपड़े हटा दो” जैसे प्रॉम्प्ट का इस्तेमाल करके ऑनलाइन इमेज को बदल सकते थे।
यूरोपीय कमीशन ने क्या कहा?
डिजिटल कपड़े उतारने की इस होड़ ने फ्रांस, भारत और मलेशिया जैसे देशों से तुरंत जांच या सुधारात्मक कार्रवाई की मांग को बढ़ावा दिया है।
यूरोपीय कमीशन ने सोमवार को इस मामले पर कहा कि वह मस्क के स्टार्टअप xAI द्वारा डेवलप किए गए और उनके सोशल मीडिया प्लेटफॉर्म एक्स में इंटीग्रेट किए गए Grok के बारे में शिकायतों को “बहुत गंभीरता से देख रहा है”।
EU डिजिटल मामलों के प्रवक्ता थॉमस रेगनियर ने कहा, “ग्रोक अब ‘स्पाइसी मोड’ दे रहा है जो बच्चों जैसी तस्वीरों के साथ कुछ आउटपुट में साफ तौर पर सेक्शुअल कंटेंट दिखा रहा है। यह स्पाइसी नहीं है। यह गैर-कानूनी है। यह चौंकाने वाला है।”
क्या कदम उठाए गए?
वहीं, ब्रिटेन के मीडिया रेगुलेटर Ofcom ने कहा कि उसने “X और xAI से तुरंत संपर्क किया है ताकि यह समझा जा सके कि उन्होंने UK में यूजर्स की सुरक्षा के लिए अपनी कानूनी जिम्मेदारियों को पूरा करने के लिए क्या कदम उठाए हैं।”
जवाब के आधार पर Ofcom फिर यह तय करेगा कि क्या कोई संभावित कंप्लायंस समस्याएं हैं जिनकी जांच की जानी चाहिए।
शुक्रवार को भारतीय अधिकारियों ने एक्स को सेक्शुअल कंटेंट हटाने, आपत्तिजनक यूजर्स पर कार्रवाई करने और 72 घंटे के अंदर एक्शन टेकन रिपोर्ट जमा करने का निर्देश दिया और कहा कि नहीं तो कानूनी कार्रवाई का सामना करना पड़ेगा।