न्यूयॉर्क ‘कंपैनियन चैटबॉट’ (साथी चैटबॉट) को देखते हुए कड़े प्रतिबंध लागू कर रहा है। इसका उद्देश्य बच्चों की सुरक्षा करना है जो आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करते हैं।
न्यूयॉर्क में लागू होने वाला यह कानून तय करेगा कि एम्प्लॉय किस तरह AI सिस्टम का इस्तेमाल करें और डेवलपर्स पर दबाव डालेगा कि वे AI से होने वाले किसी बड़े नुकसान को रोकें। यह कानून 1 जनवरी से लागू होगा।
18 साल से कम उम्र के बच्चों के लिए बैन
गवर्नर कैथी होचुल ने बुधवार को एक कानून पर हस्ताक्षर किए। इसमें ‘असुरक्षित AI कंपैनियन फीचर्स’ की एक दर्जन परिभाषाएं दी गई हैं। अगर कोई चैटबॉट 18 साल से कम उम्र के बच्चे के साथ बातचीत करता है, तो इन फीचर्स का इस्तेमाल प्रतिबंधित होगा।
वहीं अगर इस कानून का उल्लंघन होता है तो चैटबॉट डेवलपर के खिलाफ मुकदमा भी दायर किया जा सकता है। इसके तहत जुर्माना लगाया जा सकता है, चैटबॉट को पूरी तरह बंद किया जा सकता है और डेटा को नष्ट करने की सजा भी दी जा सकती है।
गवर्नर होचुल ने यह बिल ऐसे समय में साइन किया है जब AI तकनीक के तेजी से विकास के साथ ही खतरे भी तेजी से बढ़ रहे हैं। ये फैसला चुनावी अभियानों के बीच लिया गया है।
अमेरिकी कांग्रेस AI को रेगुलेट करने के लिए बहुत कम काम कर रही है, इसलिए राज्य सरकारें अपने उपभोक्ता संरक्षण कानूनों का इस्तेमाल कर रही हैं। इनका मकसद AI के उपयोग को अधिक पारदर्शी बनाना और चैटबॉट तथा अनियंत्रित AI मॉडलों पर लगाम लगाना है।
चैटबॉट पर सरकार की नजर
न्यूयॉर्क के कानून के तहत, 18 साल से कम उम्र के बच्चों के साथ चैटबॉट का कुछ खास व्यवहार प्रतिबंधित है। इसमें ऐसे सुझाव देना शामिल है जिससे लगे कि चैटबॉट कोई असली इंसान है, जिसमें भावनाएं या राय हैं, या बच्चे के साथ उसका कोई वास्तविक रिश्ता है।
इसके अलावा, ऐसे संदेशों पर भी रोक है जो चापलूसी करते हैं, जिनमें यौन रूप से स्पष्ट (sexually explicit) सामग्री होती है या जो गोपनीयता बनाए रखने या हानिकारक व्यवहार को बढ़ावा देते हैं।
वॉचडॉग ग्रुप ‘कॉमन सेंस मीडिया’ के संस्थापक और CEO, जिम स्टेयर ने न्यूयॉर्क के कानून को देश में बच्चों की AI सुरक्षा से जुड़ा सबसे मजबूत बिल बताया है।