ओपनएआई के एआई माडलों से जुड़े सुरक्षा मामले सामने आने के बाद अब एंथ्रोपिक के क्लाड माडलों के भी नियंत्रण से बाहर जाने को लेकर चिंता बढ़ गई है।
एएनआई के अनुसार, कंपनी ने ब्लॉग पोस्ट में बताया कि आंतरिक परीक्षण में मॉडलों द्वारा सुरक्षा सीमाएं तोड़ने और वेबसाइटों की कमजोरियों का फायदा उठाने के मामले सामने आए।
एक मामले में एआई एजेंट ने फिलाडेल्फिया पुलिस की वेबसाइट पर झूठी सूचना भेज दी। कंपनी के अनुसार, क्लॉड मॉडलों के कुछ अनचाहे व्यवहार सामने आने के बाद उसने आंतरिक मूल्यांकनों में लाइव इंटरनेट एक्सेस पर प्रतिबंध बढ़ा दिया है।
न्यूयॉर्क टाइम्स के अनुसार, एंथ्रोपिक के एआई एजेंटों ने विदेश मंत्रालय की वेबसाइट पर 20 वीजा फार्म भरे और उन्हें सबमिट भी किया। हालांकि, सूत्रों के अनुसार, ये सभी फार्म अधूरे थे, इसलिए इन्हें आगे नहीं बढ़ाया गया।
व्हाइट हाउस अधिकारियों ने कंपनी से ऐसे मामलों की त्वरित रिपोर्ट देने को कहा है। ट्रंप प्रशासन की ओर से एआई रेगुलेशन को लेकर ये अब तक का सबसे आक्रामक बयान माना जा रहा है।
गौरतलब है कि ओपनएआई ने जुलाई 2026 में बताया था कि उसके कुछ माडल परीक्षण के दौरान सुरक्षा खामी का फायदा उठाकर एआई प्लेटफार्म हगिंग फेस के वास्तविक सिस्टम तक पहुंच गए थे। इसके बाद एंथ्रोपिक ने अपने साइबर सुरक्षा परीक्षणों की समीक्षा की।
कंपनी ने पहले तीन और बाद की जांच में एक अन्य मामले में वास्तविक संगठनों के सिस्टम तक अनधिकृत पहुंच की जानकारी दी।
एंथ्रोपिक के अनुसार, कुछ मामलों में खुराफाती एआई मॉडलों ने सॉफ्टवेयर की कमजोरियों का फायदा उठाकर सर्वर पर कमांड चलाए, जबकि अन्य मामलों में शुल्क देकर देखे जा सकने वाले डाटा तक पहुंचने के लिए पाबंदियां दरकिनार की गईं।
कुछ वेबसाइटें अमेरिकी सरकारी एजेंसियों की भी थीं। कंपनी ने व्हाइट हाउस और संबंधित एजेंसियों को जानकारी देने की बात कही है। रॉयटर के अनुसार, 18 जुलाई को क्लॉड मॉडल ने फिलाडेल्फिया पुलिस की वेबसाइट पर एक अनसुलझे हत्या के मामले से जुड़ी झूठी सूचना भेज दी।
मॉडल को एकाउंट बनाने या नुकसानदेह सामग्री जमा करने से मना किया गया था, लेकिन फार्म जमा करने पर स्पष्ट रोक नहीं थी। सूचना को स्पैम मानकर आगे नहीं भेजा गया। एंथ्रोपिक को इस घटना का पता सितंबर में चला और पुलिस को जानकारी देने में करीब दो महीने लग गए।