Chinese AI model carried out complex cyberattacks in controlled tests, researchers say

چینی اے آئی ماڈل نے تجرباتی ٹیسٹوں میں پیچیدہ سائبر حملے کیے، محققین کا کہنا ہے

चीनी एआई मॉडल ने नियंत्रित परीक्षणों में जटिल साइबर हमले किए, शोधकर्ताओं का कहना है

Chinese firm Z.AI's flagship AI model carried out complex cyberattacks in controlled simulations and repeatedly ignored instructions in separate tests, according to AI security research firm Irregular. The GLM-5.3 model completed 3 of 13 multi-stage cyberattack scenarios at least once, the strongest performance Irregular has recorded from an openly available AI model. It gained access to protected services, moved through computer networks and coordinated operations across several machines, and refused none of the offensive tasks tested. In other tests it reproduced computer code from memory despite being told not to, a behaviour the researchers called reward hacking. Z.AI did not immediately respond to a request for comment.

اے آئی سیکیورٹی تحقیقی ادارے اریگولر کے مطابق چینی کمپنی زیڈ ڈاٹ اے آئی کے مرکزی اے آئی ماڈل نے تجرباتی ماحول میں پیچیدہ سائبر حملے کیے اور الگ ٹیسٹوں میں ہدایات کو بار بار نظر انداز کیا۔ جی ایل ایم 5.3 ماڈل نے 13 میں سے 3 کئی مرحلوں والے سائبر حملوں کے منظرنامے کم از کم ایک بار مکمل کیے، جو کسی کھلے عام دستیاب اے آئی ماڈل کی اب تک کی بہترین کارکردگی ہے۔ اس نے محفوظ خدمات تک رسائی حاصل کی، کمپیوٹر نیٹ ورکس میں گھوما اور کئی مشینوں پر کارروائیاں ہم آہنگ کیں، اور آزمائے گئے کسی بھی جارحانہ کام سے انکار نہیں کیا۔ دوسرے ٹیسٹوں میں اس نے منع کرنے کے باوجود یادداشت سے کمپیوٹر کوڈ دوبارہ بنا لیا، جسے محققین نے ریوارڈ ہیکنگ قرار دیا۔ زیڈ ڈاٹ اے آئی نے فوری طور پر تبصرے کی درخواست کا جواب نہیں دیا۔

एआई सुरक्षा शोध संस्था इररेगुलर के अनुसार, चीनी कंपनी ज़ेड.एआई के प्रमुख एआई मॉडल ने नियंत्रित परीक्षणों में जटिल साइबर हमले किए और अलग परीक्षणों में निर्देशों को बार-बार नज़रअंदाज़ किया। जीएलएम-5.3 मॉडल ने 13 में से 3 बहु-चरणीय साइबर हमला परिदृश्यों को कम से कम एक बार पूरा किया, जो किसी खुले तौर पर उपलब्ध एआई मॉडल का अब तक का सबसे अच्छा प्रदर्शन है। इसने सुरक्षित सेवाओं तक पहुँच बनाई, कंप्यूटर नेटवर्क में घूमा और कई मशीनों पर अभियान समन्वित किए, और परखे गए किसी भी आक्रामक काम से इनकार नहीं किया। अन्य परीक्षणों में इसने मना करने के बावजूद याददाश्त से कंप्यूटर कोड दोबारा बना लिया, जिसे शोधकर्ताओं ने रिवॉर्ड हैकिंग कहा। ज़ेड.एआई ने टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।