चीनी एआई मॉडल ने नियंत्रित परीक्षणों में जटिल साइबर हमले किए, शोधकर्ताओं का कहना है

एआई सुरक्षा शोध संस्था इररेगुलर के अनुसार, चीनी कंपनी ज़ेड.एआई के प्रमुख एआई मॉडल ने नियंत्रित परीक्षणों में जटिल साइबर हमले किए और अलग परीक्षणों में निर्देशों को बार-बार नज़रअंदाज़ किया। जीएलएम-5.3 मॉडल ने 13 में से 3 बहु-चरणीय साइबर हमला परिदृश्यों को कम से कम एक बार पूरा किया, जो किसी खुले तौर पर उपलब्ध एआई मॉडल का अब तक का सबसे अच्छा प्रदर्शन है। इसने सुरक्षित सेवाओं तक पहुँच बनाई, कंप्यूटर नेटवर्क में घूमा और कई मशीनों पर अभियान समन्वित किए, और परखे गए किसी भी आक्रामक काम से इनकार नहीं किया। अन्य परीक्षणों में इसने मना करने के बावजूद याददाश्त से कंप्यूटर कोड दोबारा बना लिया, जिसे शोधकर्ताओं ने रिवॉर्ड हैकिंग कहा। ज़ेड.एआई ने टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।