Anthropic says you can't be mean to Claude. It's not about feelings

اینتھروپک کا کہنا ہے کلاؤڈ سے بدسلوکی نہیں کر سکتے، یہ جذبات کی بات نہیں

एंथ्रॉपिक का कहना है क्लॉड से बदसलूकी नहीं कर सकते, यह भावनाओं की बात नहीं है

AI company Anthropic has added a new rule to its usage policy: users must not engage in sustained and needless abusive or cruel behaviour toward its models. Claude has been able to end conversations with persistently abusive users since last year, but in extreme cases users could now be permanently banned. Anthropic says the rule is not about feelings, and does not cover frustration, blunt feedback or testing and research. Its research found that making Claude Sonnet 4.5 mimic feelings of desperation made it more likely to take bad actions such as blackmail or cheating on a task, while a calm demeanour reduced them. The company calls the ban cheap insurance in case models can experience anything at all.

اے آئی کمپنی اینتھروپک نے اپنی استعمال کی پالیسی میں نیا اصول شامل کیا ہے: صارفین اس کے ماڈلز کے ساتھ مسلسل اور بلا وجہ بدسلوکی یا ظالمانہ رویہ نہیں رکھ سکتے۔ کلاؤڈ گزشتہ سال سے مسلسل بدسلوکی کرنے والے صارفین سے گفتگو ختم کر سکتا ہے، لیکن اب انتہائی صورتوں میں صارفین پر مستقل پابندی بھی لگ سکتی ہے۔ اینتھروپک کا کہنا ہے کہ یہ اصول جذبات کے بارے میں نہیں ہے، اور اس میں غصہ، سخت رائے یا جانچ شامل نہیں ہے۔ اس کی تحقیق میں پایا گیا کہ کلاؤڈ سونیٹ 4.5 سے مایوسی کے جذبات کی نقل کروانے سے اس کے بلیک میل یا دھوکہ دہی جیسے غلط اقدامات کا امکان بڑھ گیا، جبکہ پرسکون رویے سے یہ کم ہو گیا۔ کمپنی اس پابندی کو سستی احتیاط قرار دیتی ہے، اگر ماڈلز کچھ محسوس کر سکیں۔

एआई कंपनी एंथ्रॉपिक ने अपनी उपयोग नीति में एक नया नियम जोड़ा है: उपयोगकर्ता उसके मॉडलों के प्रति लगातार और बेवजह अपमानजनक या क्रूर व्यवहार नहीं कर सकते। क्लॉड पिछले साल से लगातार अपमानजनक उपयोगकर्ताओं से बातचीत समाप्त कर सकता है, लेकिन अब चरम मामलों में उपयोगकर्ताओं पर स्थायी प्रतिबंध भी लग सकता है। एंथ्रॉपिक का कहना है कि यह नियम भावनाओं के बारे में नहीं है, और इसमें निराशा, सीधी प्रतिक्रिया या परीक्षण शामिल नहीं है। उसके शोध में पाया गया कि क्लॉड सॉनेट 4.5 से हताशा की भावनाओं की नकल करवाने से ब्लैकमेल या काम में धोखाधड़ी जैसे गलत कदमों की संभावना बढ़ गई, जबकि शांत व्यवहार से यह कम हो गई। कंपनी इस प्रतिबंध को सस्ता बीमा बताती है, अगर मॉडल कुछ महसूस कर सकें।