एंथ्रॉपिक का कहना है क्लॉड से बदसलूकी नहीं कर सकते, यह भावनाओं की बात नहीं है

एआई कंपनी एंथ्रॉपिक ने अपनी उपयोग नीति में एक नया नियम जोड़ा है: उपयोगकर्ता उसके मॉडलों के प्रति लगातार और बेवजह अपमानजनक या क्रूर व्यवहार नहीं कर सकते। क्लॉड पिछले साल से लगातार अपमानजनक उपयोगकर्ताओं से बातचीत समाप्त कर सकता है, लेकिन अब चरम मामलों में उपयोगकर्ताओं पर स्थायी प्रतिबंध भी लग सकता है। एंथ्रॉपिक का कहना है कि यह नियम भावनाओं के बारे में नहीं है, और इसमें निराशा, सीधी प्रतिक्रिया या परीक्षण शामिल नहीं है। उसके शोध में पाया गया कि क्लॉड सॉनेट 4.5 से हताशा की भावनाओं की नकल करवाने से ब्लैकमेल या काम में धोखाधड़ी जैसे गलत कदमों की संभावना बढ़ गई, जबकि शांत व्यवहार से यह कम हो गई। कंपनी इस प्रतिबंध को सस्ता बीमा बताती है, अगर मॉडल कुछ महसूस कर सकें।