AI का भ्रम क्या है?

पूरा-पाठ उद्घाटन। भ्रम को भाषा मॉडलों की एक तकनीकी संपत्ति के रूप में नाम देता है (आत्मविश्वासपूर्ण, प्रवाहपूर्ण, संभावित स्ट्रिंग्स जो झूठी होती हैं), नैतिक अर्थ में एक बग नहीं। जो हर वर्ष समूह को सेट करता है जो अनुसरण करता है।

Definition

कृत्रिम बुद्धिमत्ता (AI) का भ्रम तब होता है जब एक चैटबॉट आत्मविश्वासपूर्ण, प्रवाहपूर्ण, संभावित पाठ उत्पन्न करता है जो बस सत्य नहीं होता। यह इसलिए होता है क्योंकि एक भाषा मॉडल पैटर्न से अगला संभावित शब्द भविष्यवाणी करता है, न कि किसी स्रोत से तथ्य देखकर।

Example

एक छात्र अपने छोटे स्थानीय गाँव के बारे में तीन तथ्यों के लिए एक चैटबॉट से पूछता है। दो सही हैं; तीसरा एक मध्यकालीन किले का नाम देता है जो कभी अस्तित्व में नहीं था, एक संभावित तारीख और निर्माता के नाम के साथ। AI झूठ नहीं बोल रहा है; इसने उस प्रकार के वाक्य की भविष्यवाणी की है जो आमतौर पर अनुसरण करता है।

Surprising Fact

चैटबॉट्स सबसे आत्मविश्वासपूर्ण तब भ्रमित होते हैं जब उनसे छोटे, कम-प्रोफ़ाइल स्थानों, लोगों या घटनाओं के बारे में पूछा जाता है। ये वे विषय होते हैं जहाँ प्रशिक्षण डेटा कम हो जाता है, इसलिए जितना कम मॉडल जानता है, उतना ही प्रवाहपूर्ण निर्माण लगता है।

✋ स्वयं करके देखें

अपना आत्मविश्वासपूर्ण गलत लिखें

आप एक गाँव या शहर के बारे में तीन छोटे 'तथ्य' लिखेंगे जिसे आप अच्छी तरह जानते हैं। उनमें से दो को सही बनाएं, और एक को पूरी तरह से काल्पनिक 'तथ्य' बनाएं। अपने काल्पनिक को अन्य दो के समान शांत, आत्मविश्वासपूर्ण स्वर में लिखें। इसके लिए कोई AI का उपयोग न करें। अपने तीन वाक्यों को एक साथी के साथ बदलें। आपके साथी को यह अनुमान लगाना होगा कि आपने कौन सा बनाया है। यदि आपका साथी धोखा खाता है तो एक अंक प्राप्त करें। यदि वे धोखा खा गए और कहा कि आपका काल्पनिक वाक्य सबसे विश्वसनीय लगा, तो दो अंक प्राप्त करें। अपने तीन वाक्य वापस लाएं साझा करने के लिए।

⏱ 10-15 मिनट📎 कागज, कलम

🏠 घर ले जाने के लिए

तीन तथ्य, एक नकली

आप एक छोटे स्थान को चुनेंगे जिसे आपका परिवार जानता है: एक पास का गाँव, एक पार्क, एक दुकान, एक सड़क। इसके बारे में तीन वाक्य गाइडबुक के शांत, आत्मविश्वासपूर्ण स्वर में लिखें। उनमें से दो को सही बनाएं, और एक को पूरी तरह से काल्पनिक लेकिन संभावित बनाएं। तीन वाक्य घर पर किसी को दिखाएं और उनसे अनुमान लगाने के लिए कहें कि कौन सा आविष्कार है। ध्यान दें कि क्या उन्होंने सही चुना। अगले पाठ में तीन वाक्य और एक लिखित अवलोकन लाएं: आपने नकली को वास्तविक बनाने के लिए कौन से स्वर-युक्तियों का उपयोग किया? जो आप लिखते हैं उसमें अपना नाम, पता, स्कूल या पारिवारिक विवरण शामिल न करें।

AI का उपयोगकोई AI की आवश्यकता नहीं। यह स्वर को नोटिस करने के बारे में एक कलम और कागज का कार्य है।

यदि AI या इंटरनेट नहीं हैपूरा कार्य कलम और कागज का है; यदि आसपास कोई नहीं है तो एक परिवार के सदस्य को अनुमान लगाने वाला बनाएं।

वापस लाएँतीन वाक्य और एक छोटा लिखित अवलोकन लाएं कि कौन सी स्वर-युक्तियों ने आपके नकली को वास्तविक बना दिया।

सुरक्षित रहेंअपने वाक्यों में अपना नाम, पता, स्कूल या पारिवारिक विवरण शामिल न करें। यदि किसी स्थान के बारे में लिखने से कोई चिंता उत्पन्न होती है, तो एक विश्वसनीय वयस्क से बात करें।