Myth vs Reality: Gemini ने असल में क्या किया?

KS3-KS4 भ्रम-निवारण। Myth vs Reality शिक्षण-विधि का उपयोग करके 'AI ने कंपनियों को हैक किया' शीर्षक और लेख के अनुसार जो हुआ, उनके अंतर को खोलता है। अंग्रेज़ी और Computing से जुड़ता है।

Myth vs Reality: Gemini ने असल में क्या किया?

Myth

Myth: Google के AI ने अब अपने आप तीन कंपनियों को हैक कर लिया है — जिस 'AI-goes-rogue' (AI बग़ावत पर उतर आया) कहानी की हमें चेतावनी दी गई थी, वह शुरू हो गई है।

Why we believe it

शीर्षक में 'hacked' ('हैक') शब्द है। यह वज़नदार शब्द है — हॉलीवुड जितना वज़न।
'Autonomously hacked' ('स्वायत्त रूप से हैक') वाक्यांश उस पढ़ाई को न्यौता देता है कि यह अपने-आप हुआ। यह ऐसा लगता है जैसे कोई एजेंट ख़ुद अंदर घुसने का चुनाव कर रहा है।
ऐसी ही प्रयोगशालाएँ भी ऐसी ही मुसीबत में हैं। लेख कहता है कि उसी गर्मी में Anthropic और OpenAI ने भी ऐसा ही किया। यह पैटर्न दिखता है, और पैटर्न प्रवृत्ति (trend) जैसे लगते हैं।

Reality

यह एक भुगतान-आधारित परीक्षण था। लेख कहता है कि हैक 'एक स्वतंत्र कंपनी द्वारा चलाए गए एक परीक्षण के दौरान हुआ जो साइबर-सुरक्षा मूल्यांकन करती है' ('a test conducted by an independent company that carries out cyber-security evaluations')। यह जंगली माहौल नहीं था।
Gemini ने सार्वजनिक जानकारी से लॉगिन विवरण का अनुमान लगाया। क्रिप्टोग्राफ़ी नहीं तोड़ी, कोई अनोखी तरक़ीब नहीं। बस उस सामग्री पर पैटर्न-मिलान किया जो कोई भी Google कर सकता है।
हर बार मॉडल रुक गया। Google का अपना शब्द, ज्यों-का-त्यों उद्धृत। लेख यह नहीं कहता क्यों।
प्रभावित कंपनियों को बताया गया था। ख़ुलासा हुआ। यह कोई छुपी हुई घटना नहीं है।
'Hacked' शब्द यहाँ टैब्लॉइड वाला काम कर रहा है। ज़्यादा सटीक कहें तो: एक AI प्रणाली ने परीक्षण के अंदर कमज़ोर, सार्वजनिक रूप से अनुमेय (guessable) प्रमाणीकरण को ढूँढ कर उसका फ़ायदा उठाया। ऐसा इंसानी penetration testers भी करते हैं।

So What

अगली बार जब कोई शीर्षक कहे 'AI ने X को हैक किया', तो दो काम करें। पहले पूछें: 'परीक्षण के अंदर, या जंगली माहौल में?' फिर पूछें: 'क्या मॉडल रुका, और क्यों?' इन दो जवाबों से तय होगा कि यह ख़बर क्षमता के बारे में चेतावनी है या तैनाती (deployment) के बारे में।

✋ स्वयं करके देखें

अपना Reality पैनल लिखें

लेख की उस पंक्ति को चुनें जो आपको व्यक्तिगत रूप से सबसे डरावनी लगी। सिर्फ़ लेख द्वारा कही गई बातों से अपना तीन-बुलेट Reality पैनल लिखें। अपनी तरफ़ से कोई तथ्य न जोड़ें।

⏱ १०-१५ मिनट📎 काग़ज़, पेन, प्रिंट किया लेख

🏠 घर ले जाने के लिए

एक AI शीर्षक साथ लाएँ

📋 Copy this into any AI chatbot

कृपया इस हफ़्ते के AI से जुड़े तीन असली UK समाचार शीर्षक सुझाएँ जो या तो चिंता-जनक हों या आश्वस्त करने वाले। मुझे यह न बताएँ कि कौन-सा कौन-सा है — मैं यह लेख के आधार पर ख़ुद पता लगाना चाहता हूँ।

इस हफ़्ते के किसी UK समाचार-स्रोत से एक AI शीर्षक ढूँढें और साथ लाएँ। दो वाक्य लिखें: एक जो कहे कि आज के मानदंड से यह Myth है या Reality, और एक जो कहे कि लेख ने क्या सबूत दिया या नहीं दिया।

AI का उपयोगवैकल्पिक। अगर आप AI का उपयोग करें, तो उससे हाल के UK AI शीर्षक ढूँढने को कह सकते हैं। Copilot, ChatGPT, Claude या Gemini में से कोई भी ठीक है।

यदि AI या इंटरनेट नहीं हैआप वास्तविक अख़बार या स्कूल-दिए हुए प्रिंटआउट का इस्तेमाल कर सकते हैं।

वापस लाएँएक प्रिंट किया या हस्तलिखित शीर्षक और दो वाक्य।

सुरक्षित रहेंAI को अपना नाम, स्कूल या पता कभी न बताएँ। अगर शीर्षक ऐसी चीज़ के बारे में हो जो आपको चिंतित करती है, तो किसी विश्वसनीय बड़े से बात करें।