फ़ायदे और नुक़सान: क्या उपभोक्ता AI पर अनिवार्य kill switches होने चाहिए?

KS4 फ़ायदे-और-नुक़सान गतिविधि। Zero-prep। Pros vs Cons पेडागोजी का उपयोग लेख की सबसे यादगार नीति माँग, उपभोक्ता AI पर 'emergency brakes' / 'kill switches', को तौलने के लिए किया जाता है। Citizenship, Computing, English बोली गई भाषा से जुड़ा हुआ।

Context

प्रस्ताव: Brad Smith चाहते हैं कि AI कंपनियों पर अपने उपभोक्ता AI उत्पादों में 'emergency brakes' (आपातकालीन ब्रेक), उद्योग का अपना शब्द 'kill switches' (किल स्विच), बनाने की एक कानूनी अनिवार्यता हो, ताकि कोई सरकारी संस्था नियंत्रण से बाहर जा रहे AI को रोक या धीमा कर सके।

Pros

यह उस तरह का प्रतिबिंब है जो हर अन्य गंभीर तकनीक के पास पहले से ही है। परमाणु रिएक्टर, airliners, कारें और medical devices सभी के पास अनिवार्य सुरक्षा overrides हैं। Smith की अपनी तुलना: दूध और washing machines पर नियम पहले से ही लागू हैं; AI अपवाद नहीं होना चाहिए।
यह केवल तब मायने रखता है जब कुछ पहले से ही ग़लत हो गया हो। 'Emergency' का मतलब है कि kill switch रोज़मर्रा में अप्रयुक्त रहता है। छात्रों और व्यवसायों को अभी भी AI का लाभ मिलता है; स्विच केवल तब खींचा जाता है जब कोई विशिष्ट घटना हो।
यह Smith की अपनी 'ग़ैर-ज़िम्मेदार कंपनियाँ' समस्या को हल करता है। एक स्वैच्छिक प्रतिज्ञा केवल उन्हीं कंपनियों को बाँधती है जो उस पर हस्ताक्षर करती हैं। एक कानूनी kill switch उस कंपनी को बाँधता है जिसने model लिखा, चाहे उन्होंने किसी भी चीज़ पर हस्ताक्षर किए हों या नहीं।

Cons

'Out of control' (नियंत्रण से बाहर) बहुत काम कर रहा है। यह कौन तय करता है कि AI कब रोकने लायक नियंत्रण से बाहर है? Microsoft? सरकार? आधी रात में कोई जज? लेख यह नहीं कहता, और उत्तर यह निर्धारित करता है कि यह एक सुरक्षा व्यवस्था है या राजनीतिक।
यह मान लेता है कि आप एक प्रशिक्षित model को रोक सकते हैं। एक kill switch एक उत्पाद को रोक सकता है; प्रशिक्षित weights को रोकना कठिन है, जिन्हें कॉपी किया जा सकता है, डाउनलोड किया जा सकता है, या किसी और के hardware पर चलाया जा सकता है। Smith लेख में इसका सामना नहीं करते।
यह सबसे बड़ी कंपनियों को और मज़बूत कर सकता है। kill-switch infrastructure बनाना और परीक्षण करना महँगा है। एक कानूनी अनिवार्यता एक लागत की न्यूनतम सीमा तय करती है जिसे केवल Microsoft जितनी बड़ी कंपनियाँ ही पार कर सकती हैं, जो Microsoft की बाज़ार स्थिति को तब भी मज़बूत करता है जब वह नियम के लिए तर्क देता है।

Bottom Line

आप कहाँ खड़े हैं? तीनों फ़ायदों को तीन नुक़सानों के सामने तौलिए। फिर इस धारदार प्रश्न का उत्तर दीजिए: 'out of control' के बारे में क्या सच होना चाहिए कि यह प्रस्ताव एक राजनीतिक व्यवस्था के बजाय एक सुरक्षा व्यवस्था बन जाए?

✋ स्वयं करके देखें

अपनी निचली पंक्ति का एक वाक्य

एक वाक्य लिखिए कि आप कहाँ खड़े हैं, पक्ष में, विरुद्ध, या वास्तव में अनिर्णीत, और एक वाक्य कि आपके विचार को पलटने के लिए लेख के 'out of control' के ढाँचे में क्या बदलना चाहिए।

⏱ 10-15 मिनट📎 काग़ज़, कलम

🏠 घर ले जाने के लिए

किसी और चीज़ के लिए एक kill switch

📋 Copy this into any AI chatbot

कृपया दो वाक्यों में वर्णन कीजिए कि किसी विशिष्ट उद्योग का सुरक्षा override कैसे काम करता है, इनमें से एक चुनिए: परमाणु रिएक्टर scram, aircraft autopilot cut-out, car emergency stop, या medical infusion-pump alarm. बताइए कि स्विच किसके पास है, और किन परिस्थितियों में उन्हें इसे खींचने की अनुमति है।

किसी अन्य उद्योग में सुरक्षा override का एक असली उदाहरण ढूँढिए, एक परमाणु रिएक्टर scram, एक plane का autopilot cut-out, एक कार का e-stop, एक medical-device अलार्म। दो वाक्य लिखिए: एक जो सारांश दे कि उस उद्योग में स्विच किसके पास है, और एक जो कहे कि Smith के AI kill switch को काम करने के लिए उससे क्या उधार लेना होगा।

AI का उपयोगवैकल्पिक। अगर आप AI का उपयोग करते हैं तो आप उससे किसी विशिष्ट उद्योग के सुरक्षा override का वर्णन करने को कह सकते हैं। Copilot, ChatGPT, Claude, Gemini में से कोई भी ठीक है।

यदि AI या इंटरनेट नहीं हैआप एक काग़ज़ी संदर्भ पुस्तक का उपयोग कर सकते हैं या परिवार के किसी सदस्य से पूछ सकते हैं।

वापस लाएँएक छोटा उदाहरण नाम और दो वाक्य।

सुरक्षित रहेंअपना नाम, स्कूल या पता AI के साथ कभी साझा न करें।