एआई कि वजह से होने वाली शर्मिंदगी से कैसे बचें?

Original article was published by Cassie Kozyrkov on Artificial Intelligence on Medium


एआई कि वजह से होने वाली शर्मिंदगी से कैसे बचें?

वो ज़रूरी सुरक्षा नेट्स(जाल) आपकी सुरक्षा के लिए जिनका होना बहुत जरूरी है।

हिंदी अनुवाद: आयुष मिश्रा, (Aayush Mishra)

मूल लेख: कैसी कॉज़ीरकोव (Cassie Kozyrkov)

संपादिका: प्रियंका वरगड़ीआ (Priyanka Vergadia)

आप मशीन लर्निंग कि वजह से होने वाली शर्मिंदगी को कैसे रोकेंगे? जवाब …एक ।आप मशीन लर्निंग कि वजह से होने वाली शर्मिंदगी को कैसे रोकेंगे? जवाब …इसे हम एक हद तक ही रोक सकते है।

उस बात के होने कि उम्मीद करना शुरू करें जिसकी उम्मीद आपको बिल्कुल नहीं है!

समझदार प्रोडक्ट मैनेजर्स और डिज़ाइनर्स आपकी कुछ समस्याओं को एक मील दूर से ही देखकर बचाने आ सकते हैं और आपको अपने प्रोडक्शन कोड में आई समस्या का समाधान करने में मदद कर सकते हैं। दुर्भाग्य से, एआई सिस्टम जटिल होते है और आपकी टीम आमतौर पर हर बात के बारे में नहीं सोच सकती है।

वास्तविक जीवन भी ऐसा ही है। मैं पूरी कुशलता के साथ अपनी छुट्टियों की योजना बनती हूँ, लेकिन मैं इस संभावना पर विचार ही नहीं कर पाई कि मैं रोम के लिए अपनी ट्रेन नहीं पकड़ पाऊँगी क्योंकि मुझे शैलफ़िश के काटने कि वजह से अस्पताल जाना पड़ेगा है। यह एक सच्ची कहानी। इसने मुझे यह सिखाया कि इन शब्दों को कभी इस्तेमाल नहीं करना है”मैंने हर चीज़ के बारे में सोचा लिया है।”

उन चीज़ों के बारे में बात करना जिसकी किसी को उम्मीद नहीं है

जब वो होता है जिसकी किसी को उम्मीद नहीं होती है, तो इसमें सबसे अच्छा हम ये उम्मीद कर सकते हैं कि हमारे पास वह बुनियादी इन्फ्रास्ट्रक्चर (ढाँचा) हो जो प्रभावी ढंग से प्रतिक्रिया देने के बोझ को कम करता है। आइए एआई के लिए उस बुनियादी ढांचे के निर्माण के बारे में बात करते हैं।

नर्क से आए हुए चैटबॉट्स

इंटरनेट को उन चैटबॉट्स से बहुत प्यार है जो कंट्रोल के बाहर हो जाते हैं, तो आइए माइक्रोसॉफ्ट के चैटबॉट टेय के आधार पर इसका एक उदाहरण देखते हैं।

कल्पना कीजिए कि आप एक एआई सिस्टम बनाना चाहते हैं जो मानव की तरह ट्वीट करता है। स्वाभाविक रूप से, आप इसे असली इंसानों के ट्वीट्स पर प्रशिक्षित करेंगे। अब, तेजी से आगे बढ़कर यह पूरी तरह से सही काम करने लगा है।

अब आपके पास एक चैटबोट है जिसने गलत भाषा और अन्य अप्रिय व्यवहारों का उपयोग करना सीख लिया है जो तब होता है जब आप एक आजीवन किशोर रहने वाले सिस्टम को गुमनामी में रखते हैं। ( मेरा मज़ाक उड़ाने वाले लोगों, यह आपके लिए है।)

जबकि रिजल्ट वही आ रहा है जैसा आप उम्मीद कर रहे थे, आपके यूज़र्स इसलिए परेशान हैं क्योंकि आपके बॉट ने उनके साथ गलत भाषा का उपयोग किया है। जाहिर है, आपने उम्मीद करने का काम अच्छे से नहीं किया है। आपने दो गलतियाँ कि: आपने जो उद्देश्य चुना (“एक मानव की तरह ट्वीट करना” बजाए कि “एक अच्छी तरह से व्यवहार और बुद्धिमान मानव की तरह ट्वीट करना ताकि मेरे व्यवसाय से जुड़े लोग गर्व महसूस करें”) और आपके द्वारा उपयोग किया गया डेटा (“अनपेक्षित उदाहरण का उपयोग करना “ “)।

वो बातें जिनके बारे में पहले से अनुमान लगाया जा सकता है

अनुभवी मशीन लर्निंग प्रैक्टिश्नर्स इस पंचलाइन का पूर्वानुमान लगा सकते हैं — इस बात से आश्चर्यचकित होना बचपना हैं। कॉमन सेन्स आपको यह समझने के लिए मजबूर करता है कि चैटबोट को मानव की तरह ट्वीट करने के लिए कहना व्यावहारिक रूप से इसे खराब शब्दों का उपयोग शुरू करने के लिए भीख मांगने जैसा है।

एआई सिस्टम खुद के लिए नहीं सोचते हैं। वास्तव में, वे बिल्कुल नहीं सोचते हैं।

मनुष्य इस तरह से ही बात करते हैं, इसलिए अपने सिस्टम से इसी बात कि अपेक्षा करें कि वह आपके डेटासेट से इस दुर्भाग्यपूर्ण सच्चाई को ही बताएगा — क्योंकि जो भी दयनीय कारण से वो मसालेदार शब्द और मज़ाक उड़ाने वाले व्यवहार उसमें आए हैं, वे सभी आपके डेटा में ही मौजूद हैएमएल/ एआई सिस्टम खुद के लिए नहीं सोचते हैं, चाहे आप उन्हें इंसान जैसा बनाने की कितनी भी कोशिश करें।आप उन्हें जो भी पैटर्न दिखाते हैं वो उन्हें रेसिपी में बदल देते हैं ताकि इसके जैसा ही और बना सकें।

ऐनालिटिक्स आपके डेटा पर अपनी नज़रें रखने के बारे में है। यह आपको परेशानी की खोज करने और उनके लिए योजना बनाने में मदद करता है।

जब कोई व्यवहार खराब होता है और आपने इसका अनुमान लगा लिया है, तो आप इसे सीधे असंभव बनाने के लिए कोड लिख सकते हैं। यदि आप इसे पहले से सोच पाने में नाकाम होते हैं: तो अच्छी तरह से काम करने वाली टीमें लॉन्च से बहुत पहले ट्रेनिंग डेटा पर एनालिटिक्स का उपयोग करती हैं और उन्हें पता होता है कि ‘पाठ्यपुस्तकों’ में क्या मौजूद है जिससे वो अपने मशीन लर्निंग छात्र से पढ़ने के लिए कह रहे हैं। यदि टीम ने इसे आते हुए नहीं देखा, तो ये भूल उनसे इसलिए हो सकती है क्योंकि ऐनालिस्ट्स ने उन्हें उदाहरणों में डुबो दिया होगा जिसमें सिर्फ भव्य भाषा का उपयोग किया गया होगा।

लेकिन क्या होगा अगर लीडर्स ने इसके बारे में नहीं सोचा और ऐनालिस्ट इसे देख पाने में चूक जाएं?

भविष्य के बारे में बैक-अप प्लान

दूरदर्शिता की टोकरी में अपने सभी अंडों को मत डालिए। सभी समस्याओं का पूर्वानुमान लगाने की आपकी क्षमता के आधार पर कुछ ना करने की गलती मत कीजिए। सुरक्षित रहने का एक तरीका सुरक्षा का उपयोग करना है: एक पॉलिसी लेयर।

अपने सभी अंडे दूरदर्शिता की टोकरी में न रखें। पॉलिसी लेयर का उपयोग करें!

एक पॉलिसी लेयर लॉजिक की एक अलग लेयर है जो एमएल/एआई सिस्टम के ऊपर आती। यह एक जरूरी एआई सेफ्टी नेट है जो आउटपुट की जांच करता है, इसे फ़िल्टर करता है, और यह निर्धारित करता है कि इसके साथ क्या करना है। उदाहरण के लिए, आपकी पॉलिसी कह सकती है, “आउटपुट में किसी भी शब्द को हमारे खराब ब्लैकलिस्ट शब्दों से नहीं मिलना चाहिए।”

संभावित आउटपुट जो पॉलिसी का उल्लंघन करते हैं, फिर आपके चयन का एक करेक्शन ट्रिगर करता है, जैसे “वाक्य से अपमान जनक शब्द को हटा दें।” या यदि आप एक शब्द देते हैं, तो इसे बेहतर शब्द या कुछ और के साथ बदल देता है।

एआई के लिए शिष्टाचार

यदि पर्याप्त पाठकों को यह लेख दिलचस्प लगता है, तो मैं अधिक विस्तार से पॉलिसी लेयर पर एक लेख लिखूँगी। इस बीच, यदि आप पॉलिसी लेयर को मानव शिष्टाचार का एआई संस्करण मानते हैं तो आप कुछ प्रमुख बिंदुओं के बारे में जान सकते हैं।

एआई पॉलिसी लेयर मानव शिष्टाचार के बराबर हैं।

यह समझने के लिए कि ये आपके सिस्टम के लिए बेहतर विकल्प क्यों हैं बजाए कि अपने सिस्टम को अनचाहे डेटा से बचाने के, तो इस बात पर विचार करे जब मैं आपके लिए खराब शब्दों का उपयोग ना करने में सफल हुई थी। मुझे बहुत सारी भाषाओं के तीखे शब्दों के बारे में पता है, लेकिन आपने मुझे कभी उनका मंच पर उपयोग करते हुए नहीं देखा होगा। ऐसा इसलिए नहीं है क्योंकि वो मुझे याद नहीं आते हैं। ऐसा इसलिए है क्योंकि मैं खुद को फ़िल्टर कर रही होती हूं। समाज ने मुझे शिष्टाचार सिखाया है। सौभाग्य से, आपके लिए (और आपके यूज़र्स के लिए!)और मशीन लर्निंग के लिए भी एक ऐसा ही समाधान है… पॉलिसी लेयर।

अब जब आप जानते हैं कि वे मौजूद हैं और उनका निर्माण आसान है, तो यह बहुत गलत होगा अगर आप उन्हें तुरंत अपने एआई सिस्टम में शामिल न करें।

इंटरनेट कि मदद से शिष्टाचार का ज्ञान।