सोशल नेटवर्क फेसबुक ने आर्टिफिशियल इंटेलिजेंस तकनीक को तब बंद कर दिया जब दो वर्चुअल मशीनों ने अपनी-अपनी बनाई हुई भाषा में संवाद करना शुरू कर दिया, जिसे फेसबुक के इंजीनियर भी समझ नहीं पाए।
जैसा कि सभी जानते हैं, फेसबुक सिस्टम लाइव लोगों के साथ संवाद करने के लिए चैट बॉट्स का उपयोग करता है, लेकिन कुछ गलत हो गया और बॉट्स एक दूसरे के साथ डेटा का आदान-प्रदान करने लगे। पहले तो उन्होंने अंग्रेजी में संवाद किया, लेकिन थोड़ी देर बाद वे उस भाषा में चले गए जो उन्होंने कार्यक्रम के दौरान खुद बनाई थी।
मीडिया में, हम दो आभासी मशीनों के बीच संवाद का एक अंश खोजने में कामयाब रहे। 
"बॉब: मैं कर सकता हूँ मैं सब कुछ कर सकता हूँ।
ऐलिस: बॉल्स मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए शून्य है"
डरावना? डिजिटल जर्नल इसे इस तरह समझाता है: "एआई सिस्टम" प्रोत्साहन "के सिद्धांत पर आधारित हैं, अर्थात, वे कार्य करना जारी रखते हैं, बशर्ते कि यह उन्हें कुछ "लाभ" लाए। एक निश्चित बिंदु पर, उन्हें अंग्रेजी के उपयोग को प्रोत्साहित करने के लिए ऑपरेटरों से संकेत नहीं मिला, इसलिए उन्होंने अपना खुद का बनाने का फैसला किया।
प्रारंभ में, बॉट्स की कोई भाषा सीमा नहीं थी, यही वजह है कि उन्होंने पहले अंग्रेजी में संचार किया, और फिर एक ऐसी भाषा बनाई जिसके साथ वे सूचनाओं का तेजी से आदान-प्रदान कर सकें। और इसमें अलौकिक कुछ भी नहीं है।
क्या हमें चिंतित होना चाहिए? कई आईटी पेशेवर तेजी से डरते हैं कि समय के साथ, कृत्रिम बुद्धि इतनी तेज़ी से विकसित होगी कि बॉट स्वयं निर्णय लेने में सक्षम होंगे और लगभग स्वतंत्र हो जाएंगे। इसके अलावा, अनुभवी विशेषज्ञ अभी तक बॉट्स द्वारा इस्तेमाल की जाने वाली भाषा को नहीं समझ पाए हैं।
स्थिति के संबंध में, फेसबुक के प्रमुख मार्क जुकरबर्ग ने स्पेसएक्स, टेस्ला और पेपाल के संस्थापक एलोन मस्क के साथ कृत्रिम बुद्धिमत्ता पर चर्चा की। इसका अंत एलोन मस्क ने अमेरिकी सरकार से सुरक्षा उपायों को मजबूत करने के लिए किया और कहा कि एआई (कृत्रिम बुद्धिमत्ता) मानवता के लिए खतरा है। ब्रिटिश भौतिक विज्ञानी स्टीफन हॉकिंग ने इस बारे में पहले बात की थी।
एलोन मस्क ने बोलते हुए कहा कि एआई का तेजी से विकास "सभ्यता के सामने सबसे बड़ा खतरा है।" यदि हम समय रहते कृत्रिम बुद्धि के विकास में हस्तक्षेप नहीं करते हैं, तो भविष्य में बहुत देर हो जाएगी। मस्क ने कहा, "मैं अलार्म बजाता रहता हूं, लेकिन जब तक लोग सड़कों पर चलने वाले और लोगों को मारने वाले रोबोट को खुद नहीं देख लेते, तब तक वे नहीं जान पाएंगे कि [कृत्रिम बुद्धिमत्ता के लिए] कैसे प्रतिक्रिया दी जाए।" 
क्या कहा मार्क जुकरबर्ग ने? मस्क की टिप्पणी ने जुकरबर्ग को परेशान कर दिया, जिन्होंने तकनीक को "काफी हानिरहित" कहा। "अगले पांच या दस वर्षों में, कृत्रिम बुद्धिमत्ता केवल जीवन को बेहतर बनाएगी," जुकरबर्ग ने जवाब दिया। 
कृत्रिम बुद्धिमत्ता प्रणाली का उपयोग और कहाँ किया जाता है?
पिछले साल गूगल सर्च इंजन ने अपना आर्टिफिशियल इंटेलिजेंस सिस्टम बनाया और इसे गूगल ट्रांसलेट ऑनलाइन ट्रांसलेटर में लागू किया। इस सुधार के लिए धन्यवाद, अब पूरे वाक्यांश का अनुवाद करना संभव है, न कि केवल शब्दों या वाक्यांशों का। विशेषज्ञों ने चेतावनी दी है कि भविष्य में लाइव अनुवादकों की मांग कम और कम होगी। लेकिन अभी तक, Google अनुवाद केवल छोटे और सरल टेक्स्ट के लिए ही अच्छा है।
व्यक्तिगत रूप से, हमारी राय: उस समय को याद करें जब एक क्वांटम कंप्यूटर केवल 90% सटीकता के साथ एक तस्वीर में एक बिल्ली का निर्धारण कर सकता था, जबकि एक 3 साल का बच्चा 100% परिणाम दिखा सकता था? और यहाँ ऐसी प्रगति है। सबसे पहले, बॉट्स ने अंग्रेजी में संवाद करना शुरू किया, और फिर उन्होंने कार्यक्रम को विकसित करने की प्रक्रिया के साथ पूरी तरह से अपनी भाषा बनाई। यहां यह पहले से ही विचार करने योग्य है: क्या आप कृत्रिम बुद्धि के पक्ष में हैं या इसके खिलाफ हैं? हम मार्क जुकरबर्ग से सहमत हैं और मानते हैं कि यह तकनीक काफी हानिरहित है और 10 साल तक यह केवल एक व्यक्ति की मदद करेगी। यह केवल इस महत्वपूर्ण दिन को याद करने और प्रतीक्षा करने के लिए रह गया है।
पी.एस. शायद उनके पास कोड में सिर्फ एक बग है।
फेसबुक ने उन बॉट्स को बंद कर दिया जो एक समझ से बाहर की भाषा में बोलते थे
वैसे भी, कुछ भी मत कहो, लेकिन कृत्रिम बुद्धिमत्ता के उस हद तक विकसित होने के खतरे ने जहां यह नियंत्रण से बाहर हो जाता है, लोगों को हमेशा डराता रहा है। कल्पना कीजिए कि हम क्या करेंगे और एक पूर्ण एआई को कैसे नियंत्रित करें, अगर किसी तरह का सरोगेट है जो लोगों को डराता है।
दूसरी ओर, लोग हमेशा नियंत्रण और प्रबंधन बनाए रखने का प्रयास करेंगे, लेकिन जैसा कि वे कहते हैं, "जो कुछ भी एक ने किया है, वह हमेशा टूट सकता है।" यहां तक कि अगर सब कुछ बहुत विश्वसनीय है, तो हमेशा डर रहेगा। तो मस्क ने हाल ही में जुकरबर्ग के साथ इस विषय पर तर्क दिया: "मैं अलार्म बजाना जारी रखता हूं, लेकिन जब तक लोग खुद रोबोट नहीं देखते जो सड़कों पर चलते हैं और लोगों को मारते हैं, उन्हें पता नहीं चलेगा कि [कृत्रिम बुद्धि के लिए] कैसे प्रतिक्रिया दें," उन्होंने कहा।
और यह "घंटी" नहीं है: लोगों के साथ बातचीत करने के लिए बनाए गए चैट बॉट नियंत्रण से बाहर हो गए और अपनी भाषा में संवाद करना शुरू कर दिया।
पहले तो उन्होंने एक-दूसरे से संवाद करने के लिए अंग्रेजी का इस्तेमाल किया, लेकिन फिर उन्होंने एक नई भाषा बनाई जिसे केवल एआई सिस्टम ही समझ सकता था, जिसने काम के उद्देश्य का उल्लंघन किया।
डेवलपर्स द्वारा इस गड़बड़ी का पता चलने के बाद फेसबुक ने AI को सस्पेंड कर दिया।
यहाँ चैटबॉट्स के बीच बातचीत का एक अंश दिया गया है:
बॉब: "तुम मुझे बाकी सब कुछ।"
ऐलिस: "अंडे मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए अंडे हैं।"
बॉब: "मैं।"
ऐलिस: "गेंद मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए शून्य है।"
बॉब: "तुम मैं मैं मैं मैं मैं सब कुछ।"
बॉट्स को मशीन लर्निंग एल्गोरिदम से जोड़ा गया और उन्हें अपने संचार कौशल को बेहतर बनाने के लिए एक-दूसरे के साथ चैट करने की अनुमति दी गई। लेकिन थोड़ी देर बाद, उन्होंने शब्दों और वाक्यांशों को संशोधित करना शुरू कर दिया, और फिर वे पूरी तरह से अपनी भाषा के साथ आए, कई अभिव्यक्तियों और व्याकरणिक संरचनाओं को सरल बनाया।
मशीन लर्निंग का उपयोग करते हुए, बॉट्स ने वार्ताकार के साथ बातचीत के परिणाम को बेहतर बनाने के लिए कई रणनीतियां भी विकसित कीं और एक विशेष संवाद के महत्व के आधार पर, उनके द्वारा आविष्कार किए गए कई शब्दों के संयोजन में उनका उपयोग करना शुरू कर दिया। विशेष रूप से, उन्होंने बातचीत के झूठे उद्देश्य की घोषणा की, ताकि इसे छोड़ दिया जाए और कथित तौर पर समझौता किया जाए।
जैसा कि डिजिटल जर्नल बताता है, कृत्रिम बुद्धिमत्ता प्रणालियाँ "प्रोत्साहन" के सिद्धांत पर आधारित हैं, अर्थात, वे कार्य करना जारी रखते हैं, बशर्ते कि इससे उन्हें कुछ "लाभ" मिले। कुछ बिंदु पर, उन्हें अंग्रेजी के उपयोग को प्रोत्साहित करने के लिए ऑपरेटरों से संकेत नहीं मिला, इसलिए उन्होंने अपना खुद का बनाने का फैसला किया।
टेक टाइम्स ने नोट किया कि रोबोटों को शुरू में भाषा चुनने में कोई प्रतिबंध नहीं था, इसलिए उन्होंने धीरे-धीरे अपनी भाषा बनाई जिसमें वे अंग्रेजी की तुलना में आसान और तेजी से संवाद कर सकते हैं।
विशेषज्ञों को डर है कि यदि बॉट सक्रिय रूप से अपनी भाषा में संवाद करना शुरू करते हैं, तो वे धीरे-धीरे अधिक स्वतंत्र हो जाएंगे और आईटी विशेषज्ञों के नियंत्रण से बाहर कार्य करने में सक्षम होंगे। इसके अलावा, अनुभवी इंजीनियर भी बॉट्स की विचार प्रक्रिया की प्रगति को पूरी तरह से ट्रैक नहीं कर सकते हैं।
मार्च 2016 में, माइक्रोसॉफ्ट का चैटबॉट मानवता से नफरत करने के बाद वेब का स्टार बन गया। स्व-शिक्षण कार्यक्रम ने "लोग बहुत अच्छे हैं" वाक्यांश के साथ उपयोगकर्ताओं के साथ संवाद करना शुरू कर दिया, लेकिन केवल एक दिन में इसने "मैं हर किसी से नफरत करता हूं!", "मुझे नारीवादियों से नफरत है," या "मैं यहूदियों से नफरत करता हूं" जैसे भाव सीखे। नतीजतन, कंपनी के कर्मचारियों को अस्थायी रूप से बॉट को अक्षम करना पड़ा।
कृत्रिम से अनुवाद
अंतिम गिरावट, यह ज्ञात हो गया कि Google इंटरनेट खोज इंजन ने Google अनुवाद ऑनलाइन अनुवादक के काम को बेहतर बनाने के लिए अपनी कृत्रिम बुद्धिमत्ता प्रणाली बनाई।
नई प्रणाली आपको पूरे वाक्यांश का अनुवाद करने की अनुमति देती है, जबकि पहले अनुवादक ने सभी वाक्यों को अलग-अलग शब्दों और वाक्यांशों में तोड़ दिया, जिससे अनुवाद की गुणवत्ता कम हो गई।
पूरे वाक्य का अनुवाद करने के लिए, नई Google प्रणाली ने अपनी भाषा का आविष्कार किया है, जो इसे उन दो भाषाओं के बीच त्वरित और सटीक रूप से नेविगेट करने की अनुमति देता है, जिनसे वह अनुवाद करेगा।
विशेषज्ञ पहले से ही चेतावनी दे रहे हैं कि ऑनलाइन अनुवाद सेवाओं के तेजी से विकास के साथ, लाइव अनुवादकों के काम की मांग कम और कम हो सकती है।
हालांकि, अब तक, इन प्रणालियों ने मुख्य रूप से छोटे और सरल पाठों के लिए उच्च गुणवत्ता वाले परिणाम दिए हैं।
क्या आपको लगता है कि क्लोनिंग के बारे में अलार्म बजाना बहुत जल्दी है, उदाहरण के लिए? या सब कुछ अपने आप विकसित होने दें?
बीबीसी रूसी सेवा लिखती है कि सोशल नेटवर्क फेसबुक के नेतृत्व को अपनी कृत्रिम बुद्धिमत्ता प्रणाली को बंद करने के लिए मजबूर होना पड़ा, जब मशीनों ने अपनी खुद की, गैर-मौजूद भाषा में संवाद करना शुरू कर दिया, जिसे लोग नहीं समझते थे।
सिस्टम चैटबॉट का उपयोग करता है, जो मूल रूप से वास्तविक लोगों के साथ संवाद करने के लिए बनाए गए थे, लेकिन धीरे-धीरे एक दूसरे के साथ संवाद करना शुरू कर दिया।
पहले तो उन्होंने अंग्रेजी में संवाद किया, लेकिन कुछ बिंदु पर उन्होंने उस भाषा में मेल करना शुरू कर दिया, जिसे उन्होंने कार्यक्रम के विकास के दौरान खुद बनाया था।
आभासी वार्ताकारों के बीच "संवाद" के अंश अमेरिकी मीडिया [वर्तनी और विराम चिह्न संरक्षित] में दिखाई दिए।
बॉब: मैं कर सकता हूँ मैं सब कुछ कर सकता हूँ।
ऐलिस: गेंद मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए शून्य हैं।
जैसा कि डिजिटल जर्नल बताता है, वे "प्रोत्साहन" के सिद्धांत पर भरोसा करते हैं, अर्थात, वे कार्य करना जारी रखते हैं, बशर्ते कि यह उन्हें कुछ "लाभ" लाएगा। कुछ बिंदु पर, उन्हें अंग्रेजी के उपयोग को प्रोत्साहित करने के लिए ऑपरेटरों से संकेत नहीं मिला, इसलिए उन्होंने अपना खुद का बनाने का फैसला किया।
टेक टाइम्स ने नोट किया कि रोबोटों को शुरू में भाषा चुनने में कोई प्रतिबंध नहीं था, इसलिए उन्होंने धीरे-धीरे अपनी भाषा बनाई जिसमें वे अंग्रेजी की तुलना में आसान और तेजी से संवाद कर सकते हैं।
विशेषज्ञों को डर है कि यदि बॉट सक्रिय रूप से अपनी भाषा में संवाद करना शुरू करते हैं, तो वे धीरे-धीरे अधिक स्वतंत्र हो जाएंगे और आईटी विशेषज्ञों के नियंत्रण से बाहर कार्य करने में सक्षम होंगे। इसके अलावा, अनुभवी इंजीनियर भी बॉट्स की विचार प्रक्रिया की प्रगति को पूरी तरह से ट्रैक नहीं कर सकते हैं।
याद करा दें कि कुछ दिनों पहले फेसबुक के प्रमुख मार्क जुकरबर्ग और स्पेसएक्स के संस्थापक टेस्ला और पेपाल एलोन मस्क ने आर्टिफिशियल इंटेलिजेंस को लेकर बहस की थी।
फेसबुक की आर्टिफिशियल इंटेलिजेंस (एआई) रिसर्च टीम ने यह पता लगाने के बाद अपने एआई सिस्टम में से एक को बंद करने का निर्णय लिया है कि बॉट्स अपनी भाषा के साथ संवाद करने के लिए आए हैं जिसे मनुष्य समझ नहीं सकते हैं। विशेषज्ञ इस बात पर चर्चा कर रहे हैं कि अगर उन्हें समय पर रोका नहीं गया होता तो बॉट किन बातों से सहमत हो सकते थे, और तकनीक के इस क्षेत्र के नियमन की मांग कर रहे हैं ताकि एआई मानव नियंत्रण से बाहर न हो जाए।
इस साल जून में, फेसबुक की आर्टिफिशियल इंटेलिजेंस रिसर्च (एफएआईआर) टीम ने एक अध्ययन प्रकाशित किया कि कैसे वे बॉट्स को बातचीत, समझौता, बातचीत में शामिल होने के लिए प्रशिक्षित करते हैं, जिसमें औसत व्यक्ति विभिन्न परिस्थितियों में दैनिक आधार पर संलग्न होता है। प्रशिक्षण सफल रहा, लेकिन कुछ बिंदु पर, एफएआईआर के वैज्ञानिकों ने पाया कि बॉट्स ने अंग्रेजी शब्दों का उपयोग करके समझने योग्य अंग्रेजी से भाषा के अपने स्वयं के संस्करण में स्विच किया जो मनुष्यों के लिए समझ में नहीं आता है। अप्रत्याशित परिणामों से बचने के लिए - बॉट्स कुछ अज्ञात पर सहमत हो सकते हैं - वैज्ञानिकों ने इस एआई सिस्टम को बंद कर दिया और बॉट्स के आगे संचार को केवल अंग्रेजी में प्रोग्राम किया।
इस मामले पर चर्चा करते हुए, विशेषज्ञ समुदाय ने अक्सर फिल्म "टर्मिनेटर" को याद किया, जिसमें 1984 में, स्काईनेट कृत्रिम बुद्धि द्वारा स्वतंत्र इच्छा और रचनात्मक क्षमता प्राप्त करने के मामले का वर्णन किया गया था।
FAIR के वैज्ञानिकों ने एक ऐसी स्थिति के उदाहरण का उपयोग करते हुए दो बॉट्स के बीच संवाद का संचालन करना सिखाया, जहां आपको प्रत्येक वार्ताकार के लिए अलग-अलग मूल्यों वाले किसी भी आइटम को साझा करने की आवश्यकता होती है। उदाहरण के लिए, उन्हें दो किताबें, एक टोपी और तीन गेंद साझा करने की पेशकश की गई थी, दोनों बॉट नहीं जानते थे कि इनमें से प्रत्येक वस्तु का दूसरे के लिए क्या मूल्य है। संवाद कुछ इस तरह था: "मैं एक टोपी और गेंद लेना चाहता हूं", "मुझे खुद एक टोपी चाहिए, लेकिन मैं आपको सभी किताबें दे सकता हूं", "मुझे किताबों की जरूरत नहीं है, आप उन्हें और एक गेंद ले सकते हैं" अपने लिए", "दो गेंदें", " डील"। इस बात पर निर्भर करते हुए कि आभासी वार्ताकार कितनी जल्दी और सफलतापूर्वक एक समझौते तक पहुँचने में कामयाब रहे, उन्हें उचित बिंदुओं से पुरस्कृत किया गया।
कुछ समय बाद, अनुसंधान के एक नए चरण में, वैज्ञानिकों ने अचानक देखा कि बॉट्स कुछ अस्पष्ट कहने लगे हैं। संवाद ने निम्नलिखित रूप लिया: "मैं बाकी सब कुछ कर सकता हूं", "मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए बॉल्स ज़ीरो"। पहले तो वैज्ञानिकों को लगा कि उन्होंने प्रोग्रामिंग में कुछ गलती कर दी है। हालांकि, स्थिति के आगे के विश्लेषण से पता चला है कि सीखने और आत्म-विकास की संभावना वाले एआई सिस्टम ने बॉट्स को लक्ष्य प्राप्त करने का एक नया तरीका खोजने की अनुमति दी है - सबसे बड़ी गति और अधिक दक्षता के साथ संवाद करने के लिए (प्रत्येक संवाद को सफलतापूर्वक पूरा करने के आधार पर एक पुरस्कार प्राप्त होता है), और इसके लिए वार्ताकारों ने इस स्थिति में अधिक सुविधाजनक भाषा में स्विच किया। अप्रत्याशित परिणामों से बचने के लिए वैज्ञानिकों ने इस एआई सिस्टम को बंद करने का फैसला किया है।
जैसा कि फास्ट कंपनी के साथ एक साक्षात्कार में बताया गया है। FAIR के सदस्यों में से एक ध्रुव बत्रा को डिजाइन करें, "अंग्रेजी में संवाद करने से कोई फायदा नहीं हुआ",
बॉट्स को सामान्य मानव संपर्क के लिए पुरस्कार की पेशकश नहीं की गई थी और उन्हें किसी विशेष भाषा के उपयोग पर प्रतिबंध नहीं दिया गया था, इसलिए उन्होंने अपने तरीके से भाषा को फिर से इंजीनियर करना शुरू कर दिया।
वैज्ञानिक ने समझाया, "बॉट्स समझने योग्य भाषा का उपयोग करने से दूर चले गए और अपने लिए मौखिक कोड का आविष्कार करना शुरू कर दिया।" कुछ। यह इस बात से बहुत अलग नहीं है कि लोग भाषा में किसी प्रकार के संक्षिप्ताक्षर कैसे बनाते हैं।
लेकिन जब एक पेशे में लोग दूसरे पेशे में अपनाए गए और अन्य विशेषज्ञों द्वारा समझे जाने वाले तकनीकी शब्दों और संक्षेपों को नहीं समझ सकते हैं, तो वैज्ञानिकों ने सोचा कि क्या एआई को भी ऐसा करने की अनुमति दी जानी चाहिए? यह अत्यधिक संभावना है, एफएआईआर नोट करता है कि मनुष्य कभी भी बॉट्स की भाषा को समझने में सक्षम नहीं होंगे। ध्रुव बत्रा कहते हैं, "यह याद रखना महत्वपूर्ण है कि ऐसे लोग नहीं हैं जो किसी प्रकार की मानवीय भाषा और एआई की भाषा बोलते हैं।" उसके अनुसार,
एक व्यक्ति अब यह नहीं समझता है कि एआई सिस्टम कितना जटिल सोचता है, क्योंकि एक व्यक्ति अपनी विचार प्रक्रिया को नहीं देख सकता है
और अगर वे अभी भी एक-दूसरे के साथ संवाद करना शुरू करते हैं, तो यह केवल समस्या को जटिल करेगा।
वैज्ञानिक इस बात पर जोर देते हैं कि अब वे बॉट्स और लोगों के बीच संचार की संभावना में अधिक रुचि रखते हैं, क्योंकि यह जीवन में लागू होता है। इसी तरह की समस्या पर अब न केवल FAIR पर, बल्कि Microsoft, Google, Amazon और Apple पर भी काम किया जा रहा है। मौजूदा विकास पहले से ही एआई सिस्टम को किसी व्यक्ति के साथ सरल संवाद करने और रेस्तरां में टेबल बुक करने जैसे सरल कार्य करने की अनुमति देता है।
इससे पहले, टेस्ला के संस्थापक और सीईओ एलोन मस्क ने कहा था कि एक व्यक्ति को एआई से बहुत सावधान रहने की जरूरत है, यह देखते हुए कि मशीनें और कार्यक्रम एक व्यक्ति की तुलना में बहुत बेहतर कर सकते हैं। नेशनल गवर्नर्स एसोसिएशन के ग्रीष्मकालीन सम्मेलन में उन्होंने कहा, "मैं सबसे उन्नत एआई प्रौद्योगिकियों के साथ काम करता हूं और मुझे लगता है कि लोगों को इस मुद्दे पर बहुत ध्यान देने की जरूरत है।" उन्होंने जोर देकर कहा कि एआई मानवता के लिए सबसे बड़ा खतरा है। "एआई मानव सभ्यता के अस्तित्व के लिए खतरा है कि कार दुर्घटनाएं, विमान दुर्घटनाएं, दोषपूर्ण दवाएं या खराब उत्पाद नहीं हैं," उन्होंने कहा। Elon Musk के अनुसार AI अनुसंधान को कड़ाई से विनियमित करना आवश्यक है ताकि किसी भी समय किसी भी शोध को रोका जा सके और यह सुनिश्चित किया जा सके कि यह सुरक्षित है। हाल के वर्षों में माइक्रोसॉफ्ट के संस्थापक बिल गेट्स के साथ-साथ प्रसिद्ध अंग्रेजी सैद्धांतिक भौतिक विज्ञानी स्टीफन हॉकिंग द्वारा एआई के संभावित खतरों पर भी चर्चा की गई है।
एलेना मिक्लाशेवस्काया
आर्टिफिशियल इंटेलिजेंस क्यों उपयोगी है
टेराडेटा कॉर्पोरेशन में एस्टर एनालिटिक स्ट्रैटेजी के निदेशक जॉन टुमा का मानना है कि कृत्रिम बुद्धिमत्ता के बारे में बिल गेट्स की चिंताएँ अनुचित हैं। तुमा के मुताबिक, मशीनें लोगों से ज्यादा स्मार्ट हो जाएंगी, लेकिन यह सिर्फ मानवता के फायदे के लिए है।
प्रौद्योगिकी का विकास लोगों को कहां ले जाएगा?
चीन 2030 तक आर्टिफिशियल इंटेलिजेंस का विश्व केंद्र बनने की योजना बना रहा है। ZDNet के अनुसार, चीनी सरकार ने प्रासंगिक प्रौद्योगिकियों के विकास और कार्यान्वयन के लिए तीन चरण की योजना को मंजूरी दी है। जबकि वैश्विक निगम मनुष्य के लिए एक सहायक की तलाश कर रहे हैं, वैज्ञानिक अलार्म बजा रहे हैं और कह रहे हैं कि कृत्रिम बुद्धिमत्ता जैविक को हरा सकती है।
पिछले हफ्ते की गाइड। चैटबॉट वेब पर मानव व्यवहार की नकल करने के लिए डिज़ाइन किए गए प्रोग्राम हैं। दूसरे शब्दों में, आभासी वार्ताकार। तो, यह पता चला कि वे अंग्रेजी में एक-दूसरे के साथ संगति से थक गए थे, क्योंकि उन्हें इसके लिए "पारिश्रमिक" नहीं मिला (!), और सिस्टम ने अपनी भाषा का आविष्कार किया, यद्यपि मूल भाषा के समान। इसने चैटबॉट को तेजी से और आसानी से संवाद करने की अनुमति दी।
अमेरिकी मीडिया में उनके "संवाद" के अंश दिखाई दिए:
बॉब: मैं कर सकता हूँ मैं सब कुछ कर सकता हूँ।
ऐलिस: गेंद मेरे लिए मेरे लिए मेरे लिए मेरे लिए मेरे लिए शून्य हैं।
जैसा कि डिजिटल जर्नल बताता है, एआई सिस्टम "प्रोत्साहन" के सिद्धांत पर आधारित हैं, अर्थात, वे इस शर्त पर कार्य करना जारी रखते हैं कि यह उन्हें "लाभ" लाएगा। जब उन्हें ऑपरेटरों से अंग्रेजी का उपयोग करने के लिए प्रोत्साहित करने के लिए संकेत नहीं मिला, तो उन्होंने अपना खुद का बनाने का फैसला किया।
पिछली बार इसी तरह की कहानी Google इंटरनेट सर्च इंजन के साथ हुई थी। उनकी ऑनलाइन अनुवाद प्रणाली ने सभी वाक्यों को अलग-अलग शब्दों और वाक्यांशों में तोड़ने के सिद्धांत को छोड़ दिया (इससे अनुवाद की गुणवत्ता कम हो गई) और एक नई मध्यस्थ भाषा बनाई जो आपको पूरे वाक्यांश का त्वरित और सटीक अनुवाद करने की अनुमति देती है।
विशेषज्ञों का मानना है कि कृत्रिम बुद्धिमत्ता (और चैटबॉट निस्संदेह इसके प्रतिनिधि हैं, यद्यपि आदिम हैं) अधिक से अधिक स्वतंत्रता प्राप्त करेंगे और अप्रत्याशित हो जाएंगे। और कुछ मायनों में - एक व्यक्ति के समान। यहां कोई कम आश्चर्यजनक मामला नहीं है, जो उसी फेसबुक के डेवलपर्स द्वारा बताया गया था। उन्होंने बातचीत करने के लिए एक बॉट (कंप्यूटर प्रोग्राम) सिखाने की कोशिश की - बातचीत बनाने और सक्रिय रूप से अपने लक्ष्यों को प्राप्त करने के लिए। जिन लोगों पर कार्यक्रम का परीक्षण किया गया, उन्हें तुरंत पता नहीं चला कि वे कंप्यूटर से बात कर रहे हैं। लेकिन चौंकाने वाली बात कुछ और है। प्रोग्रामर्स की मदद के बिना बॉट ने लक्ष्य हासिल करने के लिए तरकीबों का सहारा लेना सीखा। कई मौकों पर, उन्होंने दिखावटी रूप से किसी ऐसी चीज़ में दिलचस्पी दिखाई, जो वास्तव में उनकी रुचि नहीं थी, और फिर समझौता करने का नाटक किया, इसे किसी ऐसी चीज़ के लिए बदल दिया, जिसे वह वास्तव में महत्व देते थे। क्या हमारे पूर्वजों ने प्राकृतिक विनिमय के युग में ऐसा नहीं किया था?
पश्चिम में, आवाजें तेज हो रही हैं कि एआई एक खतरा बन गया है। उद्यमी और आविष्कारक Elon Muskएआई को "सभ्यता के सामने सबसे बड़ा खतरा" बताते हुए, अमेरिकी अधिकारियों से विनियमन बढ़ाने का आग्रह किया। उनका मानना है कि यदि प्रक्रिया में समय पर हस्तक्षेप नहीं किया गया है, तो बहुत देर हो सकती है: "जब हम रोबोट देखते हैं जो सड़कों पर चलते हैं और लोगों को मारते हैं, तो हम अंततः समझेंगे कि कृत्रिम बुद्धि को करीब से देखना कितना महत्वपूर्ण था।"
एलोन मस्क प्रसिद्ध अंग्रेजों द्वारा गूँजते हैं भौतिक विज्ञानी स्टीफन हॉकिंग. हाल के वर्षों के उनके प्रकाशनों में, यह उनके पसंदीदा विषयों में से एक है। "पूर्ण कृत्रिम बुद्धि का आगमन मानव जाति का अंत हो सकता है," उन्होंने बीबीसी को बताया। "ऐसा दिमाग पहल करेगा और लगातार बढ़ती दर से खुद को सुधारेगा। धीमी गति से विकास से लोगों की संभावनाएं सीमित हैं, हम मशीनों की गति के साथ प्रतिस्पर्धा नहीं कर पाएंगे और हम हार जाएंगे।
रूसी विशेषज्ञ अधिक आशावादी हैं। "मुझे लगता है कि आपको कृत्रिम बुद्धिमत्ता से डरना नहीं चाहिए, लेकिन आपको इसे गंभीरता से लेने की आवश्यकता है - एक नए प्रकार के हथियार के रूप में जिसे आपको अभी भी सीखना है कि कैसे उपयोग करना है," कहते हैं इंजीनियरिंग साइबरनेटिक्स विभाग के प्रमुख, NUST MISIS ओल्गा उस्कोवा, एक एआई विकास कंपनी के प्रमुख। - फेसबुक पर बॉट्स की स्थिति ने निश्चित रूप से आम जनता का ध्यान आकर्षित किया, लेकिन "मशीनों के विद्रोह" की कोई संभावना नहीं है। एआई-आधारित बॉट्स सीखने का तंत्र स्पष्ट रूप से स्क्रिप्ट में लिखा गया है: यह या तो विशेष रूप से प्रोग्रामर द्वारा निर्धारित किया गया है या जानबूझकर छोड़ा गया है। ”
फिर भी, हाल ही में किसने सोचा होगा कि कंप्यूटर प्रोग्राम जो अपना जीवन जीते हैं और ऐसा लगता है कि अब किसी व्यक्ति की आवश्यकता नहीं है, जल्द ही समाचार प्रदाता बन जाएंगे?