इंजीनियर एक नई चिप पेश करते हैं जो एआई कंप्यूटिंग की दक्षता को बढ़ाती है

स्टैनफोर्ड यूनिवर्सिटी के इंजीनियरों ने अधिक कुशल और लचीली AI चिप बनाई है। यह एआई की शक्ति को छोटे किनारे वाले उपकरणों में लाता है।

एआई द्वारा संचालित एज कंप्यूटिंग यह पहले से ही हमारे जीवन में प्रवेश कर चुका है। ड्रोन, स्मार्ट वियरेबल और औद्योगिक आईओटी सेंसर जैसे उपकरण एआई-सक्षम चिप्स से लैस हैं जो इंटरनेट के “किनारे” पर कंप्यूटिंग कर सकते हैं जहां डेटा उत्पन्न होता है। यह रीयल-टाइम प्रोसेसिंग को सक्षम बनाता है और डेटा गोपनीयता सुनिश्चित करता है।

हालांकि, इन छोटे किनारे वाले उपकरणों की एआई क्षमताएं बैटरी द्वारा प्रदान की जाने वाली ऊर्जा द्वारा सीमित हैं। इसलिए ऊर्जा दक्षता में सुधार बहुत महत्वपूर्ण है। आज की एआई चिप्स डेटा को एक साथ प्रोसेस और स्टोर करती है (गणना और मेमोरी यूनिट)। एआई प्रसंस्करण के दौरान इन इकाइयों के बीच बार-बार डेटा की आवाजाही में अधिकांश ऊर्जा की खपत होती है, इसलिए डेटा की गति को कम करना ऊर्जा की समस्या को दूर करने के लिए महत्वपूर्ण है।

स्टैनफोर्ड यूनिवर्सिटी के इंजीनियरों ने एक संभावित समाधान तैयार किया है। यह एक नई प्रतिरोधक रैंडम एक्सेस मेमोरी (आरआरएएम) चिप है जो मेमोरी के भीतर ही एआई प्रोसेसिंग करती है, जिससे कंप्यूट और मेमोरी यूनिट के बीच अलगाव समाप्त हो जाता है। कंपनी की “कम्प्यूट-इन-मेमोरी” (सीआईएम) चिप्स, जिसे न्यूरराम कहा जाता है, एक उंगलियों के आकार के बारे में हैं और वर्तमान चिप्स की तुलना में सीमित बैटरी पावर के साथ अधिक कर सकते हैं।

“क्लाउड को और से जानकारी भेजने और प्राप्त करने के बजाय, इन गणनाओं को ऑन-चिप करने से भविष्य के लिए तेज, सुरक्षित, सस्ता और स्केलेबल एआई सक्षम होगा, जिससे अधिक लोग एआई की शक्ति का उपयोग कर सकेंगे।” एच.-एस फिलिप वोंगविलार्ड आर. और प्रो. इनेस कार बेल अभियांत्रिकी संकाय.

प्रोजेक्ट का नेतृत्व करने वाले स्टैनफोर्ड के हालिया स्नातक वीयर वान कहते हैं, “डेटा को स्थानांतरित करने की समस्या दिन में दो घंटे काम करने और आठ घंटे आने के समान है।” “हमारी चिप के साथ, हम ऐसी तकनीक का प्रदर्शन कर रहे हैं जो इस चुनौती का समाधान करती है।”

उन्होंने न्यूरोराम की घोषणा की तात्कालिक लेख पत्रिका में प्रकृतिमेमोरी में कंप्यूटिंग लगभग दशकों से है, लेकिन यह चिप वास्तव में हार्डवेयर में एआई अनुप्रयोगों की एक विस्तृत श्रृंखला को प्रदर्शित करने वाला पहला है, न कि केवल सिमुलेशन में।

अपने डिवाइस में कंप्यूटिंग शक्ति डालें

डेटा आंदोलन की अड़चन को दूर करने के लिए, शोधकर्ताओं ने कंप्यूट इन मेमोरी (CIM) नामक कुछ लागू किया। यह नया चिप आर्किटेक्चर एक अलग कंप्यूटिंग यूनिट के बजाय सीधे मेमोरी में AI कंप्यूटिंग करता है। NeuRRAM द्वारा उपयोग की जाने वाली मेमोरी तकनीक रेसिस्टिव रैंडम एक्सेस मेमोरी (RRAM) है। यह एक प्रकार की गैर-वाष्पशील मेमोरी है (मेमोरी जो बिजली बंद होने पर भी डेटा को बरकरार रखती है) और इसका व्यावसायीकरण किया जा रहा है। चूंकि आरआरएएम बड़े एआई मॉडल को एक छोटे से क्षेत्र में स्टोर कर सकता है, यह बहुत कम बिजली की खपत करता है, जिससे यह छोटे, कम-शक्ति वाले किनारे वाले उपकरणों के लिए आदर्श बन जाता है।

सीआईएम चिप्स की अवधारणा अच्छी तरह से स्थापित है, और आरआरएएम में एआई कंप्यूटिंग को लागू करने का विचार नया नहीं है, लेकिन “यह बड़ी मात्रा में मेमोरी को सीधे एक तंत्रिका नेटवर्क चिप में एकीकृत करने का विचार है, जहां सभी बेंचमार्क परिणाम प्रस्तुत करने वाले पहले उदाहरणों में से एक हो सकते हैं: हार्डवेयर माप के माध्यम से, प्रकृति कागज़।

न्यूरराम की वास्तुकला चिप को कम-शक्ति, कॉम्पैक्ट क्षेत्र पदचिह्न में एनालॉग इन-मेमोरी कंप्यूटेशंस करने में सक्षम बनाती है। इसे सैन डिएगो के कैलिफोर्निया विश्वविद्यालय में गर्ट कॉवेनबर्ग की प्रयोगशाला के सहयोग से डिजाइन किया गया था। गर्ट कॉवेनबर्ग्स लो-पावर न्यूरोमॉर्फिक हार्डवेयर डिज़ाइन में अग्रणी हैं। यह आर्किटेक्चर डेटा प्रवाह दिशा के पुन: विन्यास को भी सक्षम बनाता है, विभिन्न एआई वर्कलोड मैपिंग रणनीतियों का समर्थन करता है, और एआई कम्प्यूटेशनल सटीकता का त्याग किए बिना विभिन्न प्रकार के एआई एल्गोरिदम के साथ काम करता है।

टीम ने परीक्षण किया कि यह न्यूरोराम की एआई क्षमताओं की सटीकता को प्रदर्शित करने के लिए विभिन्न कार्यों पर कैसे प्रदर्शन करता है। उन्हें MNIST डेटासेट से वर्ण पहचान में 99% सटीकता, CIFAR-10 डेटासेट से छवि वर्गीकरण में 85.7% सटीकता, और Google की वाक् कमांड मान्यता में 84.7% सटीकता मिली। छवि पुनर्निर्माण त्रुटि में 70% की कमी दिखाई गई। छवि पुनर्प्राप्ति कार्य।

“दक्षता, बहुमुखी प्रतिभा और सटीकता इस तकनीक को व्यापक रूप से अपनाने के लिए सभी महत्वपूर्ण पहलू हैं,” वान ने कहा। “लेकिन उन सभी को एक साथ करना आसान नहीं है। हार्डवेयर से सॉफ़्टवेयर तक, एक ही समय में संपूर्ण स्टैक को अनुकूलित करना महत्वपूर्ण है।”

वोंग ने कहा, “इस तरह के पूर्ण-स्टैक सह-डिज़ाइन को विविध विशेषज्ञता वाले शोधकर्ताओं की एक अंतरराष्ट्रीय टीम द्वारा संभव बनाया गया है।”

भविष्य के एज कंप्यूटिंग को शक्ति देना

NeuRRAM वर्तमान में एक भौतिक प्रमाण-अवधारणा है, लेकिन इसे वास्तविक एज डिवाइस में बदलने के लिए तैयार होने से पहले और विकास की आवश्यकता है।

लेकिन दक्षता, सटीकता और विभिन्न प्रकार के कार्यों को करने की क्षमता का संयोजन चिप की क्षमता को दर्शाता है। वान ने कहा, “आज इसका उपयोग कीवर्ड खोज या मानव पहचान जैसे सरल एआई कार्यों को करने के लिए किया जा सकता है, लेकिन कल यह पूरी तरह से अलग उपयोगकर्ता अनुभव को सक्षम कर सकता है। एक छोटे से डिवाइस के भीतर विश्लेषिकी और भाषण पहचान के संयोजन की कल्पना करें।” “ऐसा करने के लिए, हमें अपने डिजाइनों में सुधार जारी रखना होगा और आरआरएएम को उच्च प्रौद्योगिकी नोड्स में स्केल करना होगा।”

“यह काम आरआरएएम डिवाइस इंजीनियरिंग, कंप्यूटिंग-इन-मेमोरी के लिए प्रोग्रामिंग मॉडल और तंत्रिका नेटवर्क डिजाइन पर भविष्य के कई अध्ययनों का मार्ग प्रशस्त करता है, और इस तकनीक को सॉफ्टवेयर डेवलपर्स द्वारा स्केलेबल और प्रयोग योग्य बनाता है।” प्रियंका रैनाइलेक्ट्रिकल इंजीनियरिंग के सहायक प्रोफेसर और पेपर के सह-लेखक।

सफल होने पर, आरआरएएम कंप्यूट-इन-मेमोरी चिप्स जैसे कि न्यूरोराम में लगभग असीमित क्षमता होती है। आप उन्हें अपने फसल के खेतों में एम्बेड कर सकते हैं और अपनी सिंचाई प्रणाली को वर्तमान मिट्टी की स्थिति से मिलान करने के लिए रीयल-टाइम एआई गणना कर सकते हैं। या आप अपने संवर्धित वास्तविकता वाले चश्मे को सीमित कार्यक्षमता वाले क्लंकी हेडसेट से टोनी स्टार्क व्यूस्क्रीन जैसी किसी चीज़ में बदल सकते हैं। लौह पुरुष कब द एवेंजर्स फिल्में (कोई अंतरिक्ष या बहुविध खतरे – उम्मीद नहीं की जा सकती)।

एक बार बड़े पैमाने पर उत्पादित होने के बाद, ये चिप्स तकनीकी विकास में उपयोग करने के लिए पर्याप्त सस्ते होंगे जो पहले से ही हमारे जीवन में सुधार कर रहे हैं, जैसे चिकित्सा उपकरण जो हमें घर पर स्वास्थ्य स्थितियों की निगरानी करने की अनुमति देते हैं। यह अनुकूलनीय और कम शक्ति वाला होगा।

उनका उपयोग वैश्विक सामाजिक चुनौतियों को हल करने के लिए भी किया जा सकता है। एआई-सक्षम सेंसर जलवायु परिवर्तन पर नज़र रखने और प्रतिक्रिया देने में भूमिका निभाएंगे। “इस तरह के स्मार्ट इलेक्ट्रॉनिक्स के साथ जिसे लगभग कहीं भी रखा जा सकता है, हम अपनी बदलती दुनिया की निगरानी कर सकते हैं और समाधान का हिस्सा बन सकते हैं,” वोंग ने कहा। “इन चिप्स का उपयोग जलवायु परिवर्तन से लेकर खाद्य सुरक्षा तक सभी प्रकार की समस्याओं को हल करने के लिए किया जा सकता है।”

चटनी: स्टैनफोर्ड विश्वविद्यालय