भिन्नात्मक ऊर्जा और आकार के साथ अत्याधुनिक AI के लिए नई न्यूरोमॉर्फिक चिप

शोधकर्ताओं की एक अंतरराष्ट्रीय टीम ने एक चिप का डिजाइन और निर्माण किया है जो सीधे मेमोरी में गणना कर सकती है और विभिन्न प्रकार के एआई एप्लिकेशन चला सकती है। ये सभी सामान्य-उद्देश्य वाले AI कंप्यूटिंग के लिए कंप्यूटिंग प्लेटफॉर्म द्वारा खपत ऊर्जा का एक अंश मात्र हैं।

न्यूरम न्यूरोमोर्फिंग चिप एआई लाता है यह अब क्लाउड से अलग किए गए किनारे के उपकरणों की एक विस्तृत श्रृंखला पर चल सकता है, जिससे उन्नत संज्ञानात्मक कार्यों को कभी भी, कहीं भी केंद्रीय सर्वर से नेटवर्क कनेक्टिविटी पर भरोसा किए बिना किया जा सकता है। स्मार्ट घड़ियों से लेकर वीआर हेडसेट्स तक स्मार्ट ईयरबड्स से लेकर कारखानों में स्मार्ट सेंसर से लेकर अंतरिक्ष अन्वेषण के लिए रोवर तक, एप्लिकेशन दुनिया के हर कोने में और हमारे जीवन के हर पहलू में हैं।

न्यूरराम चिप्स न केवल अत्याधुनिक “कंप्यूट-इन-मेमोरी” चिप्स के रूप में ऊर्जा कुशल हैं, हाइब्रिड चिप्स का एक क्रांतिकारी वर्ग जो मेमोरी में गणना करता है, बल्कि पारंपरिक डिजिटल चिप्स की तुलना में अधिक कुशल भी हैं। पारंपरिक एआई प्लेटफॉर्म बहुत भारी होते हैं और आमतौर पर क्लाउड में चलने वाले बड़े डेटा सर्वर का उपयोग करने के लिए विवश होते हैं।

इसके अतिरिक्त, न्यूरराम चिप्स बहुमुखी हैं और विभिन्न प्रकार के तंत्रिका नेटवर्क मॉडल और आर्किटेक्चर का समर्थन करते हैं। नतीजतन, चिप का उपयोग विभिन्न प्रकार के अनुप्रयोगों जैसे छवि पहचान, पुनर्निर्माण और भाषण मान्यता के लिए किया जा सकता है।

“यह एक आम मिथक है कि कंप्यूट-इन-मेमोरी दक्षता के लिए बहुमुखी प्रतिभा का त्याग किया जाता है, लेकिन हमारे न्यूरोराम चिप्स बहुमुखी प्रतिभा का त्याग किए बिना दक्षता प्रदान करते हैं।” कैलिफोर्निया विश्वविद्यालय, सैन डिएगो उन्होंने स्टैनफोर्ड विश्वविद्यालय से स्नातक किया और विभाग में गर्ट कॉवेनबर्ग द्वारा सह-सलाह दी गई थी कैलिफोर्निया विश्वविद्यालय, सैन डिएगो में बायोइंजीनियरिंग के।

कैलिफोर्निया विश्वविद्यालय, सैन डिएगो में एक बायोइंजीनियर के सह-नेतृत्व वाली शोध टीम ने प्रकृति.

वर्तमान में, AI कंप्यूटिंग बिजली की खपत करता है और कम्प्यूटेशनल रूप से महंगा है। एज डिवाइस पर अधिकांश एआई एप्लिकेशन डेटा को डिवाइस से क्लाउड पर ले जाते हैं, जहां एआई डेटा को प्रोसेस और विश्लेषण करता है। फिर परिणाम डिवाइस पर वापस आ जाते हैं। ऐसा इसलिए है क्योंकि अधिकांश एज डिवाइस बैटरी से चलने वाले होते हैं और इसके परिणामस्वरूप सीमित मात्रा में बिजली विशेष रूप से कंप्यूटिंग के लिए उपलब्ध होती है।

किनारे पर एआई अनुमान के लिए आवश्यक बिजली की खपत को कम करके, यह न्यूरराम चिप अधिक मजबूत, स्मार्ट और सुलभ एज डिवाइस और स्मार्ट निर्माण का कारण बन सकता है। यह डेटा गोपनीयता में भी सुधार कर सकता है, क्योंकि उपकरणों से क्लाउड में डेटा स्थानांतरित करने से सुरक्षा जोखिम होते हैं।

मेमोरी से कंप्यूटिंग यूनिट तक डेटा ले जाना एआई चिप्स की प्रमुख बाधाओं में से एक है।

“यह दिन में दो घंटे काम करने के लिए आठ घंटे की यात्रा की तरह है,” वान कहते हैं।

इस डेटा ट्रांसफर समस्या को हल करने के लिए, शोधकर्ताओं ने प्रतिरोधक रैंडम एक्सेस मेमोरी नामक कुछ का इस्तेमाल किया। यह एक प्रकार की गैर-वाष्पशील मेमोरी है जिसे एक अलग कम्प्यूटेशनल इकाई के बजाय सीधे मेमोरी में परिकलित किया जा सकता है। आरआरएएम और न्यूरोमॉर्फिक कंप्यूटिंग में सिनैप्टिक सरणियों के रूप में उपयोग की जाने वाली अन्य नई मेमोरी तकनीकों को फिलिप वोंग, वान के स्टैनफोर्ड सलाहकार और इस शोध में एक प्रमुख योगदानकर्ता की प्रयोगशाला में विकसित किया गया था। आरआरएएम चिप्स के साथ संगणना आवश्यक रूप से नया नहीं है, लेकिन यह आम तौर पर चिप पर की गई गणनाओं की सटीकता को कम करता है और चिप की वास्तुकला के लचीलेपन को कम करता है।

“कम्प्यूट-इन-मेमोरी न्यूरोमॉर्फिक इंजीनियरिंग का एक लोकप्रिय तरीका बन गया है, जो 30 साल पहले शुरू हुआ था,” कॉवेनबर्ग्स कहते हैं। “न्यूआरआरएएम के बारे में नया क्या है कि यह मानक डिजिटल सामान्य-उद्देश्य कंप्यूटिंग प्लेटफॉर्म पर सटीकता के कम नुकसान के साथ विभिन्न एआई अनुप्रयोगों को संबोधित करने के लिए महान लचीलापन और अत्यधिक दक्षता को जोड़ता है।”

विभिन्न एआई कार्यों को करने के लिए चिप डिजाइन से लेकर कॉन्फ़िगरेशन तक, हार्डवेयर और सॉफ्टवेयर अमूर्त परतों में बहु-स्तरीय “सह-अनुकूलन” के लिए सावधानीपूर्वक तैयार की गई कार्यप्रणाली महत्वपूर्ण है। इसके अतिरिक्त, टीम ने मेमोरी डिवाइस की भौतिकी से लेकर सर्किट और नेटवर्क आर्किटेक्चर तक विभिन्न बाधाओं पर विचार करना सुनिश्चित किया।

“यह चिप हमें डिवाइस और सर्किट से लेकर एल्गोरिदम तक, स्टैक में इन समस्याओं को हल करने के लिए एक मंच प्रदान करता है।

चिप प्रदर्शन

शोधकर्ताओं ने चिप की ऊर्जा दक्षता को ऊर्जा विलंब उत्पाद (ईडीपी) के रूप में जाना जाने वाली विधि से मापा। ईडीपी प्रत्येक ऑपरेशन द्वारा खपत ऊर्जा की मात्रा और ऑपरेशन को पूरा करने में लगने वाले समय दोनों का एक संयोजन है। इस तरह से, NeuRRAM चिप्स अत्याधुनिक चिप्स की तुलना में 1.6x से 2.3x कम EDP (निचला बेहतर है) और 7x से 13x उच्च कंप्यूट घनत्व प्राप्त करते हैं।

शोधकर्ताओं ने चिप पर विभिन्न एआई कार्य किए हैं। हस्तलिखित अंक पहचान कार्य पर 99% सटीकता हासिल की। छवि वर्गीकरण कार्य पर 85.7%। गूगल वॉयस कमांड रिकग्निशन टास्क पर 84.7%। इसके अलावा, चिप ने छवि पुनर्प्राप्ति कार्यों में छवि पुनर्निर्माण त्रुटियों में 70% की कमी भी हासिल की। ये परिणाम मौजूदा डिजिटल चिप्स से तुलनीय हैं जो समान बिट परिशुद्धता के साथ गणना करते हैं, लेकिन महत्वपूर्ण ऊर्जा बचत के साथ।

शोधकर्ता बताते हैं कि इस पेपर का एक महत्वपूर्ण योगदान यह है कि चर्चा किए गए सभी परिणाम सीधे हार्डवेयर पर उपलब्ध हैं। कंप्यूट-इन-मेमोरी चिप्स के पिछले कई अध्ययनों में, सॉफ़्टवेयर सिमुलेशन अक्सर एआई बेंचमार्क परिणामों का हिस्सा प्रदान करते थे।

अगले चरणों में आर्किटेक्चर और सर्किट रिफाइनमेंट और डिजाइन को उच्च प्रौद्योगिकी नोड्स में स्केल करना शामिल है। शोधकर्ता अन्य अनुप्रयोगों पर भी काम करने की योजना बना रहे हैं, जैसे स्पाइकिंग न्यूरल नेटवर्क।

पिट्सबर्ग विश्वविद्यालय में एक सहायक प्रोफेसर राजकुमार कुबेंद्रन, जिन्होंने पीएचडी के दौरान परियोजना पर काम करना शुरू किया, ने कहा: .डी. यूसी सैन डिएगो में काउवेनबर्ग्स अनुसंधान समूह के छात्र।

इसके अतिरिक्त, वान कंप्यूटिंग-इन-मेमोरी तकनीक का व्यावसायीकरण करने के लिए काम कर रहे स्टार्टअप का संस्थापक सदस्य है। “एक शोधकर्ता और इंजीनियर के रूप में मेरी महत्वाकांक्षा प्रयोगशाला से अनुसंधान नवाचारों का व्यावसायीकरण करना है,” वान ने कहा।

नई वास्तुकला

न्यूरोराम की ऊर्जा दक्षता की कुंजी स्मृति में शक्ति को महसूस करने का इसका अभिनव तरीका है। पारंपरिक दृष्टिकोण एक इनपुट के रूप में वोल्टेज का उपयोग करता है और परिणामस्वरूप वर्तमान को मापता है। हालाँकि, इसके लिए अधिक जटिल और शक्ति-भूख सर्किटरी की आवश्यकता होती है। न्यूरराम में, टीम ने एक न्यूरॉन सर्किट तैयार किया जो वोल्टेज को महसूस करता है और ऊर्जा कुशल तरीके से एनालॉग-टू-डिजिटल रूपांतरण करता है। यह वोल्टेज-मोड सेंसिंग आरआरएएम सरणी के सभी पंक्तियों और सभी स्तंभों को एक ही कम्प्यूटेशनल चक्र में सक्रिय कर सकता है, जिससे उच्च समांतरता को सक्षम किया जा सकता है।

न्यूरराम आर्किटेक्चर में, सीएमओएस न्यूरॉन सर्किट को आरआरएएम वेट के साथ भौतिक रूप से इंटरलीव किया जाता है। यह पारंपरिक डिजाइनों के विपरीत है जहां सीएमओएस सर्किटरी आम तौर पर आरआरएएम वजन से घिरा होता है। न्यूरॉन्स और आरआरएएम सरणियों के बीच कनेक्शन को न्यूरॉन इनपुट या आउटपुट के रूप में कार्य करने के लिए कॉन्फ़िगर किया जा सकता है। यह तंत्रिका नेटवर्क को क्षेत्र या पावर ओवरहेड के बिना विभिन्न डेटा प्रवाह दिशाओं में अनुमान लगाने की अनुमति देता है। इससे आपके आर्किटेक्चर को फिर से कॉन्फ़िगर करना आसान हो जाता है।

यह सुनिश्चित करने के लिए कि विभिन्न तंत्रिका नेटवर्क आर्किटेक्चर में एआई कम्प्यूटेशनल सटीकता को बनाए रखा जा सकता है, शोधकर्ताओं ने हार्डवेयर एल्गोरिदम के एक सेट के लिए एक संयुक्त अनुकूलन विधि विकसित की। तकनीक को विभिन्न तंत्रिका नेटवर्क पर मान्य किया गया था, जिसमें दृढ़ तंत्रिका नेटवर्क, दीर्घकालिक स्मृति, और प्रतिबंधित बोल्ट्ज़मान मशीन शामिल हैं।

न्यूरोमॉर्फिक AI चिप के रूप में, NeuroRRAM 48 न्यूरल सिनैप्टिक कोर में समानांतर वितरित प्रसंस्करण करता है। न्यूरराम कई कोर पर तंत्रिका नेटवर्क मॉडल की परतों को मैप करके और अधिक बहुमुखी प्रतिभा और दक्षता के लिए समानांतर में कई डेटा का हवाला देकर डेटा समानता का समर्थन करता है। न्यूरराम मॉडल की विभिन्न परतों को अलग-अलग कोर में मैप करके और पाइपलाइन फैशन में अनुमान को क्रियान्वित करके मॉडल समानता प्रदान करता है।

चटनी: यूसीएसडी