Noul dispozitiv cu neuroni artificiali efectuează calcule ale rețelelor neuronale utilizând o putere de 100 până la 1000 de ori mai mică

Imagine SEM a dispozitivului de neuroni artificiali. Credit: Sangheon Oh / Nature Nanotechnology

Antrenarea rețelelor neuronale pentru îndeplinirea sarcinilor, cum ar fi recunoașterea imaginilor sau navigarea mașinilor cu conducere automată, poate necesita într-o zi mai puțină putere și echipamente de calcul datorită unui nou dispozitiv de neuroni artificiali dezvoltat de cercetătorii de la Universitatea din California San Diego. Dispozitivul poate executa calcule de rețea neuronală folosind de 100 până la 1000 de ori mai puțină putere și suprafață decât hardware-ul existent bazat pe CMOS.

Cercetătorii își raportează munca într-o lucrare recentă publicată în Nanotehnologia naturii.

Rețelele neuronale sunt o serie de straturi conectate de neuroni artificiali, unde producția unui strat oferă acces la celălalt. Generarea acestei intrări se face prin aplicarea unui calcul matematic numit funcție de activare neliniară. Aceasta este o parte critică a funcționării unei rețele neuronale. Dar implementarea acestei caracteristici necesită multă putere de calcul și circuite, deoarece implică transferul de date înainte și înapoi între două unități separate – memorie și un procesor extern.

PCB rețea neuronală hardware

O placă de circuite imprimate personalizate construită cu un set de dispozitive de activare (sau neuron) și un set de dispozitive sinaptice. Credit: Sangheon Oh / Nature Nanotechnology

Acum, cercetătorii de la UC San Diego au dezvoltat un dispozitiv de dimensiuni nanometrice care poate îndeplini în mod eficient funcția de activare.

„Calculele rețelei neuronale în dispozitive devin din ce în ce mai ineficiente pe măsură ce modelele de rețele neuronale devin mai mari și mai complexe”, a spus Duygu Kuzum, profesor de inginerie electrică și informatică la UC San Diego Jacobs School of Engineering. „Am dezvoltat un singur dispozitiv de neuroni la scară nanonică care implementează aceste calcule în dispozitive într-un mod foarte eficient și eficient din punct de vedere energetic.”

Noul studiu, condus de Kuzum și dr. studentul Sangheon Oh, a fost realizat în colaborare cu un DOE Energy Frontier Research Center condus de profesorul de fizică UC San Diego Ivan Schuller, care se concentrează pe dezvoltarea implementărilor hardware ale rețelelor neuronale artificiale eficiente din punct de vedere energetic.

Dispozitivul implementează una dintre cele mai utilizate funcții de activare în formarea rețelei neuronale numită unitate corectată liniar. Ceea ce este special la această caracteristică este că are nevoie de dispozitive care pot suferi o schimbare treptată a rezistenței pentru a funcționa. Și tocmai asta și-au creat cercetătorii UC San Diego – poate trece treptat de la un izolator la o stare conductivă și o face cu ajutorul unei puține călduri.

Activare Dispozitiv Array

O serie de dispozitive de activare (sau neuron). Credit: Sangheon Oh / Nature Nanotechnology

Acest comutator este ceea ce se numește tranziția Mott. Se dezvoltă într-un strat subțire de nanometri de dioxid de vanadiu. Deasupra acestui strat se află un încălzitor de nanofire realizat din titan și aur. Când curentul curge prin nano-sârmă, stratul de dioxid de vanadiu se încălzește încet, provocând un pas lent și controlat de la izolație la conductor.

„Această arhitectură a dispozitivelor este foarte interesantă și inovatoare”, a spus Oh, care este primul autor al studiului. De obicei, materialele dintr-o tranziție Mott experimentează o tranziție imediată de la izolație la conductorul respectiv, deoarece curentul curge direct prin material, a explicat el. “În acest caz, curgem curent printr-un nanofir deasupra materialului pentru a-l încălzi și a provoca o schimbare treptată a rezistenței.”

Pentru a implementa dispozitivul, cercetătorii au fabricat mai întâi un set de așa-numitele dispozitive de activare (sau neuroni), împreună cu un set de dispozitive sinaptice. Apoi au integrat cele două șiruri într-o placă de circuite imprimate personalizate și le-au legat împreună pentru a crea o versiune hardware a unei rețele neuronale.

Cercetătorii au folosit grila pentru a procesa o imagine – în acest caz, o fotografie a Bibliotecii Geisel de la UC San Diego. Grila efectuează un tip de procesare a imaginii numit detectare margini, care identifică schițe sau margini ale obiectelor dintr-o imagine. Acest experiment a demonstrat că sistemul hardware integrat poate efectua operații de convoluție care sunt esențiale pentru multe tipuri de rețele neuronale profunde.

Cercetătorii spun că tehnologia ar putea fi extinsă în continuare pentru a îndeplini sarcini mai complexe, cum ar fi recunoașterea feței și a obiectelor în mașinile cu conducere automată. Cu interesul și cooperarea din industrie, acest lucru s-ar putea întâmpla, a remarcat Kuzum.

„Chiar acum, acesta este un test al conceptului”, a spus Kuzum. „Este un sistem mic în care am acumulat un singur strat de sinapse cu un singur strat de activare. Stivuind mai multe dintre acestea împreună, puteți crea un sistem mai complex pentru diferite aplicații. ”

Referință: „Neuronul de activare a energiei Mott Energy Efficiency for Complete Neural Network Hardware Implementation” de Sangheon Oh, Yuhan Shi, Javier del Valle, Pavel Salev, Yichen Lu, Zhisheng Huang, Yoav Kalcheim, Ivan K. Schuller și Duygu Kuzum, 18 martie 2021, Nanotehnologia naturii.
DOI: 10.1038 / s41565-021-00874-8

Această lucrare a fost susținută de Biroul de cercetare marină, Samsung Electronics, Fundația Națională pentru Științe, Institutele Naționale de Sănătate, o bursă Qualcomm și Departamentul de Energie al SUA, Biroul de Științe printr-un centru de cercetare a frontierei energetice.

Related articles

Comments

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Share article

Latest articles

Zirconii antici datează începutul tectonicii plăcilor în urmă cu 3,6 miliarde de ani – un eveniment critic pentru a face pământul ospitalier pentru viață

Zirconii examinați de echipa de cercetare, fotografiați cu catodoluminiscență, tehnică cu care echipa a putut vizualiza interiorul cristalelor cu un microscop electronic cu scanare...

Putem face opioidele mai puțin dependente? [Video]

În 2017, milioane de oameni din întreaga lume erau dependenți de opioide și 115.000 au murit din cauza unui supradozaj. Opioidele sunt cele mai puternice...

Măsurile neconvenționale împotriva pandemiei și apărării nucleare pot proteja omenirea de catastrofe catastrofale

Lansarea mânerului SM-3 Block IB de la un crucișător cu rachete ghidate USS Lake Erie (CG 70). Credit: Marina SUA În curând viața pe...

Situl de legare a anticorpilor conservat în variantele de virus COVID-19 – impact mare pentru vaccinurile viitoare

O echipă de cercetare Penn State a descoperit că proteinele N din barza-covi-2 sunt stocate în toate coronavirusurile epidemice legate de îngrășăminte (sus, stânga:...

Mișcări ale electronilor de ceas în interiorul unui atom: viteza obturatorului de o milionime dintr-o miliardime de secundă

Reprezentarea artistică a experimentului. Întârzierea inerentă între emisia celor două tipuri de electroni duce la o elipsă caracteristică în datele analizate. În...

Newsletter

Subscribe to stay updated.