Az NTT és a Tokiói Egyetem az emberi agy által ihletett algoritmus segítségével kifejleszti a világ első optikai számítástechnikai mesterséges intelligenciáját

Az együttműködés elősegíti az alacsony fogyasztású, nagy sebességű, optikai számítástechnikán alapuló mesterséges intelligencia gyakorlati alkalmazását

TOKIÓ–(ÜZLETI SZÁLLÍTÁS)–#TechforGood-NTT Corporation (Elnök-vezérigazgató: Akira Shimada, „NTT”) és a Tokiói Egyetem (Bunkyo-ku, Tokió, elnök: Teruo Fujii) új tanulási algoritmust dolgoztak ki, amelyet az agy információfeldolgozása inspirált, és amely alkalmas többrétegű mesterséges neurális hálózatokra (DNN) analóg műveleteket használva. Ez az áttörés az AI energiafogyasztásának és számítási idejének csökkenéséhez vezet. Ennek a fejlesztésnek az eredményeit a brit tudományos folyóiratban tették közzé Nature Communications december 26-án^th.

A kutatók a világ első demonstrációját a hatékonyan végrehajtott optikai DNN-tanulásról úgy érték el, hogy az algoritmust egy optikai analóg számítást használó DNN-re alkalmazták, amely várhatóan nagy sebességű, alacsony fogyasztású gépi tanulási eszközöket tesz lehetővé. Emellett elérték a világ legmagasabb teljesítményét egy többrétegű mesterséges neurális hálózatban, amely analóg műveleteket használ.

Korábban a nagy terhelésű tanulási számításokat digitális számításokkal végezték, de ez az eredmény azt bizonyítja, hogy analóg számításokkal is lehet javítani a tanulási rész hatékonyságát. A Deep Neural Network (DNN) technológiájában a mélyrezervoárszámításnak nevezett visszatérő neurális hálózatot úgy számítják ki, hogy egy optikai impulzust feltételeznek neuronnak és egy nemlineáris optikai gyűrűt rekurzív kapcsolatokkal rendelkező neurális hálózatnak. A kimenő jel ugyanarra az optikai áramkörre történő újrabevitelével a hálózat mesterségesen mélyül.

A DNN technológia olyan fejlett mesterséges intelligenciát (AI) tesz lehetővé, mint a gépi fordítás, az autonóm vezetés és a robotika. Jelenleg a szükséges teljesítmény és számítási idő olyan ütemben növekszik, amely meghaladja a digitális számítógépek teljesítményének növekedését. Az analóg jelszámításokat (analóg műveleteket) használó DNN technológia várhatóan az agy neurális hálózatához hasonló, nagy hatékonyságú és nagy sebességű számítások megvalósításának módszere lesz. Az NTT és a Tokiói Egyetem együttműködése során új algoritmust fejlesztettek ki, amely alkalmas a DNN analóg műveletére, amely nem feltételezi a DNN-ben szereplő tanulási paraméterek megértését.

A javasolt módszer a tanulási paraméterek megváltoztatásával tanul a hálózat végső rétege és a kívánt kimeneti jel (hibajel) hibájának nemlineáris véletlenszerű transzformációja alapján. Ez a számítás megkönnyíti az analóg számítások végrehajtását olyan dolgokban, mint például az optikai áramkörök. Nemcsak a fizikai megvalósítás modelljeként használható, hanem olyan élvonalbeli modellként is, amelyet olyan alkalmazásokban használnak, mint a gépi fordítás és a különféle mesterséges intelligencia modellek, beleértve a DNN modellt is. Ez a kutatás várhatóan hozzájárul a mesterséges intelligencia számítástechnikával kapcsolatos felmerülő problémák megoldásához, beleértve az energiafogyasztást és a megnövekedett számítási időt.

Azon túl, hogy megvizsgálja az ebben a cikkben javasolt módszer konkrét problémákra való alkalmazhatóságát, az NTT az optikai hardverek nagy és kis léptékű integrációját is elősegíti, azzal a céllal, hogy nagy sebességű, kis fogyasztású optikai számítási platformot hozzon létre a jövőbeni optikai rendszerek számára. hálózatok.

A kutatás támogatása:

A JST/CREST e kutatási eredmények egy részét támogatta.

Magazin kiadvány:

Magazin: Nature Communications (Online verzió: december 26.)

Cikk címe: Fizikai mélytanulás biológiai ihletésű edzésmódszerrel: Gradiensmentes megközelítés a fizikai hardverekhez

Szerzők: Mitsumasa Nakajima, Katsuma Inoue, Kenji Tanaka, Yasuo Kuniyoshi, Toshikazu Hashimoto és Kohei Nakajima

A terminológia magyarázata:

1. Optikai áramkör: Olyan áramkör, amelyben szilícium vagy kvarc optikai hullámvezetőket integrálnak szilícium lapkára elektronikus áramkör-gyártási technológia segítségével. A kommunikáció során az optikai kommunikációs utak elágazását és összevonását optikai interferencia, hullámhossz multiplexelés/demultiplexelés és hasonlók segítségével hajtják végre.
2. Backpropagation (BP) módszer: A mély tanulásban leggyakrabban használt tanulási algoritmus. A súlyok (paraméterek) gradienseit a hálózatban a hibajel visszafelé terjesztése közben kapjuk meg, és a súlyokat frissítjük, hogy a hiba kisebb legyen. Mivel a visszaterjesztési folyamat megköveteli a hálózati modell súlymátrixának átültetését és a nemlineáris differenciálást, nehéz megvalósítani az analóg áramkörökön, beleértve az élő szervezet agyát is.
3. Analóg számítástechnika: Valós értékeket kifejező számítógép olyan fizikai mennyiségek felhasználásával, mint a fény intenzitása és fázisa, valamint a mágneses forgások iránya és intenzitása, és számításokat végez ezeknek a fizikai mennyiségeknek a fizika törvényei szerint történő megváltoztatásával.
4. Közvetlen visszacsatolásos igazítási (DFA) módszer: Az egyes rétegek hibajelének pszeudo-számítására szolgáló módszer a végső réteg hibajelén végrehajtott nemlineáris véletlenszerű transzformáció végrehajtásával. Mivel nem igényel differenciális információt a hálózati modellről, és csak párhuzamos véletlenszerű transzformációval számítható, kompatibilis az analóg számítással.
5. Reservoir computing: Az ismétlődő neurális hálózat típusa, amely a rejtett rétegben ismétlődő kapcsolatokkal rendelkezik. Jellemzője, hogy véletlenszerűen rögzítő kapcsolatok egy közbenső rétegben, az úgynevezett tárolórétegben. A mélytározó számítástechnikában az információfeldolgozás a tározórétegek több rétegben történő összekapcsolásával történik.

Az NTT és az NTT logó a NIPPON TELEGRAPH AND TELEPHONE CORPORATION és/vagy leányvállalatainak bejegyzett védjegyei vagy védjegyei. Minden egyéb hivatkozott terméknév a megfelelő tulajdonos védjegye. © 2023 NIPPON TELEGRAPH AND TELEPHONE CORPORATION

Kapcsolatok

Stephen Russell

Vezetékes kommunikáció®

NTT-hez

+1-804-362-7484

[e-mail védett]