亚洲无精品一区二区在线观看-少妇无码一区二区三区免费-AAAAAA级裸体美女毛片-99桃花在线无码国产毛片视频-亚洲一区二区三区18-精品久久婷婷免费视频-在线观看免费欧美精品-久久国产丝袜高清视频-欧美熟妇极品在线看片

    當(dāng)前位置 >>  首頁(yè) >> 科研工作 >> 科研動(dòng)態(tài)

科研動(dòng)態(tài)

微電子所在存內(nèi)計(jì)算實(shí)現(xiàn)語(yǔ)義記憶動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)方面取得進(jìn)展

稿件來(lái)源：重點(diǎn)實(shí)驗(yàn)室 尚大山 張康瑋 發(fā)布時(shí)間：2024-08-29

大腦神經(jīng)網(wǎng)絡(luò)具有復(fù)雜的語(yǔ)義記憶和動(dòng)態(tài)連接性，可將不斷變化的輸入與其龐大記憶中的經(jīng)驗(yàn)聯(lián)系起來(lái)，高效執(zhí)行復(fù)雜多變的任務(wù)。目前，人工智能系統(tǒng)中廣泛應(yīng)用的神經(jīng)網(wǎng)絡(luò)模型大多是靜態(tài)的，隨著數(shù)據(jù)量的不斷增長(zhǎng)，其在傳統(tǒng)數(shù)字計(jì)算系統(tǒng)中產(chǎn)生大量能耗和時(shí)間開(kāi)銷，難以適應(yīng)外界環(huán)境的變化。

針對(duì)這一問(wèn)題，微電子所微電子器件與集成技術(shù)研發(fā)中心劉明院士團(tuán)隊(duì)的尚大山研究員與香港大學(xué)電子工程系的王中銳博士、復(fù)旦大學(xué)張續(xù)猛博士合作，通過(guò)將人工神經(jīng)網(wǎng)絡(luò)與大腦的動(dòng)態(tài)可重構(gòu)性相結(jié)合，開(kāi)發(fā)了一種基于語(yǔ)義記憶的動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)（Dynamic neural network）。該網(wǎng)絡(luò)將新信息與過(guò)去的經(jīng)驗(yàn)信息進(jìn)行關(guān)聯(lián)，利用輸入樣本與語(yǔ)義記憶的相似性，為神經(jīng)網(wǎng)絡(luò)配備動(dòng)態(tài)連接，從而根據(jù)需求分配計(jì)算資源。相比靜態(tài)網(wǎng)絡(luò)，語(yǔ)義記動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)能夠根據(jù)計(jì)算資源權(quán)衡識(shí)別準(zhǔn)確性和計(jì)算效率，可在資源受限設(shè)備或分布式計(jì)算環(huán)境中展現(xiàn)出色的性能。團(tuán)隊(duì)基于TaN/TaOx/Ta/TiN阻變存儲(chǔ)器陣列驗(yàn)證了動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)在ResNet和PointNet++網(wǎng)絡(luò)框架上的有效性。提取特征的神經(jīng)網(wǎng)絡(luò)和語(yǔ)義記憶分別在基于阻變存儲(chǔ)器的存內(nèi)計(jì)算（CIM）和內(nèi)容尋址存儲(chǔ)（CAM）的組合結(jié)構(gòu)上進(jìn)行物理實(shí)現(xiàn)，有效緩解了馮·諾依曼計(jì)算瓶頸。在對(duì)2D圖像數(shù)據(jù)集MNIST和3D點(diǎn)云數(shù)據(jù)集ModelNet的分類任務(wù)中，該設(shè)計(jì)實(shí)現(xiàn)了與軟件相當(dāng)?shù)臏?zhǔn)確率，相比于靜態(tài)神經(jīng)網(wǎng)絡(luò)減少了48.1%和15.9%的計(jì)算量，相比傳統(tǒng)數(shù)字硬件系統(tǒng)降低了計(jì)算能耗。這種軟硬件協(xié)同設(shè)計(jì)研究為開(kāi)發(fā)與大腦的適應(yīng)性和效率相媲美的人工智能系統(tǒng)提供了參考。

該項(xiàng)目得到了科技部、國(guó)家自然科學(xué)基金委、中國(guó)科學(xué)院的支持。成果近期發(fā)表在《科學(xué)-進(jìn)展》期刊上（Science Advances,10,eado1058,2024）。香港大學(xué)碩士生張?jiān)脚c微電子所博士生張握瑜為共同第一作者，香港大學(xué)王中銳博士，復(fù)旦大學(xué)張續(xù)猛博士和微電子所尚大山研究員為該文章的共同通訊作者。參與本工作的還有微電子所許曉欣研究員、復(fù)旦大學(xué)劉琦教授、香港大學(xué)齊曉娟博士和香港科技大學(xué)鄭光廷教授。

文章鏈接：https://www.science.org/doi/10.1126/sciadv.ado1058

Semantic memory–based dynamic neural network using memristive ternary CIM and CAM for 2D and 3D vision

Y. Zhang, W. Zhang, S. Wang, N. Lin, Y. Yu, Y. He, B. Wang, H. Jiang, P. Lin, X. Xu, X. Qi, Z. Wang*, X. Zhang*, D. S. Shang*, Q. Liu, K. Cheng, M. Liu

????Science Advances 10, eado1058 (2024)

圖1 :基于語(yǔ)義記憶的腦啟發(fā)動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)硬件軟件協(xié)同設(shè)計(jì)

圖2 :基于CIM/CAM的動(dòng)態(tài)PointNet++模型用于ModelNet數(shù)據(jù)集分類

附件：