中国科学家研究提出新型类脑学习方法 可助力新型类脑芯片设计
中新网北京8月29日电 (记者 孙自法)记者29日从中国科学院自动化研究所获悉,该所徐波研究员团队联合科研同行最新研究提出一种基于神经调制依赖可塑性的新型类脑学习方法(NACA),实现更高分类精度和更低学习能耗,可极大缓解灾难性遗忘问题,有望进一步引导新型类脑芯片的设计。
这项人工智能(AI)领域类脑研究重要进展成果论文,由徐波研究员团队与中国科学院脑科学与智能技术卓越创新中心蒲慕明院士、临港实验室李澄宇研究员等共同完成,近日在国际著名学术期刊《科学》旗下《科学进展》在线发表。
论文第一作者、中国科学院自动化研究所张铁林副研究员介绍说,人工智能迫切需要借鉴生物系统中的微观、介观、宏观等多尺度神经可塑性融合计算机制,以便启发实现更加高效的类脑连续学习算法,消除人工神经网络由于采用反向传播等人工学习方法而导致的广泛灾难性遗忘现象。
而生物系统中常见的多巴胺、5-羟色胺、血清素、去甲肾上腺素等神经调质物,往往经由特定的腺体释放,并远程弥散、投射到一定范围内的目标神经元群体,且根据调质浓度水平的不同,对局部的神经元、突触等多种微观可塑性产生复杂的调制影响。受生物神经调制机制的启发,研究团队通过建模多巴胺、乙酰胆碱等“全局神经调制可塑性”“局部时序依赖可塑性”等多尺度神经可塑性机制,整合得到这种基于神经调制依赖可塑性的新型类脑学习方法。
张铁林指出,这一新型类脑学习方法参考大脑中复杂的神经调制通路结构,并以期望矩阵编码的形式对神经调制通路构建数学模型,在接受刺激信号后产生不同浓度的多巴胺监督信号并进一步影响局部突触和神经元可塑性类型。该方法支持采用纯前馈的流式学习方法训练脉冲和人工神经网络,通过全局多巴胺的弥散支持与输入信号同步,甚至先于输入信号的正向信息传播,再加上选择性对“局部时序依赖可塑性”的调整,使其表现出明显的快速收敛和缓解灾难性遗忘优势。
论文通讯作者徐波研究员表示,在两类典型的图片和语音模式识别任务中,研究团队从准确率和计算成本两方面对新型类脑学习方法的算法进行评估,并选取两种全局学习算法作为对比,在人工神经网络中则以目标传播和反向传播算法作为对比对象。结果显示,在图片分类和语音识别标准数据集上,新型类脑学习方法都实现更高的分类精度和更低学习能耗。
同时,在验证静态分类任务的拟合能力后,研究团队重点测试新型类脑学习方法的连续学习能力,并将神经调制扩充到神经元可塑性范围。在连续手写数字、连续手写字母、连续手写数学符号、连续自然图片、连续动态手势等五大类连续学习任务中,新型类脑学习方法具有更低的能耗且发现可以极大地缓解灾难性遗忘问题。
研究团队认为,这次研究提出的新型类脑学习方法,是一类生物合理的全局优化算法,其采用宏观可塑性来进一步“调制”局部可塑性,可视为一种“可塑性的可塑性”方法,与“学会学习”“元学习”等有直观上的功能一致性。
新型类脑学习方法同时在两种优化问题中获得性能和计算成本上的优势,更在连续学习这一更贴合生物生存环境和实际应用场景的动态任务范式下发挥出重要作用。“这些纯前馈学习、低训练能耗、支持动态连续学习等综合特征,也将有望进一步引导新型类脑芯片的设计。”徐波说。(完)
-
上一篇
-
下一篇
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 多家基金公司宣布执行降费 机构:有利于投资者降低成本
- “美景+文化”“沉浸式”婚姻登记亮相上海
- “茶和天下·雅集”江西专场暨宜春文旅推介会在柏林举行
- 中国驻俄使馆向列宁故居博物馆捐赠办公物资和中文导览设备
- (新春走基层)警犬“搭子”的第四个春运:默契合作守护旅客平安出行
- 从冰箱到森林,容声冰箱收获低碳发展下的用户赋能
- 一个app连接“用车+机酒火” 滴滴企业版营造商旅新体验
- 广西修缮破损器物手艺人:修的不只物 还有情感链接
- 哈萨克斯坦坠毁客机航迹曝光:失事前空中持续盘旋 随后突然终止
- 有商家明目张胆卖假货 二手商品如何保证“一等”质量?
- 节食可以闪电瘦?当心越饿越胖
- 每两副眼镜中,就有一副的镜片产自这里……
- 想补水却出现更多问题,面膜不能天天敷?
- 广西发挥政协委员主体作用 助推北海跨境贸易高质量发展
- 广西精品剧目创意杂技秀《百越稻盛》将赴马来西亚演出
- 多国手工艺人聚集杭州话设计 以匠心碰撞创意
- 美国汽车业罢工迎来尾声?UAW与通用公司达成初步协议
- 三伏天来了!请收好这份实用饮食指南
- 名师汇聚2023阅读行动研讨会推进青少年阅读
- 撬动京津冀文旅消费 一部剧如何带火一座城?
- 热门推荐
-
- 12月17日人民币对美元中间价报7.1891元 下调9个基点
- 中国“法布雷专病数据库”启动搭建 助力破解“难筛、难诊”
- 《十月少年文学》推出“北京中轴线专刊”助力北京中轴线申遗
- 王山:诗歌不能躲在象牙塔里,不能沉迷于小圈子
- 冬季如何避免鼻炎发生?
- 海口7家企业获加工增值超30%免关税政策增点扩围
- 中国成品油价迎小幅下调
- AI客服越来越多,人工客服为啥还被列为急需人才?
- HICOOL全球创业者峰会即将开幕 多国科创企业集中设展
- 新一代国产超算系统发布
- 韩最大在野党暂缓提请弹劾韩德洙
- 今年前11个月国铁南宁局降低社会物流成本近15亿元
- 长三角春节假日经济红火 文旅消费“热辣滚烫”
- 《杭州市知识产权保护和促进条例》将实施
- 商超转型蕴含的潜力与活力
- 吉林省工业经济实现企稳回升
- 国家文物局:过去三年追缴涉案文物9.3万余件
- 陕西中欧班列首发西安至波季线路
- 世界环境日|这些塑料污染令人“触目惊心”
- “武林风”再起,少林功夫何以获跨族群文化认同?