中国科学家研究提出新型类脑学习方法 可助力新型类脑芯片设计
中新网北京8月29日电 (记者 孙自法)记者29日从中国科学院自动化研究所获悉,该所徐波研究员团队联合科研同行最新研究提出一种基于神经调制依赖可塑性的新型类脑学习方法(NACA),实现更高分类精度和更低学习能耗,可极大缓解灾难性遗忘问题,有望进一步引导新型类脑芯片的设计。
这项人工智能(AI)领域类脑研究重要进展成果论文,由徐波研究员团队与中国科学院脑科学与智能技术卓越创新中心蒲慕明院士、临港实验室李澄宇研究员等共同完成,近日在国际著名学术期刊《科学》旗下《科学进展》在线发表。
论文第一作者、中国科学院自动化研究所张铁林副研究员介绍说,人工智能迫切需要借鉴生物系统中的微观、介观、宏观等多尺度神经可塑性融合计算机制,以便启发实现更加高效的类脑连续学习算法,消除人工神经网络由于采用反向传播等人工学习方法而导致的广泛灾难性遗忘现象。
而生物系统中常见的多巴胺、5-羟色胺、血清素、去甲肾上腺素等神经调质物,往往经由特定的腺体释放,并远程弥散、投射到一定范围内的目标神经元群体,且根据调质浓度水平的不同,对局部的神经元、突触等多种微观可塑性产生复杂的调制影响。受生物神经调制机制的启发,研究团队通过建模多巴胺、乙酰胆碱等“全局神经调制可塑性”“局部时序依赖可塑性”等多尺度神经可塑性机制,整合得到这种基于神经调制依赖可塑性的新型类脑学习方法。
张铁林指出,这一新型类脑学习方法参考大脑中复杂的神经调制通路结构,并以期望矩阵编码的形式对神经调制通路构建数学模型,在接受刺激信号后产生不同浓度的多巴胺监督信号并进一步影响局部突触和神经元可塑性类型。该方法支持采用纯前馈的流式学习方法训练脉冲和人工神经网络,通过全局多巴胺的弥散支持与输入信号同步,甚至先于输入信号的正向信息传播,再加上选择性对“局部时序依赖可塑性”的调整,使其表现出明显的快速收敛和缓解灾难性遗忘优势。
论文通讯作者徐波研究员表示,在两类典型的图片和语音模式识别任务中,研究团队从准确率和计算成本两方面对新型类脑学习方法的算法进行评估,并选取两种全局学习算法作为对比,在人工神经网络中则以目标传播和反向传播算法作为对比对象。结果显示,在图片分类和语音识别标准数据集上,新型类脑学习方法都实现更高的分类精度和更低学习能耗。
同时,在验证静态分类任务的拟合能力后,研究团队重点测试新型类脑学习方法的连续学习能力,并将神经调制扩充到神经元可塑性范围。在连续手写数字、连续手写字母、连续手写数学符号、连续自然图片、连续动态手势等五大类连续学习任务中,新型类脑学习方法具有更低的能耗且发现可以极大地缓解灾难性遗忘问题。
研究团队认为,这次研究提出的新型类脑学习方法,是一类生物合理的全局优化算法,其采用宏观可塑性来进一步“调制”局部可塑性,可视为一种“可塑性的可塑性”方法,与“学会学习”“元学习”等有直观上的功能一致性。
新型类脑学习方法同时在两种优化问题中获得性能和计算成本上的优势,更在连续学习这一更贴合生物生存环境和实际应用场景的动态任务范式下发挥出重要作用。“这些纯前馈学习、低训练能耗、支持动态连续学习等综合特征,也将有望进一步引导新型类脑芯片的设计。”徐波说。(完)
-
上一篇
-
下一篇
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 阿根廷发生6.0级地震 震源深度260千米
- 端午小长假苏州共接待游客186.5万人次 复苏迹象较为明显
- 青藏铁路安多段专职护路队员:高原“天路”守护者
- 重庆市气象台发布高温红色预警信号
- 湖南省生态环境厅:2035年达到基本建成美丽湖南大气环境质量目标
- 叙利亚反对派武装宣布大马士革解除宵禁
- 美国向地中海东部部署第二艘航母
- 广西发挥政协委员主体作用 助推北海跨境贸易高质量发展
- 自驾游回来收到“交通违法短信”,小心有诈!
- 外媒:“美国优先”不合时宜 世界多极化是大势所趋
- 我国电子信息制造业市场规模持续扩张
- 川金丝猴现身青川落衣沟刷新最低海拔纪录
- 全国首个城市级工业人工智能中心在广州亮相
- 山东乡村掀起文化热潮 民众“家门口”享文化盛宴
- 【新春走基层】社区服务人心暖
- 山西电网光伏出力达1493万千瓦创新高
- 因地表移动加速 美国加州一市宣布进入紧急状态!
- 旅交会云南签约文旅项目67个
- 金庸小说翻拍史:停不下来的“射雕” 毁誉参半的评价
- 日均交易增长超16倍 “债券通”交出6年运行成绩单
- 热门推荐
-
- 浙江宁波:城市露营地“变身”侨界会客厅
- 《广东省博物馆藏品大系·家具与木雕卷》问世
- 平潭一对台船舶恢复运营 助力跨境电商“加速跑”
- 中国常驻联合国代表严厉驳斥北约对中国的不实指责
- 斯洛文尼亚承认巴勒斯坦国
- (身边的变化)拉日铁路通车十周年 累计发送旅客1300余万人次
- 从头到脚“捂”起来,防晒也有“黑科技”?
- 暴雨蓝色预警继续发布:广东广西等地有大到暴雨
- 辽宁:残奥冠军进校园 传递榜样力量
- (寻味中华丨文博)墨迹千年说不老 遍数风流看东坡
- 伊拉克民兵武装称对叙利亚东南部一美军基地发动无人机袭击
- 3.78万亿元、142.6亿件……“数”说我国7月份消费稳步增长
- 锚定现代化 改革再深化|百姓需求“清单”成社区建设“订单”
- 【文化中国行】旧厂故宅中的家国情,传承不息的中华魂
- 冷链储运“热”了!“班列+冷链”新业态拓展新市场
- 受强降雨影响,途经广深线、广汕线部分列车晚点、停运
- 首届链博会澳大利亚站路演活动在悉尼举办
- 安徽舒城县政府大院“随便进”引热议
- 深脑刺激图谱有助改进神经疾病疗法
- 马东铁提前完成正线A、B段轨道铺设工作