大模型兴起导致算力紧张?专家呼吁:国产AI芯片系统应练好“内功”
大模型兴起导致算力紧张?专家呼吁——
国产AI芯片系统应练好“内功”
◎本报记者 张佳星
“大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。
对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。
加强底层研发,提升国产AI芯片“包容力”
“如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架、并行加速、通信库在内的软件研发工作。
“为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。
相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。
为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”
共建基础生态,推动现有算力融合创新
“大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。
与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡(AI芯片)应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。
大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。(科技日报)
- 最近发表
-
- 随机阅读
-
- 地球、火星都有磁鞘射流 最新天文研究发现木星磁层中也存在
- 欧美同学会第二届粤港澳大湾区论坛开幕
- 赶大集,有“看头”也有“赚头”
- (乡村行·看振兴)“稻虾轮作”兴村富民 江西南昌大力推进绿色农业发展
- 山西晋城警方斩断一条跨省贩毒通道 52人落网
- 《隐入尘烟》:不追逐繁华的质朴更动人
- 稻香虾肥:吉林科研团队创新稻渔综合种养模式惠农
- 今年前三季度海南货物贸易进出口规模创历史同期新高
- 外媒:伊朗一警察局遇袭 造成至少3名安全人员身亡
- 文化中国行丨从每件文物 每段历史中感悟延安精神
- 时隔3年“哈洽会”回归线下举办 35个国家和地区企业参展
- “新疆是个好地方”宣介会暨图片展在柬埔寨金边举办
- 服贸会“朋友圈”进一步扩大 共达成1100余项成果
- 第79届联大开幕 两任主席交接象征权力的木槌(图)
- 该不该给孩子当“陪读”?
- 江西人大代表聚焦“孤独症”:建议加大特殊教育师资力量培养力度
- 巴西东南部暴雨致28人遇难4人失联
- 第八届材料基因工程高层论坛福建宁德举办
- 韩国国会举行梨泰院事故百日追悼会 亲历者吁查明真相
- 美国宣布向乌克兰提供新一批军事援助
- 热门推荐
-
- 聊城阳谷官方回应发现牛感染炭疽
- 2024年惠州海事局客船应急搜救演练成功举行
- 野外“玩水”溺亡该向谁追责?
- 兰州黄河石艺画爱好者:巧借奇石纹路绘丝路美景 赋予石头“新温度”
- “北京最早的娱乐圈”展演非遗项目 名家共话天桥前世今生
- 外媒:29天没降水,纽约要求市民减少洗澡次数
- 延榆高铁姚店延河特大桥首座承台顺利浇筑
- 北京加快建设十条市级品牌绿道 带动区级及社区绿道连通成网
- 共青团“千校万岗”2024届首场线下招聘会在沪举办 吸引7000余大学生求职
- 从10月份电商物流指数看消费市场活力满满 农村电商、新技术表现亮眼
- 如何让最美小镇“最美”?文化体验是关键
- “中国油茶之乡”迎丰收:深加工产品远销东南亚等地
- 长篇小说创作的趋向:地方叙事、精神故乡与时代变迁
- 用情用心讲好中国故事 《幸福草》创作座谈会举办
- 中式穿搭备受青睐 国货品牌频频“出圈”
- 金正恩携女视察朝鲜人民军宿舍 庆祝建军75周年
- 北京迎龙年首场降雪
- 亚马孙干旱致物流受阻 马瑙斯自贸区企业冀巴西提升本土工业输出能力
- 1000万辆次!开通5年多 港珠澳大桥这份成绩单请签收
- 碳排放大户迎来大限?新能源重卡开打“续航战”