大模型兴起导致算力紧张?专家呼吁:国产AI芯片系统应练好“内功”
大模型兴起导致算力紧张?专家呼吁——
国产AI芯片系统应练好“内功”
◎本报记者 张佳星
“大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。
对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。
加强底层研发,提升国产AI芯片“包容力”
“如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架、并行加速、通信库在内的软件研发工作。
“为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。
相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。
为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”
共建基础生态,推动现有算力融合创新
“大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。
与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡(AI芯片)应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。
大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。(科技日报)
- 最近发表
-
- 随机阅读
-
- 中新健康|报价8500元术后变2万,种植牙市场乱象调查
- 2024“双城杯”围棋交流赛首次以线下方式举行
- 中国A股汽车相关板块周二走强
- “智慧大脑”助力改造、”城中村”成”城中景” ……这些老城区不一样了
- 高考志愿填报相关App会员费不菲,AI填报靠不靠谱?
- 海口挂暴雨红色预警 海甸岛1小时降雨量超80毫米
- 中外嘉宾分享友城合作经验 多国冀与中国扩大“朋友圈”
- 泽普:稻田“携手”小龙虾 稻虾共绘好“丰”景
- 无锡阳山万亩桃林花开正盛 村舍之间尽是春意
- (铸牢共同体 中华一家亲)一块“非遗”花毡,怎么绣会更“秀”?
- 上海探索打破学科阻隔:“内科名家”与“外科圣手”共议加强综合治疗
- 尼日利亚中部数个村庄遇袭 至少21人死亡
- 地球磁场或三十七亿年前已存在
- 新疆阿克苏地区乌什县发生7.1级地震 各方救援力量快速出动增援震区
- 今年以来广西警方打掉涉嫌走私犯罪团伙20个
- 日本核污染水强排入海 专家:危害是多方面、全球性、长久的
- 借力武侠文化促文旅 古城襄阳上演“快意江湖”
- 2023中国风险投资论坛在上海举行 聚焦“创新、融合、共赢”
- 科创成果助力共建“一带一路” 中国原创医疗技术辐射亚太地区
- 中国—东盟海关深化国际陆海贸易新通道互联互通会议在重庆举行
- 热门推荐
-
- 人能“死而复生”吗?人体冷冻鼻祖:这是基于科学的科幻
- 上海:广聚全球创新主体,共绘未来产业“实景图”
- 守护逾20载 八旬老人把泉州世遗故事讲给世界听
- 国家医保局发布生育保险常见问题解答
- 2024雷锋精神论坛长沙举行 让精神种子播撒全世界
- 中国国际露营大会浙江金华举行
- “点赞中国好故事——故事力大会”活动正式启动
- 强冷空气携大风降温来袭 陕西四川等局地或现大暴雨
- 黑龙江-跨国公司经贸投资合作大会在哈尔滨举行
- 日本著名作家大江健三郎去世
- 百家创新平台雄安行:共商科技发展新趋势
- 张铁林、王刚、张国立,又同框了!
- 日本核污水储罐内侧被腐蚀 东电:“逐渐老化是当然的”
- 机票退改签骗局频发,谁泄露了个人信息?警惕这些诈骗套路→
- 迪士尼“禁”过哪些东西,为何屡屡引发争议?
- 印尼一季度经济同比增长5.11%
- 臭豆腐咋吃更安全
- 世界智能产业博览会重点项目现场签约超百个
- 探秘鸡蛋供销企业:一枚鸡蛋如何“孵化”出一条产业链?
- 云南开行“象往号”省内环线旅游列车