浪潮信息彭震:加速智算系统创新,切实解决大模型算力难题
中新网北京11月7日电(邱牧子)2023年,生成式人工智能的爆发带来了历史性产业机遇,正在逐步改造重塑社会、经济、文化等各个领域。
浪潮信息董事长彭震近日在接受中新网采访时称,生成式AI蓬勃发展的背后,算力尤其是AI算力已经成为驱动大模型进化的核心引擎。但大模型时代的算力供给,与云计算时代的算力供给,存在很大的差异性。目前大模型研发已经进入万卡时代,从事大模型研发的公司和团队,普遍面临“买不起、建不了、算不好”的困局。
如何解决上述困境?彭震认为,需要以算力基建化改善算力供给,促进算力普惠,以算力工程化指导完善算力系统最佳实践,提升算力效率,以模型训练工具化手段,降低模型训练门槛,推动全栈智算系统创新,通过“三化”融合互补,促进产业链条各环节协同配合,加速释放大模型生产力,打造人工智能产业良好发展环境。
一方面,要实现算力供给基建化,缓解“买不起”困境。彭震表示,大模型对海量算力资源的消耗,急剧抬高了准入门槛。除了通过政策引导、政策补贴等方式降低企业融资成本外,还应大力发展普适普惠的智算中心,通过算力基建化使得智算力成为城市的公共基础资源,供用户按需使用,发挥公共基础设施的普惠价值。用户可以选择自建算力集群,或者是采用智算中心提供的算力服务来完成大模型的开发。
在他看来,通过大力发展智算中心新基建,中国和美国大模型产业的发展已经呈现出完全不同的发展路径。在美国,算力的私有化决定了大模型产业技术只能掌握在少数企业手中,而中国大力推动的算力供给基建化,为大模型创新发展提供了一片沃土,将使得整个产业呈现“百模争秀”的全新格局。
另一方面,追求算力效率工程化,化解大模型算力系统“建不了”难题。彭震直言,即使解决了算力供应的问题,通用大模型开发仍然是一项极其复杂的系统工程,如同F1赛车的调校一样。F1赛车的性能非常高,但如何调校好这部赛车,让它在比赛中不仅能跑出最快圈速,而且能确保完赛,对整个车队的能力要求是非常高的。
彭震认为,大模型不应是简单粗暴的“暴力计算”,算力系统构建也不是算力的简单堆积,而是一项复杂的系统工程,需要从多个方面进行系统化的设计架构。包括要解决如何实现算力的高效率、要解决算力系统如何保持线性可扩展以及算力系统长效稳定训练问题等。
“因此,化解大模型‘建不了’难题,根源在于提升算力效率。但目前业界开源项目主要集中在框架、数据、神经网络乃至模型等软件及算法层面,硬件优化的方法由于集群配置的差异,难以复用而普遍处于封闭状态。这就需要具备大模型实践的公司将集群优化经验予以工程化,以硬件开源项目、技术服务等多种方式,帮助更多公司解决算力效率低下的难题。”彭震说。
此外,还要通过模型训练工具化,解决“算不好”难题。彭震表示,解决“算不好”难题,根本上要保障大模型训练的长时、高效、稳定训练的问题。例如,大模型训练过程的失效故障,大模型训练会因此中断,不得不从最新的检查点重新载入以继续训练,这个问题在当前是不可避免的。提高算力系统的可持续性,不仅需要更多机制上的设计,更依赖于大量自动化、智能化的模型工具支撑。
由此,彭震进一步指出,模型训练工具化保障手段,能够有效降低断点续训过程中所耗费的资源,这意味着大大降低训练成本并提升训练任务的成功率,会让更多公司和团队参与到大模型创新之中。(完)
- 最近发表
-
- 随机阅读
-
- “非必要不出行”!多地紧急通知
- 长三角年轻人花式“盘”中秋
- 北京成“五一”最热门旅游目的地
- 技术滥用问题引发担忧 全球人工智能发展步入治理轨道
- “金九银十”再掀求职热浪 上海千企万岗高层次人才交流会释放8000余个岗位
- 山西省政协委员柴宝峰:科技支撑汾河流域新污染物防控
- (第20届东博会)中国-东盟和平利用核技术论坛在南宁举行
- 阿根廷发生6级地震 暂无人员伤亡报告
- “世界瓷都”福建德化启动2023国际陶瓷文化周
- 6文齐发!助力稳外贸、稳外资,银行外汇展业改革制度体系落地
- 湖南发布促进入境旅游发展十二条措施
- 今年第4号台风“派比安”将于21日夜间登陆海南岛
- 美国当选总统特朗普提名国务卿等多个重要职位人选
- 机场会面 普京邀请金正恩乘坐自己的“奥鲁斯”轿车(图)
- “山丹丹”绽放京城舞台 民族管弦乐组曲带来纯正陕北风情
- 中国脱口秀在纽约上演 观众捧腹庆元宵
- 陕西发现北周开国君主宇文觉静陵
- 宁波银行打好金融为民组合拳 推进惠企利民措施
- A股重磅利好政策批量出炉
- 中新健康丨医学专家研发新型纳米酶“生态园丁” 成干眼症患者福音
- 热门推荐
-
- 加拿大政府暂停在脸书等平台投入广告以捍卫《在线新闻法》
- 继丰田之后 日本政府对雅马哈发动机总部突击检查
- 谢锋:中国坚持“开门”“修路”“挂钩”,与世界分享改革发展红利
- 中广核莱州土山600兆瓦“盐光互补”项目全容量并网发电
- 花钱就能上大学?法院判决构成诈骗罪
- 新意满满!中央广播电视总台《2025年春节联欢晚会》完成第二次彩排
- 中国承担的首个物流领域国际标准化技术委员会成立
- 眼看水淹到胸口,他们把所有求助电话都打了……
- 韩铁道工会发起怠工致部分线路延误
- 游戏与AIGC合谋下一个“芯片级”突破
- 浙江农田“王牌飞行员”打造会飞的“新农具”
- 北京科博会7月中旬举办 首次推出“线上磋商系统”
- 乌媒:乌克兰遭俄军大规模导弹袭击
- 青海柴达木发现大型金矿 可创造潜在经济价值超200亿元
- 全国铁路10月11日实行新的货物列车运行图
- 印度学者:发展新质生产力可促进中国与邻国共同繁荣 | 世界观
- 直击武汉防汛一线:堤内城市安澜
- “亲身参与到泰中文化交流当中”
- 李可染画院举行“东方既白:新时代中国艺术发展论坛”
- 乘百年公交,学金融知识,招商银行信用卡开辟上海特色消保宣传新阵地