张亚勤:各国要在全球智能领域共同合作,将人工智能红线作为社会风险共同应对
中新网3月25日电 中国发展高层论坛2024年年会于2024年3月24-25日举行。3月24日下午举行了“人工智能发展与治理专题研讨会”,清华大学智能产业研究院院长、中国工程院院士张亚勤认为,未来五年随着各大领域大规模应用人工智能技术,将带来三方面风险。
张亚勤简要总结了人工智能大模型的发展趋势:一是多模态、多尺度、跨模态的新智能;二是未来五年要在整个架构上有大的突破,追随尺度定律(Scaling Law),但未必是transformer模型结构;三是智能逐渐向“人工智能手机”“人工智能PC”边缘侧延伸;四是可以实现定义任务、规划路径、自我升级、自我编码等的自主智能;五是信息式智能逐渐走向物理世界;六是大模型与生物体连结的生物智能。
张亚勤认为,未来五年随着各大领域大规模应用人工智能技术,将带来三方面风险,包括:信息世界的风险,包含错误、虚假信息的风险;已经出现的大模型幻觉问题,随着信息智能大规模应用延伸至物理智能、生物智能时,风险也会规模化;大模型与经济体系、金融体系、军事系统、电力网络相连接的风险。
如何防范这些风险问题,张亚勤提出五个长期建议。一是像标识广告一样,对人工智能生产的数字人等智能体进行标识。二是设立映射和注册机制。明确机器人作为从属体,必须映射到主体,这个主体可以是人或公司等法定实体,如果机器人出现问题,就可以追溯主体责任。三是建立分级监管体制机制。对应用在物理世界、生物系统等不同领域的大模型,分级监管。四是加大对大模型风险研究的投入,呼吁政府、科学家、技术从业者和企业家共同参与,一边发展,一边治理。五是制定人工智能发展的红线。目前北京人工智能国际安全对话已经达成了《北京AI安全国际共识》,提出人工智能发展的红线。各国要在全球智能领域共同合作,将人工智能红线作为社会风险共同应对。
- 最近发表
-
- 随机阅读
-
- 南中城际(中山段)首台盾构机“香山一号”始发
- 西南首个自动保洁公厕 智慧赋能惠民生
- 阿里云、微软、Meta等共同制定下一代AI网络架构标准
- 北京国际摄影周2023在京开幕
- 青海藏族导演获金鸡电影节创投主单元“最具潜力导演”荣誉
- (寻味中华|文博)探秘“中国古代第一豪车”
- 北方森林动物园举办爱鸟周主题活动 为鸟类搭建“温馨的家”
- 广西南宁构建面向东南亚的跨境电商平台
- 数字京行赋能新发展 北京银行深度参与2023中关村论坛
- 消息人士:加沙停火谈判取得重大进展
- 中方在联大呼吁国际社会推动在加沙立即停火
- 中国财政部:能够保证养老金按时足额发放
- 英国苏格兰凶杀案数量创新低
- 本轮巴以冲突已致双方超8700人死亡 联大通过决议呼吁休战
- 天津和平区校园美展首次走向社会公众 1600余件作品展示美育成果
- 台风“泰利”继续影响华南地区 新疆地区高温天气持续
- 面对面|专访视障高考考生马奕菲:她把自己活成了光
- 《青海省生态环境违法行为举报奖励办法(试行)》落地 首批奖励兑现
- 新型猴痘变异株持续蔓延 世卫组织敦促增产猴痘疫苗
- 工程过半!储能发电保供应 这个“大型充电宝”火热建造中
- 热门推荐
-
- 骨科脊柱类耗材集采拟中选产品平均降价84%
- 孩子故意使坏?缺的其实是爱!
- 迷雾剧场三年坐稳悬疑最强厂牌
- 涿州麦收见闻:已抢收近四成
- 身份不明人士试图闯入军营 塞拉利昂政府宣布全国宵禁
- 商务部:全国约386万名消费者购买8大类家电产品超520万台
- 涉事比亚迪4S店回应车辆漏电致人住院
- 商务部:中欧已就电动汽车反补贴调查举行多轮磋商
- 李在明:对尹锡悦的讲话内容感到“非常失望”
- 记述爱国民主人士章乃器真实人生轨迹 《章乃器年谱长编》在沪出版
- 官方通报女子跟团游睡觉被叫停:涉事人无导游资质 罚款十万元
- 智利一小型飞机在高速公路坠毁 飞行员确认死亡
- 受台风“格美”影响 国铁南宁局停运或调整部分旅客列车
- 2023商博会将在乌鲁木齐举办 总规划展览面积约7万平方米
- 美英对胡塞武装展开联合空袭 也门首都传出多声爆炸
- 江西彭泽:2.3亿增发国债水利项目建设有序推进
- 野生狐狸踩住捕兽夹 消防员18分钟“解困”
- 武汉突发路面沉降 官方通报
- 多条“最美公路”恢复通车 新疆自驾游持续火热
- 辽宁沈阳国际农博会启幕 千余家企业、近万种农产品汇集