清华大学智能产业研究院院长张亚勤:将人工智能红线作为社会风险共同应对
中新网3月26日电 中国发展高层论坛2024年年会于2024年3月24-25日举行。3月24日下午举行了“人工智能发展与治理专题研讨会”,清华大学智能产业研究院院长、中国工程院院士张亚勤在“小组讨论二”环节的发言中表示:各国要在全球智能领域共同合作,将人工智能红线作为社会风险共同应对。
张亚勤简要总结了人工智能大模型的发展趋势,一是多模态、多尺度、跨模态的新智能;二是未来五年要在整个架构上有大的突破,追随尺度定律(Scaling Law),但未必是transformer模型结构;三是智能逐渐向“人工智能手机”“人工智能PC”边缘侧延伸;四是可以实现定义任务、规划路径、自我升级、自我编码等的自主智能;五是信息式智能逐渐走向物理世界;六是大模型与生物体连结的生物智能。
张亚勤认为,未来五年随着各大领域大规模应用人工智能技术,将带来三方面风险,包括:信息世界的风险,包含错误、虚假信息的风险;已经出现的大模型幻觉问题,随着信息智能大规模应用延伸至物理智能、生物智能时,风险也会规模化;大模型与经济体系、金融体系、军事系统、电力网络相连接的风险。
如何防范这些风险问题,张亚勤提出五个长期建议。
一是像标识广告一样,对人工智能生产的数字人等智能体进行标识。
二是设立映射和注册机制。明确机器人作为从属体,必须映射到主体,这个主体可以是人或公司等法定实体,如果机器人出现问题,就可以追溯主体责任。
三是建立分级监管体制机制。对应用在物理世界、生物系统等不同领域的大模型,分级监管。
四是加大对大模型风险研究的投入,呼吁政府、科学家、技术从业者和企业家共同参与,一边发展,一边治理。
五是制定人工智能发展的红线。目前北京人工智能国际安全对话已经达成了《北京AI安全国际共识》,提出人工智能发展的红线。各国要在全球智能领域共同合作,将人工智能红线作为社会风险共同应对。
- 最近发表
-
- 随机阅读
-
- 老人短视频刷不停 轮到子女焦虑了
- 中新真探:加点醋泡脚能治脚脱皮吗?
- 四问美国政府债务上限危机
- 蒙晋冀拓宽合作领域 聚焦通用航空、流域治理等
- 保护里弄里的“博物馆”
- 16日北京将迎本轮高温峰值 最高气温预计39℃
- 商务部:进一步扩大面向全球的高标准自贸区网络
- 山区县如何拼经济?浙江龙泉特色引领促开放
- 山海间“爱的接力”绘就“和美乡村”幸福底色
- 中国人权学者陆海娜当选联合国人权理事会特别程序专家
- 西安通报“上百名大学生找暑期工被骗”:已责令涉事企业暂停经营
- 鄂伦春达尔滨兴安杜鹃赏花季启动
- 粤东城际铁路首个高架站房主体结构封顶
- 能举重物、能做营销、能送外卖……各类特色机器人亮相第七届世界智能大会
- 青海西宁文明办发新版《倡议书》:此前表述不严谨、不精准
- 文化观察:今天我们应该如何走进宋画?
- 湖南省气象台发布高温红色预警
- 国内旅游市场迈入复苏进程 7月订单增势迅猛
- “碳”路先行|探访陕西长庆油田 “碳”寻高质量发展“新图景”
- “震撼世界的较量——抗美援朝战争主题展”天津开展
- 热门推荐
-
- 美国犹他州盐湖城获得2034年冬奥会主办权
- 普京新年致辞:俄罗斯要勇往直前,创造未来
- 河北正定古城墙挂巨幅春联迎龙年
- 浙江17000余家民营企业对营商环境有什么评价?
- 2024快手电商引力大会:坚持用户为先战略 持续提升商家经营效率
- 台青大陆country walk:爱上乡村的文化味和松弛感
- 韩国首尔地铁进行为期两天的警示性罢工
- 谁在鼓吹“18岁后就得抗衰”?
- 新闻1+1丨外国人入境游 上半年为何猛增?
- 破解职业病认定难,别让劳动者伤身又伤心
- 一个app连接“用车+机酒火” 滴滴企业版营造商旅新体验
- 中国盐湖资源大省青海:食盐储备充足 不必过多“囤盐”
- 中国气象局:多手段保证国家温室气体观测站网提质增效
- 朱元璋为他点赞,刘伯温写诗称颂,这位西夏人何以能与包拯并称“庐阳三贤”?| 升平四海同文轨之③
- 渔船暴力抗法 福州海警成功登船抓获3名嫌疑人
- 国家能源投资集团有限公司总经理余兵:传统能源的绿色低碳转型正在加速
- 别“海”归“山” 浙江龙泉乡贤奔赴乡村致富之旅
- 南京大屠杀幸存者高恒发去世 在世在册幸存者仅剩39位
- 爱康AI智爱之夜“摊牌”了 速戳一览晚会高能亮点
- “我突然一下就理解了我妈”