人工智能发展急需“善治之道”
近年来,随着人工智能技术不断取得迭代式发展,国际社会与各国政府也在加速推进对人工智能技术加以有效监管的探索。在这一过程中,如何通过多方对话协调,最终实现具有包容性的全球人工智能技术治理框架,或将在很大程度上决定,这项技术会增进人类福祉与团结,还是不幸与之相反。
一
当地时间5月21日,“人工智能首尔峰会”在韩国首尔开幕。此次峰会作为去年11月在英国召开的全球人工智能安全峰会的后续会议,由韩国与英国共同主办,以“安全、创新、包容”为主题。
联合国秘书长古特雷斯在峰会开幕式上表示,自去年英国布莱切利峰会召开以来,“我们看到了改变生活的技术进步,也看到了威胁生命的新风险”。他认为,需要就人工智能问题制定普适的防护措施,并定期开展对话。
有媒体指出,在去年的英国会议召开期间,人工智能技术还主要以单模态生成式人工智能(如文本、视频)为代表,风险与安全方面的关注点也聚焦在单模态内容方面。而此后短短数月间,多模态生成式人工智能已经成为行业发展的新重点,这令其生成内容的真伪更难以鉴别,人工智能技术的风险,也变得更加难以预测和难以控制。
在21日的线上峰会之后,与会各方发布人工智能《首尔宣言》,呼吁加强国际人工智能治理合作以及治理框架之间的互操作性,支持启动首个国际人工智能安全研究所网络,促使国家间形成对人工智能安全的共同理解,并在研究、标准和测试方面进行协调。
同日,包括微软、亚马逊、OpenAI等科技巨头在内的16家全球领先的人工智能科技公司,在峰会期间作出“前沿人工智能安全承诺”,将努力确保其最先进的人工智能模型的安全性,并实施负责任的治理,实现公开透明。
根据这项协议,一旦发生利用人工智能技术实施自动网络攻击等极端情况,且无法保证降低其风险,这些企业将打开“紧急停止开关”,叫停人工智能模型的开发与部署进程。
二
就在首尔峰会召开的同日,欧洲理事会批准了欧盟《人工智能法案》,这是世界上首部对人工智能进行全面监管的法案。
该法案由欧盟委员会在2021年提出,经过多轮谈判和协商后,欧洲议会于今年3月13日批准该法案。在获得欧洲理事会批准后,该法案还需经欧洲议会和欧洲理事会主席签署,于近日在欧盟官方公报上公布,并在公布20天后生效。
欧盟发布信息的显示,《人工智能法案》采用基于风险的方法,对不同风险等级的人工智能系统实施分类监管。风险分为四类,风险等级越高,管控越严格。
此外,欧盟的《人工智能法案》规定“适用于区域外”,这意味着在欧洲开展业务的各国企业都必须遵守该法案。
欧盟的目标是,在2026年内全面施行《人工智能法案》。不过,风险级别最高的“禁止”条款预计率先于2024年底启动适用。
除了本次通过的法案之外,此前欧盟在人工智能监管领域还推出了一系列相关或配套的法律措施。例如,欧盟通过的《人工智能框架公约》,提出了一个涵盖人工智能系统全生命周期的监管法律框架;此外,欧盟还制定了《人工智能契约》,旨在帮助企业为刚刚通过的《人工智能法案》实施做好准备。
有分析人士指出,从《通用数据保护条例》(GDPR)到《数字服务法案》《数字市场法案》,再到《人工智能法案》,欧盟在数字经济监管上的创新不仅仅体现在具体的监管措施,其规则输出的“布鲁塞尔效应”也愈发凸显,其严格的人工智能监管模式或将对全球人工智能发展与应用产生深远影响。
三
自2022年11月ChatGPT横空出世以来,各类人工智能技术进入应用爆发阶段。从文生文,到文生图(诸如 Midjourney),再到文生视频(Sora大模型),乃至文生音乐(Suno V3大模型),人工智能产业发展已显现出无限想象空间。
咨询机构麦肯锡预计,人工智能技术将给全球经济带来超过7.9万亿美元价值,到2030年之前,如果生成式人工智能技术应用于各行业,每年总经济效益高达6.1万亿美元至7.9万亿美元。
然而,就在首尔人工智能安全峰会召开之际,《科学》杂志发表了一篇由全球25位人工智能领域科学家撰写的专家共识论文。文章认为,当今全球在保护人类免受人工智能技术可能滋生的风险方面做得还不够。文章建议,对于未来异常强大的人工智能系统,全球各国政府必须准备好在监管方面发挥带头作用。
更早些时候,一份由30多个国家的专家支持的全球人工智能安全报告显示,如果人工智能技术的应用得不到有效监管,劳动力市场遭受大规模冲击,利用人工智能技术实施的黑客攻击或生物攻击,以及社会对人工智能失去控制等风险可能会出现。
在人工智能技术提速发展,以及与之相伴的越来越多的安全预警面前,全球人工智能技术监管与治理体系的完善,也愈加成为迫在眉睫的严肃课题。
今年5月30日至31日,负责信息通信事务的联合国专门机构国际电信联盟,将主办人工智能向善峰会,邀请各国相关领域的领军人物共商今后人工智能善治之道;今年9月,联合国未来峰会也计划通过《全球数字契约》作为峰会成果之一。
-
上一篇
-
下一篇
- 最近发表
-
- 随机阅读
-
- 【地评线】有声漫评 | 青年夜校,点亮年轻人的夜生活
- 上海:未来产业何以成为蕴育新质生产力的“沃野”?
- 天涯共此时!《中央广播电视总台2024年中秋晚会》明晚8点向全球播出
- 没标准、难量化,婚介服务有点乱
- 联合国强迫失踪问题委员会:哥伦比亚一机库存放约2万具尸体
- 陕西秦雍城发现春秋时期秦国大型建筑遗址
- 全国首架村级联合购置航空植保飞机在山东滕州启航
- 第37届中国电影金鸡奖提名公布
- 广西强化纠纷多元化解 挽回消费者损失1.4亿元
- 沙特宣布将在7月份每日额外减产原油100万桶
- 广东森林覆盖率53.03% 成最“绿”省份之一
- 中国代表在联合国人权理事会就日方强推核污染水排海阐明严正立场
- 印尼前8个月吸引逾900万人次外国游客
- 通讯:周杰伦为呼和浩特带来哪些“流量”?
- 云南72所高校师生参与艺术展演 展现云岭学子风采
- 河流拥有“户口本” 河南首例河流确权登记完成
- 粽子和速冻饺子国际标准助推中国传统食品“走出去”
- 广东丹霞山发现蕨类植物新种——国达铁角蕨
- 98件(套)罗马帝国时期代表性文物在广东省博物馆展出
- 第六届新会陈皮文化节启幕 达成采购意向金额逾12亿元
- 热门推荐
-
- 1.241秒!成都一高中生打破最快复原齿轮魔方吉尼斯世界纪录
- 百年敦煌学研究遇“新题”:学科发展亟需“破圈”
- 货运旺季叠加电商节 杭州机场单周货运量创历史同期新高
- 要握住“自家钥匙” 车企造手机为何有争议?
- 到2029年养老服务网络基本建成 中共中央、国务院发布养老相关意见
- 欧洲首个量子计算中心落户德国
- 推动高质量发展·权威发布|海南:到目前为止共有380万家民营经济主体
- 粤港跨境水路航线春运期间总客运量预计约16.83万人次
- 日本首都圈发生5.3级地震 东京等地震感明显
- 文学期刊走进直播间 核心竞争力还是好作家好作品
- 书传千载蕴无穷 重庆开展“中华传统晒书大会”
- 高校成立国际软件学院 以产业前沿问题驱动人才培养
- 俄外长:俄仍对乌克兰问题谈判持开放态度
- 中央民族乐团《壬寅虎啸》唱片分享会举行
- (第七届进博会)上海交易团大型零售采购商联盟集中采购签约
- 桂林艺术节帐篷微剧场互动式表演:艺术家与观众的另类沟通
- 本土咖啡品牌异军突起
- 服贸会期间 北京这些道路将采取交通管理措施
- 探访语言学巨匠王力故乡:求学韧劲为后人追随
- 被拐26年,她一直记得人贩子的脸