人工智能发展急需“善治之道”
近年来,随着人工智能技术不断取得迭代式发展,国际社会与各国政府也在加速推进对人工智能技术加以有效监管的探索。在这一过程中,如何通过多方对话协调,最终实现具有包容性的全球人工智能技术治理框架,或将在很大程度上决定,这项技术会增进人类福祉与团结,还是不幸与之相反。
一
当地时间5月21日,“人工智能首尔峰会”在韩国首尔开幕。此次峰会作为去年11月在英国召开的全球人工智能安全峰会的后续会议,由韩国与英国共同主办,以“安全、创新、包容”为主题。
联合国秘书长古特雷斯在峰会开幕式上表示,自去年英国布莱切利峰会召开以来,“我们看到了改变生活的技术进步,也看到了威胁生命的新风险”。他认为,需要就人工智能问题制定普适的防护措施,并定期开展对话。
有媒体指出,在去年的英国会议召开期间,人工智能技术还主要以单模态生成式人工智能(如文本、视频)为代表,风险与安全方面的关注点也聚焦在单模态内容方面。而此后短短数月间,多模态生成式人工智能已经成为行业发展的新重点,这令其生成内容的真伪更难以鉴别,人工智能技术的风险,也变得更加难以预测和难以控制。
在21日的线上峰会之后,与会各方发布人工智能《首尔宣言》,呼吁加强国际人工智能治理合作以及治理框架之间的互操作性,支持启动首个国际人工智能安全研究所网络,促使国家间形成对人工智能安全的共同理解,并在研究、标准和测试方面进行协调。
同日,包括微软、亚马逊、OpenAI等科技巨头在内的16家全球领先的人工智能科技公司,在峰会期间作出“前沿人工智能安全承诺”,将努力确保其最先进的人工智能模型的安全性,并实施负责任的治理,实现公开透明。
根据这项协议,一旦发生利用人工智能技术实施自动网络攻击等极端情况,且无法保证降低其风险,这些企业将打开“紧急停止开关”,叫停人工智能模型的开发与部署进程。
二
就在首尔峰会召开的同日,欧洲理事会批准了欧盟《人工智能法案》,这是世界上首部对人工智能进行全面监管的法案。
该法案由欧盟委员会在2021年提出,经过多轮谈判和协商后,欧洲议会于今年3月13日批准该法案。在获得欧洲理事会批准后,该法案还需经欧洲议会和欧洲理事会主席签署,于近日在欧盟官方公报上公布,并在公布20天后生效。
欧盟发布信息的显示,《人工智能法案》采用基于风险的方法,对不同风险等级的人工智能系统实施分类监管。风险分为四类,风险等级越高,管控越严格。
此外,欧盟的《人工智能法案》规定“适用于区域外”,这意味着在欧洲开展业务的各国企业都必须遵守该法案。
欧盟的目标是,在2026年内全面施行《人工智能法案》。不过,风险级别最高的“禁止”条款预计率先于2024年底启动适用。
除了本次通过的法案之外,此前欧盟在人工智能监管领域还推出了一系列相关或配套的法律措施。例如,欧盟通过的《人工智能框架公约》,提出了一个涵盖人工智能系统全生命周期的监管法律框架;此外,欧盟还制定了《人工智能契约》,旨在帮助企业为刚刚通过的《人工智能法案》实施做好准备。
有分析人士指出,从《通用数据保护条例》(GDPR)到《数字服务法案》《数字市场法案》,再到《人工智能法案》,欧盟在数字经济监管上的创新不仅仅体现在具体的监管措施,其规则输出的“布鲁塞尔效应”也愈发凸显,其严格的人工智能监管模式或将对全球人工智能发展与应用产生深远影响。
三
自2022年11月ChatGPT横空出世以来,各类人工智能技术进入应用爆发阶段。从文生文,到文生图(诸如 Midjourney),再到文生视频(Sora大模型),乃至文生音乐(Suno V3大模型),人工智能产业发展已显现出无限想象空间。
咨询机构麦肯锡预计,人工智能技术将给全球经济带来超过7.9万亿美元价值,到2030年之前,如果生成式人工智能技术应用于各行业,每年总经济效益高达6.1万亿美元至7.9万亿美元。
然而,就在首尔人工智能安全峰会召开之际,《科学》杂志发表了一篇由全球25位人工智能领域科学家撰写的专家共识论文。文章认为,当今全球在保护人类免受人工智能技术可能滋生的风险方面做得还不够。文章建议,对于未来异常强大的人工智能系统,全球各国政府必须准备好在监管方面发挥带头作用。
更早些时候,一份由30多个国家的专家支持的全球人工智能安全报告显示,如果人工智能技术的应用得不到有效监管,劳动力市场遭受大规模冲击,利用人工智能技术实施的黑客攻击或生物攻击,以及社会对人工智能失去控制等风险可能会出现。
在人工智能技术提速发展,以及与之相伴的越来越多的安全预警面前,全球人工智能技术监管与治理体系的完善,也愈加成为迫在眉睫的严肃课题。
今年5月30日至31日,负责信息通信事务的联合国专门机构国际电信联盟,将主办人工智能向善峰会,邀请各国相关领域的领军人物共商今后人工智能善治之道;今年9月,联合国未来峰会也计划通过《全球数字契约》作为峰会成果之一。
-
上一篇
-
下一篇
- 最近发表
-
- 随机阅读
-
- 暴瘦后人生就开挂?听听她怎么说
- “一米视角”看南京
- (两会速递)人大代表:年轻人养生要找到适合自己体质的方式
- 消化不良、食欲不佳、反酸烧心…年后给胃肠减减负
- 海南举办自贸题材图书联展 向公众普及自贸港知识
- 家庭教育、法治教育、教育管理 山西省人大代表多方聚焦教育事业
- 严管网售“网红”产品 安徽开展专项行动严查互联网乱象
- 第七届海峡两岸书院论坛在福建南平举行
- 迟福林:2030年中国服务型消费占比或提升至50%以上
- 爱尔兰和乌克兰签署双边协议 承诺对乌援助
- “中国贸促”(法国)创新合作展览会在巴黎举办
- 用维权案例划清员工“朋友圈”的私权边界
- 上合组织成员国协调员杭州行 看见合作的多面可能
- 莫让“网红路牌”指错方向
- 国家数据局:加快推动全国一体化算力网建设
- 专访日本公明党党首山口那津男:日中韩合作对地区和平稳定与繁荣至关重要
- 中国A股银行板块周四逆势上扬 收获“三连涨”
- 中新健康丨小暑节气如何养生?专家建议→
- 广西南宁宾阳县发生房屋倒塌 已致3人遇难
- 返程客流持续攀升 铁路部门加大运力投放保障出行
- 热门推荐
-
- 2023西部消费精品博览会将启 为西部经济发展增添新动力
- 京郊度假酒店“五一”降温
- 高铁旅游“标签化” 吸引游客快旅慢游
- 以书为“窗”,拉美学者讲述真实立体全面的中国丨世界观
- 2024年江西法院审结电诈和跨境赌博犯罪相关案件6263件
- 印度学者:中国的全面改革为印度提供重要参考
- 云南实施文旅强省建设三年行动 到2025年文旅总收入超2.2万亿
- 全国逾300名选手在吉林参加航空模型邀请赛
- 外媒:美国陆军一名四星上将被解职
- 新疆托克逊县首届油桃采摘季开园
- 上半年江苏省社会融资规模增量全国第一 存款增势波动放缓
- 西江发生2024年第1号洪水
- 俄侦查委员会主席向普京汇报:已复原完整恐袭时间线
- 领证不用回老家啦!婚姻登记“跨省通办”试点扩大
- 离婚后,别在孩子面前说对方坏话
- 四川汶川山洪泥石流已致4人遇难 搜救工作仍在进行
- (寻味中华|文博)泉州清净寺,见证千年“海丝”情缘
- 中美金融工作组在美国华盛顿举行第四次会议
- 聚焦音乐创作者成长 2024TME腾讯音乐人年终分享会举行
- “多部电影涉投资诈骗案”?电影如何与诈骗扯上关系