拉紧AI法律“缰绳” 期待完善监管体系
阅读提示
人工智能技术在不断更新迭代,对应用领域的新风险需更重视。受访专家表示,人工智能的健康发展离不开技术和法律的合力,需要针对不同风险等级采取不同的监管措施。
用AI工具生成文本、合成假视频,编造不实信息以引流;利用AI技术“换脸”“变声”,实施电信诈骗……加速发展的人工智能技术在改变人类社会、改变世界的同时,带来的负面影响和潜在风险逐渐显现出来。
在刚刚过去的全国两会上,不少代表委员关注到人工智能的安全与合规问题,从技术、法律等角度就促进人工智能健康发展发出了建议和呼吁。
在人工智能加速发展的当下,如何拉紧法律“缰绳”成为社会关注问题。受访专家指出,人工智能的健康发展离不开技术和法律的合力,呼吁建立健全完整的人工智能技术法律体系,针对发展中不同风险等级采取不同的监管措施。
技术应用门槛降低带来新风险
去年以来,已有多地警方提醒公众防范不法分子利用AI技术“换脸”“换声”进行的新型电信诈骗。在内蒙古包头市公安局披露的一起案件中,诈骗团伙在AI技术的“掩护”下,佯装为一名企业家的“好友”,拨打其微信视频,称需要用其公司账户“走一下账”。
在视频中确认了“好友”面孔和声音的该企业家,将款项汇了过去。在拨打好友电话后,才发现视频里的“好友”系伪装。
人工智能已经从概念加速应用落地,算法歧视、信息茧房等法律甚至伦理等问题随之而来。全国工商联副主席、奇安信科技集团董事长齐向东也指出,生成式人工智能技术可以快速生成钓鱼邮件、编写恶意软件与代码,AI欺诈事件频繁发生。
360集团创始人周鸿祎将人工智能技术引发的安全风险分为技术安全、内容安全和人类安全。其中,内容安全是对大模型的控制、滥用、误用和恶意应用等。
AI为何能给不法分子可乘之机?北京科技大学自动化学院教授、北京人工智能学会理事曾慧在接受记者采访时指出,AI正深度“潜入”人们的工作和生活,由于算法是开源的,制作AI工具的技术门槛降低了,“相较以前,获取和使用AI工具也变得更加简单了”。
记者搜索发现,在一些平台,输入图片就可以轻松“换脸”,无须花费太多也可以自行训练和制定声音,男声甚至可以变为女声。商家称,远程安装10分钟即可直接点开使用。
“就目前来看,AI生成的‘真实’并非毫无破绽。一些高度‘伪装’的内容对设备和技术则有更高要求。”曾慧指出。
多位受访者表示,人工智能还在不断更新迭代,对应用领域的新风险需更重视。
AI应用有法可依但并不完善
“按照相关规划,我们还处于建立人工智能法律法规体系的初步阶段,应该说,AI的应用并非无法可依,但还远不够完善。”北京志霖律师事务所合伙人谢阳律师在接受记者采访时指出。
2017年,国务院印发《新一代人工智能发展规划》(以下简称《规划》),其中提出,“在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险”。《规划》提出,到2030年建成更加完善的人工智能法律法规、伦理规范和政策体系。
推动人工智能健康发展和规范应用的政策陆续铺开。全国两会前,《生成式人工智能服务安全基本要求》发布,从语料安全、模型安全等多个维度规定了生成式人工智能服务在安全方面的基本要求。《生成式人工智能服务管理暂行办法》则在2023年8月15日起施行,其中提到,提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。
谢阳介绍,根据《网络信息内容生态治理规定》,网络信息内容生产者应当遵守法律法规,“其责任和义务散见于网络安全法、数据安全法、消费者权益保护法、个人信息保护法、侵权责任法、未成年人保护法等法律法规中。”
金杜律师事务所高级合伙人张毅律师指出,目前已出台的算法管理规定仍有不足,例如,未对服务“提供者”等概念进行明确划分;尚未设立统一的算法监管机构,对综合型算法监管易产生监管竞合,对新型算法监管易出现监管真空;生成式人工智能技术迭代快、应用多样,也带来了更多新挑战。
多位受访专家表示,算法侵害还面临着“维权难”的困境,存在“取证难”“举证难”“认定难”“追责难”等问题。“在实践中,将侵害结果追溯到具体的行为主体也还面临着障碍。”谢阳指出。
AI健康发展离不开技术与法律合力
人工智能是引领未来的战略性技术,如何最大限度发挥出向上向善的力量,对人们生活和社会发展很重要。受访专家认为,在人工智能的健康发展过程中,离不开技术和法律的合力。
“应借助AI能力,加速网络安全技术创新、安全防护体系创新。”齐向东认为,应鼓励各个行业的龙头公司和网络安全公司合作,把AI安全技术融入数字化场景当中,进行有效的安全防护。
周鸿祎建议,制定保障通用大模型安全的标准体系,推动通用大模型开展安全评测、接入安全服务,降低通用大模型安全风险。
张毅认为,应尽快推进人工智能法的制定和出台,以人工智能法及配套的监管工具为核心,形成完整的人工智能技术法律体系。同时,参考其他成熟的监管思路,将人工智能和算法技术按风险等级进行划分,并针对不同等级采取不同的监管措施。
“任何规范的最终落脚点是能追责,追责的前提之一是要留痕。”谢阳认为,应进一步完善制度供给,可以通过法律法规来施行强制的行业标准,以做到留痕,事前预防、事中规制、事后救济等问题可迎刃而解。“可以采用试点模式,提前试点相关的监管措施,待时机成熟时再予以推广适用。”他建议。
“应拓展算法侵害行为的维权路径与责任模式,增强用户的维权力量。”张毅建议,在算法侵权的诉讼中采取“过错推定”归责原则,实行“举证责任倒置”。用户仅承担受到算法损害的责任,由算法服务商对算法和损害之间无因果关系以及无过错承担举证责任,“应增强源头治理,形成责任闭环”。
赵琛 李润钊 杨召奎(来源:工人日报)
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 江苏安徽等地有强降雨 今年第13号台风“贝碧嘉”生成
- 韩媒:涉嫌违反《公职选举法》 李在明被判有期徒刑1年
- 8月1日“农产品批发价格200指数”比昨天上升0.57个点
- 全球看春晚启动!中央广播电视总台“春晚序曲”美国专场活动在纽约举行
- “网络新媒体助力银川高质量发展”行业论坛举办
- 青海建成公共法律服务实体平台5124个 实现五级全覆盖
- 中国开启“三伏天” 南方多地将频现高温
- 武汉双柳长江大桥主塔全部封顶 转入上部结构施工
- 余兵:做好“六个抓”,构建电力安全新格局
- 全国中小企业服务“一张网”建设工作推进会召开
- 走进中国第57项世界遗产:普洱景迈山古茶林文化景观
- (改革进行时)从侨乡晋江看民营经济向“新”而行
- 离700元仅一步之遥,金饰价为何涨这么疯?
- 我们为什么要坚决抵制国外错误史观丨“正道”专栏之⑥
- 打好能源保供“组合拳” 让千家万户暖意融融
- 中国证监会:将继续保持境外上市通道的畅通
- 经济随笔丨从各地两会前瞻全国两会的三个视角
- 美国好莱坞演员与编剧联合大罢工
- 公安部:各地迎返程高峰,全国主干公路交通流量呈高位运行态势
- 新疆石河子市举行冬季文旅政策新品推介会
- 热门推荐
-
- 四川木里5.0级地震:工作组赶赴震区 暂无人员伤亡报告
- 一部手机畅游中国!多项便利支付举措“圈粉”外国游客
- 海南自贸港多项营商环境指标达到国际前沿水平
- 防腐蚀、能预警,雅万高铁列车为印尼量身打造
- 韩媒:驻韩美军基地因怀疑有爆炸物引发骚动,暂未发现异常
- 柿子好吃但“吃错能要命”?“食物相克”真的存在吗?
- 乡约福建:畲乡“小庭院”书写生态致富“大文章”
- (经济观察)中国明确生态环境分区管控制度建设“时间表”和“路线图”
- 水利部针对晋陕甘宁四省区启动洪水防御Ⅳ级应急响应
- 惠及“非标体”人群 富德生命“臻享保”打造有温度的重疾险
- 中国民航局:推进国际客运航班进一步恢复
- 开放两周超1200余组现场体验 中建府系产品第三子再次迎来开门红
- 从2000年前的《乌程汉简》里能看出什么?
- 甘肃成县:青山绿水留乡愁 “多点开花”产业兴
- 净饮机、奶茶机……“水家电”层出不穷,您用过没?
- 追寻先辈足迹 史迪威将军与美军观察组成员后代共同访渝
- 江苏省气象台发布海上大风黄色预警
- 上汽大众合资协议延长至2040年
- 游客未买手镯被赶下车? 昆明文旅通报:涉事旅行社属无资质经营
- 中国职业教育深耕埃塞俄比亚