AI仿冒名人带货属违法行为 消费者可要求退一赔三
如今,从智能家居的语音助手到自动驾驶汽车,从高效能的数据分析到医疗领域的精准诊断,AI正以前所未有的方式改变着世界。然而,随着AI技术的不断发展和应用,其双刃剑的特性也逐渐显现。其中,深度伪造技术就带来了不小的隐患。
所谓的深度伪造技术,是一种利用人工智能算法生成高度逼真但并非真实的视频或图像的技术。通过深度学习算法,深度伪造技术能够分析大量的真实视频或图像数据,从而学习到特定人物或场景的特征,并生成与之极为相似的虚假内容。这种技术的出现,使得造假变得更加容易和难以辨别,给社会带来了诸多安全隐患。
今年以来AI深度伪造假冒名人的事件时有发生,不久前,就有人利用AI技术,深度伪造了张文宏医生的脸部和声音进行直播带货。在这段视频中,被合成的人像反复介绍一种产品,声音也很像张文宏本人,商品中的蛋白棒产品已经售卖了1200多件。目前该账号已经搜索不到。而张文宏医生本人对有人利用AI模仿自己带货的行为也非常气愤。
张文宏医生:这个事情已经有几个星期了,一开始我也是投诉。特别是对AI不是很熟悉的年纪比较大的市民,他们很容易就会相信。
用AI制作,假冒名人欺骗网民的现象,张文宏事件并非个例。今年国庆期间就有人用企业家雷军的声音和头像制作了众多恶搞视频。
也有人AI制作了刘德华的声音为自己增加流量。该视频出现后,刘德华电影公司连续发布两则声明,提醒各方人士注意,避免落入伪造刘德华声音的AI语音合成技术骗局。
上海市消保委也注意到了最近日益增加的AI假冒名人的视频。
上海市消费者权益保护委员会 副秘书长 唐健盛:我们关注到现在这种虚拟人直播带货的情况,也是越来越多了。有不法商家通过AI手段去冒用张文宏老师的形象和声音,做的假的直播带货,这种行为我们觉得是对消费者合法权的侵害,因为它就是一个赤裸裸的欺诈消费者行为。
AI模仿他人技术成熟 可轻松克隆脸和声音
现在的AI技术在克隆他人面部和声音上,到底发展到了什么程度?专家介绍,目前模仿他人的声音和脸的技术已经非常成熟,提供一张照片就能做出换脸的效果,他人的声音也能被轻易模仿。
中国网络空间安全协会人工智能安全治理专业委员会专家 薛智慧:通过人工智能技术,将脸进行替换。声音需要有一个语言的模型,语言模型里边被模仿者的声音进行合成,实现音色的克隆。
技术人员现场做了一个测试,将事先录制好的视频换成记者的脸和声音。首先记者给技术人员提供了一张证件照片,不到两分钟,通过软件的渲染,视频的人脸就换成了记者的脸。
随后是声音的AI制作。记者现场录制了一段声音输入到AI资料库中,很快AI就能用记者的声音播报任何的文本内容。
AI制作的换脸和声音的视频完成后,将两段视频合成后出来的效果非常逼真。
AI模仿度高 但并非毫无破绽
专家表示,AI模仿度高但是并非毫无破绽。
首先,这种既要换脸又要换声的操作,只能制作视频,无法做到实时直播。
其次,观众通过仔细辨认视频,也能看出AI的痕迹。
专家提醒,辨别时可以重点关注视频中人脸的变换,包括人脸轮廓和背景环境融合度、协调度等。另外,在语音、语速和口型的匹配度上,也可以去重点关注。
未经授权利用AI假冒他人属违法行为
那么,是否可以利用AI深度伪造技术随意将名人形象为己所用呢?专家表示,那些未经过授权使用他人形象的行为,均属于违法行为。
中国政法大学副教授 朱巍:我们现在看到的一些编辑的人脸,包括声音在内,实际上按照民法典的规定,这个都属于当事人权利人自己的人格权利,未经允许,任何人不得侵害。不仅不能直接用,也不能使用当事人的人脸信息、声音信息进行深度合成,不能放到深度合成的物料库里或场景库里。同时,他经过编辑的肖像和声音,用这种方式去展现一个相关内容,这属于伪造的信息。按照网络安全法的规定,这属于违法信息。
另外法律专家表示,AI假冒名人发表自己的作品,有可能会追究发布者的刑事责任。
中国政法大学副教授 朱巍:未经权利人同意随便使用别人的肖像和声音并对外发布,按照民法典的规定是一种侵权责任,要承担包括损害赔偿、精神损害赔偿在内的相关责任。如果把相关视频,包括声音编辑之后,形成了相关内容。这个内容如果违反网络安全法的相关规定,当事人可能要承担包括刑事责任在内的法律责任。
购买AI假冒名人带货产品 可要求退一赔三
专家表示AI假冒名人进行带货这样的行为,已经涉嫌违法,一旦消费者信以为真购买了产品,可以要求商家退一赔三。
上海市消费者权益保护委员会 副秘书长 唐健盛:消费者权益保护法明确规定,如果消费者遭到了欺诈,可以按照消费者权益保护法的规定要求不法商家进行赔偿。具体的赔偿标准就是退一赔三,如果不足500元,消费者完全可以要求商家按照500元进行相关的赔偿。
专家表示,短视频平台也应该担负主体责任,有义务防范AI假冒名人视频在自己的平台大量传播。
中国政法大学副教授 朱巍:如果发现利用AI合成的声频和视频传播虚假消息,并不是仅仅把视频删掉就完了,应当对发布者采取包括信用管理在内的强制措施,包括账号的盈利权限,包括账号的一些相关的特殊的权限,是根据信用的降低,要随之产生必要的处罚措施。
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 江南华南等地部分地区将有大到暴雨 黄淮江汉等地有高温天气
- 天津市河东区一小区发生爆炸 造成3人死亡多人受伤
- 日本福岛近海海域发生5.8级地震
- “格美”持续影响浙江 多地列车停运航班取消
- 可乐涨价 国产汽水跟不跟
- 粤港澳仿生视觉与主动眼健康论坛举行 专家:仿生视觉研究获初步进展
- 建设现代化产业体系要把握的重要原则
- 驰援甘肃青海!洽洽食品首批658万元营养食品物资在路上
- 65万人疯抢1万名额,年轻人迷上500元夜校
- (文化中国行)运河千里行:流淌的文化遗产烟火绵延不绝
- 福建发布招商引资三年期“路线图”
- 中国医生组团赴蒙古国乌兰巴托义诊
- 拜登签署国防授权法案 美议员抨击国防体系沦为牟利工具
- 聚焦十字花科蔬菜 菜篮子里装满新尝试
- 吉林推动上市公司质量提升 支撑振兴发展
- “00后”初涉职场 敢言还要肯拼
- 上海完善现代职业教育体系:职业技能+人文精神助学生全面发展
- “站立计划·西藏困境儿童骨病肢残人救助项目”救助对象陆续赴京手术治疗
- 今夏旅行“蜂向标”:“避暑游”成主流 “多巴胺”景点迎打卡潮
- 飓风“黛比”登陆美国佛州 造成至少4人死亡
- 热门推荐
-
- 全球首个商用海底数据中心数据舱成功下水
- 贯“串”古今,原来两千多年前的“吃货”也好这一口
- “文化中国·七彩云南”短视频在欧洲展播 以“茶”会友促文明交流互鉴
- 2016年至2023年北京副中心地区生产总值年均增长6.2%
- 德权威机构下调2025年德国经济增长预期
- 业内人士相聚“中国电器之都”乐清 赋能电气产业发展
- 海南受超强台风“摩羯”影响地区“户户通电”
- 超级飞侠等获评第一季度推荐优秀国产电视动画片
- 中国—东盟探讨构建保险开放合作新格局 发布多项成果
- 我国首座复杂缝洞型储气库群先导试验工程全面投运
- 致力打造千亿级战略性支柱产业 广州在京举办新型储能产业专场推介会
- 初步结果显示阿扎利赢得科摩罗总统选举
- 趣味市集亮相隆福寺 北京惠民文化消费季开启京彩文化消费嘉年华
- 首都师大版《天之骄子》登上北京人艺舞台
- 日本自民党最大派系“安倍派”正式解散
- 北京今日晴暖在线最高温将达22℃ 夜间山区或迎小雨
- 车市价格战愈演愈烈 谁是下一个出局者?
- 重庆多地迎暴雨到大暴雨 电力员工全力抢修保供电
- “70后”非遗传承人十余年坚守雕版印刷:希望“圈粉”青少年接力传承
- 快评丨水火无情, 更显中美“人情”差异