AI仿冒名人带货属违法行为 消费者可要求退一赔三
如今,从智能家居的语音助手到自动驾驶汽车,从高效能的数据分析到医疗领域的精准诊断,AI正以前所未有的方式改变着世界。然而,随着AI技术的不断发展和应用,其双刃剑的特性也逐渐显现。其中,深度伪造技术就带来了不小的隐患。
所谓的深度伪造技术,是一种利用人工智能算法生成高度逼真但并非真实的视频或图像的技术。通过深度学习算法,深度伪造技术能够分析大量的真实视频或图像数据,从而学习到特定人物或场景的特征,并生成与之极为相似的虚假内容。这种技术的出现,使得造假变得更加容易和难以辨别,给社会带来了诸多安全隐患。
今年以来AI深度伪造假冒名人的事件时有发生,不久前,就有人利用AI技术,深度伪造了张文宏医生的脸部和声音进行直播带货。在这段视频中,被合成的人像反复介绍一种产品,声音也很像张文宏本人,商品中的蛋白棒产品已经售卖了1200多件。目前该账号已经搜索不到。而张文宏医生本人对有人利用AI模仿自己带货的行为也非常气愤。
张文宏医生:这个事情已经有几个星期了,一开始我也是投诉。特别是对AI不是很熟悉的年纪比较大的市民,他们很容易就会相信。
用AI制作,假冒名人欺骗网民的现象,张文宏事件并非个例。今年国庆期间就有人用企业家雷军的声音和头像制作了众多恶搞视频。
也有人AI制作了刘德华的声音为自己增加流量。该视频出现后,刘德华电影公司连续发布两则声明,提醒各方人士注意,避免落入伪造刘德华声音的AI语音合成技术骗局。
上海市消保委也注意到了最近日益增加的AI假冒名人的视频。
上海市消费者权益保护委员会 副秘书长 唐健盛:我们关注到现在这种虚拟人直播带货的情况,也是越来越多了。有不法商家通过AI手段去冒用张文宏老师的形象和声音,做的假的直播带货,这种行为我们觉得是对消费者合法权的侵害,因为它就是一个赤裸裸的欺诈消费者行为。
AI模仿他人技术成熟 可轻松克隆脸和声音
现在的AI技术在克隆他人面部和声音上,到底发展到了什么程度?专家介绍,目前模仿他人的声音和脸的技术已经非常成熟,提供一张照片就能做出换脸的效果,他人的声音也能被轻易模仿。
中国网络空间安全协会人工智能安全治理专业委员会专家 薛智慧:通过人工智能技术,将脸进行替换。声音需要有一个语言的模型,语言模型里边被模仿者的声音进行合成,实现音色的克隆。
技术人员现场做了一个测试,将事先录制好的视频换成记者的脸和声音。首先记者给技术人员提供了一张证件照片,不到两分钟,通过软件的渲染,视频的人脸就换成了记者的脸。
随后是声音的AI制作。记者现场录制了一段声音输入到AI资料库中,很快AI就能用记者的声音播报任何的文本内容。
AI制作的换脸和声音的视频完成后,将两段视频合成后出来的效果非常逼真。
AI模仿度高 但并非毫无破绽
专家表示,AI模仿度高但是并非毫无破绽。
首先,这种既要换脸又要换声的操作,只能制作视频,无法做到实时直播。
其次,观众通过仔细辨认视频,也能看出AI的痕迹。
专家提醒,辨别时可以重点关注视频中人脸的变换,包括人脸轮廓和背景环境融合度、协调度等。另外,在语音、语速和口型的匹配度上,也可以去重点关注。
未经授权利用AI假冒他人属违法行为
那么,是否可以利用AI深度伪造技术随意将名人形象为己所用呢?专家表示,那些未经过授权使用他人形象的行为,均属于违法行为。
中国政法大学副教授 朱巍:我们现在看到的一些编辑的人脸,包括声音在内,实际上按照民法典的规定,这个都属于当事人权利人自己的人格权利,未经允许,任何人不得侵害。不仅不能直接用,也不能使用当事人的人脸信息、声音信息进行深度合成,不能放到深度合成的物料库里或场景库里。同时,他经过编辑的肖像和声音,用这种方式去展现一个相关内容,这属于伪造的信息。按照网络安全法的规定,这属于违法信息。
另外法律专家表示,AI假冒名人发表自己的作品,有可能会追究发布者的刑事责任。
中国政法大学副教授 朱巍:未经权利人同意随便使用别人的肖像和声音并对外发布,按照民法典的规定是一种侵权责任,要承担包括损害赔偿、精神损害赔偿在内的相关责任。如果把相关视频,包括声音编辑之后,形成了相关内容。这个内容如果违反网络安全法的相关规定,当事人可能要承担包括刑事责任在内的法律责任。
购买AI假冒名人带货产品 可要求退一赔三
专家表示AI假冒名人进行带货这样的行为,已经涉嫌违法,一旦消费者信以为真购买了产品,可以要求商家退一赔三。
上海市消费者权益保护委员会 副秘书长 唐健盛:消费者权益保护法明确规定,如果消费者遭到了欺诈,可以按照消费者权益保护法的规定要求不法商家进行赔偿。具体的赔偿标准就是退一赔三,如果不足500元,消费者完全可以要求商家按照500元进行相关的赔偿。
专家表示,短视频平台也应该担负主体责任,有义务防范AI假冒名人视频在自己的平台大量传播。
中国政法大学副教授 朱巍:如果发现利用AI合成的声频和视频传播虚假消息,并不是仅仅把视频删掉就完了,应当对发布者采取包括信用管理在内的强制措施,包括账号的盈利权限,包括账号的一些相关的特殊的权限,是根据信用的降低,要随之产生必要的处罚措施。
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 从代工贴牌到自主创牌 小家电做成大生意
- 中国政法机关依法惩处网上造谣传谣违法犯罪活动
- 中外市长共话“世界文旅名城建设”
- 上海市卫健委:戊肝成为申城急性肝炎防治的一个重点
- 欧盟宣布最迟于2024年对科索沃民众免签
- 在中国链接世界 让供应链变“共赢链”
- 土耳其政府大楼附近发生“炸弹袭击” 致多人伤亡
- 高温高湿的七月八月切记科学运动
- 《魔幻手机》执行导演周国栋去世 演员焦恩俊悼念
- 中国对外文化贸易“千帆出海”行动走进曼谷
- 14名外媒记者开启感知宁夏之旅
- 2022年中国—东盟创新创业大赛颁奖仪式在雅加达举行
- 北京发布楼市新政 10月1日起施行
- 中国杂交水稻“一粒种子改变世界” 已为几十国培养几千名农业专家
- 揭秘独行月球:用科幻的碗,盛喜剧的饭
- 山西召开2024年德资企业圆桌对话会
- 台湾陶艺家在彭州:几百年前我一定是这里的烧窑工
- “钢琴之城”宜昌:一架琴“奏响”一座城
- 男子驾驶面包车撞伤9人逃跑 已被警方抓获
- 离校未就业,求职难在哪
- 热门推荐
-
- 小提琴演奏家张瑛:用弓弦讲好中国故事
- 韩国国会就韩德洙弹劾案进行表决
- “黄牛”背后形成“倒票一条龙”——我的门票去哪儿了
- 渐进式、小尺度 金陵智慧赋能青海“茶马古都”微更新
- 广东省“田长制”打通耕地保护“最后一公里”
- 近观枫桥丨莲花香里“辣利丹”
- 新疆戈壁滩上的养老“双赢”之道
- 首届西藏青年歌手大赛完赛
- 周鸿祎:大模型的竞争在于企业级市场 红利刚刚开始
- 哈萨克斯坦总理会见中国企业家
- 深南高铁全线首座隧道贯通
- 32个国家和地区商品亮相第十三届中部博览会
- 广西开展2024年高校毕业生等青年就业服务攻坚行动
- 黎以冲突加剧 以军称打击黎真主党多个目标
- 英国通胀率达创纪录的17.1%,民众深陷生活成本危机
- 珠海两协管员收摊贩“保护费” 被依法审查起诉
- 文化中国行丨4000多年前的宫殿是何模样?去陶寺遗址博物馆来场远古体验
- 三项“世界之最” 渝湘复线高速公路双堡特大桥贯通
- 农业农村部中央预算内投资农业建设项目竣工验收管理办法发布
- 受台湾花莲地震影响的东南沿海地区铁路线路全部恢复运行