AI仿冒名人带货属违法行为 消费者可要求退一赔三
如今,从智能家居的语音助手到自动驾驶汽车,从高效能的数据分析到医疗领域的精准诊断,AI正以前所未有的方式改变着世界。然而,随着AI技术的不断发展和应用,其双刃剑的特性也逐渐显现。其中,深度伪造技术就带来了不小的隐患。
所谓的深度伪造技术,是一种利用人工智能算法生成高度逼真但并非真实的视频或图像的技术。通过深度学习算法,深度伪造技术能够分析大量的真实视频或图像数据,从而学习到特定人物或场景的特征,并生成与之极为相似的虚假内容。这种技术的出现,使得造假变得更加容易和难以辨别,给社会带来了诸多安全隐患。
今年以来AI深度伪造假冒名人的事件时有发生,不久前,就有人利用AI技术,深度伪造了张文宏医生的脸部和声音进行直播带货。在这段视频中,被合成的人像反复介绍一种产品,声音也很像张文宏本人,商品中的蛋白棒产品已经售卖了1200多件。目前该账号已经搜索不到。而张文宏医生本人对有人利用AI模仿自己带货的行为也非常气愤。
张文宏医生:这个事情已经有几个星期了,一开始我也是投诉。特别是对AI不是很熟悉的年纪比较大的市民,他们很容易就会相信。
用AI制作,假冒名人欺骗网民的现象,张文宏事件并非个例。今年国庆期间就有人用企业家雷军的声音和头像制作了众多恶搞视频。
也有人AI制作了刘德华的声音为自己增加流量。该视频出现后,刘德华电影公司连续发布两则声明,提醒各方人士注意,避免落入伪造刘德华声音的AI语音合成技术骗局。
上海市消保委也注意到了最近日益增加的AI假冒名人的视频。
上海市消费者权益保护委员会 副秘书长 唐健盛:我们关注到现在这种虚拟人直播带货的情况,也是越来越多了。有不法商家通过AI手段去冒用张文宏老师的形象和声音,做的假的直播带货,这种行为我们觉得是对消费者合法权的侵害,因为它就是一个赤裸裸的欺诈消费者行为。
AI模仿他人技术成熟 可轻松克隆脸和声音
现在的AI技术在克隆他人面部和声音上,到底发展到了什么程度?专家介绍,目前模仿他人的声音和脸的技术已经非常成熟,提供一张照片就能做出换脸的效果,他人的声音也能被轻易模仿。
中国网络空间安全协会人工智能安全治理专业委员会专家 薛智慧:通过人工智能技术,将脸进行替换。声音需要有一个语言的模型,语言模型里边被模仿者的声音进行合成,实现音色的克隆。
技术人员现场做了一个测试,将事先录制好的视频换成记者的脸和声音。首先记者给技术人员提供了一张证件照片,不到两分钟,通过软件的渲染,视频的人脸就换成了记者的脸。
随后是声音的AI制作。记者现场录制了一段声音输入到AI资料库中,很快AI就能用记者的声音播报任何的文本内容。
AI制作的换脸和声音的视频完成后,将两段视频合成后出来的效果非常逼真。
AI模仿度高 但并非毫无破绽
专家表示,AI模仿度高但是并非毫无破绽。
首先,这种既要换脸又要换声的操作,只能制作视频,无法做到实时直播。
其次,观众通过仔细辨认视频,也能看出AI的痕迹。
专家提醒,辨别时可以重点关注视频中人脸的变换,包括人脸轮廓和背景环境融合度、协调度等。另外,在语音、语速和口型的匹配度上,也可以去重点关注。
未经授权利用AI假冒他人属违法行为
那么,是否可以利用AI深度伪造技术随意将名人形象为己所用呢?专家表示,那些未经过授权使用他人形象的行为,均属于违法行为。
中国政法大学副教授 朱巍:我们现在看到的一些编辑的人脸,包括声音在内,实际上按照民法典的规定,这个都属于当事人权利人自己的人格权利,未经允许,任何人不得侵害。不仅不能直接用,也不能使用当事人的人脸信息、声音信息进行深度合成,不能放到深度合成的物料库里或场景库里。同时,他经过编辑的肖像和声音,用这种方式去展现一个相关内容,这属于伪造的信息。按照网络安全法的规定,这属于违法信息。
另外法律专家表示,AI假冒名人发表自己的作品,有可能会追究发布者的刑事责任。
中国政法大学副教授 朱巍:未经权利人同意随便使用别人的肖像和声音并对外发布,按照民法典的规定是一种侵权责任,要承担包括损害赔偿、精神损害赔偿在内的相关责任。如果把相关视频,包括声音编辑之后,形成了相关内容。这个内容如果违反网络安全法的相关规定,当事人可能要承担包括刑事责任在内的法律责任。
购买AI假冒名人带货产品 可要求退一赔三
专家表示AI假冒名人进行带货这样的行为,已经涉嫌违法,一旦消费者信以为真购买了产品,可以要求商家退一赔三。
上海市消费者权益保护委员会 副秘书长 唐健盛:消费者权益保护法明确规定,如果消费者遭到了欺诈,可以按照消费者权益保护法的规定要求不法商家进行赔偿。具体的赔偿标准就是退一赔三,如果不足500元,消费者完全可以要求商家按照500元进行相关的赔偿。
专家表示,短视频平台也应该担负主体责任,有义务防范AI假冒名人视频在自己的平台大量传播。
中国政法大学副教授 朱巍:如果发现利用AI合成的声频和视频传播虚假消息,并不是仅仅把视频删掉就完了,应当对发布者采取包括信用管理在内的强制措施,包括账号的盈利权限,包括账号的一些相关的特殊的权限,是根据信用的降低,要随之产生必要的处罚措施。
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- (高质量发展调研行)三亚“网红”民宿村如何从“脏乱差”蝶变为“绿富美”?
- 宁夏开展婚俗改革试点工作
- 《别叫我“赌神”》北京首映 周润发追忆老友廖启智
- 浙江文化观察:建设中华民族现代文明 浙江如何创新?
- 大连长海县通报“船员作业时被熏倒”事件:船员身体体征一切正常
- CSP-J/S认证考试数据解读报告:满分有多难?
- 福州可门水道开展实弹射击训练 海事部门发布航行警告
- 1-11月中国规上电子信息制造业增加值同比增12.2%
- “网络强村”,一场“以长补短”的广东实践
- 港澳地区外国旅游团入境海南144小时免签首批游客落地三亚
- 山西平顺县山火火势已初步得到控制 当地派出直升机协助救援
- “纪录片可以永恒地去反映一些主题” 中外优秀纪录片人在沪共话行业现状
- 贵州纳晴高速牂牁江大桥合龙 为首座“纯贵州造”悬索桥
- 美《通胀削减法案》持续影响韩汽车和电池产业
- 特色产业助力乡村全面振兴
- 建行成功上线买断式回购系统 助力银行间债券市场扩大开放
- 新疆巴音郭楞州尉犁县发生4.9级地震 震源深度18千米
- 澳智库:美国在这方面不妨学学中国
- 为什么说冬季适合吃羊肉?试试这几种推荐吃法
- 山西运城开通至香港直飞航线
- 热门推荐
-
- 外媒:也门胡塞武装称袭击美军“亚伯拉罕·林肯”号航母
- 四川省教育厅:预制菜不宜推广进校园
- 河南三门峡“一节一会”本月启幕 近五千人将参与横渡黄河活动
- “戏剧中国”2024年度优秀剧目展演启幕 山西壶关秧歌剧亮相
- 大山深处的“护林人” 半生守护一片林海
- 非遗传承人李兴秀:让“云朵”上的针线艺术走出大山
- 江西推进生态与文旅深度融合(高质量发展调研行)
- 北京朝阳实施“商务+科技”双轮驱动 助推数字经济发展
- 2024年第一届桂台青少年乒乓球邀请赛在桂林举行
- 巴勒斯坦媒体:以色列尚未恢复对加沙地带的供水
- 广交会境外采购商到会人数首次突破25万
- 安徽潜山:“全域公交”惠民 百姓“乘”心如意
- 甘肃临夏州积石山县6.2级地震 三大运营商启动应急通信保障
- 中国科研人员发现十种蜘蛛新物种
- 第二届各省区市社科普及基地讲解员大赛云南赛区选拔赛圆满收官
- 印尼西爪哇省海域发生6.5级地震 房屋受损有人受伤
- (新春走基层)江苏里下河腹地旅游公路之行:一路“繁花”入眼来
- 运动后做拉伸 让身体更强健
- 我国北方地区现大范围PM10重污染,呈现粗颗粒污染特征
- 巴西圣保罗州暴雨致死人数升至24人