“地震被压在废墟下的小男孩”居然是AI生成的 记者调查
1月7日9时许,西藏日喀则市定日县发生的6.8级地震,牵动着大家的心。但与此同时,一些网友为了博取流量制造关于震区的不实信息,在网络上公然传播,对公众造成误导。
其中,有一张“被压在废墟下的小男孩”的图片在网上引发了广泛关注。图片中,一名戴帽子的小男孩被压在倒塌的废墟之下,全身铺满尘埃。不少网友被图片视频误导,纷纷在留言区关注男孩的生命安全。而实际上这张照片是由AI生成的。究竟怎么一回事?来看记者的调查。
记者采访AI图片创作者还原事情真相
图片中,一名戴帽子的小男孩被压在倒塌的废墟下,全身铺满尘埃。但记者注意到,有不少网友被图片视频造成误导,并在留言区关注男孩的生命安全。
有网友留言称,“有小孩被压还不赶紧抢救”,有人表示“心都碎了”……
而实际上,这张图片是由AI生成,图中孩子的左手显示为六根手指。记者联系到该AI图片的创作者何先生,对方给记者提供了原始版的AI生成视频,短视频截图显示,这段视频在去年11月发布,并非本次西藏地震期间发布。
当事人:有自媒体涉嫌盗用AI生成素材
何先生告诉记者,自己创作这段AI图片和视频的起因,是看到加沙战争地区的孩子家园遭到破坏、流离失所,希望通过视频传递和平愿望。但他没有想到,自己发布在短视频平台上的素材遭到他人盗用,并和西藏地震进行了关联。
“被压废墟下的小男孩”AI视频创作者 何先生:创作的原因是看到国外有战争,为了反映战争废墟下孩子们的生存环境。我不是为了拿它来宣传、造谣,但这个网络搬运内容的事情很恶劣。现在我在所有平台把作品的下载功能都关闭了,就是为了防止别人盗走视频。
“假图”关联真实事件 违背社会公序良俗
地震救援现场牵动着全社会,而没承想,何先生去年11月发布的视频被人移花接木,将此次地震相关的信息肆意拼凑,这种用灾难博取流量的行为,令人愤慨。有法律人士表示,用“假图”关联真实事件的行为违背了社会公序良俗,有扰乱社会秩序之嫌,将面临法律处罚。
中国慈善联合会法律顾问 张凌霄:自媒体是盗用了别人的AI制品,在抗震救灾突发事件当中来博取眼球,吸引流量,构成治安管理处罚,严重的会构成犯罪。同时因为它利用了救灾的心理,是违反社会的公序良俗和道德最基本的要求。
律师 张晓玲:根据相关法律法规,编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;造成严重后果的,处三年以上七年以下有期徒刑。
软件30秒“编造”地震报道 未标注AI生成
记者也试着用了一款剪辑软件,只用30秒就生成了一则所谓的“地震报道”。
记者在一款用户量庞大的剪辑软件中,使用其提供的AI视频生成功能,输入一句关于小女孩在地震中被救出的文字描述,不到30秒钟,软件就生成了一段20秒左右的视频,并提供画外音解说。视频中并未标注“AI生成”字样,软件也没有要求用户添加这样的标识。
而在引发大量关注的“被压废墟下的小男孩”图片和视频中,创作者何先生也告诉记者,AI软件没有强制要求标注“AI生成”字样,是自己在视频上方添加了水印,但后来被盗用者删掉了水印。
有人工智能研究者表示,目前亟须建立统一的规范要求,避免AI以假乱真。
吉林大学人工智能学院院长 宋轩:无论是我们个人上传的相关的由AI生成的视频或者图像,还是由软件包括平台发布的等等相关的AI生成的内容,我觉得必须遵守披露和声明原则。所有的内容如果是由AI生成的,无论是在生成的过程中,还是上传的过程中,需要进行声明和披露,就是要明确标注出来,说这个内容是由AI生成的。我觉得对于个人用户,这也是我们在使用AI的过程中应该遵守的一个基本原则,一个道德准则。
AI软件生成的内容是否需要主动标注?
那么,由AI软件生成的图片和视频,究竟该不该主动标注由AI生成?
去年9月,国家互联网信息办公室发布关于《人工智能生成合成内容标识办法(征求意见稿)》,其中提到:
在图片的适当位置添加显著的提示标识;
在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可在视频末尾和中间适当位置添加显著的提示标识。
而在此次新闻事件中记者发现,原本AI视频的发布者标注了AI生成,而在他人盗用过程中,却对AI生成的标注信息进行了模糊,从而误导了受众。
平台加强监管 AI时代守好信息真实底线
除了AI生成软件和生成者要肩负起自己的责任,专家指出,还要在监管方面,发展AI技术来破解、识别AI造谣;相关的立法、执法也需要加强,并在全社会要加强相关人员的教育和科普工作,让公众的辨别力更高。
中国人民大学新闻与社会发展中心研究员 曾持:“生成式AI”的拼接本质和谣言有很强的亲近性,二者都属于“无中生有”——创造看起来真实合理的信息。AI让造谣更加简单和“科学”了,因为AI会根据热点事件总结规律、拼接情节,很快就能制作出符合人们“期待”的谣言,让传播更加迅速。
专家也指出,目前,平台审核机制存在一定滞后性,未能及时有效识别AI虚构图片,对自媒体账号发布内容监管不力,特别是在涉及灾害等敏感话题时,更应加强审核力度。未来需要利用技术手段、人工审核等多方式加强对地震等突发信息的管控。
律师 张晓玲:平台应该改进审核机制,提高审核效率,并使用更加直观有效的提示方式,避免虚假信息的传播。
中国人民大学新闻与社会发展中心研究员 曾持:在现在的技术情况下,平台只能事后惩罚。但是现代社会的传播速度又太快了,造成的影响太迅速,所以很难在源头上根治AI造谣的影响。我觉得将来监管要从两个方向努力:
第一是要让人们认识到,不管是通过AI,还是通过其他工具手段技术,造谣宣传假新闻都是违法犯罪的行为;
第二是将来AI技术要跟平台更紧密地联系在一起,平台要能根据AI新工具,来反向识别由AI拼造的假图片和假新闻。
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 长征故事|“红军万里长征”一词原来出自这里!
- 拓展女性文学视野,法国作家安妮·埃尔诺获诺贝尔文学奖
- 广州增城跨境电商产业园启动24小时通关业务
- 法国地方政要热议中法文化交流 期待庆祝两国建交60周年|世界观
- 天气气候对于今年农业影响的程度如何?国家气象中心回应
- 山西吕梁离石区发生山体滑坡:1人被救出,仍有4人被困
- 新能源汽车何以成为中国新名片
- 本报记者探访新政落地后的北京楼市——楼盘冷热不均 成交逐渐回暖
- 美国阿拉斯加州以南海域发生7.2级地震 震源深度20千米
- 沪渝蓉沿江高铁武汉至宜昌段箱梁预制接近八成
- “设计智造与高质量发展特展”亮相国家博物馆
- 第十六届中国—拉美企业家高峰会11月初在北京举办
- (新春见闻)草莓入年菜 台湾“创业妈妈”拼出新年幸福甜
- 联合国人权理事会通过中国等国所提无障碍建设专题决议
- 无法满足直播要求背上违约金,一些大学生被困直播间
- 华北为何接连出现强降雪
- 粤豫联合办展 岭南画派画家朱永成山水画展开幕
- 拼多多“百亿减免”再推新政,偏远地区物流中转费全部由平台承担
- 让民众有“医”靠 海南推进紧密型城市医疗集团建设
- 新型“人造皮肤”可用于智能设备
- 热门推荐
-
- 这国陷入毒品战争,美趁机大捞一把
- 贵州交警通报一起因货车引发的交通事故 2人死亡
- 台湾花莲县海域发生4.7级地震 震源深度25千米
- 西南铁路12日起调图 成渝、成贵等多条铁路列车开行有变
- 青藏高原冬虫夏草进入采挖季 传统“软黄金”或迎新趋势
- 杨妞花,等待“人贩子”余华英被审判的日子
- 蒙古国文化名家团在华见闻:中国式现代化,看见合作和机遇
- 超六成受访青年对求职企业做过背景调查
- 2023年四川博物馆接待观众8540万人次 文创收入近2.37亿元
- (乡村行·看振兴)古县赞皇 “山中短笺”:露营也有“中国式浪漫”
- 外媒:索马里孩童玩耍引爆遗留炮弹 已致至少27人遇难
- 中国首台中速大功率氨燃料发动机点火成功
- 文明的坐标丨“春节之城”四川阆中
- 尼日利亚大学绑架事件新增16人获救
- 十余省温泉酒店预订均价上涨 国庆节后错峰出游成热门
- 山东以文润万家 加码民众幸福生活
- (乡村行·看振兴)“文旅+旅拍” 山西昔阳新业态盘活乡村经济活力
- 川藏联网工程运行满10年 累计输送电量约87亿千瓦时
- 湖北五峰县长乐坪镇突发山体滑坡救援情况通报
- 交通违法处理半价?青海交警:轻微交通违法罚款值进行调整