你被AI生成的假新闻骗过吗?起底AI造谣乱象→
近年来,人工智能(AI)技术发展迅速,成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而,却有一些别有用心之人将其变为造谣、敛财的工具。
今年6月,一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷,其孙子为此跳河自杀,打人者一审被判九年十个月”的短视频在互联网平台传播,引发大量网民关注、讨论。经公安网安部门开展调查发现,该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述,这段长达几分钟、声色并茂的视频全是由AI合成的。目前,公安机关已依法对任某追究法律责任。
此事件并非个案,随着AI技术应用越来越普遍,一些网民为博眼球、蹭热度,将AI技术用以编“伪消息”、造“假新闻”,以此来获得网民关注和点赞量,进而实现流量变现。
专家表示,AI造谣具有定制化、门槛低、识别难、破坏大等特点,亟须加强监管。同时,可以通过设置AI生成内容提示标识、严格落实网络实名制等技术手段进行治理。
AI造谣门槛低、危害大
今年8月,一则“福建南平松溪县遭遇严重大风袭击,造成枣岭街一人死亡”的消息在网络上迅速传播。这则消息图文并茂,甚至还有逼真的视频片段,一时间引得大量网民关注和转发。但经公安机关核查发现,这竟然是用AI编造而成的网络谣言视频。
“当前AI网络谣言具有仿真性和规模性的特征。根据输入指令的不同,AI在短期内能够批量生成大量内容不同的网络谣言,而且生成的网络谣言信息内容更加贴合人类表达方式,并结合深度伪造技术生成图片、视频、录音,使得社会公众越发难以辨识网络信息的真伪性。”北京航空航天大学法学院副教授赵精武告诉记者。
记者随机用“AI文案速成”小程序测试,在对话框内输入“火灾”这一主题有关的内容创作指令,便生成了一篇新闻报道,甚至包括现场救援细节,及消防安全提示,让人真假难辨。赵精武指出,AI网络谣言的危害性主要表现为扰乱社会公共秩序,削弱政府公信力、诱发电信网络诈骗等。
为牟取非法利益造假
涉嫌构成多种罪名
赵精武分析,个人或组织利用AI技术造谣背后的动机是复杂多样的,既包括部分网民为了寻求存在感、刺激感,故意编造AI网络谣言,也包括犯罪分子为了牟取非法利益,编造AI网络谣言,以便顺利实施电信网络诈骗等犯罪活动。
今年6月中旬,一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播,扰乱公共秩序,被警方行政拘留。据警方通报,王某某共经营5家MCN机构,运营账号842个,自今年1月以来,王某某通过AI软件生成虚假新闻,最高峰一天能生成4000至7000篇。
近日,浙江温州苍南公安成功打掉一个编传旧案谣言的MCN机构“网络水军”团伙。进一步侦查发现,相关账号和视频由某网络科技有限公司(实为以MCN模式运营的“网络水军”团伙)使用发布,该MCN“网络水军”团伙搜集全网敏感热点,随意设置虚假剧情,利用AI软件根据剧情自动生成多处关键情节虚假的文案,安排真人出镜解说,拼接网络中误导性素材后剪辑成所谓“原创”视频。该团伙明知上述视频充斥大量虚假、挑动群众情绪类信息,为博取流量、不法牟利,在多个平台公开发布,后造成虚假视频信息被大量浏览、传播,从而牟取非法流量返利。
中国人民大学刑法学博士、北京市京师律师事务所实习律师黄福涛告诉记者,编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;造成严重后果的,处三年以上七年以下有期徒刑。如果行为人不仅制作、传播虚假信息,而且目的是骗取互联网平台上不特定多数人的财产,则涉嫌诈骗罪。
如何治理和防范AI网络谣言的产生?
为治理AI乱象,深化网络生态治理,近年来相关部门出台了多项政策和措施。
2023年1月10日起施行的《互联网信息服务深度合成管理规定》指出,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
2023年8月15日起施行的《生成式人工智能服务管理暂行办法》规定,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容。
“加强AI领域的司法治理,需要立足于‘安全与发展并重’和‘分级分类监管’的基本原则,针对诸如生成网络谣言等技术滥用现象,既需要在事前阶段明确研发者、服务提供者以及网络平台的主体责任,还需要在事后阶段严格追究违法行为人的刑事责任、行政责任。”赵精武强调。
同时,他表示,也可通过技术手段进行治理,譬如设置敏感关键词,禁止生成显著违法的信息内容;严格落实网络实名制,并配合水印技术,实现对生成内容的有效溯源;或者平台设置AI生成内容提示标识等。
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 法国卢浮宫版画工坊收藏展亮相遇见博物馆 108幅铜版版画凝聚数百年技艺
- 亚运吉祥物 “三小只”诞生记
- 【筑梦现代化 共绘新图景·代表委员履职故事】郭进考:让每一寸土地生产更多粮食
- 中美青年开启“山西之旅” 交流互鉴助推青年发展
- 诗人王维穿越大汉,肯定会发现西出阳关多故人!
- 唐菓子制作传承人:让北方千年美食在云南落地开花
- 一季度中国铁路固定资产投资同比增长9.9%
- 两天一夜,坐着大巴去西藏!一起见证川藏线变迁
- 宁夏:“机”智少年显身手
- 算命网红被拘,网络算命也不是法外之地
- 国家发改委等部门出台28条举措促进民营经济发展
- 亲测有效:多喝温盐水!
- 国内多个景点初五前门票已售罄
- 自然资源部:截至2023年底,全国现有海水淡化工程156个
- 中国新一代自升式海上风电安装平台“大桥海风”号在江苏交付
- 做好普惠金融大文章 中信银行为亿万客户提供“有温度”的零售金融服务
- 人工智能赋能医学 上海发布卫生健康行业语料库、医疗应用场景MaaS平台
- 北美票房:《海洋奇缘2》力夺北美周末票房三连冠
- 中国人怎么吃最健康?疾控专家详解新版“膳食指南”
- 给种子办“分子身份证” 统筹推进种质资源收集保存和鉴定利用
- 热门推荐
-
- 广州警方打击治理电信网络诈骗 今年以来为群众挽回损失3.37亿元
- 中国—东盟短视频创作传播计划正式启动
- 3月中国制造业PMI重返扩张区间
- 第三届韩国(山东)进口商品博览会启幕
- (人权行动看中国)“黄河首曲”甘肃玛曲“修复记”
- 太原大同上榜“五一”租车黑马目的地 山西出境游预定涨124%
- 老友学生忆童祥苓:他曾是几亿中国人心中的男神
- 希腊著名戏剧家:文化合作有利于推动希中文明对话
- 文化中国行丨欢迎“回家”!这些新晋世界遗产地准备好了
- 中国首个水运边民互市贸易市场运营周年 进出口额1.14亿元
- 邮政快递助力消费市场恢复扩大 彰显中国经济发展澎湃动能
- 长假归来 收好这5个“健康锦囊”
- 台风“银杏”携狂风入南海 广东启动防风应急响应
- 环球热点:美国在中东搅局不停
- 麦肯锡全球总裁斯滕菲尔斯:生成式人工智能有巨大潜力可以挖掘
- 32.33万亿元、同比增5.3% 从前三季度外贸数据透视中国经济发展亮点
- 渝宜高铁重庆段开工 未来重庆至上海约6小时
- 中国央行向万事网联公司核发银行卡清算业务许可证
- 2024年畜牧智能制造与智慧养殖研讨会在佛山举行
- 印度曼尼普尔邦发生交火事件 11名武装分子死亡