你被AI生成的假新闻骗过吗?起底AI造谣乱象→
近年来,人工智能(AI)技术发展迅速,成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而,却有一些别有用心之人将其变为造谣、敛财的工具。
今年6月,一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷,其孙子为此跳河自杀,打人者一审被判九年十个月”的短视频在互联网平台传播,引发大量网民关注、讨论。经公安网安部门开展调查发现,该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述,这段长达几分钟、声色并茂的视频全是由AI合成的。目前,公安机关已依法对任某追究法律责任。
此事件并非个案,随着AI技术应用越来越普遍,一些网民为博眼球、蹭热度,将AI技术用以编“伪消息”、造“假新闻”,以此来获得网民关注和点赞量,进而实现流量变现。
专家表示,AI造谣具有定制化、门槛低、识别难、破坏大等特点,亟须加强监管。同时,可以通过设置AI生成内容提示标识、严格落实网络实名制等技术手段进行治理。
AI造谣门槛低、危害大
今年8月,一则“福建南平松溪县遭遇严重大风袭击,造成枣岭街一人死亡”的消息在网络上迅速传播。这则消息图文并茂,甚至还有逼真的视频片段,一时间引得大量网民关注和转发。但经公安机关核查发现,这竟然是用AI编造而成的网络谣言视频。
“当前AI网络谣言具有仿真性和规模性的特征。根据输入指令的不同,AI在短期内能够批量生成大量内容不同的网络谣言,而且生成的网络谣言信息内容更加贴合人类表达方式,并结合深度伪造技术生成图片、视频、录音,使得社会公众越发难以辨识网络信息的真伪性。”北京航空航天大学法学院副教授赵精武告诉记者。
记者随机用“AI文案速成”小程序测试,在对话框内输入“火灾”这一主题有关的内容创作指令,便生成了一篇新闻报道,甚至包括现场救援细节,及消防安全提示,让人真假难辨。赵精武指出,AI网络谣言的危害性主要表现为扰乱社会公共秩序,削弱政府公信力、诱发电信网络诈骗等。
为牟取非法利益造假
涉嫌构成多种罪名
赵精武分析,个人或组织利用AI技术造谣背后的动机是复杂多样的,既包括部分网民为了寻求存在感、刺激感,故意编造AI网络谣言,也包括犯罪分子为了牟取非法利益,编造AI网络谣言,以便顺利实施电信网络诈骗等犯罪活动。
今年6月中旬,一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播,扰乱公共秩序,被警方行政拘留。据警方通报,王某某共经营5家MCN机构,运营账号842个,自今年1月以来,王某某通过AI软件生成虚假新闻,最高峰一天能生成4000至7000篇。
近日,浙江温州苍南公安成功打掉一个编传旧案谣言的MCN机构“网络水军”团伙。进一步侦查发现,相关账号和视频由某网络科技有限公司(实为以MCN模式运营的“网络水军”团伙)使用发布,该MCN“网络水军”团伙搜集全网敏感热点,随意设置虚假剧情,利用AI软件根据剧情自动生成多处关键情节虚假的文案,安排真人出镜解说,拼接网络中误导性素材后剪辑成所谓“原创”视频。该团伙明知上述视频充斥大量虚假、挑动群众情绪类信息,为博取流量、不法牟利,在多个平台公开发布,后造成虚假视频信息被大量浏览、传播,从而牟取非法流量返利。
中国人民大学刑法学博士、北京市京师律师事务所实习律师黄福涛告诉记者,编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;造成严重后果的,处三年以上七年以下有期徒刑。如果行为人不仅制作、传播虚假信息,而且目的是骗取互联网平台上不特定多数人的财产,则涉嫌诈骗罪。
如何治理和防范AI网络谣言的产生?
为治理AI乱象,深化网络生态治理,近年来相关部门出台了多项政策和措施。
2023年1月10日起施行的《互联网信息服务深度合成管理规定》指出,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
2023年8月15日起施行的《生成式人工智能服务管理暂行办法》规定,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容。
“加强AI领域的司法治理,需要立足于‘安全与发展并重’和‘分级分类监管’的基本原则,针对诸如生成网络谣言等技术滥用现象,既需要在事前阶段明确研发者、服务提供者以及网络平台的主体责任,还需要在事后阶段严格追究违法行为人的刑事责任、行政责任。”赵精武强调。
同时,他表示,也可通过技术手段进行治理,譬如设置敏感关键词,禁止生成显著违法的信息内容;严格落实网络实名制,并配合水印技术,实现对生成内容的有效溯源;或者平台设置AI生成内容提示标识等。
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 韩国土部确认失事客机遭遇鸟击:清理发动机泥土过程中发现羽毛
- “电影中国”第二届儿童电影剧本征集活动举行
- 武汉海关多措并举助力湖北开放发展
- 上海迪士尼乐园酒店闭环管理,乐园正常运营
- 32.26亿元签约额 黑龙江佳木斯大豆产业发展正夯
- 常态化防控后如何做好个人防护?宁光院士一口气支了16招
- “初中妹妹8科成绩总分66” 舆论应该关注什么?
- 中国企业500强营收超108万亿元 比上年增长5.74%
- 险情早发现早处置!多部门全力做好重点地区防汛工作
- 重庆黔江发出首列西部陆海新通道班列
- 牙齿不齐:地包天干预要趁早
- 我在印尼开“复兴号”
- 又一部爱奇艺云影院佳片定档!任达华监制主演电影《零号追杀》7月21日上线
- 一地公开“躺平休闲人员”,新表述背后有何争议?
- 特斯拉上海储能超级工厂计划5月开工 料明年首季量产
- 智利造纸巨头CMPC集团总裁:看到实现CCUS的巨大机遇
- 以色列北部加利利地区响起防空警报
- 旅客乘机发现前座椅口袋有带血纸巾 航空公司回应
- 争分夺秒住新家!西藏震区板房已累计搭建2198套
- 报告:中国已迈入全球数据库产业第一梯队
- 热门推荐
-
- 中和胃酸的“小苏打” 还可以护肾?
- “山里DOU是好风光·知秋向山行”活动收官 带动乡村文旅收入超13亿元
- 书法湘军携精品力作亮相国家博物馆
- 光明乳业发布“领鲜”创新成果
- 胡润研究院在穗发榜:中美猎豹企业合占全球总数逾七成
- 洛阳送给游客的钻石,也是河南的“特产”?
- 上海高速服务区春节期间预计充电量同比增长超八成
- 商务部:中国将与DEPA成员国加紧推动谈判进程
- 种植牙想用一辈子?收好“维保”攻略
- 携带乙肝病毒 记得定期看医生
- 国家防总针对辽宁、山东启动防汛防台风四级应急响应
- 联合国国际法院要求以色列停火 以色列:不同意
- 1至9月全国城镇新增就业1022万人 就业形势保持总体稳定
- 海南航空计划于6月21日起开通海口—长沙—伦敦航线
- 一座古都的“穿”越之旅|相对论·蹲点汉服街
- 亲近自然探索观鸟 走进武夷山国家公园自然教育活动来了
- 东盟秘书长高金洪:东盟愿与中国共同努力促进地区共同繁荣
- 北方地区将有较强降雨 长江中下游等地多高温
- (两会声音)全国政协委员王建安:努力推动国产植入性医疗器械“提质降价”
- 因持续晴热高温 重庆多个区县官宣延迟开学