尽快建立反诈屏障 阻挡“AI换脸”诈骗潮
■社论
新技术的普及速度往往超出想象,缩短从技术爆炸到社会化监管的时间,或许是技术进步对时代提出的重要课题。
5月24日,中国互联网协会官网发文表示,当前利用“AI换脸”“AI换声”等虚假音视频,进行诈骗、诽谤的违法行为屡见不鲜,提醒公众警惕“AI换脸”新骗局。其中特别提到,近期由包头警方发布的一起使用AI技术进行电信网络诈骗的案件。福州某科技公司的法人代表郭先生在接到“好友”的微信视频后,为“好友”提供了430万元的“过账资金”。
“AI换脸”诈骗的消息传来,也引发了一定程度的公众焦虑。例如,有媒体援引第三方说法,认为“AI诈骗成功率接近100%”。尽管这一概率数字明显缺少数据支撑,但在诸多案例的影响下,人们开始担忧人工智能技术的诈骗陷阱。
首先,应明确的是,从人工智能用于诈骗的技术可行性以及我国反诈的基础设施情况看,利用人工智能进行诈骗的案例虽然开始增多,但远未达到遍地蔓延的状态。
一方面,人工智能换脸需要完整获取用户的音频、完整面部等较多隐私数据,使用该技术进行诈骗的成本和门槛相对较高,短期内很难如电话电信诈骗等大规模蔓延。
另一方面,针对类似的电信诈骗,公安机关、网络平台均已建立相对完整的防控拦截机制,这些机制仍将继续发挥着保护层的作用。因此,在包头的案例中,在受骗者及时报警后,警方10分钟便追回了300多万元的资金。
生成式人工智能的普及,的确不断降低语音、面部合成伪造技术的门槛。无论是“AI孙燕姿”,还是主播利用AI换“明星脸”直播带货,都说明这一技术正在大规模普及应用。现阶段,一个有基础网络软件使用知识的人,均可借助人工智能工具轻松完成“信息伪造”,不论是模仿企业发布新闻稿,还是模仿个人的语音,甚至是进行换脸。
从信息技术发展史看,新的信息生产、分发方式的变化,容易率先在灰黑产被应用。数年前,当智能手机将移动互联网带入了下沉市场并在老年人群中普及开来后,同样引发过新型电信诈骗的高发期。
相比原子化的个人,诈骗分子总是更偏好在信息差中寻求最大的牟利空间:用更快、更新、更容易伪造的传播方式,攻破那些在新技术面前还来不及做好准备的普通人。
因此,公众的担忧是合理的,也值得警惕。从极端情况来推演看,如果对面沟通的人,不管是声音、语言、图像还是背景知识,都足以以假乱真,这也意味着个体在网络沟通中的识别技巧均告失灵。
但从监管部门、科技公司的反应速度来看,这种极端假设很难长期成立。首先,人工智能技术本身是中立的,这也意味着,可以被用于伪造信息的技术手段和数据,同样可以被用于反制虚假信息。
例如,国内部分科研团队、科技企业已经在研发专门针对虚假信息的检测技术,不断提升对于语音、面部合成信息的检测成功率。可以预测的是,这些人工智能反诈技术都将成为对抗魔法的魔法。
其次,这些虚假信息的传播仍然需要通过内容、社交平台来进行,这也说明个体与诈骗分子之间仍可建起一道技术屏障。社交平台通过对技术特征的识别来建立预警机制,一旦镜头前的视频存在换脸的痕迹,立马进行预警告知,结合反诈的行为数据库,甚至可进行信息同步拦截。
最后,社会化的监督与法律法规的完善,也可以为反人工智能诈骗提供兜底性的保障。比如对于用户隐私的搜集、使用进行更坚决的保护,从源头切断诈骗分子伪造信息的可能。同时,对于人工智能相关的应用工具,也能从政策层面对其使用场景、用户门槛进行限制。
在诈骗案例开始增多,且换脸等技术在内容平台大范围普及的情况下,建立科技、政策和教育宣传的立体化屏障开始变得更为紧迫。新技术的普及速度往往超出想象,缩短从技术爆炸到社会化监管的时间,或许是技术进步对时代提出的重要课题。(新京报)
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 国际识局:“睦邻、安邻、富邻”,中国为何与这两个中亚国家是“好朋友”?
- 点燃暑期文旅消费还需“稳准优”
- 以色列和哈马斯达成临时停火协议!将互换多名人质、囚犯
- 《中国电影十年艺术发展报告》在厦门发布
- 错了好多年 原来眼镜布根本不能擦眼镜
- 他们靠主题月生活法偷偷开挂
- 毕马威报告:中国企业的人工智能成熟度相对领先
- 16家企业集中签约落户滨海—中关村科技园
- 文化观察:从丽水到全国,“村晚”何以“四十不惑”?
- 西藏航空运送72名救援人员飞赴日喀则地震灾区
- 引导冷资源化为热经济
- RCEP成员国工商界代表齐聚济南 话合作“硕果”谋发展机遇
- (身边的变化)旅游周边产品进入“Next level”窥见消费活力足
- 陕西法院家事审判工作白皮书发布
- 瑞银预期最早下周完成收购瑞信
- 杭州市场经营主体总量突破200万户 创业创新热潮涌动
- 美债僵局持续!政府雇员集体起诉白宫:反对因债务上限停薪裁员
- 电子眼成“窥私眼”?急需打“法律补丁”
- 2024年中国(辽宁)非公有制经济发展论坛举行
- 漳台青少年围棋交流活动在福建漳州举行
- 热门推荐
-
- 露营火了,垃圾多了
- 马来西亚禁收发带网络链接手机短信以遏制诈骗
- “十月作家走中轴”之“文学里的北京——作家走会馆”举办
- 新城市运动“玩”起来 北京朝阳打造体育潮流新名片
- 传统评弹相遇现代话题 浦东戏曲戏剧节展演季在沪开幕
- 韩国代总统:执行逮捕令时政府机关之间不能发生肢体冲突
- 中国自主的知识体系成果2024年度发布系列活动举办
- 《脱口秀大会》 是“躺”还是“卷”?
- 桑拿天如何戴口罩?老人儿童和慢病者少扎堆
- 第32届广博会将首次举办“全空间无人体系”展
- 黎巴嫩真主党:如加沙停火,将与以色列停战
- “袋泡茶江湖”风云再起 新品牌口味多元争分一杯羹
- 广东艺术剧院探索演出场馆新业态 发力艺术教育
- “冲出梦想”创科人才培育计划在港启动 首年为航天科技主题
- 第一届亚太中医药国际传播论坛在悉尼成功举办
- 两部门联合出台政策 推动中央企业创业投资基金高质量发展
- 河北将开展“看大展,赶大集,听大戏,过大年”系列文化活动
- 黄河源头玛多县突降暴雪 民警通宵抗雪保畅通
- 《“科学三减智选用糖”联合提示》发布:控糖是趋势,不必妖魔化
- 油价年内第二次上调 加一箱油多花约8元