尽快建立反诈屏障 阻挡“AI换脸”诈骗潮
■社论
新技术的普及速度往往超出想象,缩短从技术爆炸到社会化监管的时间,或许是技术进步对时代提出的重要课题。
5月24日,中国互联网协会官网发文表示,当前利用“AI换脸”“AI换声”等虚假音视频,进行诈骗、诽谤的违法行为屡见不鲜,提醒公众警惕“AI换脸”新骗局。其中特别提到,近期由包头警方发布的一起使用AI技术进行电信网络诈骗的案件。福州某科技公司的法人代表郭先生在接到“好友”的微信视频后,为“好友”提供了430万元的“过账资金”。
“AI换脸”诈骗的消息传来,也引发了一定程度的公众焦虑。例如,有媒体援引第三方说法,认为“AI诈骗成功率接近100%”。尽管这一概率数字明显缺少数据支撑,但在诸多案例的影响下,人们开始担忧人工智能技术的诈骗陷阱。
首先,应明确的是,从人工智能用于诈骗的技术可行性以及我国反诈的基础设施情况看,利用人工智能进行诈骗的案例虽然开始增多,但远未达到遍地蔓延的状态。
一方面,人工智能换脸需要完整获取用户的音频、完整面部等较多隐私数据,使用该技术进行诈骗的成本和门槛相对较高,短期内很难如电话电信诈骗等大规模蔓延。
另一方面,针对类似的电信诈骗,公安机关、网络平台均已建立相对完整的防控拦截机制,这些机制仍将继续发挥着保护层的作用。因此,在包头的案例中,在受骗者及时报警后,警方10分钟便追回了300多万元的资金。
生成式人工智能的普及,的确不断降低语音、面部合成伪造技术的门槛。无论是“AI孙燕姿”,还是主播利用AI换“明星脸”直播带货,都说明这一技术正在大规模普及应用。现阶段,一个有基础网络软件使用知识的人,均可借助人工智能工具轻松完成“信息伪造”,不论是模仿企业发布新闻稿,还是模仿个人的语音,甚至是进行换脸。
从信息技术发展史看,新的信息生产、分发方式的变化,容易率先在灰黑产被应用。数年前,当智能手机将移动互联网带入了下沉市场并在老年人群中普及开来后,同样引发过新型电信诈骗的高发期。
相比原子化的个人,诈骗分子总是更偏好在信息差中寻求最大的牟利空间:用更快、更新、更容易伪造的传播方式,攻破那些在新技术面前还来不及做好准备的普通人。
因此,公众的担忧是合理的,也值得警惕。从极端情况来推演看,如果对面沟通的人,不管是声音、语言、图像还是背景知识,都足以以假乱真,这也意味着个体在网络沟通中的识别技巧均告失灵。
但从监管部门、科技公司的反应速度来看,这种极端假设很难长期成立。首先,人工智能技术本身是中立的,这也意味着,可以被用于伪造信息的技术手段和数据,同样可以被用于反制虚假信息。
例如,国内部分科研团队、科技企业已经在研发专门针对虚假信息的检测技术,不断提升对于语音、面部合成信息的检测成功率。可以预测的是,这些人工智能反诈技术都将成为对抗魔法的魔法。
其次,这些虚假信息的传播仍然需要通过内容、社交平台来进行,这也说明个体与诈骗分子之间仍可建起一道技术屏障。社交平台通过对技术特征的识别来建立预警机制,一旦镜头前的视频存在换脸的痕迹,立马进行预警告知,结合反诈的行为数据库,甚至可进行信息同步拦截。
最后,社会化的监督与法律法规的完善,也可以为反人工智能诈骗提供兜底性的保障。比如对于用户隐私的搜集、使用进行更坚决的保护,从源头切断诈骗分子伪造信息的可能。同时,对于人工智能相关的应用工具,也能从政策层面对其使用场景、用户门槛进行限制。
在诈骗案例开始增多,且换脸等技术在内容平台大范围普及的情况下,建立科技、政策和教育宣传的立体化屏障开始变得更为紧迫。新技术的普及速度往往超出想象,缩短从技术爆炸到社会化监管的时间,或许是技术进步对时代提出的重要课题。(新京报)
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 亚洲首制风电运维母船“至臻100”“至诚60”命名交付仪式顺利举行
- “风起国潮”征文大赛启动
- 市场监管总局:清理工作有力破除了一批行政性垄断堵点
- “碳”路先行|资源大市山西临汾:探索绿色交通的“减碳”密码
- “斑斓造化——柯金国画作品展”在京启幕
- 2023年互联网十大事件 哪一件最戳中你?
- 塞尔维亚前总统:过去人们觉得美国是希望之国,现在中国是希望
- 如何高质量推动银发经济发展 泰康保险集团以实践作答
- 中国故事共创会|在“户外运动天堂” 洋网红挑战“飞檐走壁”
- 青海驰援西藏首批救灾物资抵达地震灾区
- 隐瞒婚姻同居生子构成重婚获刑七月
- 国家金融监督管理总局印发信托公司监管评级与分级分类监管暂行办法
- 国家文物局发布良渚等重大项目考古进展
- 第十八届中国戏剧节落地杭州 15个剧种30余台剧目将亮相
- 国家疾控局:浙江省发现一例H3N2与H10N5混合感染病例
- 欧盟延长对克里米亚经济制裁
- 朝中社:俄罗斯总统普京抵达朝鲜进行国事访问(图)
- 连续“出海” 揭秘上海豫园灯会背后的故事
- 上海发放“健康暖心包” 惠及5500户侨界家庭
- 春节坚守岗位的装卸工:只为给大家一个干净年
- 热门推荐
-
- 385公里!沪宁沿江高铁联调联试跑出最高试验时速
- 吉林暴雪致交通受阻 多地学校暂停线下授课
- 局部大暴雨 安徽启动暴雨Ⅳ级应急响应
- 骤冷!关节保暖同时需要锻炼
- 曲阳雕刻产业产需国际对接活动在京举行
- 中央气象台发布暴雨蓝色预警
- 英国2月通胀加剧 央行预计再加息
- 广西桂林深化与东盟旅游合作 发展文旅新业态
- 强对流天气蓝色预警:多地将有8-10级雷暴大风或冰雹天气
- 仅剩微弱心跳的她,熬赢了“癌王”
- 通讯:专访研究集宁战役20年的“内蒙古司马迁”
- 中新琼剧加强合作交流 推动琼剧唱响国际舞台
- 甘肃积石山教育发展基金第一批助学金发放
- 引入金融活水 17家金融机构1460亿元支持辽宁省振兴发展
- “要想富先建港” 中企海外港口建设背后的“生意经”
- 绿茶:最具代表性的主流茶叶
- 完善的社区商业需要小店铺
- 以色列总理与美国务卿讨论加沙地带局势
- 泰国今年以来入境游客超800万人次
- 2023欧亚经济论坛9月将在西安启幕