(经济观察)AI带来网络安全风险 专家建言“用魔法打败魔法”
中新社北京6月5日电 (记者 刘育英)通过AI换脸的网络诈骗、基于AI的钓鱼邮件、AI数据“投毒”……如何应对人工智能带来的网络安全挑战和攻击?专家认为,应尽快发挥AI赋能网络安全的积极作用,实现“用魔法打败魔法”。
在5日举行的2024北京网络安全大会上,中国新一代人工智能发展战略研究院执行院长龚克表示,人工智能是先进生产力,但远未成熟,存在技术瓶颈和社会忧虑。
他认为,人工智能的风险主要来自两个方面:一方面,是人工智能技术存在弱点和不足,而不是过于强大,需靠发展创新去解决;另一方面,是使用者对人工智能的滥用和恶意使用,以及依赖而非驾驭人工智能。
巴基斯坦NCERT主席阿巴斯·海德尔说,大型语言模型(LLM)正在彻底改变网络安全形势,AI在网络安全领域带来的既有挑战,也有机遇。例如,网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件,但企业也可以用AI完成威胁检测和事件响应、处置。
根据奇安信发布的《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。
在中央网信办网络安全协调局副局长王营康看来,随着人工智能技术发展,攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等,网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。
当前中国新一代人工智能正在与实体经济深度融合,广泛应用于社会民生领域。龚克呼吁推进AI与网络安全融合创新。一方面,人工智能的发展推动了网络安全技术的创新。例如,基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现。另一方面,人工智能的自动化和智能化特性又可以大大提高网络安全管理效率。通过自动化检测、响应和风险评估等流程,可以更快地应对网络威胁。
AI大模型能否解决问题?奇安信董事长齐向东说,AI大模型不是万能钥匙。做好“AI驱动安全”至少需要具备三大条件:其一,高质量的训练数据;其二,纵深防御的内生安全体系;其三,设备、体系具有统一的输入输出标准。
目前,AI驱动安全成效初显。国家电网有限公司副总信息师王继业介绍,国家电网依托大数据平台,加强人工智能与网络安全的融合,研究基于人工智能的风险异常检测方法,开展网络安全关联分析、事件处置和调查溯源,强化网络安全威胁监测和应急处置,实现网络安全事件的智能响应、联动防御。
在技术之外,与会者呼吁进一步提高对网络安全态势的重视,强化体系化安全能力建设。“数据安全是人工智能安全的前提和基础”,中国友谊促进会理事长、国家网信办原副主任陈智敏认为,要从网络安全保卫向数据安全保卫的工作模式拓展,为构建与数字生产力相适应的新型生产关系奠定基础。
王营康建议,要统筹网络安全各方力量,构建大网络安全工作格局,推动形成体系化防御能力;要统筹高质量发展和高水平安全,推动形成人工智能综合治理体系。(完)
- 最近发表
-
- 随机阅读
-
- 督察组:海南省一些地方红树林保护不力 侵占破坏问题仍然多发
- “暑期档”将启,助推旅游市场再升温
- 木版水印非遗体验周启动 非遗技艺于国家大剧院再现光彩
- “安薪北京”冬季专项行动统一 执法日为农民工追发工资超400万元
- 重庆发放首张川渝互通互认居住证
- 今天北京晴晒继续最高气温36℃ 周五炎热感将缓解
- 哈尔滨海关:非法入境“异宠”不宜宠
- 几十亿元立项工程烂尾,“造景冲动”为何停不下来?
- 美国大选共和党初选继续 美媒测算:特朗普再下三城
- 把健康视为第一自由,朱迅用行动诠释“好好爱自己”
- 多国人士齐聚日本广岛 抗议七国集团峰会召开
- “花花世界”?噢,原来在这里……
- 宁夏“互联网+农村供水”模式惠及全国6200多万农村人口
- 苏州一儿童手持弓弩自述打猫猎猫?官方通报
- 南非夸纳省遭遇强降雨 造成至少4人丧生
- 去年A股年度现金分红合计2.24万亿元
- 从一煤独大到多业并举 河南鹤壁布局新赛道打造科创新城
- 南昌台胞台属参观“中华糕饼模具大世界” 共做月饼迎中秋
- 江苏继续发布道路结冰橙色预警 多地中小学紧急停课
- 人力资源服务业为超三亿人次提供就业服务
- 热门推荐
-
- 专家:中国仿制药出海数量增加 国际对其质量认可度增强
- 青海玛沁:水源涵养修复实现“增绿”与“增收”双赢
- 三亚市市长:2025年将推出超千款特色旅游产品
- 2023年生态文明贵阳国际论坛将举行 论坛突出三个“更”
- 乌媒:乌多地拉响防空警报,基辅附近传出爆炸声
- 跨越海峡,两岸新人许下“山盟海誓”
- 去年我国物流回升势头总体向好:运行效率持续改善 单位成本稳中有降
- “Z世代”遇见长寿乡:慢生活里寻找“小确幸”
- 南非袭警数量呈上升态势 总统称打击犯罪面临更大压力
- 湖南洞庭湖一线堤防决口险情:堤坝决口缩小6米
- 谢锋:开放包容是中拉合作最宝贵的取向
- 江苏出台20条举措促进民营经济发展
- 泥河湾盆地新发现:110万年前古人类已具备较高技术水平和认知能力
- 聚力“减磷”为河湖“减负” 湖南守护洞庭清波入长江
- 海漄:现在是科幻迷“最好的时代”
- 遭遇“人生最后一次骨折” 91岁老人如何脱险?
- 网红卖课不能任性而为
- 多地加快落实房地产融资协调机制 满足房地产 “白名单”项目融资需求
- 重庆原创音乐舞台剧《无常》将赴美亮相
- 湖南祁阳“蓝衣姐姐”守护急救生命线