(经济观察)AI带来网络安全风险 专家建言“用魔法打败魔法”
中新社北京6月5日电 (记者 刘育英)通过AI换脸的网络诈骗、基于AI的钓鱼邮件、AI数据“投毒”……如何应对人工智能带来的网络安全挑战和攻击?专家认为,应尽快发挥AI赋能网络安全的积极作用,实现“用魔法打败魔法”。
在5日举行的2024北京网络安全大会上,中国新一代人工智能发展战略研究院执行院长龚克表示,人工智能是先进生产力,但远未成熟,存在技术瓶颈和社会忧虑。
他认为,人工智能的风险主要来自两个方面:一方面,是人工智能技术存在弱点和不足,而不是过于强大,需靠发展创新去解决;另一方面,是使用者对人工智能的滥用和恶意使用,以及依赖而非驾驭人工智能。
巴基斯坦NCERT主席阿巴斯·海德尔说,大型语言模型(LLM)正在彻底改变网络安全形势,AI在网络安全领域带来的既有挑战,也有机遇。例如,网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件,但企业也可以用AI完成威胁检测和事件响应、处置。
根据奇安信发布的《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。
在中央网信办网络安全协调局副局长王营康看来,随着人工智能技术发展,攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等,网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。
当前中国新一代人工智能正在与实体经济深度融合,广泛应用于社会民生领域。龚克呼吁推进AI与网络安全融合创新。一方面,人工智能的发展推动了网络安全技术的创新。例如,基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现。另一方面,人工智能的自动化和智能化特性又可以大大提高网络安全管理效率。通过自动化检测、响应和风险评估等流程,可以更快地应对网络威胁。
AI大模型能否解决问题?奇安信董事长齐向东说,AI大模型不是万能钥匙。做好“AI驱动安全”至少需要具备三大条件:其一,高质量的训练数据;其二,纵深防御的内生安全体系;其三,设备、体系具有统一的输入输出标准。
目前,AI驱动安全成效初显。国家电网有限公司副总信息师王继业介绍,国家电网依托大数据平台,加强人工智能与网络安全的融合,研究基于人工智能的风险异常检测方法,开展网络安全关联分析、事件处置和调查溯源,强化网络安全威胁监测和应急处置,实现网络安全事件的智能响应、联动防御。
在技术之外,与会者呼吁进一步提高对网络安全态势的重视,强化体系化安全能力建设。“数据安全是人工智能安全的前提和基础”,中国友谊促进会理事长、国家网信办原副主任陈智敏认为,要从网络安全保卫向数据安全保卫的工作模式拓展,为构建与数字生产力相适应的新型生产关系奠定基础。
王营康建议,要统筹网络安全各方力量,构建大网络安全工作格局,推动形成体系化防御能力;要统筹高质量发展和高水平安全,推动形成人工智能综合治理体系。(完)
- 最近发表
-
- 随机阅读
-
- 旅游市场热度攀升 “避暑游”“出境游”预订火热
- 江山如画|江山画中游,寻福建东方之美
- 让出救援通道!西藏日喀则部分路段实施临时交通管制
- 新科技“唤醒”旧物证 南京警方破获一起38年前命案
- 以琴为媒 闽台口琴爱好者共谱美妙旋律
- 成都动物园动物“花式过冬”:电暖器、地暖齐上阵
- “紫禁城与凡尔赛宫—17、18世纪的中法交往”展开幕
- 释放户外运动市场更大活力
- 江西2023年开工65项110千伏及以上电网项目
- 各地市场产销两旺腾起浓浓“烟火气” “年货经济”释放强大消费潜力
- 能源宪章条约难续欧洲“情缘”
- 广东惠州巽寮妈祖文化旅游节吸引众多港澳台游客
- 环比增速连续八个季度正增长,中国经济持续恢复向好态势越来越稳了
- 俄乌局势进展:欧盟峰会聚焦乌克兰危机最新进展 世界银行批准15亿美元对乌贷款
- 中国地震局:甘肃积石山6.2级地震为逆冲型破裂和主震-余震型地震
- 詹启敏:大数据和人工智能为医学模式带来革命性改变
- 科考游并非高门槛,有热爱就可奔赴
- 美国纽约市发生地铁列车相撞事故 已造成8人受伤
- 在宁港澳台胞感受中秋节日氛围
- 广东省惠州市财政局副局长陈镇坤被查
- 热门推荐
-
- 粤东城际铁路全线首座连续梁合龙
- 租房市场不该歧视老年人
- 北京发布一季度人力资源市场薪酬状况报告
- 印尼龙目岛打造“超级优先旅游目的地”
- 新疆多措并举深化医疗保障改革 实现“更好保障病有所医”
- 上海电气聚焦硬核工业科技亮相2024工博会
- 在水泥地面收获“冲浪”的快感,陆冲成户外新宠
- 天津职业教育探索跨省人才联合培养模式
- 林下养鸡 江西南昌“90后”小伙探索生态养殖致富路
- 近距离用眼时间大增 戴老花镜年龄或提早
- 美国6月CPI同比上涨3% 环比下降0.1%
- 原创越剧史诗《胆剑千秋》在国家大剧院公演
- 我国将从供需两侧发力 推动重点行业生产平稳增长、结构优化升级
- 浙江县域观察:山区做好“人”文章 创业创新活力旺
- 中外专家北京探讨AI如何让机器人更“聪明”
- 海南自贸港药品、医疗器械“零关税”政策首单落地
- 7月亚洲制造业PMI微升至50.5% 继续保持平稳增长态势
- 青海高原特色冷凉蔬菜实现直接供港
- 河南漯河以“食”聚“贤” 提供招聘岗位5545个
- 台胞组团“登陆”浙江宁波开启“来电”之旅