(经济观察)AI带来网络安全风险 专家建言“用魔法打败魔法”
中新社北京6月5日电 (记者 刘育英)通过AI换脸的网络诈骗、基于AI的钓鱼邮件、AI数据“投毒”……如何应对人工智能带来的网络安全挑战和攻击?专家认为,应尽快发挥AI赋能网络安全的积极作用,实现“用魔法打败魔法”。
在5日举行的2024北京网络安全大会上,中国新一代人工智能发展战略研究院执行院长龚克表示,人工智能是先进生产力,但远未成熟,存在技术瓶颈和社会忧虑。
他认为,人工智能的风险主要来自两个方面:一方面,是人工智能技术存在弱点和不足,而不是过于强大,需靠发展创新去解决;另一方面,是使用者对人工智能的滥用和恶意使用,以及依赖而非驾驭人工智能。
巴基斯坦NCERT主席阿巴斯·海德尔说,大型语言模型(LLM)正在彻底改变网络安全形势,AI在网络安全领域带来的既有挑战,也有机遇。例如,网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件,但企业也可以用AI完成威胁检测和事件响应、处置。
根据奇安信发布的《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。
在中央网信办网络安全协调局副局长王营康看来,随着人工智能技术发展,攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等,网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。
当前中国新一代人工智能正在与实体经济深度融合,广泛应用于社会民生领域。龚克呼吁推进AI与网络安全融合创新。一方面,人工智能的发展推动了网络安全技术的创新。例如,基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现。另一方面,人工智能的自动化和智能化特性又可以大大提高网络安全管理效率。通过自动化检测、响应和风险评估等流程,可以更快地应对网络威胁。
AI大模型能否解决问题?奇安信董事长齐向东说,AI大模型不是万能钥匙。做好“AI驱动安全”至少需要具备三大条件:其一,高质量的训练数据;其二,纵深防御的内生安全体系;其三,设备、体系具有统一的输入输出标准。
目前,AI驱动安全成效初显。国家电网有限公司副总信息师王继业介绍,国家电网依托大数据平台,加强人工智能与网络安全的融合,研究基于人工智能的风险异常检测方法,开展网络安全关联分析、事件处置和调查溯源,强化网络安全威胁监测和应急处置,实现网络安全事件的智能响应、联动防御。
在技术之外,与会者呼吁进一步提高对网络安全态势的重视,强化体系化安全能力建设。“数据安全是人工智能安全的前提和基础”,中国友谊促进会理事长、国家网信办原副主任陈智敏认为,要从网络安全保卫向数据安全保卫的工作模式拓展,为构建与数字生产力相适应的新型生产关系奠定基础。
王营康建议,要统筹网络安全各方力量,构建大网络安全工作格局,推动形成体系化防御能力;要统筹高质量发展和高水平安全,推动形成人工智能综合治理体系。(完)
- 最近发表
-
- 随机阅读
-
- “人民需要什么,就造什么”,五菱这次该造点什么?
- 外媒:忧伊朗报复 以色列28个使领馆临时关闭
- 第八届华语戏剧榜单揭幕 金士杰明家歆分获最佳男女主角
- 西安铁路“空姐”:“快、准、稳”练就六年零失误
- 中国7月银行结售汇呈小幅逆差 境内外汇供求保持基本平衡
- 半年“跨”出1.22万亿元!我国跨境电商这样跑出“加速度”
- 宁夏银川烧烤店燃气爆炸事故伤亡人员身份已全部核定
- 山西升级发布暴雪橙色预警
- “千万工程”绘就乡村蝶变新画卷
- 精益数字化创新大会在天津举办 助推制造业新质生产力发展
- 国产油气管道焊丝 一次焊接合格率超98%
- 国开行两项成果纳入中巴高委会第七次会议成果清单
- 木兰陂修建960周年 新歌《情义木兰》首发
- 新技术可快速测试数千种基因突变
- 突发!巴西一巨型热气球失控 致多个街区用户断电
- 旅泰大熊猫“林惠”离世 网友哀悼:“回到它的星球”
- 汉莎航空集团将持续恢复赴华航班
- 粽子礼盒混装混搭再现“天价粽”
- 从千年古镇到特色苗寨 “四好农村路”见证乡村华丽蝶变
- 浙江推百大镇馆之宝特展迎春节 23件镇馆之宝亮相
- 热门推荐
-
- (寻味中华|非遗)简牍载春秋 方寸览千年
- 从“多个岗位争一名毕业生”看养老服务人才培养
- 山西太原通报“社区干部瓜分捐赠香烟”:区纪委监委已介入调查
- 东北大学迎百年校庆 师生校友齐聚共贺
- 网聚视听力量,让大流量与正能量双向奔赴
- 江苏开建我国首个百万千瓦级居民虚拟电厂
- 粤港澳三地书画名家作品展在澳门举行
- 《十万个为什么》(第七版)编纂工作正式启动
- 渝昆高铁云南段全面进入桥梁箱梁架设阶段
- (两会声音)人大代表建议完善储能用固态电池国家标准
- 民营银行晒年报:有的大赚百亿 有的增收不增利
- 浙江“非遗茶空间”代表聚杭州 探非遗茶文化传承发展
- 菲总统马科斯任命银行家沃尔特·瓦斯默为央行货币委员会新成员
- 2024“看中国·外国青年影像计划·陕西行”展映仪式举行
- 俄媒:俄罗斯坠机事件遇难者遗体被送往太平间
- 全城果香四溢 “中国李乡”广东信宜“享李季”开启
- 中越边境广西浦寨货运通道今年出入境车辆突破16万辆次
- 插上“数字化”翅膀,县域女性就业有了新选择
- 尹锡悦律师:如果调查机关起诉或申请拘押尹锡悦 其将作出回应
- 《穆斯林的葬礼》马来文版新书发布