(经济观察)AI带来网络安全风险 专家建言“用魔法打败魔法”
中新社北京6月5日电 (记者 刘育英)通过AI换脸的网络诈骗、基于AI的钓鱼邮件、AI数据“投毒”……如何应对人工智能带来的网络安全挑战和攻击?专家认为,应尽快发挥AI赋能网络安全的积极作用,实现“用魔法打败魔法”。
在5日举行的2024北京网络安全大会上,中国新一代人工智能发展战略研究院执行院长龚克表示,人工智能是先进生产力,但远未成熟,存在技术瓶颈和社会忧虑。
他认为,人工智能的风险主要来自两个方面:一方面,是人工智能技术存在弱点和不足,而不是过于强大,需靠发展创新去解决;另一方面,是使用者对人工智能的滥用和恶意使用,以及依赖而非驾驭人工智能。
巴基斯坦NCERT主席阿巴斯·海德尔说,大型语言模型(LLM)正在彻底改变网络安全形势,AI在网络安全领域带来的既有挑战,也有机遇。例如,网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件,但企业也可以用AI完成威胁检测和事件响应、处置。
根据奇安信发布的《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。
在中央网信办网络安全协调局副局长王营康看来,随着人工智能技术发展,攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等,网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。
当前中国新一代人工智能正在与实体经济深度融合,广泛应用于社会民生领域。龚克呼吁推进AI与网络安全融合创新。一方面,人工智能的发展推动了网络安全技术的创新。例如,基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现。另一方面,人工智能的自动化和智能化特性又可以大大提高网络安全管理效率。通过自动化检测、响应和风险评估等流程,可以更快地应对网络威胁。
AI大模型能否解决问题?奇安信董事长齐向东说,AI大模型不是万能钥匙。做好“AI驱动安全”至少需要具备三大条件:其一,高质量的训练数据;其二,纵深防御的内生安全体系;其三,设备、体系具有统一的输入输出标准。
目前,AI驱动安全成效初显。国家电网有限公司副总信息师王继业介绍,国家电网依托大数据平台,加强人工智能与网络安全的融合,研究基于人工智能的风险异常检测方法,开展网络安全关联分析、事件处置和调查溯源,强化网络安全威胁监测和应急处置,实现网络安全事件的智能响应、联动防御。
在技术之外,与会者呼吁进一步提高对网络安全态势的重视,强化体系化安全能力建设。“数据安全是人工智能安全的前提和基础”,中国友谊促进会理事长、国家网信办原副主任陈智敏认为,要从网络安全保卫向数据安全保卫的工作模式拓展,为构建与数字生产力相适应的新型生产关系奠定基础。
王营康建议,要统筹网络安全各方力量,构建大网络安全工作格局,推动形成体系化防御能力;要统筹高质量发展和高水平安全,推动形成人工智能综合治理体系。(完)
- 最近发表
-
- 随机阅读
-
- 美国缘何枪响不断
- 落下闳春节文化活动开幕 万人春节发源地同品腊八粥
- 泰国国王正式任命赛塔·他威信为总理
- 网聚新动能 网络人士看上海自贸试验区十周年成果
- “北国陶都”窑火不熄:“Z世代”接过祖辈技艺
- (新春走基层)1月20日起 上海四大火车站全部进入通宵运营模式
- 中国民航局:2024年民航安全态势总体平稳
- 特朗普最新发声:自己的“右耳上部被一颗子弹击穿”
- 高枕并非无忧 新研究显示使用过高枕头可能诱发自发性椎动脉夹层
- “2023清风行动”重庆查办野生动植物案件484起
- 睡前关灯刷手机小心伤眼
- 美众议长麦卡锡称需谈判解决债务上限问题
- 北京有礼携非遗老字号近百款特色年礼过最“潮”中国节
- 福建6日将迎来暴雨或大暴雨 相关海域渔船和人员已全部撤离上岸
- 中国首套自主研发的海底注水树投用
- 2009年以来冬季最强雨雪过程来袭 中国气象局启动三级应急响应
- 脑机接口接入现实
- 美国众议院多数党领袖斯卡利斯宣布竞选众议长
- 以全新方式呈演世界经典轻歌剧作品 “邂逅”音乐会登台
- 自诩“人权灯塔” 美国童工问题成灯下黑
- 热门推荐
-
- 东部和南部海区有偏北大风 新疆北部西藏等地有明显降雪
- 中国首次实现重度盐碱地种植蕨麻
- 首次线上线下联动举办人才招聘会 @数字经济人才,上万个岗位等你来
- 首届北京市青少年阅读节启动 “阅读第一课”助推读好书善读书
- 走近当年选择殡葬专业的00后学子
- 吴亦凡强奸、聚众淫乱案二审维持原判 获刑13年
- 中国驻柬大使:打击网赌电诈犯罪是地区国家的共识
- 中国驻日本大使吴江浩出席“2023东京·中国电影周”闭幕式
- 北京供热系统进入热态调试期
- 浙江村庄护航“金色”晚年 15年发放养老补助金近千万
- 两岸信众福州共祭白马王 传承千年信俗文化
- 中国11个省市汉字文物上海集中展出 带观众探寻中华民族文明之光
- 上海多措并举培养课后育人“主力军” 为学生营造个性发展时空
- 克里姆林宫回应拜登退选:这是美国选民应当关心的事
- (高质量发展调研行)雄安新区三所北京“交钥匙”学校今年9月首迎新生
- 刚果(金)总理辞职
- (乡村行·看振兴)新疆兵团:“一年两熟”种植模式助力民众显著增收
- 第三届横琴世界湾区论坛·金融主题论坛举行
- 国家统计局:2023年货物进出口总额417568亿元
- 洪都拉斯香蕉和咖啡豆获检疫准入