齐向东:AI大模型不是万能钥匙,落地过程警惕安全风险
中新网北京6月5日电 (记者 夏宾)当前,各行各业网络化、数字化、智能化转型加速,以数据为关键要素的新产业,以人工智能为关键技术的新场景,面临的安全挑战更加复杂,各类攻击威胁与日俱增。
5日,以“AI驱动安全”为主题的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会在北京国家会议中心举行,全国工商联副主席、奇安信集团董事长齐向东在会上发表主旨演讲称,AI驱动安全是大势所趋,未来网络攻防就是得AI者得天下。
“谁能提前抓住AI变革的机遇,谁就能掌握网络空间安全的主动权。”齐向东判断,当前网络安全格局正在被颠覆重构,但这种颠覆重构不仅带来新的安全挑战,也为网络安全行业带来前所未有的战略机遇。
面对人工智能时代新的网络安全态势,2024年政府工作报告提到,加强重点领域安全能力建设,其中就包括“提高网络、数据等安全保障能力”。
据奇安信发布的《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。
一项对IT行业领导者进行的关于ChatGPT等大模型的调查显示,安全性是受访者最关心的问题,71%的受访者认为生成式人工智能会给企业数据安全带来新的风险。
由此,齐向东也提醒说,AI大模型不是万能钥匙。尤其是在当前“百模大战”的状态下,只有高质量发展的大模型,才能真正带来指数级能力跃升,激发网络安全行业的新质生产力。
他在接受中新网等媒体采访时提到了AI落地过程中的安全风险问题。例如,一旦对AI“倾囊相授”、对AI发问时“掏心窝子”,其具备的解决问题能力会越来越强,涉及到相关知识产权、商业机密等方面的内容可能会被竞争对手通过AI窃取,造成数据泄露的风险。
另一方面,无论是训练还是使用,必须把AI接入到公司内部数据中,但大部分AI又是从外部“领养”,是否存在“后门”、是否会被人“投毒”,都无从可知,这也是数据安全带来的潜在风险,若长期使用被“投毒”后的AI给出的业务决策,可能就会把业务带偏。
但他也直言,我们不要被AI可能引发的数据泄露所吓倒,应该要拥抱AI,要把安全的问题交给安全公司,相信专业人办专业的事。网络安全公司要全面拥抱AI,利用AI实现安全能力的跃升。
在齐向东看来,做好“AI驱动安全”至少需要具备三大条件,一是高质量的训练数据,二是纵深防御的内生安全体系,三是设备、体系具有统一的输入输出标准。
具体而言,既要有足够多的基础安全数据用于训练安全大模型,也要有足够贴近实战的一手原始语料用于大模型推理。齐向东认为,基于这种全而新的高质量数据训练出来的大模型,精确性和实用性才能远超未优化的通用模型。
此外,需要体系化的网络安全建设,为AI发挥效率创造平台。齐向东称,网络安全防护有赖于体系化协同。当前,通过AI赋能内生安全体系,不仅可以实现网络安全系统和客户业务系统的完美融合,更能实现网络安全响应从滞后到实时的大跃升,全时段瞬时响应成为可能,也为AI实时发挥防护功能和学习最新技术提供了真实海量场景。
“训练好的安全大模型,能否取得好效果取决于设备和体系是否有统一的标准。”齐向东认为,标准的统一至少包括两个方面,一方面是数据输入标准的统一,让AI能通过标准系统读懂“多国语言”,完成体系化分析。另一方面是指令输出标准的统一,让AI实现跨设备、跨系统的能力协同和全局联动。(完)
- 最近发表
-
- 随机阅读
-
- 重庆加快推进数字基础设施重点项目 今年累计完成投资逾50亿元
- 云南贵州文旅携手合作 盛邀游客玩透“喀斯特”
- 走进民企看发展丨爱折腾的张朝阳:秉承长期主义 机会就会涌现
- 社评:韩国清楚它蹚的这滩浑水意味着什么吗
- 正视历史 反思战争 日本千叶县举办和平主题展览
- 湖北鄂州花湖机场开通首条中东地区货运航线
- 云南省医保局出台若干措施 助力面向南亚东南亚辐射中心建设
- “五一”假期全国大部地区气温接近常年同期 适宜旅游出行
- 温暖运“蔬” 这趟“卖菜公交”载满人间烟火
- 合肥台商协会会长:台青“登陆”会发现不一样的风景
- 俄罗斯别尔哥罗德遭袭5死18伤 俄军拦截14枚火箭弹
- 中国专家创新研究:物联网赋能慢阻肺患者管理进入精准智慧医疗新阶段
- Keep启动股份回购计划,机构预测其2025年盈利
- 陆军第九五六医院抽组多学科联合医疗队为西藏戍边官兵送医送药
- 我国南部海域将有持续性大风 江浙沪沿海地区有强降雨
- 澳大利亚中华经贸文化交流促进会(华贸会)举办“全球经济展望”论坛
- 个别楼盘违规推出“0首付”购房活动,郑州官方提示
- 朝阳少侠:为什么美国总统喜欢在家藏机密文件?
- 中国消保法首部配套行政法规明确禁止“大数据杀熟”
- 海南多举措提振离岛免税消费 擦亮“金字招牌”
- 热门推荐
-
- 2023全国纺织科技成果转化与合作大会在赣开幕 共谋针纺产业发展
- 为老师减负不是一句空口号
- 皖能联手能链、永联科技等打造安徽首座“油气电氢服”一体化综合能源港
- 新疆吉木萨尔县非遗年货集市受民众欢迎
- 拉美两国领导人相继呼吁:抛弃美元!
- 拓宽技能人才职业发展道路
- 巴西总统:发达国家应在气候变化问题上承担更多责任
- 美媒:美国将向乌克兰提供陆军战术导弹系统
- 阿塞拜疆加入国际月球科研站计划
- 2024年1月我国地震、低温冷冻等自然灾害造成228.9万人次受灾
- 工业遗产如何“活化”成为文旅新地标?
- 韩最大在野党将向公调处举报总理韩德洙涉“内乱罪”
- 青海湖推动三个观测站科研合作 为国家公园创建注入动力
- 湖南靖州核算生态系统生产总值 2023年“身价”429.16亿元
- 金黄稻浪、瓜果飘香 广袤田野上绘就绚烂丰收画卷
- 青海:2024年近10万名低收入群体圆“安居梦”
- “美债火山”爆发!美元十周连阳,全球风险资产受冲击
- 一个律师见证反家暴20年
- 突发!俄沃罗涅日州发生爆炸,州长宣布进入紧急状态
- 齐鲁医院门前门牌石被泼油漆 济南警方发布情况通报