人工智能双刃剑,如何把好“安全关”?
中新网北京11月3日电 (记者 夏宾)“以深度学习为核心的人工智能技术是一把双刃剑,其作为赋能技术有着极其丰富的应用空间,更带来了前所未有的安全挑战。”中国工程院院士邬江兴近日在京参加2024绿盟科技TechWorld智慧安全大会时这样说。
面对人工智能这把双刃剑,我们该如何把好“安全关”?邬江兴首先指出,AI算法模型存在“三不可”的基因缺陷,即不可解释性、不可判识性以及不可推论性。
他认为,整个AI安全可分为内生安全问题和非内生安全问题,内生又分为个性问题和共性问题,当下,网络内生安全问题正在全面挑战当今世界生态系统底层驱动技术。网络内生安全范式应当是AI可信应用系统理论发展方向,智能时代需要正确的理论方向,以确保AI技术的健康发展。
中国科学院院士冯登国谈到,当前,人工智能技术已经从较为单一的算法发展阶段跨越到了软件、硬件与应用场景相结合的全方位、一体化的发展阶段,AI算法的更新迭代,使得传统安全分析技术无法适应人工智能领域出现的新算法和新模型。
冯登国表示,应对网络空间安全形势变化,需要更坚实、富有弹性的网络空间安全保障体系。他从数据泄露、关基保护、深度伪造、错误信息涌现等角度解读大模型伴生的安全风险和挑战,并从政策法规制定、前沿技术探索和创新能力提升三个维度思考应对之策。
绿盟科技集团董事长、总裁胡忠华直言,近年来持续加大在数据安全、人工智能等领域的创新投入。一方面,围绕日志降噪、推理研判、自动化渗透攻击三个安全实战场景,持续迭代安全垂域大模型,通过提示词工程构建安全专家思维链,并使用检索增强、知识图谱提升可信度和专业度,为用户提供具备可落地的安全检测、研判能力。
另一方面,持续加强技术研究与创新,从构建可信任的安全智能生态出发,逐步构建“大模型+小模型”协同安全运营新体系,并在大模型安全性方向进行深入研究,发布了AI大模型安全威胁矩阵及风险评估工具,帮助用户在自有模型时管理安全风险。
教育部信息技术新工科联盟网络空间安全工委会主任、杭州市人工智能学会副理事长胡瑞敏认为,在数据被列为第五大生产要素的今天,应对数据供不出、流不动、安全保障难等挑战,亟需构建一个面向数据要素化的数据生命周期安全防护体系。
胡瑞敏以数据安全风险事件为切入点,引出当前数据安全面临的困境,即数据分级分类、可信确权以及数据安全利用,并进一步对其团队在数据安全防护密码技术领域的研究工作进行了介绍。
国家工业信息安全发展研究中心首席专家、数据安全所所长李俊指出,数据作为数字经济时代的关键新兴生产要素,保障数据安全已成为事关国家安全与经济社会发展的重大问题。随着新一代信息技术与制造业深度融合,工业企业数字化、网络化、智能化加速推进,工业数据载体漏洞和后门、非受控运维、数据暴露面等数据安全风险日益突出。
李俊称,在此形势下,行业主管部门已构建工信领域数据安全“1+5”政策体系,加快数据安全监管技术能力建设与实践落地,切实指导工业企业提升数据安全管理和防护水平。(完)
- 最近发表
-
- 随机阅读
-
- 青海海北:5人被困山顶 消防紧急救援
- “五一”假期首日 天津市重点商贸企业销售额同比增10.3%
- 广西友谊关边检站年内验放出入境货运车辆超去年总量
- 潘承洞先生诞辰90周年纪念大会在济南举行
- 春天眼痒 建议你戒掉这个坏习惯
- (年终特稿)“首店经济”引燃北京消费热力
- 11月中越进出口总值创月度历史新高
- 北京租房每人每月提取公积金上限升至2000元
- 川渝地区700余个秋冬大宗蔬菜新品种集中展示
- 台风“杜苏芮”登陆后将北上 京津冀豫警惕极端降雨影响
- 南非:电缆盗窃问题严重 政府开展专项打击行动
- 日本一火电站发生爆炸 消防部门等正确认相关情况
- 步步向前丨看2023半年经济 民营经济担当“生力军”
- “一切美好如期而至”——2024年“我和祖国一起成长”六一主题演出活动侧记
- 中国各地博物馆“加班加点”假日迎客
- 这两项新规程,将对汽车行业产生哪些影响?
- “中国最后一支使鹿部落”驯鹿种群数量预计突破1600头
- 中新健康|助力科研成果转化 多机构设生物医药产业基金
- 北京发布50项高质量发展重点任务
- 当好供应链管理的“稳定器”
- 热门推荐
-
- 中国稠油开发领域首个ISO国际技术规范成功立项
- 山西省人大代表聚焦银发族 建议推动老年教育
- (身边的变化)昔日荒地变乐园 江西安义这个村“火”了
- 云南保山连发5.2级、4.4级地震:房屋受损、道路中断
- 以好体验吸引患者“云就医”
- 叙利亚总统特别顾问:叙利亚欢迎任何不附加政治条件的援助倡议
- 天津新港海关查获天津口岸今年最大数量“洋垃圾” 总重超533吨
- 新《噪声法》让百亿市场迎机遇 你会为宁静居住付费吗
- 换季咳不停,止咳有方法
- 中国南方航空C909首航广州至文莱航线
- 11月中国物流业景气指数为52.8% 需求回升总体向好
- 河北燕郊一建筑疑似燃气泄漏发生爆燃
- 中国制造的发展变化:“老三样”焕发新生机 “新三样”展现新优势
- 彰显国企担当 国药太极用实际行动筑牢“保供”防线
- “徽班”再“进京” 紫禁城里寻根
- 古琴非遗传人免费授艺 八年带出近4000学员
- 雄安新区举办“端午·雄安非遗大会”
- 国内数额最高红树林碳汇认购签约
- 一波“瑞兔宝宝”降生,有人就叫“初一”
- 俄联邦安全局称西方和乌克兰情报部门牵涉恐袭事件