人工智能双刃剑,如何把好“安全关”?
中新网北京11月3日电 (记者 夏宾)“以深度学习为核心的人工智能技术是一把双刃剑,其作为赋能技术有着极其丰富的应用空间,更带来了前所未有的安全挑战。”中国工程院院士邬江兴近日在京参加2024绿盟科技TechWorld智慧安全大会时这样说。
面对人工智能这把双刃剑,我们该如何把好“安全关”?邬江兴首先指出,AI算法模型存在“三不可”的基因缺陷,即不可解释性、不可判识性以及不可推论性。
他认为,整个AI安全可分为内生安全问题和非内生安全问题,内生又分为个性问题和共性问题,当下,网络内生安全问题正在全面挑战当今世界生态系统底层驱动技术。网络内生安全范式应当是AI可信应用系统理论发展方向,智能时代需要正确的理论方向,以确保AI技术的健康发展。
中国科学院院士冯登国谈到,当前,人工智能技术已经从较为单一的算法发展阶段跨越到了软件、硬件与应用场景相结合的全方位、一体化的发展阶段,AI算法的更新迭代,使得传统安全分析技术无法适应人工智能领域出现的新算法和新模型。
冯登国表示,应对网络空间安全形势变化,需要更坚实、富有弹性的网络空间安全保障体系。他从数据泄露、关基保护、深度伪造、错误信息涌现等角度解读大模型伴生的安全风险和挑战,并从政策法规制定、前沿技术探索和创新能力提升三个维度思考应对之策。
绿盟科技集团董事长、总裁胡忠华直言,近年来持续加大在数据安全、人工智能等领域的创新投入。一方面,围绕日志降噪、推理研判、自动化渗透攻击三个安全实战场景,持续迭代安全垂域大模型,通过提示词工程构建安全专家思维链,并使用检索增强、知识图谱提升可信度和专业度,为用户提供具备可落地的安全检测、研判能力。
另一方面,持续加强技术研究与创新,从构建可信任的安全智能生态出发,逐步构建“大模型+小模型”协同安全运营新体系,并在大模型安全性方向进行深入研究,发布了AI大模型安全威胁矩阵及风险评估工具,帮助用户在自有模型时管理安全风险。
教育部信息技术新工科联盟网络空间安全工委会主任、杭州市人工智能学会副理事长胡瑞敏认为,在数据被列为第五大生产要素的今天,应对数据供不出、流不动、安全保障难等挑战,亟需构建一个面向数据要素化的数据生命周期安全防护体系。
胡瑞敏以数据安全风险事件为切入点,引出当前数据安全面临的困境,即数据分级分类、可信确权以及数据安全利用,并进一步对其团队在数据安全防护密码技术领域的研究工作进行了介绍。
国家工业信息安全发展研究中心首席专家、数据安全所所长李俊指出,数据作为数字经济时代的关键新兴生产要素,保障数据安全已成为事关国家安全与经济社会发展的重大问题。随着新一代信息技术与制造业深度融合,工业企业数字化、网络化、智能化加速推进,工业数据载体漏洞和后门、非受控运维、数据暴露面等数据安全风险日益突出。
李俊称,在此形势下,行业主管部门已构建工信领域数据安全“1+5”政策体系,加快数据安全监管技术能力建设与实践落地,切实指导工业企业提升数据安全管理和防护水平。(完)
- 最近发表
-
- 随机阅读
-
- 巴拿马运河水位“新低”冲击国际贸易
- 鱼跃人欢 新疆乌伦古湖冬捕文化旅游节开幕
- 2023年全国文化及相关产业增加值占GDP比重为4.59%
- 61名韩国青年友好使者访青 搭建友谊合作桥梁
- 中央气象台:弱冷空气持续影响北方 南方将有雨雪天气
- 探访集大原高铁朔州东站 晋北能源城市跨进高铁时代
- 企业让员工“主管”变“专员”还单方解雇 法院判决解雇违法
- 湖南零陵培育高素质新农人 为乡村振兴提供人才支撑
- 多家国际金融机构预计2024年新兴经济体加速复苏
- 浙江“冬晒经济”升温 “土特产”产销两旺
- 中国学的世界对话·比利时论坛在布鲁塞尔举行
- 阿联酋驻华大使:推动行动计划以重申对气候和可持续发展问题承诺
- 进博会交通保障誓师大会举行:新增外卡支付等服务
- 拉萨迎“萨嘎达瓦”朝佛高峰
- 财政部:此次增发的1万亿国债将于今明两年安排使用
- 台风来袭,群众人财物损失怎么办?
- “成都熊猫旅游驿站”首次在北欧设立
- 22家A股锂电池公司去年营收合计超6151亿元
- 昔日石头房今朝“桃花源” 新业态唤醒浙江乡村
- “教育+人工智能”让大规模个性化教育成为可能
- 热门推荐
-
- 联合国环境规划署举行“塑战速决”2023世界环境日主题活动
- 中央广播电视总台2023年十大国内、国际体育新闻评选出炉
- “美国想要中国大陆和台湾对抗,东盟没必要卷入”
- 以色列是伊朗军工厂遭无人机袭击的幕后黑手吗?
- 加速打通信息“大动脉”
- 辽宁激发涉外经营主体活力 提供便利化外汇服务
- 3月份中国北方地区或有4至5次沙尘过程
- 河南新乡通报“母子被同学家长殴打”:打人家长被行拘、罚款
- 乌苏里江上游发生有实测资料以来最大洪水
- 哈尔滨创意设计中心揭牌仪式暨哈尔滨创意设计节启动 启龙粤合作新篇章
- 麦当劳中国科研总部落户江苏南京
- 用艺术反哺家乡:北方昆曲剧院赴河北高阳“寻根”义演
- “一大一小”为人艺全年创作收官
- 00后的跟团游——同龄人旅行团了解一下
- 中国建设银行与沙特公共投资基金签署合作备忘录
- 第七个中国农民丰收节主场设在河南兰考
- 塞瓦斯托波尔遭袭已致3死近百伤 俄称乌军使用集束弹药
- 科尔沁沙地:从风沙“南来北往”到绿意“欢颜驻足”
- 《天才杨振宁:创造力与平衡感》立体呈现传主百年丰富人生
- 公厕装着透明门,低级错误不该犯