人工智能双刃剑,如何把好“安全关”?
中新网北京11月3日电 (记者 夏宾)“以深度学习为核心的人工智能技术是一把双刃剑,其作为赋能技术有着极其丰富的应用空间,更带来了前所未有的安全挑战。”中国工程院院士邬江兴近日在京参加2024绿盟科技TechWorld智慧安全大会时这样说。
面对人工智能这把双刃剑,我们该如何把好“安全关”?邬江兴首先指出,AI算法模型存在“三不可”的基因缺陷,即不可解释性、不可判识性以及不可推论性。
他认为,整个AI安全可分为内生安全问题和非内生安全问题,内生又分为个性问题和共性问题,当下,网络内生安全问题正在全面挑战当今世界生态系统底层驱动技术。网络内生安全范式应当是AI可信应用系统理论发展方向,智能时代需要正确的理论方向,以确保AI技术的健康发展。
中国科学院院士冯登国谈到,当前,人工智能技术已经从较为单一的算法发展阶段跨越到了软件、硬件与应用场景相结合的全方位、一体化的发展阶段,AI算法的更新迭代,使得传统安全分析技术无法适应人工智能领域出现的新算法和新模型。
冯登国表示,应对网络空间安全形势变化,需要更坚实、富有弹性的网络空间安全保障体系。他从数据泄露、关基保护、深度伪造、错误信息涌现等角度解读大模型伴生的安全风险和挑战,并从政策法规制定、前沿技术探索和创新能力提升三个维度思考应对之策。
绿盟科技集团董事长、总裁胡忠华直言,近年来持续加大在数据安全、人工智能等领域的创新投入。一方面,围绕日志降噪、推理研判、自动化渗透攻击三个安全实战场景,持续迭代安全垂域大模型,通过提示词工程构建安全专家思维链,并使用检索增强、知识图谱提升可信度和专业度,为用户提供具备可落地的安全检测、研判能力。
另一方面,持续加强技术研究与创新,从构建可信任的安全智能生态出发,逐步构建“大模型+小模型”协同安全运营新体系,并在大模型安全性方向进行深入研究,发布了AI大模型安全威胁矩阵及风险评估工具,帮助用户在自有模型时管理安全风险。
教育部信息技术新工科联盟网络空间安全工委会主任、杭州市人工智能学会副理事长胡瑞敏认为,在数据被列为第五大生产要素的今天,应对数据供不出、流不动、安全保障难等挑战,亟需构建一个面向数据要素化的数据生命周期安全防护体系。
胡瑞敏以数据安全风险事件为切入点,引出当前数据安全面临的困境,即数据分级分类、可信确权以及数据安全利用,并进一步对其团队在数据安全防护密码技术领域的研究工作进行了介绍。
国家工业信息安全发展研究中心首席专家、数据安全所所长李俊指出,数据作为数字经济时代的关键新兴生产要素,保障数据安全已成为事关国家安全与经济社会发展的重大问题。随着新一代信息技术与制造业深度融合,工业企业数字化、网络化、智能化加速推进,工业数据载体漏洞和后门、非受控运维、数据暴露面等数据安全风险日益突出。
李俊称,在此形势下,行业主管部门已构建工信领域数据安全“1+5”政策体系,加快数据安全监管技术能力建设与实践落地,切实指导工业企业提升数据安全管理和防护水平。(完)
- 最近发表
-
- 随机阅读
-
- 预防青少年心理健康问题,多位专家支招
- “糖丸爷爷”归浙江宁波故土 “一生一事”造福千万幼儿
- 36人遇难!京都动画纵火案首次开庭 被告承认纵火杀人
- 中国经济新上加新
- 为乡村注入活力 90后乡村规划师驻村记
- 河北94个县(区)826个乡(镇)遭受洪涝灾害
- “一带一路”背景下企业廉洁合规发展论坛凝聚廉洁之路建设共识
- 第九届“全国优秀小戏小品”展演西安开幕
- 外国友人逛义乌市场纷纷点赞:物美价廉,目不暇接,便捷超预期
- 中新文娱评视频会员投屏需加钱:观众不是养肥再宰的羔羊
- 跨越“山海”上博馆“塔拉萨:海洋文明与希腊艺术”启幕
- 锦绣中国年|广州番禺员岗时隔七年再办飘色巡游
- 上半年吉尔吉斯斯坦外贸额同比增长9.4%
- 宁夏整治乡村振兴领域腐败和作风问题 2023年整改问题3183个
- 7月18日“农产品批发价格200指数”比昨天上升0.04个点
- 中国扩大开放为世界创造更大机遇
- 篮球综艺《我的主场》走进福州 助力全民健身
- 陕西省气象台发布雷雨大风黄色预警信号
- 世界肥胖日:孩子肥胖重点在于改变生活方式
- 第十三届中国创新创业大赛北斗应用专业赛决赛在湖南株洲举行
- 热门推荐
-
- 网约送餐行业全国首个全网职代会、首份全网集体合同在沪落地
- 日本福冈发生机动车冲撞行人事故 多名学生受伤
- 低度酒潮饮 凭什么让年轻人“上头”?
- 中国在线旅游平台:暑期预计约200万儿童购买“人生第一张机票”
- 东方甄选“去董宇辉化”?没那么简单
- 甘肃凉州:让非遗民俗文化“活起来”
- 以总理向遇难人质家属道歉 但坚持以军须永久驻留“费城走廊”
- 川渝近300家公立医院年内将实现检查检验结果互认
- 伏羲文化“根脉”何处寻?全国“智囊团”甘肃天水探源
- 山西襄垣:“小喇叭民警”喊出来的平安秋夜
- 广西首个“源网荷储”新能源数据中心开工
- 新场景、新模式成增长新亮点 “618”助力消费回升向好
- 古井集团:打造特色党建品牌 赋能企业高质量发展
- 国际年终观察:盘点2023,六个字读懂世界变局!
- 国际锐评|中国两会给世界带来春天的暖意
- “歪果仁”镜头里“忘却时间”的通天河畔千年古村
- 流域155座大中型水库全部投入防洪运用 水利部海委会全力迎战流域性大洪水
- 巴西央行上调基准利率至10.75%
- 《2023年全国小学生暑期分年级阅读推荐书目》发布
- “戏精”原单:“直播间只要399” 高仿包装出“捡漏”