“以魔治魔”,解决大模型“幻觉”等安全问题
中新网北京7月6日电(中新财经记者 吴涛)随着AI大模型的发展,新技术应用不断加码的同时,网络威胁也随之升级。提升安全防护能力,筑牢安全基线,成为发展数智技术的关键。
在2024全球数字经济大会期间举办的多个分论坛上,不少嘉宾都提到了AI安全话题,要用“魔法打败魔法”,AI驱动提升网络安全攻防能力。不少网络安全产品一个重要指标便是“含AI量”。
AI衍生出新安全问题
据多位业内人士介绍,大模型发展的同时,也带来了非常复杂的安全问题,同时还降低了网络攻击的技术门槛,借助AI能力,攻击者越来越走向自动化、智能化和武器化,甚至造成安全防御的整体瘫痪。
赛迪顾问总裁助理高丹表示,涉及到的安全问题首先就是“幻觉”问题。“你问AI大模型一个问题,它可能说得清清楚楚,但其实都在瞎说,真假难辨”。
360数字安全集团总裁胡振泉表示,人工智能的算法可能存在数据投毒攻击、恶意样本攻击;生成式人工智能在对话交互的过程当中也可能存在数据非法获取、泄露和滥用等问题;还有很多利用人工智能制作虚假视频进行诈骗、敲诈勒索等非法活动。
清华大学长聘副教授张超表示,网络安全第一阶段是“人做攻防”,第二阶段是“机器攻防”。自2017年开始,已经进入第三阶段“智能攻防”,即用AI来做漏洞攻防相关研究,现在一些领先的安全企业已经强调用AI来做全自动攻防的机器人。
逆向利用大模型
该如何解决AI时代带来的安全问题?中国工程院院士沈昌祥在大会期间的分论坛上表示,数据安全治理需要做到全程管控,要实现首先让进攻者“进不去”,进去后“拿不到”数据,接着因为数据被加密“看不懂”,并且系统带有自动免疫功能,让进攻者“改不了”数据。
“大模型一个典型应用是信息缺失之后模型帮你补偿出来,比如文生图、文生视等。如果用在安全上呢?”张超表示,黑客针对目标软件,需要拿到一个目标软件漏洞然后攻击它,第一步就需要去理解它、分析它,这个地方叫逆向工程,因为没有源代码,可以使用一些AI软件把它逆向出来。
高丹认为,解决大模型“幻觉”等安全问题,首先要保证数据安全,数据不被泄露;第二数据源本身是干净的;第三要加强算法研究。从算法的角度来说,我们的算法能力越强,就能够减少相对的“幻觉”。
胡振泉认为,AI技术和数字安全的融合发展已经成为行业高度关注的课题,要用“以魔治魔”的理念,来解决人工智能面临的安全问题,也就是研发安全大模型,用人工智能来解决人工智能的安全问题。
沈昌祥还表示,不仅仅要做好预防,还要能在发现故障后及时采取措施确保稳定运行,保证设备“瘫不了”,最后还要确保行为可追溯“赖不掉”,因此我们还要打造安全可信的产业新生态,筑牢数字经济安全的基座。(完)
- 最近发表
-
- 随机阅读
-
- 看手机的正确姿势 你学会了吗?
- 快讯!韩国宪法法院启动尹锡悦弹劾案审理程序
- 2025摩登中国国际鞋包服饰时尚展览会将举办
- 宁夏中宁:“苦”药材种出“甜”滋味
- 丰田14家日本组装工厂因系统故障停工
- 重庆官方回应燃气相关问题:退款、立案、免职、整改
- “我的公交我的城”活动珠海收官
- 《2023中国电子信息工程科技发展十四大技术挑战》一书在北京香港同步发布
- 天津至大连旅顺客滚航线将于9月1日复航
- 聚焦“21世纪马克思主义与建设中华民族现代文明” 第三届21世纪马克思主义高峰论坛举行
- 在内蒙古无障碍影院 视障者通过“读”电影感受光明
- 3.32亿吨、近50万人次、40亿元 “数”说中国经济涌动澎湃活力
- 5月中国非制造业商务活动指数为54.5% 保持平稳恢复态势
- 数读中国 | 我国社会物流成本水平总体保持下降态势
- 多项精细服务保障春运物流“大动脉” 畅通“微循环”
- 河南公布2022年妇女儿童免费筛查“成绩单”
- 文博会展现高质量发展新气象 文化产业向新而兴
- 天津总装空客A321neo飞机首次向欧洲客户交付
- 两部门:鼓励保险公司开发多元化网络安全保险产品
- 能不用药就不用药 该用药时对症治疗
- 热门推荐
-
- 铁路苏州站通报“旅客不慎跌入股道”:身体并无大碍
- 一级谋杀罪!美联合健康集团高管枪杀案嫌疑人被检方起诉
- 福建终止防台风应急响应与防暴雨应急响应
- 美众议院将针对国土安全部长马约卡斯弹劾条款移交参议院
- 2024年国庆黄金周西南铁路预计发送旅客1700万人次
- 未来一周,全国大部地区大气扩散条件较好
- (经济观察)前瞻2025:利好政策可期,民生料获更好保障
- “格美”停编 湖南辽宁吉林等地仍有强降雨
- 白洋淀炖鱼:本味淀中来,传向四海去
- 故宫博物院推出系列绘本《了不起的故宫宝贝之神韵匠心》
- 在电商之城 一个批发市场拒绝直播
- 玩水好时节,这些事情要注意 | 健康过暑假
- 称中国阻碍气候谈判是罔顾事实
- 中医“互联网+医疗健康”智慧平台已在非洲国家贝宁试行
- 六连跌!油价创年内最大跌幅!加一箱油少花约16元
- 世界卫生组织眼健康与视觉合作中心在广州启动
- 十一黄金周倒计时,主题公园开启“抢人”模式
- 外媒:塞内加尔总统宣布解散国民议会
- 专家学者齐聚山东济南 共探数学学科发展
- 2024年国产飞机进入规模化发展和多用户运营新阶段