帮助大模型提升自身安全性 科研团队发布AI安全平台
中新网北京7月9日电 (记者 张素)以ChatGPT为代表的生成式人工智能广受关注,大模型亦在加速发展。科研团队近日发布新的AI安全平台,以期为大模型系好“安全带”、把好“方向盘”。
据介绍,人工智能安全平台RealSafe3.0版本由清华大学人工智能研究院孵化企业瑞莱智慧RealAI发布。该平台能够提供端到端的模型安全性测评解决方案,旨在解决当前通用大模型安全风险难以审计的“痛点”。
“大模型‘落地难’的本质在于,当前还没有找到场景、风险和规范三者之间的平衡点。”瑞莱智慧联合创始人、算法科学家萧子豪在受访时说,而在探寻这一平衡点的过程中缺少易用和标准化的工具。换言之,亟须在技术层面找到有力抓手,帮助人们科学评判大模型在场景中能否同时满足规范和低风险,助力大模型上线运行。
据知,相较上一版本,RealSafe3.0新增了对通用大模型的评测。该平台覆盖数据安全、认知任务、通用模型特有漏洞、滥用场景等近70个评测维度,可以全方位、多维度地评测通用大模型的性能,未来还会持续扩增测评维度的数量。
萧子豪介绍说,RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集,来帮助用户修复模型中的问题。例如,对黑盒不可解释的通用大模型,自研红队对抗模型取代人工设计问题,显著提升攻击成功率和样本多样性。
再如,教练模型通过对被测大模型进行多轮次的“提问—回答训练”,并以训练好的评分模型对问答结果进行评分,再将评分结果反馈给大模型,使其不断强化学习到好坏答案的要点及区别,直至问答能力逐步迭代至最优。
值得一提的是,瑞莱智慧科研团队还研发出能够防范生成式人工智能恶意滥用的DeepReal2.0,即“生成式人工智能内容检测平台”。该平台支持对图像、视频、音频、文本进行是否伪造的检测,应用场景包括打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等。
“我们将持续迭代技术、打磨产品,以确保在这场人工智能安全‘攻防战’中始终立于不败之地,将人工智能的两面性这一‘关键变量’,转化为高质量发展的‘最大增量’。”萧子豪说。(完)
- 最近发表
-
- 随机阅读
-
- 山西省人大代表陈榆:借势“银发经济”促进内需消费
- 邓台村忆邓丽君:已去经年 仿佛从未走远
- 非盟加入二十国集团将推动多边主义发展(国际论坛)
- 以军空袭黎巴嫩东部 炸死哈马斯高级成员
- “灾害事故e键通”小程序上线
- 教育部部署各地深入开展“2023高考护航行动”
- 电商包年、好友拼团、花卉市场……你更愿意去哪里选购鲜花?
- 成渝餐饮如何走向新发展阶段?存不同 谋交融 共建餐饮生态圈
- “清风窗口”培育营商沃土
- 重庆成立首个数字企业出海联合体
- 摩根投信:中国优化疫情防控措施提振亚洲经济
- “狙击手能看到的地方都是杀戮区” 军官自曝以军在加沙进行杀人比赛
- 财经观察:三组“流动”数据彰显经济社会发展活力
- 云南“山月亮组合”:创作民歌“时代声音”义不容辞
- 江西本月发生4起雷电伤亡事故 造成3死3伤
- 国家能源局:11月份全社会用电量同比增长11.6%
- 法国极右翼党派领导人勒庞因挪用公款案出庭受审
- 浙江金华一水库施工现场发现古墓 初步推断为五代末到宋初
- “X-Date”逼近 美国能渡过难关吗?
- 男子声称携带爆炸物致马航一航班返航 已被逮捕
- 热门推荐
-
- 维生素B“套娃”式包装 制药厂:为给药品避光
- 文化中国行 | 佳节氛围感拉满!各地文化活动尽显中秋韵味
- 柴达木盆地实现找矿新突破 发现各类矿产100余种
- (身边的变化)内蒙古林西县:昔日烧火柴今成工艺品 带动村民致富
- 普京出席这场峰会,信息量很大
- 江苏扬州市生态科技新城:科创立区为“头号工程”
- 下周北方气温将大面积创下半年来新低 中东部迎较大范围降雨
- 应对未知疾病 非洲疾控中心加大对刚果(金)支持力度
- 中国最大页岩气生产基地累产气突破800亿立方米
- 户外运动掀起新消费热潮 2025年市场规模或达3万亿元
- 7月中国全社会用电量同比增长6.5%
- 探索自然保护地群创新联盟 青海形成祁连山生态保护合力
- 女硕士返乡和村民一起闯出“致富路”
- 2020年家居流行风,哪种最“潮”?
- 北京怀柔“花式”普法满足群众法治新需求
- 北京专场招聘会为灾区提供近3500个就业岗位
- 厦大召开第十二次党代会:未来中心任务全面建设中国特色世界一流大学
- “银发经济”加速成为经济新赛道
- 步步向前丨看2023半年经济 民营经济担当“生力军”
- 外媒:白宫称乌克兰必须先打败俄罗斯才能加入北约