帮助大模型提升自身安全性 科研团队发布AI安全平台
中新网北京7月9日电 (记者 张素)以ChatGPT为代表的生成式人工智能广受关注,大模型亦在加速发展。科研团队近日发布新的AI安全平台,以期为大模型系好“安全带”、把好“方向盘”。
据介绍,人工智能安全平台RealSafe3.0版本由清华大学人工智能研究院孵化企业瑞莱智慧RealAI发布。该平台能够提供端到端的模型安全性测评解决方案,旨在解决当前通用大模型安全风险难以审计的“痛点”。
“大模型‘落地难’的本质在于,当前还没有找到场景、风险和规范三者之间的平衡点。”瑞莱智慧联合创始人、算法科学家萧子豪在受访时说,而在探寻这一平衡点的过程中缺少易用和标准化的工具。换言之,亟须在技术层面找到有力抓手,帮助人们科学评判大模型在场景中能否同时满足规范和低风险,助力大模型上线运行。
据知,相较上一版本,RealSafe3.0新增了对通用大模型的评测。该平台覆盖数据安全、认知任务、通用模型特有漏洞、滥用场景等近70个评测维度,可以全方位、多维度地评测通用大模型的性能,未来还会持续扩增测评维度的数量。
萧子豪介绍说,RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集,来帮助用户修复模型中的问题。例如,对黑盒不可解释的通用大模型,自研红队对抗模型取代人工设计问题,显著提升攻击成功率和样本多样性。
再如,教练模型通过对被测大模型进行多轮次的“提问—回答训练”,并以训练好的评分模型对问答结果进行评分,再将评分结果反馈给大模型,使其不断强化学习到好坏答案的要点及区别,直至问答能力逐步迭代至最优。
值得一提的是,瑞莱智慧科研团队还研发出能够防范生成式人工智能恶意滥用的DeepReal2.0,即“生成式人工智能内容检测平台”。该平台支持对图像、视频、音频、文本进行是否伪造的检测,应用场景包括打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等。
“我们将持续迭代技术、打磨产品,以确保在这场人工智能安全‘攻防战’中始终立于不败之地,将人工智能的两面性这一‘关键变量’,转化为高质量发展的‘最大增量’。”萧子豪说。(完)
- 最近发表
-
- 随机阅读
-
- 中国驻登巴萨总领事朱兴龙走访巴厘省伽内什国立师范大学
- 拜登宣布迪斯将卸任白宫国家经济委员会主任
- 360携手通州区共绘数字蓝图,推动京津冀协同发展开新局
- 寒假悠着点!11岁男孩玩平板电脑玩成“斗鸡眼”
- 财政部在香港顺利发行2024年第四期90亿元人民币国债
- 中国三部门支持首台(套)重大技术装备平等参与企业招标投标活动
- 2024使节新春音乐会在京奏响 用音乐经典搭建文化桥梁
- 前5个月广东对“一带一路”沿线国家和地区进出口同比增长8%
- 李冰遗泽“天府之国”的,不只是都江堰
- 三寸小卡让青少年“上头”,拆卡直播间暗藏隐患
- 如何科学防寒?寒冷天气下的敏感疾病有哪些?一图读懂!
- 出门步行十五分钟可以干什么?老旧小区改造 “圈”出美好生活
- 非盟轮值主席:感谢中国支持非盟加入二十国集团 期待与中国加强合作
- 城市漫游的尽头是菜市场?在集市里寻找生活小确幸
- 联合国教科文组织报告称生成式人工智能加剧性别偏见
- 波兰媒体:波兰确定2022年坠入境内的导弹来自乌克兰
- 中俄创意设计联盟启动 共促两国文化事业发展
- 浙江文化观察:新时代为什么需要胡公文化?
- 文在寅夫人被指因私访问印度 韩检方开始调查
- 170余名选手角逐2024年山东省文物职业技能竞赛
- 热门推荐
-
- 韩国警察厅长赵志浩被传唤调查
- 喀瓦坚藏毯厂30年蝶变新生
- 澳大利亚最低工资7月起将提高至每小时24.1澳元
- 中国首台出口智利土压平衡盾构机下线
- “真金白银”护航 中国外贸企业闯关求变
- 重庆独立设计师品牌SHUR RUITZ登上米兰秀场
- 潜水界知名人士韩颋广西都安潜水失联 搜救工作正在进行
- 东西问丨陈仲文:戏剧应成为促进理解与和平的力量
- 菲多位官员否认同中方达成仁爱礁管控安排 中使馆五问菲方
- 《洛阳市关林保护条例》今起施行 助力关圣文化走向世界
- 树立“大健康”理念 呵护生命“全周期”
- 美国2023年1月新增就业51.7万人 失业率3.4%
- 第三届香·扇书画精品展在扬州开展 感受夏季的热烈与美好
- 南非总统视察霍乱疫情重灾区
- 这款冰箱贴为何一“冠”难求?来看主创团队揭秘
- “雄狮少年”逐梦不止
- 西安碑林博物馆14日起局部开放 门票不分淡旺季每人次10元
- 国家发改委:2023年优化营商环境取得明显成效
- 北京8座地铁站配上翻译机
- 湖北襄阳一医院贩卖出生证明 7人已被采取刑事强制措施