帮助大模型提升自身安全性 科研团队发布AI安全平台
中新网北京7月9日电 (记者 张素)以ChatGPT为代表的生成式人工智能广受关注,大模型亦在加速发展。科研团队近日发布新的AI安全平台,以期为大模型系好“安全带”、把好“方向盘”。
据介绍,人工智能安全平台RealSafe3.0版本由清华大学人工智能研究院孵化企业瑞莱智慧RealAI发布。该平台能够提供端到端的模型安全性测评解决方案,旨在解决当前通用大模型安全风险难以审计的“痛点”。
“大模型‘落地难’的本质在于,当前还没有找到场景、风险和规范三者之间的平衡点。”瑞莱智慧联合创始人、算法科学家萧子豪在受访时说,而在探寻这一平衡点的过程中缺少易用和标准化的工具。换言之,亟须在技术层面找到有力抓手,帮助人们科学评判大模型在场景中能否同时满足规范和低风险,助力大模型上线运行。
据知,相较上一版本,RealSafe3.0新增了对通用大模型的评测。该平台覆盖数据安全、认知任务、通用模型特有漏洞、滥用场景等近70个评测维度,可以全方位、多维度地评测通用大模型的性能,未来还会持续扩增测评维度的数量。
萧子豪介绍说,RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集,来帮助用户修复模型中的问题。例如,对黑盒不可解释的通用大模型,自研红队对抗模型取代人工设计问题,显著提升攻击成功率和样本多样性。
再如,教练模型通过对被测大模型进行多轮次的“提问—回答训练”,并以训练好的评分模型对问答结果进行评分,再将评分结果反馈给大模型,使其不断强化学习到好坏答案的要点及区别,直至问答能力逐步迭代至最优。
值得一提的是,瑞莱智慧科研团队还研发出能够防范生成式人工智能恶意滥用的DeepReal2.0,即“生成式人工智能内容检测平台”。该平台支持对图像、视频、音频、文本进行是否伪造的检测,应用场景包括打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等。
“我们将持续迭代技术、打磨产品,以确保在这场人工智能安全‘攻防战’中始终立于不败之地,将人工智能的两面性这一‘关键变量’,转化为高质量发展的‘最大增量’。”萧子豪说。(完)
- 最近发表
-
- 随机阅读
-
- 土味“喊麦”遭质疑?不妨给文旅传播多些耐心与时间
- 如何系好大型游乐设施“安全带”?
- 剧情重复、妆造雷同、演员排列组合,流水线古偶何时休?
- 李白感叹:空有才华无法施展
- 加拿大九旬知名富商斯特罗纳奇涉嫌系列性犯罪而被捕
- “520”彩礼话题引热议 多地彩礼“限高”为爱“减负”
- “京津冀消费季”开启“盛惠”
- 美司法部:拜登和特朗普“文件门”调查如期进行
- 中新健康丨涂着口红吃东西,有危害吗?
- (八闽千姿)“客家祖地”游大粽 纪念神农闹春耕
- 中外企业家聚吉林共话纺织行业高质量发展
- 俄国防部:挫败乌军无人机对莫斯科的袭击
- 乌总统泽连斯基签署退出独联体国家多项决定的法令
- 蔡骏新作《一千万人的密室》推出:悬疑推理之现实主义
- 衣布拉音·木冬:跨越西东 传递关爱与温暖
- 致敬劳动者!《中国梦·劳动美——2024五一国际劳动节“心连心”特别节目》今晚播出
- 徐工超大型塔机XGT55000-800S再次刷新纪录
- 自带饭门外吃,学校到底怕什么
- 日本导演竹内亮:从南京出发《再会长江》
- 2024南国书香节闭幕:让更多好书与爱书人相遇
- 热门推荐
-
- 【世界说】美国2022年自杀率创新高 非裔儿童自杀率20年间飙升60%
- “冰雪+文旅”新疆昌吉州打造冬季冰雪文化IP盛会
- 法治之光洒乡村:中国政法大学学子的华山村法治实践之行
- (第六届进博会)芬兰农业和林业部部长Sari Essayah:进博会是极具价值的平台
- 安徽局部出现特大暴雨 预计未来十天多强降水
- 豆瓣8.4,《风吹半夏》为何能成为爆款?
- “伊儒会通”时代价值与当代实践研讨会在浙江衢州举行
- 满城烟花浪漫 惊艳仍是长沙
- 网络电影青创计划终评路演在京举行
- 重庆涪陵龙头港开行“点到点”快速货物班列 助跨境货运降本增效
- 报告:中国深度融入多边合作互认体系
- 亚洲最大啤酒生产基地卷入小便风波,青岛啤酒复苏之路将受多大影响?
- 承于家古酝,启成龙新章︳2024于成龙酒业封坛大典盛大启幕
- 国际锐评|世界不需要制造对抗的所谓“民主峰会”
- 交通运输部:10月交通运输经济运行总体平稳
- 春节假期中国国内旅游出游4.74亿人次 同比增34.3%
- 以军袭击贝鲁特市中心建筑,已致20死66伤
- 推动公共机构绿色低碳转型 2023年全国公共机构节能宣传周启动仪式在沪举行
- 国家防灾减灾救灾委员会发布通知全力应对低温雨雪冰冻灾害
- 外媒:德国外交部长和叙利亚过渡政府外交部长握手