如何识破大语言模型“幻觉”回答?国际最新研发出“以毒攻毒”检测方法
中新网北京6月20日电 (记者 孙自法)基于人工智能(AI)的大语言模型(LLM)回答问题并非总是准确可靠,有时甚至极其智能地以“幻觉”方式提供胡编乱造的答案让人真假难辨,对此如何予以有效检测广受关注。
国际著名学术期刊《自然》最新发表一篇人工智能研究论文称,研究人员开发出一种能检测大语言模型“幻觉”的方法,这种方法通过“以毒攻毒”方式,能测量生成回答的含义的不确定性,或能用于提升大语言模型输出的可靠性。
该论文介绍,大语言模型(如ChatGPT和Gemini)是能阅读和生成自然人类语言的人工智能系统。不过,这类系统很容易产生“幻觉”,生成不准确或没有意义的内容。检测大语言模型出现“幻觉”的程度很难,因为这些回答的呈现方式可能会让它们看起来很可信。
在本项研究中,论文第一作者兼通讯作者、英国牛津大学Sebastian Farquhar和同事合作,尝试量化一个大语言模型产生“幻觉”的程度,从而判断生成的内容有多少忠于提供的源内容。他们的方法能检测“幻觉”的一个子类别——“编造”,特指不准确和随意的内容,常出现在大语言模型缺乏某类知识的情况下。针对“编造”问题,他们研发的方法考虑了语言的微妙差别,以及回答如何能以不同的方式表达,从而拥有不同的含义。研究表明,该方法能在大语言模型生成的个人简介,以及关于琐事、常识和生命科学这类话题的回答中识别出“编造”内容。
《自然》同期发表同行专家“新闻与观点”文章指出,最新研究的检测任务由一个大语言模型完成,并通过另一个大语言模型进行评价,相当于“以毒攻毒”。虽然用一个大语言模型评估一种基于大语言模型的方法似乎是在循环论证,而且可能有偏差,但他们的方法有望帮助用户理解在哪些情况下使用大语言模型的回答需要注意,这也意味着可以提高大语言模型在更多应用场景中的置信度。(完)
相关推荐
- 最近发表
-
- 随机阅读
-
- 空中客车航材服务负责人:将在中国搭建二手航材生态体系
- 国家文物局:2022年我国新增备案博物馆382家 全国博物馆总数达6565家
- 一线城市释放积极信号 市场等待相关细则落地
- 2024春运首日:北京铁警保障旅客平安顺畅出行
- 多组数据释放积极信号 金融“活水”润泽实体经济力度持续稳固
- 音乐为文旅行业“加戏” 江西多地“点燃”旅游消费新活力
- 保洁净、禁噪音、备助考物品……广深多部门护航高考
- 星火成炬|文脉流淌 传承不息
- 用双脚丈量千山万壑 退伍老兵在广西实现“记者梦”
- 日本福冈县一民用直升机坠毁致两人死亡
- 近2万名文艺工作者献精品 超3亿人次云享第十三届中国艺术节
- 天津:首套住房商贷最低首付款比例调整为不低于15%
- 中外专家齐聚空间技术和平利用(健康)国际研讨会 研讨空间技术创新应用
- 市场监管总局通报10种产品质量国家监督抽查情况:232批次产品不合格
- 胰岛微囊化技术或让打针治疗糖尿病成为历史
- 如何读懂中国?不防先从读懂文物开始
- 铁路杭州站暑运客发量破2000万 创历史新高
- 大风沙尘雨雪降温齐袭北方 南方多地有暴雨
- 最低1.9折!滑雪航线航班上新加密,机票价格降了
- 震后的坚守:日喀则森林消防在废墟瓦砾间“刨”出希望
- 热门推荐
-
- 2024年天津中欧、中亚班列发运总计突破600列、6万标箱
- 中央财政提高设备更新贷款贴息比例至1.5个百分点
- “世界光谷”全球产业合伙人三年行动计划发布
- 美国边境移民问题不容乐观 拜登:“会乱上一阵子”
- 新锐作曲家安迪·秋保与沙盒打击乐团携《7·柱》带来炫酷音乐
- 第八届全国中学生模拟联合国大会开幕
- 美国新泽西州发生2.9级地震 当地居民:感受到房屋晃动
- 起底“千万级”带货主播“麦琪啦”:拆分病名暗示能消瘤治癌,把保健品吹成“神药”
- 中国国内最宽单体公路桥梁在山东青岛完工
- 香港新导演卓亦谦的年少日记
- 呼吸道疾病患者发热期间怎么吃?这份饮食建议请查收
- 未购买作负面评价,测评博主“恶评”被判赔偿2.3万元
- 抖音电商投入亿级佣金补贴 助力日用百货中小商家成长
- 6天爆发4次!X级强太阳耀斑频繁来袭,有哪些影响?
- 最新进展!通往四川雅安汉源县受灾地区国省县道均已抢通
- 数据不断创造新价值,企业如何转化生产力?
- 救援日记:来不及多想,向马拉蒂亚震区出发!
- 36万亿元背后的外贸发展动能(高质量发展看亮点·读数)
- 德国化工巨头科思创将在广州新建TPU亚太应用开发中心
- 湖北国家考古遗址公园建设取得新突破