如何识破大语言模型“幻觉”回答?国际最新研发出“以毒攻毒”检测方法
中新网北京6月20日电 (记者 孙自法)基于人工智能(AI)的大语言模型(LLM)回答问题并非总是准确可靠,有时甚至极其智能地以“幻觉”方式提供胡编乱造的答案让人真假难辨,对此如何予以有效检测广受关注。
国际著名学术期刊《自然》最新发表一篇人工智能研究论文称,研究人员开发出一种能检测大语言模型“幻觉”的方法,这种方法通过“以毒攻毒”方式,能测量生成回答的含义的不确定性,或能用于提升大语言模型输出的可靠性。
该论文介绍,大语言模型(如ChatGPT和Gemini)是能阅读和生成自然人类语言的人工智能系统。不过,这类系统很容易产生“幻觉”,生成不准确或没有意义的内容。检测大语言模型出现“幻觉”的程度很难,因为这些回答的呈现方式可能会让它们看起来很可信。
在本项研究中,论文第一作者兼通讯作者、英国牛津大学Sebastian Farquhar和同事合作,尝试量化一个大语言模型产生“幻觉”的程度,从而判断生成的内容有多少忠于提供的源内容。他们的方法能检测“幻觉”的一个子类别——“编造”,特指不准确和随意的内容,常出现在大语言模型缺乏某类知识的情况下。针对“编造”问题,他们研发的方法考虑了语言的微妙差别,以及回答如何能以不同的方式表达,从而拥有不同的含义。研究表明,该方法能在大语言模型生成的个人简介,以及关于琐事、常识和生命科学这类话题的回答中识别出“编造”内容。
《自然》同期发表同行专家“新闻与观点”文章指出,最新研究的检测任务由一个大语言模型完成,并通过另一个大语言模型进行评价,相当于“以毒攻毒”。虽然用一个大语言模型评估一种基于大语言模型的方法似乎是在循环论证,而且可能有偏差,但他们的方法有望帮助用户理解在哪些情况下使用大语言模型的回答需要注意,这也意味着可以提高大语言模型在更多应用场景中的置信度。(完)
相关推荐
- 最近发表
-
- 随机阅读
-
- 校园“表白墙”不该表错了意
- “国民小吃”聚“沙”成塔的法治秘方
- 第三方支付上半年:“钢丝绳”上谋生机
- 工信部:将推动出台《关于促进网络安全保险规范健康发展的意见》
- 安徽黄梅戏韵响海外将再续“前缘”
- 政协委员助力“银发族”乐享“夕阳红”
- “六边形”立体交通枢纽综合体——苏州南站建设“加”速度
- 自然资源部:1-2月全国国有建设用地供应总量6.7万公顷
- “沿着河湖看新疆”走进新疆博湖:非遗文化 绽放“溢”彩
- 海南屯昌发生一起货车撞人事故 致1死7伤
- 15条探访线路邀民众在北京通州“遇见运河”
- 中国A股上半年飘红收官 下半年走势如何?
- 河北承德生态价值实现达21.4亿元
- (经济观察)“稳楼市”组合拳继续发力 中国楼市开始筑底
- 白金汉宫:英国国王查尔斯三世确诊癌症
- “博物馆实践”成中小学各阶段标配令人期待
- 《李家山宣言》发布:李家山是中华文化从多元到一体的例证
- 她在美国研究唐人街
- “东方庞贝”震损文物修复完成
- 文化出游热度,如何更好呵护
- 热门推荐
-
- 原创越剧史诗《胆剑千秋》在国家大剧院公演
- 数据发现,这段时间你的家庭责任感变强了
- 西渝高铁康渝段北屏隧道主洞掘进过半
- 中消协发布消费提示:关注日本小林制药有关产品风险
- 房地产市场企稳还需一些耐心
- 海南启动中央环保督察整改“回头看”专项督察,重点“看海”
- “用脚步丈量铁路安全的人”:巡道工的一日与24年
- 欧盟对俄油品限价禁运成效如何
- 昆明一中学老师辱骂学生“有人养没人教”?校方通报
- 山东至河南再添一条直通高铁
- 上海外滩百年历史建筑“老市府大楼”成功“蝶变”
- 北京养老服务从业人员约3.2万人 搭建平台强化校企合作
- 古都开封探究文化传承与创新:从东京梦华寻北宋新韵
- 云南警方打掉一境内外勾连运毒团伙 缴毒逾45公斤
- 一杯一苗,森林苗圃里焕发的活力与青春
- 联合国难民署指全球流离失所人数料已超过1.14亿人
- 交通运输部:全面恢复进出我国境内邮轮港口的国际邮轮运输
- 杭州口岸迎出境游高峰 青少年游、亲子游等成为主力
- 顶尖杂技演员齐聚济南 展现杂技艺术魅力
- 福建省旅游乡村首次入选联合国旅游组织“最佳旅游乡村”