让人工智能大模型做K12学科试题,能赶上人类水平吗?
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到,近日,在北京市海淀区教委支持下,智源研究院联合与海淀区教师进修学校对齐学生测验方式,考察大模型与人类学生的学科水平差异,其中,答案不唯一的主观题,由海淀教师亲自评卷。
评测发现,模型在综合学科能力上与海淀学生平均水平仍有差距,普遍存在文强理弱的情况,并且对图表的理解能力不足,大模型未来有很大的提升空间。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出,在语文、历史等人文学科的考试中,模型欠缺对文字背后的文化内涵以及家国情怀的理解。面对历史地理综合题时,模型并不能像人类考生一样有效识别学科属性。相较于简单的英语题,模型反而更擅长复杂的英语题。解理科题目时,模型会出现以超出年级知识范围外的方法解题的情况。当出现无法理解的考题时,模型依然存在明显的“幻觉”。
此外,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果。
评测结果显示,在中文语境下,国内头部语言模型的综合表现已接近国际一流水平,但存在能力发展不均衡的情况。在多模态理解图文问答任务上,开闭源模型平分秋色,国产模型表现突出。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小。多模态模型的文生视频能力上,对比各家公布的演示视频长度和质量,Sora有明显优势,其他开放评测的文生视频模型中,国产模型PixVerse表现优异。
据介绍,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发。
评测使用20余个数据集、超8万道考题,包括与合作单位共建和智源自建的多个评测数据集,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts。其中,主观题4000余道,均来源于自建原创未公开并保持高频迭代的主观评测集,严格校准打分标准,采取多人独立匿名评分、严格质检与抽检相结合的管理机制,降低主观偏差的影响。此外,为了更准确地评测语言模型的各项能力,智源专门对所有客观数据集的子数据集进行了能力标签映射。(完)
- 最近发表
-
- 随机阅读
-
- 韩媒:韩国2023年涉毒犯罪人数再创新高 年轻人增多
- 东西问·传世名画丨余辉:《清明上河图》中隐藏了哪些文化密码?
- 广东逾百万亩油茶花开正艳 漫山繁花似锦兆丰年
- 丹麦邀请“北溪”俄方运营商调查水下可疑物 俄政府表示欢迎
- 从实验田到餐桌:“中国红”红皮菠萝上市在即
- 科普→高铁小知识、乘车小常识
- 屋檐上的文脉丨古韵犹存 新风又起——传统村落“蝶变记”
- 首批出口刚果(金)内燃机车在大连下线
- 外媒:特朗普称将会见以色列总理内塔尼亚胡
- 尽享非遗之美 重庆启幕非物质文化遗产暨老字号博览会
- 晶科能源半年报发布 光伏组件出货量行业第一
- 快讯!韩国将就务安机场客机坠落事件召开紧急高级会议
- 雄安新区南文营社区:打通法律服务群众的“最后一公里”
- 环京周边新建50家蔬菜生产基地
- 百年老城区“非遗展厅”亮相:唤醒老长春文化记忆
- 【烟火人间】春天的丁字步
- 90后女孩笔下的“小精灵”治愈网友【把“小意外”画成“小美好”】
- 台湾大头虾里的“川渝味道”(台湾新农人扎根大陆⑪)
- 青海柴达木盆地所属海西州年售电量已突破百亿千瓦时
- 重现邵飘萍故事 原创话剧《京报》将在国家话剧院上演
- 热门推荐
-
- 宁夏:托起特殊困难群众“稳稳的幸福”
- 黄金能有多“拼”
- RCEP对15个签署国全面生效
- 罗技全球首席商务官刘坤:加大在华投资对公司全球业务发展大有裨益
- 海南省台风预警级别降为二级
- 乘车返现?如此误导办信用卡不可取
- 演唱会买到“柱子票”如何维权?一审宣判了!
- 2023中国产业转移发展对接活动(内蒙古)开幕 签单超4500亿元
- 山西电力创新研发“以电折煤”大数据产品助力能源保供
- 山东临沭:老手艺人创作民间传统工艺品迎兔年
- 瑞典央行再加息50个基点
- 中秋假期中国口岸日均出入境旅客预计将达180万人次
- 马来西亚副总理:人类命运共同体理念与马政府施政理念相契合
- 人这一辈子,一定要去一趟北海!
- 海口警方通报29岁男子疑似自缢身亡:手机中留有遗书 排除他杀
- 2023年《自然》十大人物揭晓 另有一人工智能工具上榜“抢镜”
- 注意了!春节期间这些时段、路段预计会堵车
- 以色列袭击加沙地带北部 超过35人死亡
- 飓风“海伦妮”已致44人遇难 拜登宣布多地进入紧急状态
- 美国橄榄球教练赛后谈及大规模枪击 呼吁解决枪支暴力问题