让人工智能大模型做K12学科试题,能赶上人类水平吗?
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到,近日,在北京市海淀区教委支持下,智源研究院联合与海淀区教师进修学校对齐学生测验方式,考察大模型与人类学生的学科水平差异,其中,答案不唯一的主观题,由海淀教师亲自评卷。
评测发现,模型在综合学科能力上与海淀学生平均水平仍有差距,普遍存在文强理弱的情况,并且对图表的理解能力不足,大模型未来有很大的提升空间。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出,在语文、历史等人文学科的考试中,模型欠缺对文字背后的文化内涵以及家国情怀的理解。面对历史地理综合题时,模型并不能像人类考生一样有效识别学科属性。相较于简单的英语题,模型反而更擅长复杂的英语题。解理科题目时,模型会出现以超出年级知识范围外的方法解题的情况。当出现无法理解的考题时,模型依然存在明显的“幻觉”。
此外,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果。
评测结果显示,在中文语境下,国内头部语言模型的综合表现已接近国际一流水平,但存在能力发展不均衡的情况。在多模态理解图文问答任务上,开闭源模型平分秋色,国产模型表现突出。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小。多模态模型的文生视频能力上,对比各家公布的演示视频长度和质量,Sora有明显优势,其他开放评测的文生视频模型中,国产模型PixVerse表现优异。
据介绍,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发。
评测使用20余个数据集、超8万道考题,包括与合作单位共建和智源自建的多个评测数据集,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts。其中,主观题4000余道,均来源于自建原创未公开并保持高频迭代的主观评测集,严格校准打分标准,采取多人独立匿名评分、严格质检与抽检相结合的管理机制,降低主观偏差的影响。此外,为了更准确地评测语言模型的各项能力,智源专门对所有客观数据集的子数据集进行了能力标签映射。(完)
- 最近发表
-
- 随机阅读
-
- 引入GPT技术及大扭力电机 这家智能锁公司再次引领行业
- 土耳其地震已造成该国43556人死亡
- 香港金管局:美国加息周期是否完结有待确定
- “冷经济”持续升温,吉林冰天雪地喜迎南方“小金豆”
- 借力“种业振兴”东风 “红缨子”打造种业公司发展样本
- 国庆黄金周运输为期12天 广铁预计送客2768万人次
- 前列腺癌发病率持续升高 专家呼吁早筛关口前移
- 首届谢灵运诗歌(双年)奖新闻发布会在京举行
- 暑期“文博热”升温 多家文博场所进入“夏令时”
- 消费需求稳步释放 河北上半年社会消费品零售总额超7000亿元
- “中国市场是我们的沃土”(评论员观察)
- “中国可持续设计”展在柏林开幕
- 传统织染绣精品亮相北京景山公园 连接打通艺术与生活
- 北京电影学院石炭井影视创作实践基地正式揭牌
- 中国西北“空中杂技”传承600年诠释“莫等闲”
- 国际观察:美国加征关税,加重的是自己的负担
- 去年北京人均地区生产总值达20万元 保持全国省级地区最优
- 长三角(芜湖)智算中心揭牌
- (新春见闻)潮汕英歌舞闹新春 传统与活力的融合
- 国家金融监管总局组织开展人身保险“睡眠保单”清理专项工作 险企在行动
- 热门推荐
-
- 联合国机构:加沙地带孕妇和哺乳期妇女因食物短缺面临多种疾病风险
- 海外名校博士厦门行
- 向新而行以“质”致远 长三角国资国企共建创新协同新格局
- 中老边境磨憨铁路口岸迎首位144小时过境免签旅客
- 《中国藏族古代建筑史——卫藏卷》拉萨发布
- 安徽举行创新创业大赛 设海内外6个赛区
- 十周年再走厦深线 探访汕尾站潮汕站
- 从雪域高原到边防海岛 部队官兵举行形式多样的升旗仪式喜迎国庆
- 工信部:支持中外企业在自动驾驶等领域开展合作
- 今年以来中哈霍尔果斯国际边境合作中心进出逾200万人次
- 甘肃成县:清晨拨响金“蒜”盘 农户勤赚“春天钱”
- 大凉山彝族童声合唱团:用歌声连接世界
- 中美青年共谱和谐乐章
- 中国红基会:“以工代赈”项目将帮扶村庄实现可持续受益
- 东航“不限次、任意飞”首批尝鲜旅客“兑换”6.5万张机票
- 中国音协:不得以中国音协小提琴学会等名义开展活动
- 广交会“中国制造”展现新气象 依靠创新收获全球订单
- 如何将蒙古族长调国际化? 薛汀哲:马头琴交响乐体现东方哲思
- 家庭托育点破冰,纾解带娃之忧
- 王毅会见韩国外长朴振