让人工智能大模型做K12学科试题,能赶上人类水平吗?
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到,近日,在北京市海淀区教委支持下,智源研究院联合与海淀区教师进修学校对齐学生测验方式,考察大模型与人类学生的学科水平差异,其中,答案不唯一的主观题,由海淀教师亲自评卷。
评测发现,模型在综合学科能力上与海淀学生平均水平仍有差距,普遍存在文强理弱的情况,并且对图表的理解能力不足,大模型未来有很大的提升空间。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出,在语文、历史等人文学科的考试中,模型欠缺对文字背后的文化内涵以及家国情怀的理解。面对历史地理综合题时,模型并不能像人类考生一样有效识别学科属性。相较于简单的英语题,模型反而更擅长复杂的英语题。解理科题目时,模型会出现以超出年级知识范围外的方法解题的情况。当出现无法理解的考题时,模型依然存在明显的“幻觉”。
此外,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果。
评测结果显示,在中文语境下,国内头部语言模型的综合表现已接近国际一流水平,但存在能力发展不均衡的情况。在多模态理解图文问答任务上,开闭源模型平分秋色,国产模型表现突出。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小。多模态模型的文生视频能力上,对比各家公布的演示视频长度和质量,Sora有明显优势,其他开放评测的文生视频模型中,国产模型PixVerse表现优异。
据介绍,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发。
评测使用20余个数据集、超8万道考题,包括与合作单位共建和智源自建的多个评测数据集,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts。其中,主观题4000余道,均来源于自建原创未公开并保持高频迭代的主观评测集,严格校准打分标准,采取多人独立匿名评分、严格质检与抽检相结合的管理机制,降低主观偏差的影响。此外,为了更准确地评测语言模型的各项能力,智源专门对所有客观数据集的子数据集进行了能力标签映射。(完)
- 最近发表
-
- 随机阅读
-
- 宁夏海原县油坊院遗址考古发掘距今约2.2万年旧石器
- 官方回应“博物馆预约难”:将专题研究打击“黄牛党”
- 小微企业:我国减税降费政策的重点支持对象
- 海外华裔青少年寻根福建:感受故乡的每一片土地
- 百度世界2023剧透,百度将发布国内首个生成式商业智能产品
- “会校合作”促发展 辽宁省贸促会与沈阳理工大学签署战略合作协议
- “旺丁又旺财” 新疆促进旅游消费升级
- 西安继续发布高温橙色预警 民众盼雨来
- 台风“山陀儿”明天或登陆台湾岛 南方多地开启入秋进程
- (新春走基层)山西平定:以“电”助“文” 千年陶瓷文化迸发新活力
- 出版家李伟:向法国人分享我喜爱的中国
- 复旦大学:8月15日至9月1日军训期间两校区暂停公众进校
- 记者去哪儿:政策红利持续落地 美好“焕新”接续开启
- 四川雅安宝兴县五龙乡突发山洪泥石流
- 医者李嘉的“新身份”
- 北京8部门联合发布家装以旧换新方案
- 化解护工行业痛点,需要怎样的“处方”?
- 巴以冲突已致超1.37万人死亡 !以军将在加沙南部开展地面行动
- 铁路旅游如何打破“夕阳红”局限?
- 美国千人游陕西活动启动
- 热门推荐
-
- 为赚五百结果花了六百元 游戏虚假宣传充斥短视频平台
- 7岁孩子胸腔生长重逾1公斤肿瘤 上海专家5个小时完整“拆弹”
- “一带一路”倡议十周年重点电视剧项目发布
- 新一轮大范围雨雪冰冻天气来临 各部门迅速行动防灾减灾
- 英国摄影师杰森·伊利奇:渴望把贵州的美展现给全世界
- 从严打击“代理退保”黑产,保护投保人权益
- 开颅3次的“轮椅少年”,考上了!
- 汤加群岛发生7.5级地震 震源深度200千米
- 四部门有序开展智能网联汽车准入和上路通行试点
- 山西一高速公路隧道内大巴车撞墙 已致5人死亡
- (乡村行·看振兴)贵州山村苗寨“奢侈品”受追捧 “指尖技艺”变“指尖经济”
- (两会声音)全国政协委员贾海洋:建议规范热搜及话题设置 营造清新网络环境
- 中新真探:醋能控糖,甚至能抗糖尿病?
- 热门线路“开售即候补”!国庆假期火车票怎么买?
- 广西力推中华文化“出海” 与东盟共享“文化盛宴”
- 商超转型蕴含的潜力与活力
- 中越米轨国际联运开行列车超万列
- 金融监管总局:推动建立健全国家巨灾保险保障体系
- 吉林以旧换新政策促二手车交易量快速增长
- 休一天假花半天开证明 记者调查“小众”假期落地难