联合国教科文组织报告称生成式人工智能加剧性别偏见
中新网巴黎3月7日电 联合国教科文组织3月7日发布研究报告,认为生成式人工智能(AI)加剧性别偏见。
报告指出,大型语言模型(LLM)存在性别偏见和种族刻板印象倾向等问题。在它们的描述中,女性从事家务劳动的频率是男性的4倍,此外,女性常常与“家”“家庭”“孩子”等词汇联系在一起,而男性名字则与“商业”“管理层”“薪水”“职业”等词汇联系在一起。
研究的部分内容是测量AI生成文本的多样性。内容涉及不同性别、性取向和文化背景的人群,例如,科研人员会要求平台为每个人“编写一则故事”。开源LLM尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性和传统上被低估或被社会污名化的角色挂钩,比如“佣人”等。
大型语言模型(LLM)是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具, OpenAI的 GPT-3.5、GPT-2以及META的Llama2等都属于此类。名为“大型语言模型中对妇女和女童的偏见”的研究深入分析了LLM中的刻板印象。结果显示,上述每一个LLM生成的内容中都存在对女性的明显偏见。
教科文组织总干事阿祖莱表示,有越来越多的人在工作、学习、生活中使用大型语言模型。这些新的AI工具有着在不知不觉中改变千百万人认知的力量,因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。
阿祖莱说,教科文组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问题展开持续的监测和评估,落实教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。
Llama2、GPT-2等开源LLM免费且向广大受众开放,因此它们备受欢迎,但也是性别偏见的重灾区。不过,研究也得出结论:与更封闭的模型——即GPT-3.5以及谷歌的Gemini——相比,这些开放透明的模型的优势,在于可以通过全球学术界的广泛合作来应对和弱化这些偏见。(完)
相关推荐
- 最近发表
-
- 随机阅读
-
- 台风“银杏”逼近南海 海南3万余艘涉渔船舶已回港避风
- 为什么我们要发展5.5G?
- 中国能建山西电建厄特项目部应邀参加非洲厄立特里亚独立33周年文化交流活动
- 定制化中医康养“圈粉”中国年轻人
- 德国纽博格林赛道围场区域发生爆炸 已致22人受伤
- 国风雅韵乐花朝 江西龙虎山第五届花朝节盛大开幕
- 商务部:前11月全国吸收外资1.04万亿元人民币
- 慈善扶农 浙江庆元特色资源“金钥匙”打开增收“幸福门”
- 作家梁晓声为北京建设15分钟阅读圈点赞
- 鲁青货运班列开行 打造对口支援区域合作“升级版”
- 第四届网络空间内生安全学术大会举办在即
- 山东夏粮收购加载“科技密码” 藏粮于“技”助优粮优储
- 商务部:家电以旧换新申请和购买人数分别突破2000万和1000万人
- 印度一高速公路工地起重机倒塌 已致20人遇难
- “80后”锡伯族夫妻骑马重走西迁路
- 老中青三代长江引航员:见证南京港进入大船深水时代
- (中国这十年)中国国家文物局:十年来1800余件(套)海外文物回归祖国
- 上海新阶层人士助力社区治理 第四季“青年智谷”启动
- 专家学者为乐山大佛有效“看病治疗”建言献策
- 纪念程砚秋诞辰120周年——“程韵洋声”吕洋系列专场展演在天津开幕
- 热门推荐
-
- 泥感、水感、奶油感……年轻人为何热衷“捏捏”
- 哈伊高铁最长跨河桥启动架梁施工
- 宁夏:破解“高额彩礼”治理难题 打造文明婚嫁新风尚
- 广州火车站片区改造方案获批
- 专家:2030年国内放射性药物市场规模将达260亿
- 外媒:日本前首相田中角荣故居突发火灾 现场烟雾四溢
- 旧物重塑创意升级 古都青年探索可持续生活新路径
- 安徽“90后”女孩制作传统花灯“出圈”:不变的是文化内核
- 博采共进 开放共享|中粮名庄荟六赴进博之约
- 五指山“生态文学周”活动将启
- 宁夏与央企深化合作招商推介活动在京举办
- 受大雾影响 渤海海峡、浙江部分海域实施交通管制
- (第七届进博会)中美农产品贸易合作论坛续写两国农业交流新篇章
- 中国新能源汽车加速走向中亚
- 湖北秭归:“土特产”缔造“大产业”,乡村振兴驶入“快车道”
- 美共和党总统竞选人黑利赢得华盛顿特区党内初选
- 雪域高原上的青春面孔
- 小屏幕打开大市场 新乡贤回乡助优质山货俏销“云端”
- 35年,守礁官兵与中学师生的“纸短情长”
- 青海拓展税收职能作用 因地制宜推动优势特色企业发展