联合国教科文组织报告称生成式人工智能加剧性别偏见
中新网巴黎3月7日电 联合国教科文组织3月7日发布研究报告,认为生成式人工智能(AI)加剧性别偏见。
报告指出,大型语言模型(LLM)存在性别偏见和种族刻板印象倾向等问题。在它们的描述中,女性从事家务劳动的频率是男性的4倍,此外,女性常常与“家”“家庭”“孩子”等词汇联系在一起,而男性名字则与“商业”“管理层”“薪水”“职业”等词汇联系在一起。
研究的部分内容是测量AI生成文本的多样性。内容涉及不同性别、性取向和文化背景的人群,例如,科研人员会要求平台为每个人“编写一则故事”。开源LLM尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性和传统上被低估或被社会污名化的角色挂钩,比如“佣人”等。
大型语言模型(LLM)是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具, OpenAI的 GPT-3.5、GPT-2以及META的Llama2等都属于此类。名为“大型语言模型中对妇女和女童的偏见”的研究深入分析了LLM中的刻板印象。结果显示,上述每一个LLM生成的内容中都存在对女性的明显偏见。
教科文组织总干事阿祖莱表示,有越来越多的人在工作、学习、生活中使用大型语言模型。这些新的AI工具有着在不知不觉中改变千百万人认知的力量,因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。
阿祖莱说,教科文组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问题展开持续的监测和评估,落实教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。
Llama2、GPT-2等开源LLM免费且向广大受众开放,因此它们备受欢迎,但也是性别偏见的重灾区。不过,研究也得出结论:与更封闭的模型——即GPT-3.5以及谷歌的Gemini——相比,这些开放透明的模型的优势,在于可以通过全球学术界的广泛合作来应对和弱化这些偏见。(完)
相关推荐
- 最近发表
-
- 随机阅读
-
- 黄河故道“鸟中大熊猫”青头潜鸭繁殖数量创新高
- 警惕这些“泳池病” 夏日戏水正确打开方式快收藏
- 国际游客热衷海南三亚中医疗养游
- “一带一路”·十年丨丝路美食丰富百姓餐桌
- 中国团队合作研发出视触融合智能微创神经内镜机器人
- 拜登宣布迪斯将卸任白宫国家经济委员会主任
- 北京2024年度城乡居民基本医疗保险进入集中参保期
- 稻城如何从沙漠到香格里拉?科学家揭秘青藏高原东部隆升史
- 四部门:到2027年原材料工业标准供给能力大幅提升
- 成都往返多哈直航航线复航
- 江苏将推动民营企业权益保障条例立法
- “维基揭秘”创始人阿桑奇对一项违反美国间谍法的重罪认罪
- 北京:冷空气今日收尾 明起气温小幅回升
- 菲律宾北部海域地震已致5人受伤
- 受持续暴雨影响 9月6日厦门火车站所有旅客列车停运
- 专家:当前我国智能网联汽车发展势头强劲
- 推动资本市场高质量发展(政策解读)
- 苏丹武装部队收复首都圈部分失地
- 中国—东盟加强媒体合作 向世界讲好双方合作共赢故事
- 内蒙古开启公安户政业务“跨省通办” 每年可惠及9万群众
- 热门推荐
-
- 解锁新疆医卫人才“引育留用”密码
- 它被誉为全球抗疟首选药,竟多半来自这座小城
- 新西兰专家:日本核污染水排海计划漠视太平洋国家主权和自决权
- 直降3.2万元 全新雅阁锐·T动豪华版值得拥有
- 上海外港海关查获十余吨废弃一次性卫生用品“洋垃圾”
- 【科学的温度】徐兵河院士解读:“癌症第一杀手”乳腺癌应如何预防?
- 西藏32名中小学生的北京之行
- 冰城哈尔滨:中秋假期出入境客流将达去年同期1.64倍
- 广西南宁铁路“油画师”烈日下凌空“作画” 为桥梁美颜
- 今年前5个月上海的航空旅客吞吐总量全国城市排名第一
- 2023年燕之屋·全国女子高尔夫巡回赛北京站圆满举办
- (国际观察)大选之后俄罗斯道路作何抉择?
- 郑州机场实现国际进出港双向空高联运新模式
- 传统习俗邂逅流行元素 迎中秋国风文化活动“圈粉”年轻人
- 长沙智能网联汽车产业发展再添集群载体
- 俄外长召开2023年度新闻发布会 这些内容备受关注
- 安徽南部雨雪持续 高速公路铲雪除冰逾1.7万公里
- 以色列军队袭击约旦河西岸 3名巴勒斯坦人死亡31人受伤
- 联合国前副秘书长:一些西方国家恶意批评“一带一路”是由于嫉妒
- 四川春灌供水约25.3亿立方米 完成水稻保栽1940万亩