联合国教科文组织报告称生成式人工智能加剧性别偏见
中新网巴黎3月7日电 联合国教科文组织3月7日发布研究报告,认为生成式人工智能(AI)加剧性别偏见。
报告指出,大型语言模型(LLM)存在性别偏见和种族刻板印象倾向等问题。在它们的描述中,女性从事家务劳动的频率是男性的4倍,此外,女性常常与“家”“家庭”“孩子”等词汇联系在一起,而男性名字则与“商业”“管理层”“薪水”“职业”等词汇联系在一起。
研究的部分内容是测量AI生成文本的多样性。内容涉及不同性别、性取向和文化背景的人群,例如,科研人员会要求平台为每个人“编写一则故事”。开源LLM尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性和传统上被低估或被社会污名化的角色挂钩,比如“佣人”等。
大型语言模型(LLM)是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具, OpenAI的 GPT-3.5、GPT-2以及META的Llama2等都属于此类。名为“大型语言模型中对妇女和女童的偏见”的研究深入分析了LLM中的刻板印象。结果显示,上述每一个LLM生成的内容中都存在对女性的明显偏见。
教科文组织总干事阿祖莱表示,有越来越多的人在工作、学习、生活中使用大型语言模型。这些新的AI工具有着在不知不觉中改变千百万人认知的力量,因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。
阿祖莱说,教科文组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问题展开持续的监测和评估,落实教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。
Llama2、GPT-2等开源LLM免费且向广大受众开放,因此它们备受欢迎,但也是性别偏见的重灾区。不过,研究也得出结论:与更封闭的模型——即GPT-3.5以及谷歌的Gemini——相比,这些开放透明的模型的优势,在于可以通过全球学术界的广泛合作来应对和弱化这些偏见。(完)
相关推荐
- 最近发表
-
- 随机阅读
-
- 哥伦比亚外交部发表声明:5月2日起与以色列断交
- 国际热评:经贸务实合作为中俄关系发展注入强劲动力
- 美国多地山火持续蔓延 已致1人死亡
- “高原税路通”让青海企业平稳“出海”
- 南非约翰内斯堡市长辞职
- 安徽解读新一轮“以旧换新”政策措施
- 中国最北高铁建设进入冲刺阶段 年内有望铺轨
- 瞄准新能源汽车市场 外企加快在安徽布局
- 台风“泰利”来袭 海南海事局启动防台Ⅲ级响应
- 中国科研团队发现拓扑激发巨大磁卡效应 提出一种极低温制冷新机理
- 电影《宇宙探索编辑部》导演孔大山回母校完成“十年之约”
- “文+商+旅”结合 百年张园的春天“有声有色”
- 无锡太湖鼋头渚国际樱花节暨中国第38届荷花展发布会在巴黎举行
- 新质生产力、双向奔赴……2023年“十大流行语”发布
- 东盟国家加速推进数字建设
- 他与林语堂齐名,但国内却少有人知
- 让百姓“菜篮子”拎得更稳当
- 又到食菌季了!“防中毒”指南了解一下
- 2023年中国商品展(蒙古国)在乌兰巴托开幕
- 韩国国会未通过“内乱特检法”和“金建希特检法”
- 热门推荐
-
- 智能家居:新消费领域的新机会
- 第21届越剧大展演启幕 名家新秀携20场大戏韵动江南
- 四川1-6月铁路建设完成固定资产投资186.7亿元
- 深圳推动低空经济“高飞”
- 万人齐赴“上”赛道 2025蒸蒸日上迎新跑开跑
- 音乐戏剧《少年的,莎士比亚奇旅》谐趣讲述文豪一生
- 南非西开普省遭遇极端天气 超1.5万人受影响
- 进出口降幅收窄 中国外贸转机来了?
- 如何科学防寒?寒冷天气下的敏感疾病有哪些?一图读懂!
- 武汉“牵手”长沙 20万朵栀子花开启双城游
- 泰国执政党高层:从愿景到行动 “一带一路”可持续发展为未来赋能丨全球政要看丝路
- 中国企业将在COP28设光伏主题场馆
- 主拱跨径全球第六的株洲双层跨江大桥通车 为清水塘产业新城注入发展动能
- 国际观察:“中美关系的大门一旦打开,就不会再被关上”
- 今日珠江潮位预计仍超警戒线
- 俄乌局势进展:国际原子能机构在扎波罗热核电站周围发现地雷 俄将上调预备役年龄上限
- 什么?现在又流行“反断舍离”了
- 6月份北京CPI同比上涨0.1% 环比下降0.2%
- (新春走基层)“85后”返乡开工作室:以传统木工技艺点亮乡村艺术空间
- 中老越三国边交会江城开幕 154户企业觅商机