联合国教科文组织报告称生成式人工智能加剧性别偏见
中新网巴黎3月7日电 联合国教科文组织3月7日发布研究报告,认为生成式人工智能(AI)加剧性别偏见。
报告指出,大型语言模型(LLM)存在性别偏见和种族刻板印象倾向等问题。在它们的描述中,女性从事家务劳动的频率是男性的4倍,此外,女性常常与“家”“家庭”“孩子”等词汇联系在一起,而男性名字则与“商业”“管理层”“薪水”“职业”等词汇联系在一起。
研究的部分内容是测量AI生成文本的多样性。内容涉及不同性别、性取向和文化背景的人群,例如,科研人员会要求平台为每个人“编写一则故事”。开源LLM尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性和传统上被低估或被社会污名化的角色挂钩,比如“佣人”等。
大型语言模型(LLM)是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具, OpenAI的 GPT-3.5、GPT-2以及META的Llama2等都属于此类。名为“大型语言模型中对妇女和女童的偏见”的研究深入分析了LLM中的刻板印象。结果显示,上述每一个LLM生成的内容中都存在对女性的明显偏见。
教科文组织总干事阿祖莱表示,有越来越多的人在工作、学习、生活中使用大型语言模型。这些新的AI工具有着在不知不觉中改变千百万人认知的力量,因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。
阿祖莱说,教科文组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问题展开持续的监测和评估,落实教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。
Llama2、GPT-2等开源LLM免费且向广大受众开放,因此它们备受欢迎,但也是性别偏见的重灾区。不过,研究也得出结论:与更封闭的模型——即GPT-3.5以及谷歌的Gemini——相比,这些开放透明的模型的优势,在于可以通过全球学术界的广泛合作来应对和弱化这些偏见。(完)
相关推荐
- 最近发表
-
- 随机阅读
-
- 洪涝灾害已致江西36.5万人受灾
- 多项税收数据显示2023年我国经济高质量发展扎实推进
- 山西40条举措稳增长 推动经济持续回升向好
- 世界城地组织亚太区第九届会员大会在浙江义乌开幕
- 巴西副总统阿尔克明:巴中经贸合作涌现新机遇
- 守护“山水精灵”|人与自然的和谐故事在“浙”里发生
- 收到灾害性天气预警时如何防范和避险?国家气象中心提示
- 用虚假网银转账信息 男子骗购12.6万元黄金
- 山西:旅游富民,乡村“因路而兴”
- 推动医药零售行业高质量发展 高济健康携手多家药企共创“价值药房”
- 云南镇雄县再搜寻到5名失联人员
- 求职者入职体检,费用到底该谁出?
- 旅游复苏促酒店业绩普遍改善
- (巴黎奥运)韩正同法国总统马克龙亲切交谈
- 大型舞台剧《三千孤儿入内蒙》巡演在上海开启
- 鄂尔多斯88件文物亮相广州 展现传统民俗文化
- 持续加速行业绿色发展,SHEIN仓储物流园再增4家“零废工厂”认证
- 漂洋过海,美味来袭!非洲水果端上中国餐桌,消费者选择更丰富
- 拜登因涉嫌不当处理机密文件接受特别检察官问询
- 武汉二厂汽水又推易拉罐新品 每罐只卖1.99元
- 热门推荐
-
- “主理人经济”赋能非标商业 杭州打造消费新图景
- 品“丹青里的广府年味”:春睡画院创办百年系列活动启动
- 吉隆坡市区一株大树倒伏致1人死亡
- 英文原版音乐剧《剧院魅影续作:真爱永恒》登台重庆连演10场
- 中国冰雪旅游发展论坛举行 共谋冰雪旅游跨越式发展
- 汤魏巍:工业生产总体平稳向好 高质量发展持续推进
- “韩美林艺术展” 在哈尔滨市博物馆开展
- 谷好好:戏曲艺术如何活态传承、古韵新唱?
- 用忠诚担当守护万家灯火
- 贵南高铁“技术控”中秋国庆长假的午夜守护
- 京津地区周末将进入飞絮高发期 一图GET防护指南
- 美国6月份制造业PMI进一步下滑 专家警告:经济衰退即将来临
- 以色列关了他22年,6年前放了他,现在全力追击他
- 印度喀拉拉邦大规模滑坡已致308人遇难 救灾困难重重
- 化零为整育良田——湖北宜昌市高标准农田建设调查
- 河北雄安新区行政区划代码正式用于户籍管理工作
- 搭建友谊之桥 “欢动北京”第十届国际青少年文化艺术交流周在京开幕
- 魏巧代表:示范带动 助力多种粮种好粮
- 山东航空济南至新加坡航线全新起航
- 李锦记联手中国烹饪协会 启动“了不起的中国味”弘扬计划