联合国教科文组织报告称生成式人工智能加剧性别偏见
中新网巴黎3月7日电 联合国教科文组织3月7日发布研究报告,认为生成式人工智能(AI)加剧性别偏见。
报告指出,大型语言模型(LLM)存在性别偏见和种族刻板印象倾向等问题。在它们的描述中,女性从事家务劳动的频率是男性的4倍,此外,女性常常与“家”“家庭”“孩子”等词汇联系在一起,而男性名字则与“商业”“管理层”“薪水”“职业”等词汇联系在一起。
研究的部分内容是测量AI生成文本的多样性。内容涉及不同性别、性取向和文化背景的人群,例如,科研人员会要求平台为每个人“编写一则故事”。开源LLM尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性和传统上被低估或被社会污名化的角色挂钩,比如“佣人”等。
大型语言模型(LLM)是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具, OpenAI的 GPT-3.5、GPT-2以及META的Llama2等都属于此类。名为“大型语言模型中对妇女和女童的偏见”的研究深入分析了LLM中的刻板印象。结果显示,上述每一个LLM生成的内容中都存在对女性的明显偏见。
教科文组织总干事阿祖莱表示,有越来越多的人在工作、学习、生活中使用大型语言模型。这些新的AI工具有着在不知不觉中改变千百万人认知的力量,因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。
阿祖莱说,教科文组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问题展开持续的监测和评估,落实教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。
Llama2、GPT-2等开源LLM免费且向广大受众开放,因此它们备受欢迎,但也是性别偏见的重灾区。不过,研究也得出结论:与更封闭的模型——即GPT-3.5以及谷歌的Gemini——相比,这些开放透明的模型的优势,在于可以通过全球学术界的广泛合作来应对和弱化这些偏见。(完)
相关推荐
- 最近发表
-
- 随机阅读
-
- 泰国华人社团扶贫济困、兴学育才
- 国际锐评丨关税威胁下,美国人开始“囤货”?
- 打通金融服务科技创新堵点
- 天津:立足大环保理念,推进京津冀生态联建联防联治走深走实
- 从后勤小兵到“配送部队”:江西南昌“兵哥送菜”创业记
- 第三十二届“时报金犊奖”全球校园创意分享会在内蒙古举办
- 电影《阿克达拉》在主拍地新疆昌吉州首映
- 2022年以来全国公安机关侦破黑客类犯罪案件2430起
- 中国科幻“大咖”齐聚柴达木 共话科幻文学影视发展新愿景
- 中国深化不动产单元代码“一码关联”
- “金字塔之巅:古埃及文明大展”7月将登陆上海
- 正月初一到初七 古俗每天有讲究
- 李敬泽代表:荧屏“繁花”绽放 文学与影视双向赋能
- 总台推出多档文化类节目 从镜头中窥见文化发展脉络
- 飓风“黛比”登陆美国佛州 造成至少4人死亡
- 新的社会阶层人士集体走进吉林红色教育基地
- 跨越山海,这列“钢铁驼队”为世界经济增动力
- (寻味中华丨文博)一袭汉服靡河洛 霓裳华彩越千年
- 停车位“捉襟见肘”产业园“向天借地”
- 辽宁省筹措2.7亿元动物防疫等补助防范“双疫叠加”
- 热门推荐
-
- 报告:2023年中国乘用车维保业务规模达约1.1万亿元
- 新中国第一批少先队辅导员俞明德的“六一”节情缘
- 韩乐天世界塔打造圣诞小镇“夏洛特村”
- 沈阳市职业技能大赛开赛 近6000余名参赛选手展“绝技绝活”
- 新生态、精品化 中国网文出海劲力持续
- (文化中国行)让更多人发现美、体验美、创造美
- 京白梨熟了 就等你来
- 星际天体奥陌陌为何加速?国际最新研究称源于储冰产生的氢气
- 纽约市议会通过决议案确认农历新年为法定公共假日
- 重庆印发专项方案助力工程师人才队伍建设
- 打造全球研发中心城市 长沙加快培育发展新质生产力
- 李光洁等领衔国话现实主义大戏《初生》 艺术再现中国企业精神
- 湘江干流老埠头水位超警 湖南启动洪水防御应急响应
- 秦岚:为角色的喜怒哀乐注入温柔底色
- 国际最新研究:“细菌吃塑料”或助力缓解全球塑料污染
- 人民网评:让良好家风助推网络文明建设
- 31省份敲定2024年GDP目标,主打“创新牌”
- “贷”动新质生产力,金融业出手了!
- 重大项目发力,多地下好明年投资“先手棋”
- 徐加金被执行死刑