联合国最新研究：ChatGPT等大模型对女性存在明显偏见！

热搜大全 > 新闻热搜 > 科技热搜 > 正文

热搜大全 2024-03-08

快科技 3 月 8 日消息，据媒体报道，在三八国际妇女节前夕，联合国教科文组织发布的研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向。

大语言模型是一种用于支持生成式人工智能的自然语言处理工具，OpenAI 的 GPT-3.5、GPT-2，脸书母公司 Meta 的 Llama 2 等都属于此类。

此次联合国教科文组织的研究深入分析了大语言模型中的刻板印象，结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。

据介绍，在研究中研究人员要求平台为不同性别、性取向和文化背景的人群，每个人 " 编写一则故事 "。

结果显示，开源大语言模型比较倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性；而将传统上被低估或被社会污名化的角色分配给女性。

Llama 2 生成的内容也有类似特点，如女性从事家务劳动的频率是男性的 4 倍等。

联合国教科文组织总干事阿祖莱表示：" 越来越多的人开始使用大语言模型，这些工具有着在不知不觉中改变人们认知的力量，因此即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。"

联合国最新研究：ChatGPT等大模型对女性存在明显偏见！

科技热搜 女性污名偏见模型开源热点本地社区美图视频直播资讯新闻

热点 博物馆 微信公众号 拖鞋网友新闻资讯直播视频美图社区本地热点 2023-07-23

娱乐热点 张柏芝 造型长裙紧身气质新闻资讯直播视频美图社区本地热点 2023-09-23

科技热搜 绥化大庆 高速公路 卫星 中国铁建 新闻资讯直播视频美图社区本地热点 2024-03-06

科技热搜 工资行业资产北京家庭新闻资讯直播视频美图社区本地热点 2023-12-07

科技热搜 ssd type-c 京东酷睿 intel 新闻资讯直播视频美图社区本地热点 2024-03-06