为什么几乎所有AI都以「女性」形象呈现?
编者按:AIGC 的成熟必然会促进几乎陷入瓶颈的 AI 语音助手类产品,后续的 VUI 必然会越来越聪明,反应也会越来越快。但是这当中一直存在一个问题:几乎所有的 AI 语音助手都是「女性」。这似乎是一件「理所当然」的事情。但是背后的原因是值得深究的,今天这篇出自设计师 Daley Wilhelm 的文章探讨了背后的问题,它的影响可能并没有那么简单。以下是正文。
《奥创纪元》中的 Jarvis,在它变成幻视之前
在科幻小说当中,人类生活在高科技世界的一个重要标志,就是极其聪明的人工智能语音助手。在《星际迷航》中,企业号拥有几乎无所不能的计算机,而钢铁侠 Tony Stark 创造的人工智能 Jarvis 干脆直接进化为实体智能生命幻视。在今天,现实世界当中,我们暂时只能梦想 Jarvis 这种既能满足人类需求又能预测人类需求的 AI,想要实现还需要很长的路要走。相比之下,已经和我们相伴多年的 Alexa、Siri 和 Cortana 则显得苍白而无力。
在 Jarvis 变成幻视之后,钢铁侠的人工智能助手则是一个有着明显女性形象的 AI,Friday(星期五),他借由这个女性 AI 来操控和管理无数先进的技术。
和 Jarvis 类似,Friday 同样有着超强的能力和非常明显的个性。而当小蜘蛛从钢铁侠那里继承了升级版的蜘蛛侠套装之后,他也拥有了一个预装其中的人工智能语音界面,而小蜘蛛 Peter Parker 随后将他的 AI 命名为「Karen」。
在漫画中,Friday 穿着高跟鞋,有着鲜明的女性形象
为什么 Jarvis 是钢铁侠前后诸多 AI 当中唯一的男性 AI?而我们目前已知的、接触的 AI 当中,几乎都是以女性形象示人的?
必须承认的是,相比于男声,女性的声音更加悦耳,更加易于理解,尽管没有特别充分的科学研究能够支撑这一说法。然而,这确实是科技行业会优先选择女性声音作为人工智能语音助手的理由。
未来学家和作家 Bernard Marr 曾经撰写大量关于大数据的书籍,根据他的说法:「研究可能表明,人类更喜欢女性的声音,并且研究发现,女性的声线在发出元音的时候会更加清晰,也更加易于听清和理解。在我们所拥有的声音库当中,女性的声音数据更多,而这些数据越多,我们自然能够更好地训练支撑语音助手的自然语言算法,进而可以让女性声线更加清晰、准确和逼真。」
从历史上看,自语音 UI 诞生之日起,使用女性声线来作为支撑语音助手的交互就似乎成了「标准操作」,而这种情况也解释了为什么如今会有大量的女性声音数据。事实上,当 Google 开始打算使用中性的名称「Google Assistant」(谷歌助理)的时候,他们就意识到了男性的声音更难处理:它们会犯更多语音识别上的错误,并且需要花费更长时间来进行「规训」(无论是输出还是识别男性声线,以及让男性声音被听到和理解,都比女性声音更麻烦)。Google 的文本转语音全球工程经理 Brant Ward 说:「我们曾经在很多不同的(AI)平台上测试过,但总是很难获得质量足够好的男性的声音,可能是因为这些 AI 系统本身,因为无论来自于哪里,针对女性声音的训练数据总是比男性声音更多。」
我们绝大多数的 AI 语音助手都是采用的女性声音,无论是真实存在的还说影视作品当中呈现的,基本都是采用的女性形象和声音,这件事情本身是个问题吗?
xkck 创作的关于 Siri 的漫画
回忆一下我们和 AI 语音助手之间对话的方式吧——我们通常不会客气,甚至永远不用说的太清楚,哪怕是带有侮辱性质的命令,Siri 总会泰然自若地处理。而家里有 AI 语音助手的父母们开始担心孩子们会变得更加粗鲁,因为 Alexa 永远不会大声地给孩子们下命令,也不会斥责他们。
但是孩子们面对 Alexa 说话时,也不会像和父母说话一样客气吧?赫瑞瓦特大学计算机科学教授 Verena Rieser 曾经警告过,当我们将 AI 语音助手女性化的时候,可能会对现实世界产生切实的影响。
「我们和 AI 在线上互动的后果可能会影响到现实,而这种影响可能是危险的。这里需要注意一个重要的前提,人工智能并不是中立的,因为它是人类创造的,所以它同样会从我们的社会偏见中汲取信息。现在的人工智能也会反映出这些偏见,而我们也正需要解决这个问题。」
这种偏见就是,女性是顺从的,适合担当助理的角色,她们从不顶嘴或者抗议。
我们用来构建未来人工智能的数据,受到如今普遍存在的人类偏见的影响。事实上,IBM 所创建的超级计算机 Watson 采用的也是少见的男性角色形象,使用着男性的嗓音,而「他」本身并不是作为「助理」来创建的,这未尝不是从侧面印证来这一偏见。
Jarvis 在电影《复仇者联盟2:奥创纪元》中,从一坨算法进化成为一个有知觉的生命体,在此之前,在它尚且是「助理」的阶段,就已经透过漫画圈粉无数。而在另外一部经典的科幻电影《2001太空漫游》中,库布里克所塑造的人工智能 HAL 同样是男性形象,同样拥有知觉,但是显得非常的险恶。有意思的是,当 AI 在故事中以男性角色出现的时候,它通常会拥有机会完成属于自身的角色弧光,补完叙事,而不是悄无声息地作为缺少存在感的辅助元素。在《复仇者联盟2:奥创纪元》之后,Friday 一直作为 Tony 的 AI 助手存在,但是直到《复联4》你都很少能够感受到她的存在感。女性 AI 少有能享受到主角待遇,迪士尼出品的《智能家居》(又名《我的妈咪不是人》)算是其中之一(但是在中国很少有人看过,豆瓣观看人数仅有19人)。
人类社会被这样的偏见所感染:「女性应该是助理而非主角」。这种偏见融入到如今的 AI 数据构建当中,即使设定为中性的 Google Assistant 也默认是女性角色,因为很难找到和生成足够好用的男性语音数据。
我们有理由关注 AI 语音助理的女性化问题,它从某种程度上强化了刻板印象。有一项研究表明,采用女性语音的人工智能在无法给出正面有效回应时,会招致用户更多的辱骂乃至于厌女的反应。即使是缺乏知觉的代码,也不应该因为性别而招致侮辱。
这种情况实在是太蠢了,即使 Jarvis 和 Friday 都会这么觉得。
AI 需要更多不同的声音,这不仅仅是为了降低偏见。
提高3倍效率!能落地的AI绘画&设计系统课来了!
如何快速入门AI绘画和AI设计?
阅读文章 >