研究:人类偏好拟人 AI 智能体,但存在性别偏见

10 月 26 日消息,爱尔兰利默里克大学研究人员发布的一项研究指出,在一项涉及 189 位知识工作者的实验中,人类更偏好拟人形象的 AI 智能体,但同时存在性别偏见。

参测者在一个虚拟办公室中与 3 个基于相同底层模型的智能体同事协同完成工作。三位虚拟同事分别以文本聊天窗口、虚拟小机器人、拟人形象出现,其中拟人形象分为女性的 Johanna 和男性的 Johan 两个版本。受测者在协同办公后对每位 AI 助理评分,并据其表现分配后续开发资源。

拟人形象拿到更高信任

结果显示,拟人形象比更像机器人的智能体获得了更高的信任、信用与薪酬。Johanna 和 Johan 在信任与信用上的表现无显著差异,但女性化的 Johanna 得到的薪酬仍在统计学上明显低于其男性同事,尽管多数受采访的参测者并不认为虚拟的性别会影响其反馈。

其它值得注意的情况包括,文本聊天窗口与虚拟小机器人在信任度和信誉度评分上相当,Johann 的类人度评分显著低于 Johan,参测者在形象上更偏好 Johann 作为 AI 助手。

偏见从哪来

更耐人寻味的是,偏见并不来自模型表现差异,Johanna 与 Johan 用的是同一个底层模型,能力上并无高下。差别出在人类评价环节,而评价者自己并不觉得性别在起作用。这一层偏差如果被带进产品设计,虚拟同事的性别设定就可能变成一个隐性的分配变量。

这类评估方法与智能体基准的关系可以对照 美国大行限制 AI 智能体访问账户的动向来看,金融机构对智能体授权越来越谨慎,原因之一正是人类对智能体的信任与评分机制存在系统性偏差。当智能体开始参与真实资源分配,如何评估它就变成了硬问题。