一些科技公司一上市就大放异彩，而另一些公司则似乎大吃一惊。

Genderify是一项新的服务，它承诺在人工智能的帮助下，通过分析某人的姓名、电子邮件地址或用户名来识别其性别，它看起来肯定属于后者。该公司上周推出了产品搜索，但由于用户发现其算法存在偏差和不准确之处，在社交媒体上引起了大量关注。

例如，在Genderify中键入名称“Meghan Smith”，服务将提供评估：“**：39.60%，**：60.40%”。但是，将该名称更改为“Dr.Meghan Smith”，评估将更改为：“**：75.90%，**：24.10%。“其他以“Dr”为前缀的名字也会产生类似的结果，而输入似乎通常会偏向**。“[email protected]例如，据说有96.90%的人是**，而“琼·史密斯夫人”则有94.10%是**。

反对这项服务的呼声如此之高，以至于Genderify告诉《边缘报》，它将完全关闭。一位代表通过电子邮件说：“如果社区不想要，也许这是公平的。”。Genderify.com网站已脱机，其免费API不再可访问。

尽管这些偏见经常出现在机器学习系统中，性别化的轻率似乎让该领域的许多专家感到惊讶。研究人工智能对社会影响的AI Now研究所联合创始人梅雷迪思·惠塔克（Meredith Whittaker）的反应有些典型。“我们是不是被人跟踪了？”她问道。“这是一场心理战，意在分散科技+司法界的注意力吗？已经是愚人节了吗？”

问题不在于Genderify根据某人的名字对其性别进行假设。人们总是这样做，有时在这个过程中会犯错误。这就是为什么了解人们如何自我认同以及他们希望如何被称呼是礼貌的。性别验证的问题在于它自动化了这些假设；在将个体分为**/**二元（因此忽略了那些认为是非二元的个体）的同时，在这个过程中强化了性别刻板印象（例如：如果你是医生，你可能是个男人）。

这种做法的潜在危害取决于性别歧视的应用方式和地点。例如，如果将该服务集成到医疗聊天机器人中，它对用户性别的假设可能会导致聊天机器人发布误导性的医疗建议。

谢天谢地，Genderify的目标似乎并不是让这类系统自动化，而是主要设计成一种营销工具。正如Genderify的创始人Arevik Gasparyan在产品搜索上所说：“Genderify可以获得数据，帮助你进行分析，增强你的客户数据，细分你的营销数据库，人口统计等。”

在同一评论部分，Gasparyan承认了一些用户对偏见和忽视非二元个体的担忧，但没有给出任何具体的答案。

一位用户问：“假设我选择既不是**也不是**，你是怎么做的？如何避免性别歧视？你是如何处理性别偏见的？对此，Gasparyan回答说，该服务基于“已经存在的二进制名称/性别数据库，该公司正在“积极寻找改善变性人和非二元访客体验的方法”，将姓名/用户名/电子邮件的概念与性别身份区分开来。这是一个令人困惑的答案，因为性别鉴定的整个前提是这些数据是性别身份的可靠代表。

该公司告诉《边缘报》说，这项服务与现有公司非常相似，后者使用姓名数据库猜测个人性别，不过没有一家公司使用人工智能。

一位代表通过电子邮件表示：“我们明白，我们的模型永远不会提供理想的结果，算法也需要大幅改进，但我们的目标是建立一个自学习的人工智能，不会像任何现有解决方案那样有偏见。”。“为了让它发挥作用，我们非常依赖变性人和非二进制访问者的反馈，帮助我们尽可能地为LGBTQ+社区改进性别检测算法。”

更新时间：美国东部时间7月29日星期三下午12:42：报道已经更新，以确认Genderify已经关闭，并添加了该公司代表的补充意见。