facebook将研究其算法是否存在种族偏见

Facebook正在组建新的内部团队,专门研究其主要社交网络和Instagram的种族偏见,特别是其使用人工智能训练的算法是否会对黑人、西班牙裔和其他代表性不足的群体产生不利影响。Facebook的一位发言人告诉Verge,这个团队将“负责确保我们所做的每件事都有公平和公平的产品开发。”。“我们将继续与Facebook负责的人工智能团队密切合作,以确保我们在各自平台上寻找潜在的偏见。”...

Facebook正在组建新的内部团队,专门研究其主要社交网络和Instagram的种族偏见,特别是其使用人工智能训练的算法是否会对黑人、西班牙裔和其他代表性不足的群体产生不利影响。Facebook的一位发言人告诉Verge,这个团队将“负责确保我们所做的每件事都有公平和公平的产品开发。”。“我们将继续与Facebook负责的人工智能团队密切合作,以确保我们在各自平台上寻找潜在的偏见。”

007Ys3FFgy1gpnwxt22b3j31v818tdyh

新的股票团队——Instagram内部称之为团队(正在组建一个类似的团队来研究Facebook的主要应用程序和网站)——标志着该公司的一个转变,该公司历来**公司内部研究种族偏见影响的努力。《华尔街日报》周二首次报道了Facebook新研究团队的消息。

“种族正义运动对我们公司来说是一个真正重要的时刻。Instagram负责产品的副总裁Vishal Shah在一份给the Verge的声明中说:“我们的制度和政策中的任何偏见都与为每个人提供一个表达自己的平台背道而驰。”。虽然我们一直在努力创造更公平的体验,但我们正在为继续这一进展做出更多努力——从建立Instagram股票团队到Facebook的包容性产品委员会。”

乔治·弗洛伊德5月底去世后,美国各城市每天都在**种族主义和政策**,公司今天做出上述决定。在反诽谤联盟、改变之色、全国有色人种协进会和其他民权组织发起的“停止诽谤”运动下,Facebook也在经历长达一个月的广告**的最后阶段。**行动包括可口可乐、迪士尼、麦当劳、星巴克和沃尔玛等数十家大型消费商,不过,首席执行官扎克伯格(Mark Zuckerberg)被称为“令人失望”,并被指在本月早些时候与**组织者会面时提供了肤浅的借口。

上个月,Instagram首席执行官亚当•莫塞里(Adam Mosseri)承诺,将彻底改革Instagram试图解决黑人和其他代表性不足群体在该平台上面临的问题的方式。莫塞里写道:“首先要说明代表性不足的群体,比如我们的黑人社区,在使用Instagram时所面临的经验和挑战。”。“为了更好地了解我们的平台对不同群体的影响,我们做了很多工作,这帮助我们达到了今天的水平。但我认为,在一些关键领域还有更多的工作要做,这符合我们更广泛的公司承诺。”Mosseri特别指出,骚扰、账户验证、分销和算法偏见是Instagram需要改进的领域,以便更好地为黑人用户服务。

Facebook有着种族偏见的坎坷历史。调查发现,该公司允许广告商在住房和就业等联邦监管市场上做广告时,将某些少数群体排除在外。Facebook经常使用一些技术性的东西来回避这些问题,比如不是按种族而是按所谓的“种族”或“多元文化”亲缘关系来对用户进行分类,或者根据大多数黑人、西班牙裔或其他少数族裔在统计上对平台的喜好来自我选择身份群体。只有在媒体(最突出的是ProPublica)的严格报道之后,作为与民权组织达成的法律和解的一部分,Facebook才最终禁用了针对住房、工作和信贷广告的广告选择。

据《华尔街日报》报道,该公司还不到4%的黑人员工,去年公司官员禁止员工在未经最高层领导批准的情况下研究其平台的种族影响。《华尔街日报》报道,结果发现,像Instagram账户暂停这样自动调节的Facebook软件对用户的影响不成比例,该平台怀疑用户是黑人。

在全国各地发生黑人生命事件**活动后,Facebook承诺捐款2亿美元支持黑人拥有的企业。该公司上个月还表示,计划在未来五年内将黑人和其他代表性不足的少数民族在其领导团队中的比例提高30%,并力争到2023年将黑人和西班牙裔员工人数翻一番。

一份长达89页的民权审计报告由法律公司Relman Colfax历时两年进行,并于7月8日发布,该报告呼吁Facebook研究并消除其人工智能培训软件和系统中的种族偏见,尽管那些进行审计的人不被允许研究公司内部研究和人工智能模型。

  • 发表于 2021-04-18 15:08
  • 阅读 ( 191 )
  • 分类:互联网

你可能感兴趣的文章

社交网络如何摆脱错误信息和骚扰?

...密切关注社交媒体在政治中的作用。选举期间,假新闻在Facebook上泛滥。一年来,少数民族成员在Twitter上面临着严重的骚扰,而且问题还在恶化。虽然我们普遍认为互联网是****的堡垒,但那些社交网络服务的运营商认为,是时...

  • 发布于 2021-03-16 14:47
  • 阅读 ( 206 )

twitter用户在自动裁剪算法中发现了潜在的种族偏见

...,但它们似乎突出了一个真正的问题。Twitter肯定要仔细研究它的自动裁剪功能,看看它是否有根深蒂固的种族偏见。 ...

  • 发布于 2021-03-30 08:06
  • 阅读 ( 121 )

instagram建立了一个股票团队来对抗偏见

... Instagram负责人亚当·莫塞里(Adam Mosseri)在一篇关于Facebook的博客文章中宣布了新任命的产品权益团队。这些变化是在Instagram承诺提高代表性不足群体的呼声之后发生的。 ...

  • 发布于 2021-03-30 09:53
  • 阅读 ( 149 )

最新研究发现,facebook的广告投放系统仍然存在性别偏见

南加州大学研究人员的一项审计发现,Facebook的广告投放系统歧视**,向她们展示的广告与向**展示的不同,并将**排除在某些广告之外。 研究人员在报告中写道:“脸谱网的广告投放可能导致按性别划分的招聘广告投...

  • 发布于 2021-04-15 21:09
  • 阅读 ( 197 )

据报道,facebook因在招聘和晋升中存在“系统性”种族偏见而受到调查

...路透社报道,平等就业机会委员会(EEOC)正在调查有关Facebook种族偏见和招聘行为的指控,该机构将此调查定为“系统性的”。 今年7月,Facebook雇员奥斯卡•韦尼西(Oscar Veneszee,Jr.)与两名韦尼西招聘的员工一起向...

  • 发布于 2021-04-16 01:19
  • 阅读 ( 151 )

facebook正在加强对反黑人仇恨言论的节制

Facebook告诉《边缘》杂志(Verge)说,Facebook已经开始将其平台上的反黑人仇恨言论视为比针对白人、**和美国人的仇恨言论更重要的内容,以解决此类言论对少数群体造成的不成比例的影响。 其结果是,Facebook用于检...

  • 发布于 2021-04-17 00:17
  • 阅读 ( 170 )

由于对种族偏见的担忧,twitter计划改变图片裁剪的工作方式

...剪工作方式,此前有人担心该公司使用的基于机器学习的算法在裁剪图像时存在种族偏见,特别是偏爱白脸而非黑脸。 该公司首席技术官帕拉格•阿格拉瓦尔(Parag Agrawal)和设计总监丹特利•戴维斯(Dantley Davis)在...

  • 发布于 2021-04-17 12:06
  • 阅读 ( 118 )

医学中使用的算法只对少数几个州的数据进行训练

根据一项新的研究,大多数医学算法都是利用在马萨诸塞州、加利福尼亚州或纽约接受治疗的人的信息开发出来的。根据本周发表在《美国医学会杂志》上的研究,这三个州占据了病人数据的主导地位,另外34个州根本没有代表...

  • 发布于 2021-04-18 02:23
  • 阅读 ( 158 )

ibm将不再提供、开发或研究面部识别技术

...止和停止命令,并且是许多隐私诉讼的中心。今年1月,Facebook还被要求支付5.5亿美元,以解决其非法使用面部识别技术的集体诉讼。 IBM试图帮助解决面部识别中的偏见问题,在2018年发布了一个公共数据集,旨在帮助减少偏见,...

  • 发布于 2021-04-19 01:49
  • 阅读 ( 201 )

instagram的首席执行官说,该平台正在研究其政策如何影响黑人用户

...容,以及如何处理骚扰和验证问题。莫塞里没有具体说明Facebook旗下的照片分享应用程序将做什么,但他列出了Instagram听到黑人用户抱怨偏见的一些关键领域。 莫塞里在一份声明中说:“具有讽刺意味的是,我们是一...

  • 发布于 2021-04-19 02:52
  • 阅读 ( 261 )
slenhell
slenhell

0 篇文章

相关推荐