instagram使用人工智能检测照片和字幕中的欺凌行为

去年，Instagram推出了一个增强的评论过滤器，它使用机器学习在具有挑战性的上下文中发现攻击性的单词和短语。现在，该公司正在将类似的覆盖范围扩大到照片和字幕。今天，它宣布将使用人工智能“主动检测欺凌行为”，然后再将内容发送给人类版主审查。...

去年，Instagram推出了一个增强的评论过滤器，它使用机器学习在具有挑战性的上下文中发现攻击性的单词和短语。现在，该公司正在将类似的覆盖范围扩大到照片和字幕。今天，它宣布将使用人工智能“主动检测欺凌行为”，然后再将内容发送给人类版主审查。

这项新功能将在未来几周向用户推出，将在美国10月的全国欺凌预防月以及英国的反欺凌周之前及时推出。同样的技术也被添加到实时视频中，以过滤那里的评论。

这是Instagram新任首席执行官亚当·莫塞里（Adam Mosseri）上任后的第一次产品发布。上个月，Instagram的联合创始人凯文·西斯特罗姆（Kevin Systrom）和迈克·克里格（Mike Krieger）匆匆离职。据报道，这对情侣的分手是由于他们与母公司Facebook之间的紧张关系，后者经常插手Instagram的产品。

随着公众对Facebook的信任度持续下降，Instagram仍然是该公司产品阵容中的亮点。它广受欢迎，有利可图，而且还没有受到破坏Facebook的丑闻的影响。在这种情况下，使用人工智能帮助清除攻击性内容，并使Instagram成为良好氛围的家园，这一点极为重要。

《连线》去年发表的一篇文章解释了Instagram的机器学习评论过滤器的一些细节，但众所周知，这种技术并不是内容调节的灵丹妙药。人工智能的大规模部署成本很低，是的，但它在处理人类环境和细微差别方面仍然有困难。这就是为什么这些新的欺凌过滤器还可以将内容发送给人类版主进行最终检查的原因。没有监督的自动化是灾难的根源。

有趣的是，Instagram表示，它不仅分析照片标题来识别欺凌行为，还分析照片本身。一位发言人向Verge讲述了人工智能寻找分裂屏幕图像的例子，作为潜在欺凌的例子，因为一个人可能会被与另一个人进行负面比较。不过，人工智能还将寻找哪些其他因素尚不清楚。考虑到Facebook宣布将使用人工智能扫描模因时，人们立即开始考虑绕过此类过滤器的方法，这可能是个好主意。

除了新的过滤器外，Instagram还推出了“善意照相机效果”，这听起来像是一种传播积极信息的方式，可以提高用户参与度。使用后置摄像头时，屏幕上会出现“多种语言的友好评论”。切换到前向摄像头，你会得到一片心光和礼貌的鼓励，可以“标记你想支持的朋友”

更新美国东部时间10月9日星期二上午9:30：故事已更新，扫描照片上有更多细节。