塔林加！作为拉丁美洲第二大社交媒体平台，评论并不陌生。该平台每月审核超过 150,000 条评论，他们花了数年时间创建一个系统，以确保每条评论和内容都有助于提供积极的用户体验。他们在 2019 年初遇到了Perspective，并希望测试机器学习如何增强他们的审核流程，同时保持无缝和积极的用户体验。
[塔林加！主页。资料来源：塔林加！]
为社区，由社区
自该网站于 2004 年推出以来，Taringa! 社区控制着基调和内容。版主依靠成员报告辱骂和有毒内容，他们手动审查这些内容。但随着网站增加新用户，版主团队需要找到一种方法来扩大他们的工作量，同时保持高质量的内容标准。
“我们已经在考虑更新我们的审核系统，因为我们注意到越来越多的有害评论。过去，我们的版主每月标记大约 1,500 份不当内容的用户报告，但我们发现在过去三年中这一比例增加了 15%，在 2018 年初达到约 12,000 份用户报告的峰值，”产品主管 Lucila Paturzo 说营销。
在引擎盖下
Paturzo 和团队添加了 Perspective 和其他工具作为其技术支持的审核策略的一部分，因为他们“需要在不改变用户体验的情况下减轻审核员的压力。这真的很重要——我们不想对我们的用户产生负面影响，但实际上想为他们营造一个积极的环境。”
Perspective 给出了一个“分数”，表明该算法对某条评论与它过去看到的有害评论相似的信心程度。在 Taringa! 上，任何得分为 0.9（满分 1）或更高的评论都将被隐藏，而相同得分的少于 500 个单词的帖子将被标记为 NSFW。注册用户可以选择隐藏评论，让版主可以轻松识别任何需要仔细查看的评论，而不会中断用户的体验。
[用户如何体验隐藏内容。资料来源：塔林加！]
塔林加！团队对 Perspective 进行了广泛测试，以确保技术辅助审核对手动审核和增强版主工作有实质性好处。借助 Perspective，版主可以检查 100% 已标记的评论，采取行动并与日志和内容创建者一起重新评估。
“在我们决定使用包括 Perspective 和其他图像审核工具的自动审核之前，内容会进入一个复杂且相当耗时的工作流程，这限制了审核员覆盖移动内容的能力。例如，每次主持人请求对图片进行审核时，系统都会提供来自当时优先级为第一的帖子的图片。我们还发现版主经常发现他们一遍又一遍地得到相同的图像进行分析（想想模因），因为我们从它的 URL 识别图像，并且相同的图像可以上传多次，所以它可以有很多不同的网址，”帕图尔佐说。
测试和改进
这只是 Taringa 的开始。该团队正在利用他们从 Perspective 的初始实施中学到的知识并测试该技术，以确保它满足社区和品牌的需求。业务发展部 AdOps 负责人 Mauro Miranda 提到一个重要的优先事项是“确保 Perspective 适用于所有西班牙地区的方言和词汇。”
“我们的总部设在阿根廷，在这里一个无辜的词可能对来自哥伦比亚或委内瑞拉的人意味着完全不同的东西，”他解释道。
实施 Perspective 并测试其局限性只是第一阶段，该团队计划调整毒性参数并与 Jigsaw 合作解决误报问题。如果一切顺利，Perspective 将帮助 Taringa！更欢迎新用户，同时鼓励所有用户三思其评论的影响。
