亚马逊购物如何使用亚马逊Rekognition内容审核来审查产品评论中的有害图像
亚马逊购物如何使用Rekognition内容审核审查评论中的有害图像
顾客在购物过程中越来越倾向于通过产品评论来做出明智的决策，无论是购买厨房毛巾等日常用品还是购买汽车等重大消费品。这些评论已经成为了信息的重要来源，使消费者能够获取其他顾客的意见和经验。因此，产品评论已经成为任何商店的重要组成部分，提供有价值的反馈和见解，以帮助决策购买。
亚马逊是最大的商店之一，拥有数亿种商品可供选择。2022年，1.25亿名顾客为亚马逊商店贡献了近15亿条评论和评分，使亚马逊的在线评论成为顾客的可靠反馈来源。在每个月提交的产品评论的规模下，有必要验证这些评论是否符合亚马逊社区准则，包括关于可接受的语言、词语、视频和图像的规定。这一做法旨在确保顾客接收到关于产品的准确信息，并防止评论包含不当语言、冒犯性图像或针对个人或社区的仇恨言论。通过执行这些准则，亚马逊能够为所有顾客维持一个安全和包容的环境。
内容审核自动化使得亚马逊能够在保持高准确性的同时扩大规模。这是一个具有独特挑战的复杂问题领域，需要不同的技术来处理文本、图像和视频。图像是产品评论的一个相关组成部分，通常比文字对顾客产生更直接的影响。通过亚马逊 Rekognition 内容审核，亚马逊能够以更高的准确性自动检测产品评论中的有害图像，减少对人工审核员进行内容审核的依赖。Rekognition 内容审核有助于改善人工审核员的福祉，并实现显著的成本节约。
自托管机器学习模型进行内容审核
亚马逊购物团队设计并实施了一个内容审核系统，该系统结合机器学习（ML）和人机协同（HITL）审核，以确保产品评论关于顾客对产品的体验，并且不包含不当或有害内容，符合社区准则。如下图所示，图像审核子系统利用多个自托管和自训练的计算机视觉模型来检测违反亚马逊准则的图像。决策处理程序根据ML模型的输出确定审核操作，并提供其决策的理由，从而决定图像是否需要人工审核员进一步审核，或者可以自动批准或拒绝。
通过这些自托管的ML模型，团队开始自动化处理收到的40%的图像审核决策，并持续努力改进解决方案的同时面临着几个挑战：
- 持续努力提高自动化率 – 团队希望提高ML算法的准确性，目标是增加自动化率。这需要对数据进行持续的标注、数据科学和MLOps投资，用于模型的训练和部署。
- 系统复杂性 – 架构复杂性需要在MLOps方面进行投资，以确保ML推理过程能够高效扩展以满足不断增长的内容提交流量。
使用 Rekognition 内容审核 API 替代自托管的 ML 模型
Amazon Rekognition 是一个托管的人工智能（AI）服务，通过API接口提供预训练模型，用于图像和视频审核。它已经被电子商务、社交媒体、游戏、在线约会应用等行业广泛采用，用于审核用户生成的内容（UGC）。其中包括产品评论、用户资料和社交媒体帖子的审核等各种内容类型。
Rekognition 内容审核可以自动化和简化图像和视频审核工作流程，无需具备ML经验。亚马逊 Rekognition 的客户可以处理数百万张图像和视频，高效地检测不适当或不需要的内容，提供完全托管的API和可定制的审核规则，以确保用户的安全性和业务的合规性。
团队成功地将图像审核系统中用于检测裸露和不适宜工作场所（NSFW）内容的一部分自托管ML模型迁移到了亚马逊 Rekognition Detect Moderation API，利用高准确性和全面的预训练审核模型。借助亚马逊 Rekognition 的高准确性，团队能够自动化更多的决策，节约成本，并简化他们的系统架构。
提高的准确性和扩展的审查类别
Amazon Rekognition图像审查API的实施使得对不适当内容的检测更加准确。这意味着每年将有大约100万张图像自动进行审查，而无需进行任何人工审核。
运营卓越
亚马逊购物团队能够简化系统架构，减少了管理和维护系统所需的运营工作量。这种方法每年节省了数月的DevOps工作量，这意味着他们现在可以将时间用于开发创新功能，而不是花在运营任务上。
成本降低
Rekognition内容审查的高准确性使团队可以减少需要人工审核的图像数量，包括潜在的不适当内容。这降低了与人工审查相关的成本，并使审查员能够将精力集中在更有价值的业务任务上。结合DevOps的效率提升，亚马逊购物团队实现了显著的成本节约。
结论
从自托管的ML模型迁移到Amazon Rekognition审查API可以为企业提供许多好处，包括显著的成本节约。通过自动化审查过程，在线商店可以快速准确地审查大量的产品评论，通过确保不适当或垃圾内容被迅速删除来提高客户体验。此外，通过使用像Amazon Rekognition审查API这样的托管服务，公司可以减少开发和维护自己模型所需的时间和资源，这对于技术资源有限的企业尤为有用。该API的灵活性还允许在线商店根据其特定需求自定义审查规则和阈值。
了解有关AWS上内容审查和我们的内容审查ML用例的更多信息。使用AWS，迈出简化内容审查运营的第一步。
