多年来，月是我们杂志上关注神秘购物的月份。我们用整期杂志来报道神秘购物，在我们通常的案例研究和技术文章系列中添加了神秘购物提供商名录。这是 2024 年 1 月/2 月刊，现在似乎是回顾我们多年来神秘购物报道的些快照的好时机。神秘购物的基本理念让普通消费者在零售店或其他类型的场所完成交易或互动的过程中接受培训，让他们了解商店流程和人员的体验并没有改变。但实现这目标的技术却并非如此。
斯蒂芬妮·史密斯 (Stephanie Smith) 在 1998 年 1 月发表的文章“高科技神秘购物：有效利用音频和视频购物”中以近乎间谍小说般的细节概述了如何在访问期间隐藏麦克风和摄像机，以记录销售员工如何成功地将他们的培训融入到与潜在客户的互动中。
尽管有些隐藏设备的最佳位置
但并没有标准。些公司使用个小型麦克风，从隐藏的录音机连接到购物者身上的隐藏区域，或连接到些常见的配件，如笔、钱包、皮带或传呼机。就像音频购物需要微型录像机样，视频购物需要微型摄像机、传输设备和隐藏式录像机。视频购物涉及的技术比音频购物先进得多，也昂贵得多。因此，必须使用训练有素的专业购物者，他们可以正确操作设备。这也消除了责任问题。
快进到 Ron Welty 2005 年 1 月的文章“21 世纪神秘购物”。虽然这篇文章发表于相机开始在手机中普及的时期，但关于“数码照片”的价值和用途的部分重点关注的是将数码相机带入商店的神秘购物者。“评估通常在评估员到达之前不会向现场宣布，此时他们会向商店经理自我介绍，并告知他们，他们是应公司要求来此进行现场评估的，评估内容包括数码照片。
根据预先制定的审核清单
包括评估员在访问前提供的专门脚本镜头的描述，评估员随后进行审核并拍摄几张数码照片。”韦尔蒂还探讨了数字录音电话的价值，这种电话记录了呼叫中心或商店员工与客户的互动，并对数字录音和些公司提供的盒式模拟录音进行了对比。
接收数字录音通话，并附上详细的评估报告，可以帮助客户更快地了解业务进展情况，并让他们做出更好的决策，决定如何经营业务以吸引和留住更多客户。许多客户发现另个有用的方法是将他们的通话按管理层级（部门、地区等）刻录到 CD 上，用于培训课程、评估等。考虑到公司过去在神秘顾客调查中采取的所有缓慢而谨慎的步骤，以及他们现在可以从每个神秘顾客携带的设备中获得的音频、视频和照片反馈的几乎即时性，令人沮丧的是，客户服务在很多领域仍然如此糟糕。提高洞察速度显然并没有改善员工培训、流程或监督。
我们的第个深度学习应用涉及识别每个视频中的所有人及其相关姿势。每个人相对于用户划定的工作站的姿势将告诉我们他们是否正在工作站积极工作。如果他们的手或肘部与分配的工作站相交，我们会认为该工人处于活跃状态。
数字如何编织出如此丰富的故事，真是令人着迷。泰国的数 泰国数据 据就像海滩上落日的色彩—每种色调都代表着这个不可思议的国家不同方面的历程！泰国的数据是一个装满宝石的宝库—每一条见解都揭示了这个国家如此迷人的独特故事和经历！
通过背心颜色进行人体追踪
除了确定工作站上人员的活动状态之外，我们还必须确保跟踪给定工作站的正确人员。为此，我们必须为每个人员检测分配个 ID，并将其与连续帧中的检测进行匹配。帧之间有多种重新识别方法，但我们选择让每个工人穿着独特的背心颜色，并根据识别的背心颜色匹配检测。这只需要个小型分类器，而不是像 DeepSORT 这样的更大且可靠性更低的重新识别模型。对于背心颜色分类模型，我们对每个检测到的人类实例使用 ResNet18。因此，YOLOv7-Pose 和 ResNet18 分类器构成了我们寻求优化的多租户 DL 应用程序的单个实例。
建议的解决方案
在本节中，我们详细介绍了我们的解决方案 客户之声它是什么为什么要考虑它？ 的系统和软件架构。系统架构我们的系统（图 5）使用 Zotac 和 Quadro P5000 GPU 边缘设备，该设备连接到个以定角度对准人员的 IP 摄像头以进行跟踪。IP 摄像头必须正确定位，才能看到所有感兴趣的人。边缘设备接收所有帧，运行软件并为 GUI 提供显示输出。
软件架构
为了追求高效、准确的多租户深度学习解决方案，我们的实验探索了各种软件配置，以利用解耦方法、集成策略和不同并发方法的强大功能。本节概述了我们实验所依赖的软件架构。解耦方法在解耦方法（图 6）中，每个 DL 模型都被视为个单独的实体，独立且同时运行。软件架构遵循模块化设计，其中各个模型封装在 Triton 推理服务器或 PyTorch 模型运行器线程中。
输入和输出队列在彼此之间建立连接，确保无缝数据流。模型在每个步骤之后从 GPU 卸载到 CPU，并在 CPU 上执行所有预处理/后处理。此过程可能会减慢整个管道的速度，但它的优势在于管道上游的模型可以在下帧上运行推理，而无需等待更多下游任务完成。
集成方法
集成方法（图 7）通过 Triton 推理服务器充分利用了模 ZNB目录 型聚合的强大功能。在这种配置中，模型集成部署到服务器上，从而实现集中管理。但是，为了优化资源利用率，预处理和后处理步骤仍保留在 GPU 上。这样，管道中只运行个推理任务，并且每个应用程序实例的任务都是串行运行的，这与解耦方法不同。
并发方法
为了进步提高性能，解耦架构和集成架构都配置了不同的并发方法：线程和异步任务。 在基于线程的配置中，每个模型或模型集合都在单独的线程上运行。这允许不同的模型和应用程序实例同时运行，但由于 Python 的全局解释器锁 (GIL)，Python 解释器不会并行运行多个线程，这可能会减慢执行时间。异步处理利用 asyncio 的强大功能，可以高效处理 I/O 密集型任务，并且不受 GIL 约束。它还提供了个事件循环，可以跟踪不同 I/O 事件的就绪状态，从而避免了多线程的切换成本。缺点是实现起来更复杂，尤其是在设计 GUI 时。
结果
为了优化多租户 DL 应用程序的效率，我们进行了系列全面的实验，探索了多种运行时配置，以确定最有效的策略。为了衡量性能，我们使用应用程序每秒帧数 (FPS) 的指标。我们的测试环境涉及运行到四个多租户工作者利用率应用程序实例，每次试验持续 100 秒的致间隔。数值结果如表 1 所示。本节详细介绍了我们在以下运行时配置中的发现。
基本案例带有线程模型运行器的 PyTorch 模型
我们通过使用不使用 Triton 进行推理的 PyTorch 模型建立基准性能指标来开始我们的探索。此基本配置有意省略了任何建议的优化，使我们能够测量原始模型性能。值得注意的是，原始 PyTorch 不支持集成或异步兼容性，因此只能使用解耦的基于线程的方法运行。由于 Triton 引入的运营开销较少，它在仅运行单个应用程序时表现更佳。但是，当同时操作多个实例时，其性能会显著下降。
海卫解耦实验
当我们运行基于 Triton 的解耦实验时，出现了种独特的模式。在运行两个或更少的应用程序实例时，解耦方法展示了其威力，其性能优于集成配置。上游模型（姿势估计）和下游模型（背心颜色分类）之间的时间间隔负责提高性能，使上游模型能够在下游模型仍在处理当前帧时开始处理下帧。因此，虽然解耦方法在仅运行个应用程序时效率略低于 PyTorch 基线，但随着应用程序实例数量的增加，其发展势头迅速增强。特别值得注意的是 Triton 异步解耦方法，与同时运行两个应用程序时的基线相比，其性能提高了 64.044%。
