-
软件
-
服务
-
支持
-
见解
-
对比
-
更多
-
适用于 Windows 的 UL Procyon® AI 推理基准测试
使用各种推理引擎对 AI 性能进行基准测试
随着将 AI 解决方案越来越轻松地集成和部署到日常应用，机器学习应用正在得到发展。凭借对更快的机器学习性能的需求，主要硬件供应商一直在优化自己的推理引擎，以便在硬件上提供可能最佳的性能。
适用于 Windows 的 UL Procyon AI 推理基准测试 会就 AI 推理引擎在 Windows 环境中的硬件上的执行情况提供深刻见解，帮助您决定支持哪些引擎以实现最佳性能。基准测试采用不同供应商提供的多项 AI 推理引擎，并使用基准测试分数来反映设备上推理操作的性能。
在基准测试中，将使用一系列最受欢迎、最先进的神经网络执行常见的机器视觉任务。将 AI 加速器与 CPU 或 GPU 上运行的相同操作进行比较，以测量 AI 加速器的性能。
立即购买特点
- 基于常见的机器视觉任务，使用最先进的神经网络进行测试
- 使用 CPU、GPU 或专用 AI 加速器来测量推理性能。
- 使用 NVIDIA® TensorRT™、Intel® OpenVINO™、Qualcomm® SNPE 与 Microsoft® Windows ML 进行基准测试。
- 核实推理引擎的实施与兼容性。
- 优化硬件加速器的驱动程序
- 比较浮点和整数优化的模型性能。
- 通过 UL Procyon 应用或命令行简单地进行设置和使用。
推理引擎性能
运用适用于 Windows 的 ULProcyon AI 推理基准测试，通过基于常见机器视觉任务的测试，可以测量专用 AI 处理硬件的性能，并核实推理引擎的实施质量。
为专业人士所打造
对于需要使用独立的标准化工具对推理引擎实施及专用硬件的常规 AI 性能进行评估的工程团队，我们开发了适用于 Windows 的 UL Procyon AI 推理基准测试 。
快速并且容易使用
基准测试易于安装和执行，无需复杂的配置。使用 UL Procyon 应用或通过命令行运行基准测试。查看基准测试分数与图表，或导出详细的结果文件以供进一步分析。
具有行业专业知识
UL Procyon 基准测试专为工业、企业和新闻行业使用而设计，具有专为专业用户而开发的测试与功能。适用于 Windows 的 AI 推理基准测试是通过 UL 基准测试开发计划 (BDP) 与行业合作伙伴共同设计和开发的。BDP 是 UL Solutions 制订的计划，旨在通过与计划成员的密切合作，创建相关的、公正的基准测试。
神经网络模型
MobileNet V3
MobileNet V3 是专门为移动设备所创建的紧凑型视觉识别模型。基准测试使用 MobileNet V3 识别图像的主题，将图像作为输入并输出图像内容的概率列表。该基准测试使用 MobileNet V3 的大型简约版本。
Inception V4
Inception V4 是用于图像分类任务的最新模型。专为准确性而设计，它是比 MobileNet 更广泛，更深入的模型。基准测试使用 Inception V4 来识别图像的主题，将图像作为输入并输出图像中所识别内容的概率列表。
YOLO V3
YOLO 表示“您只需看一次 (You Only Look Once)”，是旨在对图像中的对象位置进行识别的对象检测模型。基准测试会使用 YOLO V3 在对象周围生成边界框，并就每项检测的置信度而产生概率值。
DeepLab V3
DeepLab 是一种图像分割模型，旨在对属于同一对象类的图像像素进行聚类。语义图像分割用一类对象标记图像的每个区域。该基准测试使用 MobileNet V2 进行特征提取，与大型模型相比，可在质量上几乎没有差异的情况下进行快速推断。
Real-ESRGAN
Real-ESRGAN 是根据合成数据而进行训练的超分辨率模型，可用于提高图像的分辨率，并从低分辨率的对应图像重建更高分辨率的图像。基准测试中使用的模型是 Real-ERSGAN 的一般图像变体，并将 250x250 的图像放大为 1000x1000 的图像。
ResNet 50
ResNet 50 是图像分类模型，可以提供使用剩余块添加更多卷积层的新方式。它的发布使以前不可能做到的深度神经网络训练成为可能。基准测试使用 ResNet 50 来识别图像主体，输出图像中所识别内容的概率值列表。
整数和浮点模型
基准测试包括每个模型的浮点数和整数优化版本。每个模型依次在设备中所有兼容的硬件上运行。为每次运行选择设备和推理精度，以比较整数和浮点模型之间的性能。
结果与见解
基准测试分数
使用 CPU、GPU 或专用 AI 加速器将 AI 推理性能与整数及浮点模型进行比较。
详细分数
使用所选的推理引擎和处理单元时，查看每项神经网络测试的推理时间。
硬件监控
获取基准测试运行期间有关 CPU 和 GPU 温度、时钟速度及使用情况变化的详细指标。
最低系统要求
| 操作系统 | Windows 10, 64-bit or Windows 11 |
|---|---|
| 处理器 | 2 GHz 双核 CPU |
| 内存 | 4 GB |
| 存储空间 | 4 GB |
语言
- 英语
- 德语
- 日语
- 葡萄牙语(巴西)
- 简中
- 西语