掘金· xn7133·· 3 小时前AI 评分41
LiteRT Tensor API C++ 怎么用:XNNPACK、GPU 与 NPU 路线如何选择
LiteRT Tensor API C++ 怎么用?XNNPACK、GPU 与 NPU 路线如何选择
AI 导读
Google 介绍了 LiteRT Tensor API,开发者可用 C++ 算子直接组织计算图,并从 CPU、TFLite 与 GPU 三条执行路线中选择。XNNPACK 路线适合先验证计算图和数值结果,TFLite + CompiledModel 可序列化为 .tflite 供现有 LiteRT 应用部署,ML Drift 路线走受支持的 GPU 后端。
来源:掘金 · juejin.cn