Google 发布 LiteRT.js：在浏览器中通过 WebGPU 运行 .tflite 模型

Google 于 2026 年 7 月 9 日发布 LiteRT.js，这是其设备端推理库 LiteRT 的 JavaScript 绑定。它通过 WebAssembly 在浏览器中直接执行 .tflite 模型，支持 CPU 上的 XNNPACK、WebGPU 上的 ML Drift 以及实验性 WebNN 用于 NPU。据 Google 报告，相比其他 Web 运行时，性能提升最高达 3 倍；GPU 或 NPU 路径相比 CPU 路径提速 5–60 倍。但公告未提及的一个细节是：张量需要手动管理并必须删除。 对于在浏览器中部署 TensorFlow Lite 模型的前端开发者和机器学习工程师，LiteRT.js 提供了显著加速能力，尤其是利用 GPU 或 NPU 的场景。但开发者必须注意手动管理张量生命周期，避免内存泄漏。该库尤其适合需要高性能推理的 Web 应用，如实时视频分析或交互式 AI 工具。