Google 发布 LiteRT.js 用于直接在网页浏览器中运行 AI

[!quote]+

我们很高兴宣布LiteRT.js，一个基于 LiteRT 的 JavaScript 绑定，用于直接在网页浏览器中运行 AI。通过将可信的设备推理库LiteRT带到网络上，网页开发者现在可以完全本地运行最大性能的机器学习和人工智能模型。这意味着增强用户隐私、零服务器成本以及超低延迟，实现实时体验。对于已有.tflite模型的开发者来说，LiteRT.js使得部署到移动端和桌面浏览器比以往任何时候都更顺畅，是执行.tflite模型TensorFlow.js的强大进化。

之前像TensorFlow.js这样的网络AI解决方案依赖性能较低的基于JavaScript的内核，而我们现在通过WebAssembly直接向网页开发者提供所有优化的原生跨平台运行时。LiteRT.js 通过直接在浏览器中运行 .tflite 模型，利用 LiteRT 的先进硬件加速技术，包括用于 CPU 的 XNNPACK、用于 GPU 的 ML Drift，以及即将推出的 NPU 平台 WebNN 来解锁令人印象深刻的性能。