相较于现有的TensorFlow.js,LiteRT.js展现出了明显的性能优势。据悉,该库利用了WebAssembly技术,并深度整合了WebGPU和WebNN等硬件加速接口,以此替代了此前基于JavaScript内核的TensorFlow.js,从而实现了更高效的计算能力。Google在搭载M4芯片的2024款MacBook Pro上进行的测试显示,这一全新运行时的处理速度达到了现有方案的3倍。
此前,LiteRT运行时主要服务于Android和iOS移动平台。随着此次更新,开发者现在可以通过WebAssembly在网页端获得更为强大的AI部署能力。对于正在使用TensorFlow.js的开发者而言,迁移过程相对平滑,如果已拥有.tflite文件,仅需将JavaScript运行时切换为LiteRT.js即可;若使用的是TensorFlow/Keras SavedModel格式,则可以通过Python TensorFlow包中内置的LiteRT转换器进行适配。
此次发布引发了业界的关注,许多人开始推测Google是否会逐步削减对TensorFlow.js的支持或将其优先级降低,并期待该库在除苹果硬件之外的更广泛设备上的实际表现。