LiteRT.js : Google lance une Web AI dans le navigateur

Google vient de lancer LiteRT.js, un runtime IA ultra‑rapide qui permet d’exécuter des modèles TensorFlow Lite directement dans le navigateur grâce à WebGPU et, à terme, WebNN.

• Performance et confidentialité : les modèles .tflite tournent en local avec accélération matérielle (CPU via XNNPACK, GPU via ML Drift, futur NPU via WebNN), offrant une latence quasi nulle, aucune dépendance serveur et une meilleure protection des données utilisateur.
• Interopérabilité multiplateforme : LiteRT.js fonctionne sur le web, Android et iOS, s’intègre aux projets JavaScript/TypeScript et reste compatible avec les écosystèmes PyTorch, TensorFlow.js et les flux TensorFlow.
• Déploiement simplifié : grâce à une API concise (loadLiteRt, loadAndCompile, Tensor), les développeurs peuvent charger, compiler et exécuter leurs modèles en quelques lignes de code, facilitant le passage du mobile au navigateur.