Stop adding more GPUs: Weka's new storage platform reduces load by caching 100% of an AI model's pre-calculated tokens

Introduction
Weka propose d’étendre la mémoire GPU, la ressource la plus coûteuse en IA, en la complétant avec du stockage flash bon marché grâce à sa plateforme NeuralMesh 6 et à son matériel Wekapod 3.

Points clés
- Mémoire augmentée par le flash : l’« Augmented Memory Grid » agrège du NAND flash (TLC et QLC) pour fonctionner comme une mémoire GPU à moindre coût, permettant de mettre en cache 100 % des tokens pré‑calculés et d’éliminer les recomputations inutiles lors de longues conversations.
- Architecture multi‑locataire et stockage unifié : des clusters composables offrent une isolation matérielle complète, tandis que le stockage unifié fichier/objet permet d’accéder aux mêmes données via les deux interfaces sans duplication, avec une latence 100× supérieure à S3 et une facturation par capacité.
- Réduction de données et garantie contractuelle : le mécanisme « AlloyFlash » combine TLC rapide et QLC économique, appliquant la réduction de données en permanence, et Weka garantit contractuellement les économies annoncées, renforçant la confiance des