Enterprises are overpaying for simple AI queries — Snowflake's gateway now auto-routes to cut costs up to 3x

Introduction : Snowflake lance le routage dynamique de modèles dans son Cortex AI Gateway, permettant aux entreprises de choisir automatiquement le modèle le plus adapté à chaque requête, tout en maîtrisant les coûts et la gouvernance.

• Routage intelligent et économies : le système teste d’abord un petit modèle (pattern « advisor ») et, si besoin, fait appel à un modèle plus puissant ; un classificateur, entraîné sur l’historique, oriente les questions simples vers des modèles légers, ce qui peut réduire les dépenses en tokens jusqu’à trois fois selon les tests internes de Snowflake.
• Gouvernance intégrée : le routage s’appuie sur les contrôles d’accès déjà définis pour les données, les modèles