Snowflake optimise les coûts de l’IA grâce au routage dynamique des modèles

0
Snowflake optimise les coûts de l’IA grâce au routage dynamique des modèles

Snowflake, le Data Cloud AI, annonce le routage dynamique des modèles dans Cortex AI Gateway, Snowflake CoCo et Snowflake CoWork avec un accès élargi aux principaux modèles open source. Snowflake aide les entreprises à réduire les dépenses inutiles liées à l’IA et à améliorer “l’intelligence efficiency”, mesurant l’efficacité avec laquelle les entreprises transforment le calcul, les modèles, les données et le contexte en impact business. Avec l’ajout du routage dynamique des modèles, Cortex AI Gateway peut sélectionner automatiquement le modèle spécifique offrant l’équilibre entre qualité et coût pour la tâche à accomplir. Cette nouvelle fonctionnalité oriente les tâches moins complexes ou répétitives vers des modèles plus efficaces, tandis que les tâches nécessitant un raisonnement plus approfondi sont dirigées vers des modèles frontier. Cela aide les clients à réduire les dépenses d’inférence inutiles, sans avoir à gérer eux-mêmes la sélection du modèle pour chaque requête.

Aucun article à afficher