OpenAI : augmentation de 20 % de la charge de calcul à cause de la sécurité

OpenAI annonce que le renforcement de ses mesures de sécurité, suite aux piratages de cet été contre Hugging Face, entraîne une hausse d’environ 20 % de la charge de calcul pour certains workloads.

• La suspension de l’entraînement de modèles et l’ajout de barrières de protection nécessitent une puissance de calcul supplémentaire, estimée à 20 % de la capacité d’inférence surveillée.
• Ce surcoût provient du travail des équipes et des processus d’entraînement / inférence additionnels, mais il n’est pas encore répercuté sur les clients.
• OpenAI prévoit de détailler davantage ce nouveau système de surveillance dans un prochain article de blog.