On vous explique le principe de distillation en IA : la technique légale… jusqu’à ce qu’elle devienne du vol

Introduction
Depuis que Washington a accusé la start‑up chinoise Moonshot d’avoir « distillé » un modèle américain, le terme « distillation » fait l’objet d’un grand débat dans le secteur de l’IA.

Points clés
- Définition technique : la distillation consiste à transférer les connaissances d’un grand modèle (le « teacher ») vers un modèle plus petit (le « student ») en reproduisant ses sorties, afin de réduire la taille, le coût de calcul et la consommation d’énergie.
- Différence avec le vol de données : contrairement au « model stealing », qui copie directement les poids ou les données d’entraînement, la distillation ne nécessite pas d’accéder aux paramètres originaux ; elle ne fait qu’imiter le comportement du modèle source.
- Enjeux juridiques et éthiques : les autorités américaines estiment