Qui choisit les valeurs de votre assistant IA ?

Les grands laboratoires d’IA façonnent le comportement de leurs assistants en s’appuyant sur des consignes, des « constitutions » internes et des préférences récompensées lors de l’entraînement.

• Mécanismes d’alignement : les modèles sont guidés par des instructions explicites et des systèmes de récompense qui traduisent des objectifs humains.
• Limites humaines : ces processus reposent sur des jugements humains et des méthodes d’apprentissage imparfaites, ce qui peut introduire des biais.
• Enjeu de pouvoir : la question centrale est de savoir qui détient le contrôle sur les valeurs et les normes intégrées dans les IA, soulevant des débats éthiques et sociétaux.