Nous nous intéressons aux algorithmes d'inférence de langages probabilistes par fusions d'états. Nous proposons un critère qui mesure l'influence d'une fusion entre deux états sur la qualité globale d'un automate probabiliste. Ce critère est basé sur la divergence de Kullback-Leibler. Nous étudions le calcul de la divergence entre les distributions générées par deux automates quelconques. Nous montrons les limitations de ce calcul et nous proposons un calcul exact et efficace de la divergence dans le cas particulier oùles distributions sont générées par des automates obtenus par fusions d'états.