Plongements lexicaux : modèles, temporalité, biais, interprétabilité

 

Meetup Machine Learning, Rennes

Résumé

Après avoir décrit l’intuition des modèles de plongements lexicaux et leur formalisme, nous nous emploierons à discuter des questions de recherche qui émergent pour leur exploitation. Ainsi nous évoquerons le cadre de l’évolution de la langue et de la détection de néologismes via les modèles temporels. Nous aborderons également les biais des représentations apprises en utilisant ces modèles : les corpus exploités pour l’apprentissage sont des productions humaines, les plongements en sont le reflet et ils encapsulent donc les stéréotypes existants dans ces corpus. En particulier, nous considèrerons le biais de genre, bien étudié dans la littérature. Enfin, nous concluerons cet exposé en discutant des approches existantes pour favoriser l’interprétabilité de ces représentations denses, approches basées paradoxalement sur la sparsification de ces représentations.

mots clé

Word embeddings models, time-based generalization, gender bias, interpretability

 

Date: 15/01/2020
Heure: 19h00
Lieu: Inria Rennes – Bretagne Atlantique
Intervenant: Nicolas Dugué
video