La prochaine séance des séminaires Data Transitions aura lieu le jeudi 18 juin 2026 à 11h45 en salle F107 (bâtiment Coriolis) sur le campus de l’École nationale des ponts et chaussées.
x
Nous accueillerons Edwige Cyffers, chercheuse en apprentissage machine au CNRS, Université Paris-Dauphine-PSL.
Edwige nous parlera des enjeux liés à la gestion des biais dans l’apprentissage machine et présentera ses travaux récents autour du phénomène de performative learning.
x
Vous trouverez un résumé de la présentation ci-dessous.
x
Pour toute information concernant les séminaires, rendez-vous sur la page Data Transitions.
x
Au plaisir de vous voir nombreux,
L’équipe organisatrice
Guillaume Dalle, Julien Reygner, Daphné Tuncer
x
x
Résumé:
Les systèmes d’apprentissage automatique sont de plus en plus utilisés pour des décisions qui affectent la vie des personnes, comme l’approbation de prêts ou l’embauche. Mais une fois déployés, ces systèmes peuvent modifier les données dont ils apprennent par la suite.
Par exemple, un algorithme d’embauche entraîné sur des données passées pourrait apprendre à favoriser les hommes si les hommes étaient historiquement embauchés plus souvent. Si l’algorithme recommande alors plus de candidats masculins, le prochain jeu de données de formation contiendra encore plus d’hommes parmi les recrues retenues. Cela crée une boucle de rétroaction : les décisions biaisées produisent des données biaisées, ce qui renforce les décisions biaisées futures. Ce phénomène s’appelle l’apprentissage performatif : le modèle affecte la distribution des données qu’il est censé prédire. Dans cette présentation, nous allons introduire ce cadre et présenter deux résultats sur la manière d’optimiser la performance à long terme, plutôt qu’à un seul pas de temps.