Mais qui surveille les algorithmes ? Traquer les biais et les atteintes au droit

Les algorithmes d’intelligence artificielle jouent un rôle de plus en plus déterminant dans nos interactions avec les entreprises. Qu’il s’agisse de choisir un billet de train, d’acheter un produit sur un site de e-commerce, de lire un post sur un réseau social ou d’ouvrir un compte bancaire à distance, nos décisions sont influencées par des recommandations et des mécanismes algorithmiques complexes : et ce, plusieurs centaines de fois par jour. Ces pratiques algorithmiques, alimentées par des données comportementales souvent très fines, manquent fréquemment de transparence, voire de neutralité. À notre insu, ces algorithmes peuvent véhiculer des biais, et lorsqu’ils sont déployés par des acteurs dominants sur leur marché, ils peuvent engendrer des pratiques anticoncurrentielles. Sur les réseaux sociaux ou via des agents conversationnels, des défaillances algorithmiques peuvent aller jusqu’à représenter une menace pour la santé mentale ou la démocratie. Identifier ces risques, garantir la conformité des applications et détecter leurs manquements représentent un défi majeur – non seulement pour les concepteurs et les déployeurs de ces algorithmes, mais aussi pour les autorités chargées de superviser leurs marchés. Notre présentation cherchera à s’éloigner de l’anecdote pour décrire les mécanismes sous-jacents qui génèrent ces biais et ces atteintes aux droits à répétition. Nous identifierons ensuite les autorités ou organismes qui contribuent à auditer (voire sanctionner) ces pratiques, sans oublier les mécanismes internes aux entreprises. Nous illustrerons quelques-unes des techniques utilisées, puisant dans la Recherche Opérationnelle, les statistiques, ou le Machine Learning, en nous inspirant de cinq années de retour d’expérience en audit de l’IA chez Regalia à Inria.