DEFI 1 | Discriminations : ouvrir les boîtes noires

DEFI 1 | Discriminations : ouvrir les boîtes noires

Profil de CNNum CNNum

Publié par CNNum, le 3 octobre 2017

Présentation

Pourquoi ?

Les algorithmes de classement des contenus utilisés par les plateformes ne sont pas infaillibles. Plusieurs controverses récentes nous ont montré qu’ils peuvent contenir des biais, et avoir tendance à reproduire les stéréotypes de la société, aux effets parfois discriminants. Comment les détecter en temps voulu ?

Quel objectif ?

Développer des outils pour mieux auditer le fonctionnement plateformes et ainsi assurer l’égalité de tous devant leurs algorithmes.

Quelles sont les règles du défi ? 

1. Prendre en considération l’enjeu de l’explicabilité des algorithmes dans la démarche | Il devient essentiel de retranscrire dans des termes intelligibles pour un utilisateur moyen le fonctionnement des systèmes algorithmiques qui les concernent. C'est une tâche particulièrement difficile lorsqu’il s’agit d’algorithmes d'intelligence artificielle, qui apprennent de façon automatique, mais elle est essentielle. Sans possibilité d’expliquer le fonctionnement des algorithmes, comment en questionner les résultats et l'acceptabilité sociale ? L’explicabilité est donc une composante essentielle de l’auditabilité des plateformes.

2. Avoir une approche collaborative | Il est essentiel d’associer les citoyens à la réalisation de ces outils, afin d’évaluer précisément la manière dont leurs données sont traitées par les systèmes algorithmiques des plateformes. Il est aussi important de concevoir des dispositifs mobilisables pour la défense des intérêts des utilisateurs et des citoyens ; que ce soit par leurs propres moyens ou par le biais d'organismes de défense de leurs intérêts individuels et collectifs.

Calendrier 

Les projets peuvent être déposés du 10 octobre au 17 novembre. Chacun peut y participer, soit en proposant des réponses au le défi en lui-même, soit en soumettant de nouveaux défis. Vous pouvez bien entendu faire les deux. Une fois déposé, le projet peut être modifié à tout moment.

Sélection des projets

Les meilleures propositions seront débattues lors d'afterworks, au cours desquels leur faisabilité technique, leur coût et les réseaux d’acteurs à impliquer pour leur réalisation seront abordées.

Vous n’avez pas de compte ? Inscrivez-vous, en cliquant sur le bouton Inscription, avec votre adresse mail et votre mot de passe.

Participants 2