Licenciement de Timnit Gebru : coup de massue sur l’éthique des algorithmes

Les IA sont au cœur d’énormément de projets en informatique, et décident déjà de beaucoup de choses à notre place. Les systèmes de recommandation (d’achat, de musique, de vidéos, etc.) sont un exemple de ce à quoi elles servent déjà au quotidien, et on commence à mesurer leur rôle dans la propagation du contenu frauduleux (fake news et compagnie) sur internet.

Un évènement qui pourrait être déterminant dans ce domaine vient de se produire, et une fois de plus les médias semblent passer complètement à côté du sujet. Le problème, c’est que lorsque cela deviendra assez vendeur pour la presse, il sera peut être trop tard.

Mme Timnit Gebru, docteur en informatique, co-responsable de l’équipe d’Intelligence Artificielle Ethique chez Google, vient d’être licenciée dans des circonstances inquiétantes, en ce qui concerne la dite éthique.

Vous trouverez ci-dessous notre traduction de la lettre de soutien à Timmit Gebru, que nous avons signée. Nous vous invitons à en faire de même.

Ça nous semble très important de faire ça aujourd’hui, pour envoyer un message fort à toutes les entreprises qui sont en train de façonner le monde de demain avec leurs IA et algorithmes. Ces technologies doivent être éthique, ou ne doivent pas être.

Avant de la lire et d’aller la signer, si vous voulez plus de détails, Lê de Science4All a réalisé une vidéo qui explique très bien tout ça, nous vous invitons à la regarder.

Des liens explicatifs sont accessible tout au long de la lecture pour donner le contexte, en français quand ils existent, en anglais sinon. Nous avons essayé d’être le plus fidèles possible au texte d’origine, si vous voyez comment améliorer cette traductions, dites-le nous en commentaire.

Le texte original de cette lettre est disponible en suivant ce lien.

Debout aux côtés de Timnit Gebru — #ISupportTimnit #BelieveBlackWomen

Nous, les soussignés, sommes solidaires de Mme Timnit Gebru, docteur en informatique, qui a été licenciée de son poste de chercheuse scientifique et co-directrice de l’équipe d’intelligence artificielle (IA) éthique chez Google, suite à une censure de recherche sans précédent. Nous appelons Google Research à renforcer son engagement en faveur de l’intégrité de la recherche et à s’engager sans équivoque à soutenir la recherche qui respecte les engagements pris dans les principes d’IA de Google.

Jusqu’au 2 décembre 2020, Mme Gebru était l’une des rares femmes noires chercheuses scientifiques de l’entreprise, qui compte au total 1,6% de femmes noires parmi ses employées. Les résultats de Mme Gebru en matière de recherche sont considérables et ont profondément marqué la recherche universitaire et les politiques publiques. Mme Gebru est une scientifique novatrice effectuant certains des travaux les plus importants pour garantir une IA juste et responsable et pour créer un domaine de recherche accueillant et diversifié sur l’IA.

Au lieu d’être saluée par Google en tant que contributrice exceptionnellement talentueuse et prolifique, Mme Gebru a été confrontée à une attitude agressive, à du racisme, à la psychiatrisation, à de la censure et maintenant à un licenciement en représailles. Dans un e-mail adressé à l’équipe de Mme Gebru le soir du 2 décembre 2020, les dirigeants de Google ont affirmé qu’elle avait choisi de démissionner. C’est faux. Dans leur correspondance directe avec Mme Gebru, ces dirigeants l’ont informée que son licenciement était immédiat et ont utilisé comme prétexte un e-mail qu’elle avait envoyé à une liste de diffusion de Google Brain sur la diversité et l’inclusion.

Le contenu de cet e-mail est important. Dans ce document, Mme Gebru s’oppose à la censure par Google de sa recherche (et de celle de ses collègues), qui se concentrait sur l’examen des implications environnementales et éthiques des modèles linguistiques d’IA de grande taille (LLM), qui sont utilisés dans de nombreux produits Google. Mme Gebru et ses collègues ont travaillé pendant des mois sur un article qui était en cours de révision lors d’une conférence universitaire. Fin novembre, cinq semaines après que l’article ait été revu en interne et approuvé pour publication via des processus standards, la direction de Google a pris la décision de le censurer, sans avertissement ni motif. Mme Gebru leur a demandé d’expliquer cette décision et d’en prendre la responsabilité, ainsi que de clarifier et assumer leur position sur les conditions de travail discriminatoires et harcelantes qui laisse à désirer. La résiliation est un acte de représailles contre Mme Gebru, et elle signale un danger pour les personnes travaillant pour une IA éthique et juste – en particulier les Noirs et les personnes de couleur – au sein de Google.

L’intégrité de la recherche ne peut plus être considérée comme acquise dans l’environnement de recherche de Google, et le licenciement de Mme Gebru a bouleversé la compréhension du type de recherche que Google autorisera. Il s’agit également d’un moment de réflexion qui dépasse le cadre de Google. Comme nous le savons, Mme Gebru est l’une des rares personnes à exercer une pression interne contre l’incursion dans notre vie quotidienne de technologies puissantes et biaisées, contraires à l’éthique et anti-démocratique. Google est un service accessible au public, et son importance ne peut être surestimée. Les représailles de Google contre Mme Gebru et sa décision de faire taire ce travail nous préoccupent tous.

Nous avons les exigences suivantes à l’égard de la direction de Google Research :


1. Nous exigeons que Jeff Dean (Membre Sénior de Google et Vice-Président de la Recherche), Megan Kacholia (Vice-Présidente de l’ingénierie de l’organisation Google Brain) et ceux qui ont participé à la décision de censurer l’article de Mme Gebru rencontrent l’équipe d’IA éthique pour expliquer le processus par lequel cet article a été unilatéralement rejeté par les dirigeants.

2. Nous exigeons de la transparence auprès du grand public, y compris les utilisateurs de Google et nos collègues de la communauté universitaire, sur la décision des dirigeants de Google d’ordonner à Mme Gebru et à ses collègues de retirer leurs recherches sur les modèles linguistiques de grande taille. Cela est devenu une question d’intérêt public, et il doit y avoir une responsabilité publique pour garantir toute confiance dans Google Research à l’avenir.

3. Nous demandons à Google Research de s’engager sans équivoque en faveur de l’intégrité de la recherche et de la liberté académique, de renforcer considérablement les engagements pris dans la philosophie de recherche de Google, et de s’engager à soutenir la recherche qui favorise les objectifs des principes d’IA de Google en fournissant des directives claires sur la manière dont la recherche sera examinée et comment l’intégrité de la recherche sera respectée.

Pour ajouter votre nom à la liste des universitaires, de la société civile et de l’industrie (Googleurs, allez voir go/stand-with-timnit) :

1. Envoyez un e-mail à StandWithTimnit@gmail.com à partir de votre adresse e-mail institutionnelle (de préférence) avec l’objet «support».
2. Incluez votre nom et votre affiliation, comme vous souhaitez qu’ils apparaissent sur la liste des signataires.

Signé,

Pour la liste des signatures qui est mise à jour au fur et à mesure des signatures, nous vous invitons à consulter la page d’origine.

Merci à tous d’avoir lu jusqu’ici, à très bientôt !

Et merci et Cha pour votre contribution !

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.