Ordinateurs

Le PDG de Google promet d’enquêter sur la sortie du meilleur chercheur en intelligence artificielle

Le PDG de Google, Sundar Pichai, a présenté ses excuses à d’autres employés de Google pour la façon dont l’entreprise a géré le licenciement de l’expert en intelligence artificielle Timnit Gebru. La note de service n’indiquait pas si Pichai ou un employé de Google avait contacté le Dr Gebru, ni si des excuses directes lui seraient adressées. Alors que le PDG a peut-être voulu que sa missive calme la situation, son ton et son cadrage pourraient avoir l’effet inverse.

Le mémo de Pichai aux employés est la dernière escalade dans ce qui est devenu une série d’événements étrangement déconcertants. La semaine dernière, le Dr Gebru, une éminente éthicienne de l’IA recrutée en bonne place par Google, a annoncé qu’elle avait été licenciée, bien que le chef de Google AI, Jeff Dean, maintienne qu’elle a démissionné. Le directeur immédiat du Dr Gebru, Samy Bengio, a publié une déclaration de soutien pour elle.

Ce qui est publiquement connu est le suivant : le Dr Gebru a été licencié (ou a démissionné, selon Google) pour avoir refusé de retirer ou de modifier un article qu’elle et d’autres employés de Google avaient écrit, et pour avoir formulé une série de demandes que l’entreprise a jugées inacceptables. Le Dr Gebru et ses alliés au sein de Google et à l’extérieur ont contesté ce récit des événements. L’article est une étude des recherches antérieures sur les limites et les faiblesses des modèles d’IA actuellement utilisés pour l’analyse du langage. (Cela, au moins, sur lequel les deux parties au différend sont d’accord).

Si cela vous semble ennuyeux, vous n’êtes pas seul. En fait, c’est l’une des choses les plus étranges de toute cette affaire. Selon Pour Wired, qui a lu le document, la chose la plus remarquable à propos de l’article « est à quel point il est peu controversé ». Le papier n’attaque pas Google ou la technologie Google. Il cite simplement des études antérieures montrant que les modèles d’IA peuvent consommer d’énormes quantités d’électricité et il discute du problème de la construction d’un modèle d’IA sur un matériel source biaisé. L’une des études sur les préjugés citées dans l’article du Dr Gebru a elle-même été publiée par Google plus tôt cette année.

La forte consommation d’énergie de l’IA n’est pas un secret – c’est l’une des principales raisons pour lesquelles de nombreuses entreprises essaient de concevoir de nouveaux accélérateurs d’IA plus efficaces. Google, Facebook et d’autres leaders dans le domaine ont déjà indiqué à divers moments qu’ils mettaient l’accent sur l’amélioration de l’efficacité de leurs déploiements d’IA actuels. De même, il n’y a pas de controverse dans le domaine sur l’idée que la construction d’un modèle d’IA sur des données biaisées produira un modèle biaisé. Le concept de GIGO – Garbage In, Garbage Out – n’est pas nouveau. Ce n’est que depuis quelques années que les chercheurs ont commencé à s’intéresser au problème, mais son existence n’est pas controversée.

Psssssst :  AMD a résolu ses problèmes de connectivité USB, les mises à jour arrivent début avril

Google a investi beaucoup de temps et d’argent dans les types de modèles de traitement du langage à grande échelle que l’article du Dr Gebru a critiqués et a déployé son propre modèle de langage, BERT, pour faciliter le traitement des longs résultats de recherche. Mais l’article en question ne critiquait pas spécifiquement le BERT.

La société a affirmé avoir accepté la démission du Dr Gebru parce qu’elle a exigé de savoir qui, en particulier, avait estimé que son article ne répondait pas aux normes de publication requises par Google. Ce qui n’a été expliqué à la satisfaction de personne, c’est pourquoi son article a été jugé insatisfaisant en premier lieu. Google a déclaré que son article ignorait les recherches plus récentes dans le domaine qui montrent que les nouveaux modèles sont plus économes en énergie que ceux du passé, ainsi que les travaux sur les travaux récents sur les biais. Comme examen de la technologie MIT Remarquescependant, 128 citations sont répertoriées dans l’article, qui était une collaboration entre le Dr Gebru et six autres auteurs, dont quatre chercheurs de Google.

Une autre explication du rejet est que sa soumission a violé l’exigence de deux semaines de Google pour savoir comment et quand les articles doivent être soumis avant d’être approuvés pour publication. Cette explication a été publiquement contestée par d’anciens employés de Google.

La critique de la façon dont cette situation s’est déroulée ne vient pas seulement de parties extérieures. Plusieurs milliers d’employés de Google ont signé une lettre ouverte exigeant une enquête totalement transparente sur les circonstances entourant ce qu’ils qualifient de licenciement du Dr Gebru.

Psssssst :  Samsung Galaxy Chromebook sera mis en vente le 6 avril pour 1 000 $

L’argument public de Google, en termes généraux, est qu’il a accepté la démission du Dr Gebru après qu’elle ait fait des demandes de transparence inappropriées. Il allègue également que son article a été soumis de manière inappropriée et d’une manière qui constitue une violation significative des règles de Google. Un grand nombre de personnes, y compris les personnes qui ont travaillé directement avec le Dr Gebruont directement contesté ces affirmations.

La note de Pichai est évidemment destinée à répondre à ce problème. Il ne le fait pas très bien.

Comment mémo, mais mal

Axios a le document complet, mais je vais toucher quelques points forts. Tout ce qui est en italique provient du mémo de Pichai. Voici le paragraphe d’ouverture :

L’une des choses dont j’ai été le plus fier cette année est la façon dont les Googleurs de toute l’entreprise se sont réunis pour répondre à nos engagements en matière d’équité raciale. C’est un travail difficile et important, et bien que nous soyons déterminés à faire mieux, nous avons beaucoup à apprendre et à améliorer. Un élément important de cela est d’apprendre de nos expériences comme le départ du Dr Timnit Gebru.

Une phrase comme « apprendre de nos expériences comme le départ du Dr Timnit Gebru » est un langage de relations publiques à voix passive qui attribue toute l’action au Dr Gebru et implique qu’elle a quitté l’entreprise plutôt que Google la licencie. La question de savoir si le Dr Gebru a démissionné ou a été licencié par Google est l’un des points centraux du litige. L’une des deux lettres ouvertes publiées par les employés de Google pour soutenir le Dr Gebru s’ouvre en déclarant : « Le Dr Gebru n’a pas démissionné» (original en italique). La décision de Pichai de formuler son paragraphe d’ouverture comme s’il s’agissait d’un point établi à la fois esquive la responsabilité et ignore la nature contestée de la réclamation.

La première chose que Google doit faire, écrit Pichai, est :

évaluer les circonstances qui ont conduit au départ du Dr Gebru, examiner où nous aurions pu nous améliorer et mener un processus plus respectueux La deuxième chose qu’il doit faire est accepter la responsabilité du fait qu’une éminente dirigeante noire dotée d’un immense talent a quitté Google malheureusement.

Le premier est un autre exemple de discours de relations publiques maladroit et fade destiné à minimiser l’idée que Google a pris des mesures. La seconde sonne bien – Google assume la responsabilité de quelque chose – sauf, encore une fois, qu’elle traite toute la question du départ du Dr Gebru comme réglée.

Les trois demandes de la lettre ouverte signée par plusieurs milliers d’employés de Google étaient que Google explique pourquoi l’article a été rejeté, explique pourquoi il voulait que le Dr Gebru et ses collègues retirent leur recherche sur le modèle de langage, et que Google « prenne un engagement sans équivoque à l’intégrité de la recherche et à la liberté académique. La note de service de Pichai fait de nombreuses mentions de la façon dont la fureur entourant le licenciement du Dr Gebru a suscité des craintes indésirables pour d’autres personnes de couleur dans l’entreprise, mais elle ne fait rien pour répondre aux questions de fond que les employés de Google ont posées sur les circonstances de son départ.

Psssssst :  AMD peut ajouter des graphiques à d'autres processeurs Zen 4, des détails supplémentaires ont été divulgués

Pichai affirme que Google ressentira sa perte parce que le Dr Gebru est un expert dans les domaines sur lesquels Google « doit » faire des progrès, et que ces progrès dépend de notre capacité à nous poser des questions difficiles. Il écrit cela, apparemment, sans la moindre trace d’ironie.

Je ne vais pas prétendre avoir une connaissance privilégiée de ce qui s’est passé entre le Dr Gebru et Google, mais je ne me souviens pas de la dernière fois qu’un groupe d’ingénieurs s’est levé et a publiquement protesté contre le licenciement/le licenciement d’un seul individu. Il est clair que cette situation semble louche pour un très grand nombre de personnes, et la déclaration de Pichai selon laquelle Google tirera les bonnes leçons de ces événements est difficile à croire étant donné que ce mémo ignore toutes les questions de fond qui ont été soulevées à propos de la situation. Google peut croire qu’il a agi de manière défendable et en totale conformité avec ses politiques internes. Mais un groupe important de personnes, dont certaines ont participé à l’article en question, ne sont pas d’accord.

Dans sa note de service, Pichai promet qu’il est extrêmement important pour lui que nos Googleurs noirs, femmes et sous-représentés savent que nous vous apprécions et que vous appartenez à Google. L’un des meilleurs moyens de démontrer que cela est vrai, dans les circonstances, pourrait être de répondre directement aux demandes de transparence concernant le licenciement du Dr Gebru.

Juste une pensée.

Maintenant lis:

Bouton retour en haut de la page