Ordinateurs

Le MIT fait une percée dans l’intelligence artificielle à l’épreuve de la moralité

Ce site peut gagner des commissions d’affiliation à partir des liens sur cette page. Conditions d’utilisation.

Si le mois d’Halloween vous rend un peu perplexe et incertain, c’est peut-être à cause de la proposition troublante selon laquelle les décisions de vie ou de mort sont de plus en plus placées entre les mains de l’intelligence artificielle. Non, ce n’est pas en référence à la fin du monde drones militaires développé dans des laboratoires gouvernementaux top-secrets, mais plutôt la perspective beaucoup plus piétonne des voitures autonomes et des chirurgiens robotiques. Au milieu du tumulte à propos pertes d’emplois potentielles en raison de ladite automatisation, on oublie parfois que ces agents artificiels décideront non seulement de qui reçoit un chèque de paie, mais aussi de la question de savoir qui vit et qui meurt.

Heureusement pour nous, ces questions éthiques épineuses n’ont pas échappé, par exemple, aux ingénieurs de Ford, Tesla et Mercedes, qui se débattent de plus en plus avec l’éthique autant que l’efficacité et la rapidité. Par exemple, une voiture autonome devrait-elle faire une embardée sauvage pour éviter que deux tout-petits ne poursuivent une balle dans une intersection, mettant ainsi en danger le conducteur et les passagers, ou continuer sur une trajectoire de collision avec les enfants ? Ce genre de questions n’est pas facile, même pour les humains. Mais la difficulté est aggravée lorsqu’ils impliquent des réseaux de neurones artificiels.

À cette fin, les chercheurs du MIT étudient les moyens de rendre les réseaux de neurones artificiels plus transparents dans leur prise de décision. Tels qu’ils sont maintenant, artificiels les réseaux de neurones sont un outil merveilleux pour discerner les modèles et faire des prédictions. Mais ils ont aussi l’inconvénient de ne pas être terriblement transparents. La beauté d’un réseau neuronal artificiel réside dans sa capacité à passer au crible des tas de données et à trouver une structure dans le bruit. Ce n’est pas différent de la façon dont nous pourrions regarder les nuages ​​et voir des visages au milieu de leurs motifs. Et tout comme nous pourrions avoir du mal à expliquer à quelqu’un pourquoi un visage nous a sauté dessus depuis les traînées vaporeuses d’une formation de cirrus, les réseaux de neurones artificiels ne sont pas explicitement conçus pour révéler quels éléments particuliers des données les ont incités à décider qu’un certain modèle était au travail et faire des prédictions en fonction de cela.

ai exemple d'explications

Dans cet exemple de classification de la bière tiré de leur article « Rationalizing Neural Predictions », l’algorithme utilise des phrases en surbrillance pour justifier certaines conclusions auxquelles il est parvenu à propos d’une bière.

Pour ceux dotés d’une confiance innée dans la technologie, cela pourrait ne pas sembler être un problème si terrible, tant que l’algorithme atteignait un haut niveau de précision. Mais nous avons tendance à vouloir un peu plus d’explications lorsque des vies humaines sont en jeu – par exemple, si un réseau de neurones artificiels vient de diagnostiquer une personne atteinte d’une forme de cancer potentiellement mortelle et recommande une procédure dangereuse. À ce stade, nous voudrions probablement savoir quelles caractéristiques du bilan médical de la personne ont fait pencher l’algorithme en faveur de son diagnostic.

C’est là qu’interviennent les dernières recherches. Dans un article récent intitulé « Rationalisation des prédictions neuronales« , les chercheurs du MIT Lei, Barzilay et Jaakkola ont conçu un réseau neuronal qui serait obligé de fournir des explications pour Pourquoi il est arrivé à une certaine conclusion. Dans un travail non publié, ils ont utilisé la technique pour identifier et extraire des phrases explicatives de plusieurs milliers de rapports de biopsie mammaire. La méthode de l’équipe du MIT était limitée à une analyse basée sur du texte, et donc nettement plus intuitive que, disons, un système de classification basé sur des images. Mais cela fournit néanmoins un point de départ pour doter les réseaux de neurones d’un degré plus élevé de responsabilité pour leurs décisions.

Maintenant lis: Les réseaux de neurones artificiels changent le monde. Que sont-ils?

Bouton retour en haut de la page