L'éthique de l'IA et la célèbre AI Uncanny Valley, qui secoue également les voitures autonomes basées sur l'IA

Parfois, il y a des choses un peu étranges qui attirent votre attention et stimulent votre intuition qu'il y a quelque chose qui ne va pas. L'étrangeté n'est pas flagrante, pas du tout flagrante dans votre visage. Vous pourriez même ne pas être en mesure de mettre immédiatement le doigt sur ce qu'est l'incongruité ou comment se fait-il que votre sens d'araignée proverbial picote.

Peut-être que des indices révélateurs subtils sont détectés. Peut-être que vous vous rendez compte dans votre instinct qu'une dissonance existe. Je suppose que vous pourriez dire qu'il y a juste le moindre soupçon d'étrangeté discrète et que votre délicat radar humain capte des signaux apparemment cachés.

Bienvenue dans la vallée mystérieuse.

Si vous n'avez jamais entendu parler de la vallée étrange, un sujet relativement popularisé dans le domaine de l'IA et en particulier de la robotique, vous allez être gâté puisque c'est le sujet que je vais aborder et analyser de près ici.

La notion globale peut s'appliquer à beaucoup de choses que nous vivons dans la vie, bien que les principes fondamentaux et la définition d'origine impliquent des systèmes d'IA et des robots. Nous allons d'abord explorer les origines et la signification initiale de la vallée étrange, puis procéder à un élargissement pour voir comment les phénomènes semblent être applicables dans des contextes plus larges.

Je pourrais également ajouter que nous examinerons si l'étrange vallée existe.

Vous voyez, certains sceptiques et cyniques soutiennent que toute l'affaire est un peu une manigance et ne tient pas la route. Soyez prudent lorsque vous abordez le sujet avec ceux qui sont au courant. Certains souriront joyeusement et vous applaudiront que vous connaissez très bien l'étrange vallée, tandis que d'autres vous diront avec véhémence qu'il s'agit d'un assortiment de foutaises et que vous devez nettoyer sommairement votre esprit avec une barre savonneuse de savon nettoyant mental. .

La bonne nouvelle ici est que vous devez décider si la vallée étrange est réelle ou non, ainsi que si elle a des mérites pour une application consciente ou si elle doit plutôt être jetée sans cérémonie sur le tas d'idées techno. En ce sens, vous êtes dans le siège du conducteur.

Tout cela est également étroitement lié au domaine en plein essor de l'IA éthique et à la prise de conscience croissante que la société doit sérieusement et sobrement prêter attention à l'éthique de l'IA. Nous ferons ce lien momentanément.

Le meilleur endroit pour commencer est de citer directement le professeur qui a proposé le concept de la vallée étrange et a carrément nommé ce phénomène proclamé. En 1970, le professeur Masahiro Mori du Tokyo Institute of Technology a publié un article plutôt modeste dans une revue un peu moins connue appelée LIVRAISON (pas particulièrement un foyer pour l'IA et la robotique en soi), et a déclaré ceci :

"J'ai remarqué qu'en grimpant vers l'objectif de faire apparaître les robots comme humains, notre affinité pour eux augmente jusqu'à ce que nous arrivions à une vallée, que j'appelle la vallée étrange."

Veuillez noter que la formulation ci-dessus est affichée en anglais, bien que l'article original soit en japonais. La version traduite en anglais a été supervisée par l'auteur et publiée plus tard dans le IEEE Spectrum en 2012 et crédité à Masahiro Mori en tant qu'auteur. Vous pouvez lire le document vous-même puisqu'il est ouvertement et gratuitement disponible en ligne. Il s'agit d'une lecture résolument rapide d'une dizaine de minutes environ et ne contient aucune terminologie technique lourde.

Cela étant dit, il est intéressant et quelque peu étonnant qu'un article aussi rapide, publié en 1970, ait finalement lancé toute une arène d'enquête et lancé une myriade d'études, de projets, de recherches connexes et parfois une tempête de controverses sur la question de savoir si l'introduction le concept d'une vallée étrange existe vraiment. Je suppose que cela montre que des idées intrigantes et parfois changeantes de point de vue ne doivent pas être massivement alambiquées ou surchargées de jargon et de noblesse. Une idée succincte peut être tout simplement plus puissante qu'il n'y paraît à première vue.

J'espère que cela vous encouragera à essayer de favoriser vos nouvelles idées, en réalisant que doux et simple peut être aussi magnifique ou parfois plus que compliqué et complexe.

Revenons dans l'élicitation étrange de la vallée.

Vous rencontrez un système robotique qui a un visage semblable à un visage d'apparence humaine. Imaginez que ce visage robotique ait été conçu à travers de nombreuses itérations. Les développeurs d'intelligence artificielle qui assemblent la tête du robot se sont progressivement efforcés de faire en sorte que la partie faciale robotique ressemble de plus en plus à un véritable visage humain.

Leur premier essai était extrêmement primitif. Le visage du robot avait le même aspect que vous avez vu dans les films de science-fiction d'être entièrement métallique et de présenter des engrenages et des fils. Vous savez instantanément lorsque vous regardez l'engin qu'il s'agit d'un robot. Aucune question dans votre esprit à ce sujet.

La prochaine tentative des développeurs d'IA consistait à emballer des matériaux plastiques autour des pièces métalliques. Bien que cela semble un peu plus convivial, vous savez toujours instantanément qu'il s'agit d'une tête de robot et d'un visage robotique. Encore une fois, facile à détecter.

Ces développeurs d'IA sont déterminés à continuer. Ils sculptent le plastique et lui donnent des tons chair. Ils ajoutent des caractéristiques qui ressemblent beaucoup à un visage humain, telles que des grains de beauté, des cheveux, des imperfections, etc.

À première vue, vous pourriez être amené à croire qu'il s'agit d'un visage humain. Si une photo a été prise du visage robotique et qu'on vous a demandé d'identifier si la photo représentait une personne par rapport à un visage robotique, vous pourriez être empêché de pouvoir dire immédiatement de quoi il s'agissait. D'un autre côté, si vous vous teniez à côté de l'appareil, vous seriez probablement en mesure, après une inspection minutieuse, de discerner qu'il ne s'agit pas d'un humain mais plutôt d'un appareil robotique.

Le fait est qu'avant que vous n'ayez eu la chance de faire un examen approfondi, il y avait quelque chose sur le visage qui ne semblait pas tout à fait cohérent. Cela ressemblait vraiment à un visage humain. Mais il y avait quelque chose qui n'allait pas. Vous deviez continuer à regarder attentivement encore et encore pour mettre le doigt sur ce qui ne semblait pas tout à fait correct. C'est peut-être un vrai visage. Là encore, ce n'est peut-être pas le cas. Votre esprit s'agite en conséquence.

Un semblant d'étrangeté entre dans votre esprit.

Vous n'aviez pas le même semblant d'étrangeté lorsque vous avez vu les deux versions précédentes. Vous pouviez sans pause ni hésitation détecter que le robot était un robot. Seul un enfant pourrait se laisser berner en croyant que l'une ou l'autre de ces versions était celle d'une personne réelle.

Cette dernière version était cependant différente. Il n'était pas encore parfait pour apparaître comme un visage humain. Ce n'était pas non plus si éloigné de la réalité qu'il était évident qu'il devait s'agir d'un robot. Une sorte de terrain confus avait été atteint.

Supposons que les développeurs aient poussé plus loin leurs efforts de recherche et arrangé tout pour que le visage robotique soit presque impossible à distinguer d'un visage humain. Peu importe combien de temps vous regardez la chose, vous ne savez pas si c'est un humain ou non. Lorsqu'il est informé qu'il s'agit du visage robotique, vous êtes surpris. Gosh, ils ont fait un excellent travail pour le rendre réel.

Notez que jusqu'à présent, vous n'avez considéré que les aspects robotiques basés uniquement sur l'apparence.

Nous pourrions ajouter du mouvement à l'équation. Cela ajoute une dimension supplémentaire pour vous permettre de discerner si le robot est un robot par rapport à un humain. Je ne veux pas considérer pleinement cela comme un type de problème multidimensionnel dans cette discussion, car cela rend une élucidation sur ce sujet plus complexe (il y a bien que plusieurs dimensions soient inévitablement entrelacées). Dans tous les cas, imaginez que vous voyiez non seulement le visage du robot, mais que vous pouviez également regarder le robot déplacer les traits du visage, tels que la bouche, les yeux, le nez, etc. robot ou un humain.

Un aspect essentiel à garder à l'avant-garde de la vallée étrange est que la conception originale met l'accent sur l'acte d'affinité humaine. Le phénomène revendiqué est que votre affinité augmente à mesure que vous voyez les visages du robot s'améliorer progressivement, jusqu'au moment où la variante étrange apparaît. À ce stade, on dit que votre sentiment d'affinité chute de façon spectaculaire, s'effondrant dans un gouffre ou une vallée d'affinité.

Pour la version particulière qui vous a fait soupçonner que quelque chose n'allait pas, votre affinité aurait radicalement chuté. De plus, selon la théorie, votre affinité peut monter en flèche une fois que vous rencontrez la version la plus avancée qui est presque identique à une forme véritablement humaine.

Voici plus sur ce que l'auteur a déclaré à propos de notre tendance normale à supposer que les aspects de la vie augmentent en douceur : "Le terme mathématique fonction monotone croissante décrit une relation dans laquelle la fonction y = ƒ(x) augmente continûment avec la variable x. Par exemple, comme l'effort x croît, le revenu y augmente, ou lorsque l'accélérateur d'une voiture est enfoncé, la voiture se déplace plus rapidement. Ce type de relation est omniprésent et très facile à comprendre. En fait, parce que ces fonctions monotones croissantes couvrent la plupart des phénomènes de la vie quotidienne, les gens peuvent tomber dans l'illusion qu'elles représentent toutes les relations. Attestant également de cette fausse impression est le fait que de nombreuses personnes luttent dans la vie en poussant constamment sans comprendre l'efficacité de se retirer. C'est pourquoi les gens sont généralement perplexes lorsqu'ils sont confrontés à un phénomène que cette fonction ne peut pas représenter. Ceci est cité par le IEEE Spectrum papier traduit.

Cette hypothèse presque universelle sur l'augmentation constante peut être renversée lorsque nous rencontrons quelque chose qui ne va pas. L'étrangeté et la suspicion entraîneront une baisse d'affinité relativement brutale et dramatique, selon la théorie, comme une main robotique que vous avez choisi de secouer et que vous ne pouvez pas ressentir les caractéristiques osseuses d'une main humaine : "Lorsque cela se produit, nous perdons notre sens d'affinité, et la main devient étrange. En termes mathématiques, cela peut être représenté par une valeur négative.

Si vous acceptez la prémisse qu'il existe ce phénomène de vallée étrange, je suis sûr que vous vous demandez à quoi cela vous sert de savoir que la vallée étrange existe apparemment.

C'est le classique de tous les temps "et alors?" test de praticité.

Il s'avère que beaucoup de gens ont proposé de nombreuses interprétations de ce que nous devrions ou pouvons faire à propos de l'étrange vallée. Il y a des tonnes d'avis. J'aborderai certaines de ces questions sous peu.

En attendant, voici ce que Masahiro Mori a proposé : « Nous espérons concevoir et construire des robots et des mains prothétiques qui ne tomberont pas dans l'étrange vallée. Ainsi, en raison du risque inhérent à essayer d'augmenter leur degré de ressemblance humaine pour escalader le deuxième pic, je recommande que les concepteurs prennent plutôt le premier pic comme objectif, ce qui se traduit par un degré modéré de ressemblance humaine et un sentiment considérable d'affinité. . En fait, je prédis qu'il est possible de créer un niveau sûr d'affinité en poursuivant délibérément une conception non humaine. Je demande aux concepteurs de réfléchir à cela.

Une condensation rapide de ma part de douze règles pratiques sur le siège du pantalon sur ce qu'il faut faire concernant la vallée étrange va comme ceci pour les développeurs d'IA en particulier :

1) Soyez conscient de l'étrange vallée et soyez sur vos gardes en conséquence

2) Vous voulez probablement atteindre autant que possible une affinité humaine pour votre IA

3) Préparez-vous à une perte d'affinité humaine si votre IA tombe dans l'étrange vallée

4) Cherchez à éviter l'étrange vallée en concevant votre IA ainsi

5) Il est respectable d'avoir un objectif qui est en deçà de l'étrange vallée

6) Glissez-vous jusqu'au bord de l'étrange vallée mais ne tombez pas par-dessus la falaise

7) Ne soyez pas obsédé par l'idée d'aller au-delà de l'étrange vallée

8) Il y a une chance que vous puissiez sauter au-delà de l'étrange vallée

9) Ne vous préoccupez pas du saut car vous pourriez tomber dans la vallée de toute façon

10) L'affinité humaine maximale serait certes atteinte en dépassant l'étrange vallée

11) Néanmoins, il existe une affinité adéquate et appropriée trouvée avant la vallée étrange

12) Soyez continuellement conscient de la vallée étrange et ne la laissez pas vous échapper

Ces dizaines sont autant de préceptes généraux qui peuvent être considérés comme la clé de voûte ou les points d'ancrage de la connaissance de l'étrange vallée. Je reconnais tout de suite qu'il y a d'autres points qui ne figurent pas dans ces rares douzaines qui pourraient être considérés comme tout aussi importants. Je reconnais aussi volontiers qu'il y a forcément des désaccords sur chacun des points identifiés, et un long débat houleux peut s'ensuivre sur chaque point soulevé.

Plus encore, certains diraient que les douze points sont tout à fait nuls parce qu'ils sont basés sur un mensonge, pour commencer. Il n'y a pas de vallée étrange, diraient-ils. Tout cela n'est qu'une chicanerie et un stratagème inventé qui ne fait appel qu'aux esprits faibles (aïe, ça fait vraiment mal !). Toute attention à l'étrange vallée est une bouffée d'air gaspillée et quelqu'un devrait venir et mettre un pieu théorique en bois pointu au cœur de la question (certains chercheurs ont essayé de le faire).

Pour les besoins de la discussion, suivons le courant et supposons qu'il existe une étrange vallée et qu'elle est censée correspondre généralement à ce que j'ai indiqué jusqu'à présent. Ceux qui ne sont pas d'accord avec la conceptualisation d'une vallée étrange sont invités à se déconnecter ou à continuer à lire avec les dents serrées et leur colère intellectuelle bouillonnante (désolé pour cela).

Voici comment l'IA éthique et l'accent mis sur la conception et la mise en service d'une IA éthique entrent en jeu. Soit dit en passant, pour mes explorations continues et approfondies de l'éthique de l'IA, voir ma discussion sur ce lien ici ainsi que ce lien ici, Juste pour en nommer quelques-uns.

La vallée étrange est décidément une affaire d'amour-haine pour ceux qui aiment l'IA éthique.

Tout d'abord, quelques informations nécessaires. L'un des scrupules éthiques les plus effrayants liés à l'IA est que les humains peuvent être trompés en leur faisant croire qu'un système d'IA est sensible. Sachez qu'il n'existe aucune IA d'aujourd'hui qui se rapproche à distance de la sensibilité. Cela ne se produit tout simplement pas en ce moment. Mon affirmation ostensiblement « effrontée » est faite malgré ces gros titres incessants et criants qui déclarent cette IA ou que l'IA est soit sensible soit suffisamment proche pour être considérée comme telle. Malarkey. Nous ne sommes pas à la sensibilité de l'IA.

Nous ne savons pas comment y arriver. Nous ne savons pas si cela arrivera. La sensibilité de l'IA est un rêve et une aspiration valables, mais ne sautez pas le pas et pensez que nous sommes sur le point de l'atteindre.

Bien sûr, beaucoup avertissent avec ferveur que si nous parvenons d'une manière ou d'une autre à retirer la sensibilité de l'IA, que nous le fassions par conception ou par pur accident, nous serons confrontés à un risque existentiel. Dans cette façon de penser, peut-être que rechercher la sensibilité de l'IA n'est pas si utile. Le risque est que cette IA sensible puisse déterminer que les humains ne valent pas la peine d'être présents. On pourrait se faire écraser comme un insecte. Ou devenir esclave de l'IA. Cela pourrait se produire si l'IA choisit ouvertement de le faire, ou l'IA pourrait finir par être notre propre machine apocalyptique qui nous détruit par notre propre ineptie. Pour ma couverture de ces résultats troublants de la sensibilité ou de la singularité de l'IA, voir le lien ici.

Une préoccupation cruciale de l'IA éthique est que les développeurs de l'IA et ceux qui la mettent sur le terrain incitent parfois les humains à penser que l'IA est sensible. La manière dont l'IA se manifeste, par exemple par une formulation robotique ou par son interactivité conversationnelle, peut insidieusement inciter les gens à supposer que l'IA est sensible. Cela vous mène à son tour sur un chemin de primevère potentiellement fétide.

Si vous tombez dans le piège mental de penser qu'un système d'IA est sensible, vous allez probablement compter sur lui pour faire des choses que des êtres sensibles feraient. Mais il n'y a pas encore de sens commun d'une qualité humaine intégrée dans l'IA d'aujourd'hui. L'IA que nous connaissons actuellement est extrêmement fragile et superficielle en ce qui concerne les capacités de type humain. Vous pourriez vous retrouver dans des eaux peu recommandables et dangereuses en croyant qu'un système d'IA est sensible.

Comment cela se connecte-t-il avec la vallée étrange?

Voici l'affaire.

Rappelez-vous que la vallée étrange semble nous dire que l'affinité humaine augmentera progressivement à mesure qu'un système d'IA ou un robot se rapprochera de plus en plus d'une formulation de type humain. À un moment où le système d'IA est sur le point d'être assez proche, mais toujours pas tout à fait là, nous avons le sentiment étrange que quelque chose ne va pas. Jusque-là, nous savions que l'IA n'était pas humaine. Maintenant, nous ne sommes pas sûrs. Notre affinité humaine diminue. Ce n'est qu'une fois que l'IA ou le robot devient tout à fait convaincant quant aux capacités de type humain que nous retrouvons notre semblant d'affinité avec l'appareil.

Les développeurs d'IA qui prennent à cœur ce serait probablement intentionnellement s'efforcent de garder leur IA hors de la vallée étrange, visant à s'arrêter en termes de caractéristiques de l'IA, juste avant de tomber dans l'abîme étrange (rappelez-vous, c'est aussi ce que Masahiro Mori a souligné). Les développeurs le feraient apparemment en s'assurant qu'il existe encore de nombreux indices révélateurs pour qu'il soit assez clair que l'IA est une IA moins sensible et donc pas un humain ou tout autant.

Les éthiciens de l'IA accueilleraient généralement cet effort sincère.

Le raisonnement est simple. Ces développeurs d'IA si informés et enthousiastes essaient de s'assurer que le système d'IA n'induise pas les gens en erreur en attribuant à tort des installations de type humain à l'IA. C'est assurément une bonne nouvelle. Les développeurs créeront délibérément l'IA pour empêcher une plongée dans l'étrange vallée. Les humains se rendront facilement compte que l'IA n'est pas sensible.

Essayer d'amener les développeurs d'IA à adopter une telle approche n'est pas facile. En effet, cela peut aller à l'encontre de leurs instincts habituels et de leurs ambitions de conduite.

De nombreuses affirmations sont faites selon lesquelles les développeurs d'IA et les techniciens, en général, sont obsédés par les objectifs. Ils voient un objectif et le poursuivront souvent aveuglément avec beaucoup d'enthousiasme. Pas le temps de s'arrêter et de sentir les roses. Aux courses, on y va. Dans le domaine de l'IA, l'objectif normatif serait une IA idéalisée qui ne se distingue pas des humains en ce sens que l'IA pourrait être intelligemment égale en parité. Mais nous n'en sommes pas encore là. En tant que telle, la vallée étrange fournit un objectif secondaire, atterrissant avant la vallée étrange autrement barrante, et devient un objectif qui est néanmoins acceptable. Bien sûr, ce n'est pas la bague en or, mais l'idée est que ce prix "secondaire" est très bien, merci beaucoup, et vous pouvez en être fier.

Nous avons modifié l'ambition la plus ruineuse de la recherche d'objectifs et l'avons exploitée dans une base raisonnée à consonance logique pour faire la bonne chose, pour ainsi dire.

Hourra!

Marquez une victoire pour l'éthique de l'IA.

Mais attendez une seconde, alerte spoiler, il y a autre chose que nous devons également considérer.

Maintenant que ces développeurs avisés d'IA connaissent l'étrange vallée, ils pourraient tourner leur esprit et leurs prouesses techniques vers un saut délibéré par-dessus l'abîme et pourtant le faire avec un semblant de tromperie à l'esprit. Faites en sorte que l'IA ressemble et semble être entièrement humaine, même si les développeurs savent que cela est faux.

La pensée espiègle va comme ça. Ne laissez pas votre système d'IA basculer son chapeau et amener les gens à ressentir ce sous-jacent insaisissable d'étrangeté. Excisez les facettes qui pourraient donner un indice ou un indice que l'IA n'est pas de capacité humaine. Faites-le tout en réalisant secrètement et en sachant inexcusablement que l'IA n'a pas de capacité humaine et qu'il s'agit de cacher cette vérité à ceux qui interagissent avec ou dépendent de l'IA.

Quels plans diaboliques.

Ironiquement, la vallée étrange pourrait être une sorte d'appel au réveil pour les développeurs d'IA que s'ils veulent vraiment tromper les gens, ils doivent être assez intelligents pour échapper à l'abîme. Ils ne le font pas en atteignant une IA complète, mais plutôt en érigeant de la fumée et des miroirs pour que l'IA semble trompeuse comme si elle était humaine. Si les développeurs de l'IA n'avaient pas réalisé que cette étrange vallée existe, ils y seraient généralement tombés. C'est bon pour l'humanité parce que les humains perdraient leur affinité avec l'IA en termes de ne pas trop compter sur la qualité actuelle de l'IA.

Malheureusement, en sachant que le piège existe, les développeurs d'IA qui veulent le contourner vont trouver des moyens astucieux et pernicieux de le faire.

Marquez un coup contre les préceptes de l'IA éthique.

Voyez-vous comment cela crée une relation amour-haine pour les éthiciens de l'IA à propos de l'étrange vallée ?

Au diable si vous le faites, au diable si vous ne le faites pas.

Je me rends compte que cela a été un examen assez intrigant de la vallée étrange et que vous pourriez avoir envie d'exemples quotidiens. Il y a un ensemble d'exemples spéciaux et assurément populaires qui me tiennent à cœur. Vous voyez, en ma qualité d'expert sur l'IA, y compris les ramifications éthiques et juridiques, on me demande fréquemment d'identifier des exemples réalistes qui présentent les dilemmes de l'éthique de l'IA afin que la nature quelque peu théorique du sujet puisse être plus facilement saisie. L'avènement de véritables voitures autonomes basées sur l'IA est l'un des domaines les plus évocateurs qui présentent de manière vivante ce dilemme éthique de l'IA. Cela servira de cas d'utilisation pratique ou d'exemple pour une discussion approfondie sur le sujet.

Voici donc une question remarquable qui mérite d'être méditée : L'avènement de véritables voitures autonomes basées sur l'IA éclaire-t-il quelque chose sur la vallée étrange, et si oui, qu'est-ce que cela nous informe de faire ?

Permettez-moi un instant pour décortiquer la question.

Tout d'abord, notez qu'il n'y a pas de conducteur humain impliqué dans une véritable voiture autonome. Gardez à l'esprit que les vraies voitures autonomes sont conduites via un système de conduite IA. Il n'y a pas besoin d'un conducteur humain au volant, et il n'y a pas non plus de disposition pour qu'un humain conduise le véhicule. Pour ma couverture étendue et continue des véhicules autonomes (VA) et en particulier des voitures autonomes, voir le lien ici.

J'aimerais clarifier davantage ce que l'on entend lorsque je fais référence à de vraies voitures autonomes.

Comprendre les niveaux des voitures autonomes

Pour clarifier, les vraies voitures autonomes sont celles que l'IA conduit entièrement seule et qu'il n'y a aucune assistance humaine pendant la tâche de conduite.

Ces véhicules sans conducteur sont considérés comme des niveaux 4 et 5 (voir mon explication à ce lien ici), tandis qu'une voiture qui nécessite un conducteur humain pour partager l'effort de conduite est généralement considérée au niveau 2 ou au niveau 3. Les voitures qui partagent la tâche de conduite sont décrites comme étant semi-autonomes et contiennent généralement une variété de modules complémentaires automatisés appelés ADAS (Advanced Driver-Assistance Systems).

Il n'y a pas encore de vraie voiture autonome au niveau 5, que nous ne savons même pas encore si cela sera possible, ni combien de temps il faudra pour y arriver.

Pendant ce temps, les efforts de niveau 4 tentent progressivement d'obtenir une certaine traction en subissant des essais routiers publics très étroits et sélectifs, bien qu'il y ait une controverse sur la question de savoir si ces tests devraient être autorisés en soi (nous sommes tous des cobayes à vie ou à mort dans une expérience. se déroulant sur nos autoroutes et routes, certains prétendent, voir ma couverture à ce lien ici).

Étant donné que les voitures semi-autonomes nécessitent un conducteur humain, l'adoption de ces types de voitures ne sera pas très différente de la conduite de véhicules conventionnels, il n'y a donc pas beaucoup de nouvelles en soi à couvrir à ce sujet (cependant, comme vous le verrez dans un instant, les points suivants sont généralement applicables).

Pour les voitures semi-autonomes, il est important que le public soit averti d'un aspect inquiétant qui est apparu récemment, à savoir que malgré ces conducteurs humains qui continuent à publier des vidéos d'eux-mêmes s'endormant au volant d'une voiture de niveau 2 ou de niveau 3 , nous devons tous éviter d'être induits en erreur en leur faisant croire que le conducteur peut détourner son attention de la tâche de conduite tout en conduisant une voiture semi-autonome.

Vous êtes la partie responsable des actions de conduite du véhicule, quelle que soit la quantité d'automatisation pouvant être lancée dans un niveau 2 ou 3.

Les voitures autonomes et la vallée étrange

Pour les vrais véhicules autonomes de niveau 4 et de niveau 5, aucun conducteur humain ne sera impliqué dans la tâche de conduite.

Tous les occupants seront des passagers.

L'IA fait la conduite.

Un aspect à discuter immédiatement est le fait que l'IA impliquée dans les systèmes de conduite d'IA d'aujourd'hui n'est pas sensible. En d'autres termes, l'IA est tout à fait un collectif de programmation et d'algorithmes informatiques, et certainement pas capable de raisonner de la même manière que les humains.

Pourquoi cet accent supplémentaire sur le fait que l'IA n'est pas sensible ?

Parce que je veux souligner que lorsque je discute du rôle du système de pilotage de l'IA, je n'attribue pas des qualités humaines à l'IA. Sachez qu'il existe une tendance continue et dangereuse de nos jours à anthropomorphiser l'IA. En substance, les gens attribuent une sensibilité de type humain à l'IA d'aujourd'hui, malgré le fait indéniable et incontestable qu'aucune IA de ce type n'existe encore.

Avec cette clarification, vous pouvez imaginer que le système de conduite AI ne «saura» pas nativement d'une manière ou d'une autre les facettes de la conduite. La conduite et tout ce que cela implique devront être programmés dans le cadre du matériel et des logiciels de la voiture autonome.

Plongeons dans la myriade d'aspects qui viennent jouer sur ce sujet.

Tout d'abord, il est important de réaliser que toutes les voitures autonomes IA ne sont pas identiques. Chaque constructeur automobile et entreprise de technologie autonome adopte son approche pour concevoir des voitures autonomes. En tant que tel, il est difficile de faire des déclarations radicales sur ce que les systèmes de conduite IA feront ou ne feront pas.

De plus, chaque fois qu'il déclare qu'un système de conduite d'IA ne fait pas quelque chose en particulier, cela peut, plus tard, être dépassé par les développeurs qui programment en fait l'ordinateur pour faire cette même chose. Étape par étape, les systèmes de conduite d'IA sont progressivement améliorés et étendus. Une limitation existante aujourd'hui pourrait ne plus exister dans une future itération ou version du système.

J'espère que cela fournit une litanie suffisante de mises en garde pour sous-tendre ce que je suis sur le point de raconter.

Nous sommes maintenant prêts à plonger profondément dans les voitures autonomes et les questions éthiques de l'IA impliquant la vallée étrange.

Quatre aspects relatifs à cette question seront abordés ici :

1. L'aspect général des voitures autonomes

2. La question de savoir où « regardent » les voitures autonomes

3. Actions de conduite par IA des voitures autonomes

4. Des robots qui conduisent comme moyen d'atteindre des voitures autonomes

Des facettes supplémentaires sont également englobées de manière viable, mais pour des contraintes d'espace, ces quatre sujets seront suffisants pour éclairer l'orientation de la vallée étrange en ce qui concerne les voitures autonomes basées sur l'IA.

1. Aspect général des voitures autonomes

Je parie que vous avez vu des photos ou des vidéos des essais d'aujourd'hui de voitures autonomes. En tant que tel, vous avez peut-être remarqué que la plupart des véhicules sont des voitures d'apparence conventionnelle équipées d'équipements spécialisés supplémentaires. Par exemple, il peut y avoir un porte-bagages sur le toit contenant une multitude de capteurs électroniques. Les capteurs comprennent parfois des caméras vidéo, des unités radar, des dispositifs LIDAR, des capteurs à ultrasons, etc.

Les conceptions futuristes ont tendance à suggérer que nous pourrions nous écarter de la voiture d'apparence conventionnelle pour reconcevoir les voitures à la fois à l'intérieur et à l'extérieur pour en faire des véhicules autonomes plus élégants. À l'heure actuelle, l'opinion générale est qu'il est plus simple d'utiliser des voitures conventionnelles et de ne pas dépenser d'énergie à essayer d'étirer l'effort en bricolant simultanément avec des voitures d'apparence non conventionnelle (il y a quelques exceptions à ce point de vue général, voir ma couverture sur le lien ici).

L'essentiel en ce moment est que si vous conduisez sur la chaussée et que vous rencontrez une voiture autonome à proximité, vous pouvez presque toujours immédiatement discerner qu'il s'agit probablement d'une voiture autonome en remarquant simplement les quelques capteurs montés sur le véhicule autonome. Ceci est un cadeau visuel rapide. Bien sûr, vous ne savez pas avec certitude qu'il s'agit d'une conduite autonome en soi, car à ce stade, les commandes de conduite sont généralement encore intactes et un conducteur de secours humain peut être au volant.

Dans un sens, vous pouvez suggérer qu'il est particulièrement pratique que les voitures autonomes semblent physiquement se démarquer et soient facilement repérées visuellement par les conducteurs humains dans les voitures à conduite humaine à proximité, ainsi que par les piétons à proximité. La prise de conscience qu'une voiture autonome erre à proximité peut être un indice pratique pour être sur vos gardes, vous incitant à être vigilant et conscient que l'IA est ou pourrait être au volant du véhicule.

Supposons que les voitures autonomes aient l'air identiques à une voiture humaine conventionnelle. Ceci est réaliste et réalisable d'au moins deux façons. Premièrement, les capteurs pourraient potentiellement être cachés ou façonnés pour ne pas être si évidents pour une inspection visuelle occasionnelle. Deuxièmement, il se pourrait que toutes les voitures, y compris les voitures conventionnelles à conduite humaine, soient progressivement équipées de capteurs similaires, même si le véhicule va néanmoins rester une voiture à prédominance humaine. Voir ma couverture supplémentaire à ce lien ici.

Si vous réfléchissez consciencieusement à cette question de savoir si les voitures autonomes peuvent ou doivent être identiques en apparence aux voitures conventionnelles à conduite humaine, vous pourriez en venir à penser qu'une étrange vallée pourrait se cacher dans ce ragoût.

Vous voyez, les voitures qui ressemblent de manière flagrante à des voitures autonomes pourraient être caractérisées comme étant à un moment qui est juste à côté de la vallée étrange. Fondamentalement, vous "savez" qu'il s'agit d'un robot ou d'un type de système robotique. C'est un jugement auquel vous pouvez presque immédiatement sauter.

Lorsque les voitures autonomes regardent de la même manière les voitures à conduite humaine, cela suggère peut-être que les véhicules autonomes ont dépassé l'étrange vallée quant à leur apparence robotique. Y a-t-il cependant un juste milieu entre ces deux apparences physiques qui nous fait atterrir dans l'étrange vallée ?

Peut-être que vous apercevez une voiture autonome qui descend la rue et qu'il semble que ce soit probablement une voiture autonome, d'un autre côté, l'apparence n'est ni strictement autonome ni strictement humaine. Vous pourriez dire que la voiture autonome est maintenant dans un état d'apparence étrange ou troublant.

La voiture autonome s'est ostensiblement immergée dans l'étrange vallée.

Cela étant dit, tout le monde ne serait pas d'accord avec cette catégorisation. Certains prétendraient que l'aspect physique n'a rien à voir avec l'étrange vallée. Bien sûr, certains affirment également qu'il n'y a rien de réaliste connu sous le nom de vallée étrange.

Comme mentionné précédemment, vous êtes invités à prendre votre propre décision à ce sujet.

2. Question de savoir où regardent les voitures autonomes

Une préoccupation imminente que beaucoup ont à propos des voitures autonomes est qu'elles n'ont généralement pas de conducteur humain dans le siège du conducteur et qu'il est donc difficile de déterminer où « le conducteur » regarde pendant qu'il conduit la voiture.

Vous regardez normalement les conducteurs humains pour espionner où ils regardent. Par exemple, vous pourriez être un piéton à un passage pour piétons et une voiture s'approche du passage à niveau. Vous regardez attentivement la personne assise dans le siège du conducteur et essayez de discerner où sa tête est tournée et où ses yeux regardent. Si vous pensez que le conducteur humain vous a vu, vous pourriez être plus à l'aise pour traverser la rue. En revanche, si le conducteur humain n'a pas semblé vous voir, vous vous inquiétez à juste titre de traverser.

Dans certaines villes, il y a une sorte de jeu du chat et de la souris sur ces aspects. Une norme culturelle particulière dans une ville donnée pourrait être que si vous établissez un contact visuel avec un conducteur, le conducteur « gagne » et il a apparemment le droit de continuer, quelle que soit la légalité de la situation de conduite. D'autres villes pourraient être tout à fait à l'opposé, à savoir que la norme culturelle est que lorsque le contact visuel est établi, le piéton « gagne » et le conducteur humain est censé s'en remettre aux actions du piéton.

Nous semblons avoir adopté cette coutume au cours de la période relativement longue où les voitures se trouvaient au milieu de nos villes et de nos communautés. Le problème avec l'avènement des voitures autonomes est qu'il n'y a pas de conducteur humain dans le siège du conducteur et donc tout piéton ou conducteur humain à proximité qui utilise normalement la tête et les yeux des conducteurs de voiture comme indicateur culturel de l'intention de conduire est maintenant pas de chance.

Les constructeurs automobiles et les développeurs de voitures autonomes sont parfaitement conscients de ce problème émergent. Une solution proposée consiste pour la voiture autonome à faire clignoter les phares du véhicule autonome ou éventuellement à klaxonner. Une autre idée est que la voiture autonome pourrait avoir une variante d'un haut-parleur et dire à ceux qui se trouvent à proximité quelles sont les "intentions" du système de conduite IA. Ces idées ont chacune des inconvénients importants.

Pourtant, une proposition différente implique de faire quelque chose que vous pourriez d'abord croire ridicule. La proposition consiste à placer des orbes en forme de globe oculaire à l'extérieur du véhicule autonome. Ces orbes ressembleraient à peu près à des yeux humains dans l'apparence de pouvoir pivoter d'avant en arrière, vous donnant une indication immédiate qui suggère que l'IA "vous a vu" (vous interpréteriez cela par les globes oculaires regardant dans votre direction particulière). J'ai analysé cette approche à le lien ici.

Quelle serait votre réaction si vous voyiez une voiture autonome arriver sur la chaussée et que ces globes oculaires démesurés apparaissaient sur le capot ou le toit ?

Je suppose que vous pourriez penser que c'est étrange, peut-être effrayant.

Certains suggéreraient que l'étrangeté provient du fait que la voiture autonome équipée se trouve dans l'étrange vallée. D'autres diraient avec véhémence que cela n'a rien à voir avec l'étrange vallée. Parmi ces experts, certains diraient qu'il existe une étrangeté qui peut être étrange sans avoir à être retranchée dans la vallée étrange (c'est-à-dire que la vallée étrange produit apparemment toujours de l'étrangeté, mais que toute l'étrangeté n'est pas produite uniquement via la vallée étrange). L'autre angle est que les orbes pourraient vraisemblablement être conçues pour ressembler moins à un globe oculaire et sembler plus robotiques, ou que nous accepterons tous inévitablement l'apparence de ces orbes et que la réaction surprenante initiale s'atténuera.

3. Actions de conduite par IA des voitures autonomes

De nombreux essais actuels de voitures autonomes ont montré que les systèmes de conduite IA existants ont tendance à être programmés pour conduire de manière légale plutôt tiède et quelque peu strictement respectueuse. Le système de conduite IA arrête généralement la voiture autonome aux panneaux d'arrêt. Le système de conduite AI ne fait pas de courses audacieuses à travers les intersections lorsque le feu de signalisation va être rouge imminent. Ces pratiques de conduite capricieuses sont le domaine des conducteurs humains.

D'une certaine manière, vous pourriez presque deviner qu'une voiture autonome est une voiture autonome par le style de conduite qu'elle présente. Même si le véhicule autonome semblait visuellement être une voiture conventionnelle à conduite humaine, vous pourriez observer les actions de conduite et peut-être en déduire logiquement qu'il est probablement conduit par un système d'IA.

Certains pensent que nous devrons faire en sorte que les systèmes de conduite IA ressemblent davantage aux bouffonneries des conducteurs humains afin qu'ils se fondent efficacement dans les approches normatives de la conduite. Je suppose que vous pourriez interpréter cela comme combattre le feu par le feu.

Cela a-t-il un sens de le faire ?

Sachez que les sceptiques et les critiques francs détestent l'idée. Ils soutiendraient vigoureusement que nous voulons que les systèmes de conduite IA conduisent correctement et avec précaution. Ajouter potentiellement des millions de voitures autonomes sur les routes qui sont programmées pour être comme des conducteurs humains errants semblerait un cauchemar colossal. J'ai discuté de cette proposition controversée à le lien ici.

Revoyons le dilemme en tirant parti de l'étrange vallée.

Lorsque le système de conduite IA est strictement légal par ses actions de conduite, c'est peut-être un indice révélateur qu'il s'agit probablement d'un système robotique (malgré les conducteurs humains qui le font certes, bien que dans le monde d'aujourd'hui, ils semblent très rares). Si les systèmes de conduite IA doivent conduire aussi bizarrement que les conducteurs humains, est-ce que cela saute à travers la vallée étrange ou tombe dans la vallée étrange ?

Réfléchissez à celui-là.

4. Des robots qui conduisent comme moyen d'obtenir des voitures autonomes

Ce dernier élément de couverture est le plus surprenant de ces quatre.

Vous ignorez peut-être totalement que certains développeurs d'IA essaient de fabriquer des robots qui conduiraient des voitures. Le robot aurait tendance à ressembler à un humain à divers égards, ayant des jambes et des bras robotiques comme membres. Lorsque vous voulez qu'une voiture à conduite humaine conventionnelle soit une voiture autonome, vous placez simplement ce robot de conduite spécialisé dans l'IA dans le siège du conducteur de votre voiture. Voir mon analyse de cette notion à le lien ici.

Pourquoi voudrions-nous conduire des robots ?

La beauté d'un tel robot est que toutes les voitures conduites par l'homme d'aujourd'hui pourraient, en quelque sorte, devenir des voitures autonomes, presque du jour au lendemain. Vous achetez, louez ou procurez-vous simplement un robot de conduite. Vous placez le robot dans le siège de votre conducteur lorsque vous partez en voyage. Le robot vous conduit à votre destination. Si vous souhaitez passer à la conduite humaine, vous retirez le robot du véhicule, peut-être le rangez-vous dans le coffre pour une utilisation ultérieure.

Il y a environ 250 millions de voitures conventionnelles aux États-Unis aujourd'hui. Certains pensent que ceux-ci finiront par être jetés au fur et à mesure que les voitures autonomes verront le jour. Plutôt que de jeter ces voitures conventionnelles, nous pourrions peut-être essayer de les transformer en voitures autonomes, même si c'est peut-être une idée assez coûteuse. L'approche apparemment la plus prudente serait de mettre à disposition des robots de conduite.

Si vous voyiez une voiture d'apparence conventionnelle descendre la rue de votre quartier et qu'elle avait un robot au volant, quelle serait votre réaction ?

Etrangeté probable.

Une affirmation certes défendable est que cette étrangeté est due au fait que le robot conduisant une voiture conventionnelle plonge dans la célèbre ou tristement célèbre vallée étrange.

Conclusion

Du point de vue de l'IA éthique, l'étrange vallée présente une énigme intrigante.

Il y en a certains dans l'IA qui croient pleinement en la vallée étrange et d'autres non. Mais, que vous croyiez ou non à l'étrange vallée, le sujet lui-même est néanmoins évoqué. Vous ne pouvez pas cacher votre tête et prétendre que la construction en soi est inexistante. La construction en tant qu'idée vit et, dans un certain semblant, est viralement puissante. Détestez-le ou aimez-le, le sujet maudit ou peut-être exalté persiste.

Selon mon discours précédent sur les mérites de l'étrange vallée du point de vue de l'éthique de l'IA, il y a là une relation de duel d'amour et de haine. Ceux qui appartiennent au domaine éthique de l'IA devraient-ils embrasser l'étrange vallée, ou rejeter sommairement l'étrange vallée, ou rester quelque peu neutres quant à la véracité et se concentrer plutôt sur l'impact qui s'accumule en raison des croyances divergentes persistantes à son sujet.

Ce défi amène l'éminent économiste Adam Smith à dire un jour (en paraphrasant) que sur la route de la Cité du Scepticisme, il faut traverser la Vallée de l'Ambiguïté.