La dernière préoccupation éthique de l'IA est que l'IA peut inextricablement incarner des préjugés politiques, y compris même dans le cas inoffensif des voitures autonomes basées sur l'IA

Parlons politique.

Eh bien, je me rends compte que vous êtes probablement épuisé par la concentration apparemment incessante sur la politique dans toutes les sources de médias disponibles ces jours-ci. États rouges contre États bleus. Libéraux contre conservateurs. Démocrates contre républiques. Les bavardages sur les machinations politiques sont exaspérants et sans fin.

Vous avez peut-être raisonnablement supposé qu'il y a des sujets pour lesquels la politique n'entre pas particulièrement en ligne de compte. Essentiellement, il existe peut-être deux catégories distinctes de sujets, à savoir des sujets politiquement imprégnés quoi qu'il arrive, et d'autres sujets plus banals qui contourneraient ou échapperaient au domaine politique.

Il semblerait logique qu'il y ait ces sujets éclairs accrocheurs qui sont éternellement liés à la politique et aux fureurs politiques, comme la liste de longue date qui comprend les aspects nationaux de la santé, les aspects électoraux, le contrôle des armes à feu, l'immigration, etc. Tout ce que vous avez à faire est de mentionner l'un de ces sujets et la prochaine chose qui se passe est que vous êtes plongé dans une tempête politique. Des arguments plutôt passionnés sont à peu près garantis.

De l'autre côté de la médaille de la conflagration, il y a peut-être des sujets qui ne provoquent pas une telle réaction politique instinctive. J'aimerais vous présenter un tel sujet, cherchant à obtenir votre première réaction viscérale.

Prêt(e) ?

Des voitures.

Oui, le sujet quotidien des voitures, des automobiles, des véhicules à moteur, ou comme vous voudriez le formuler, cela suscite-t-il un tollé politique ou attise-t-il une diatribe politiquement chargée ou des coups de poing verbaux à faire parler?

Il pourrait ne pas sembler à première vue qu'il y ait un semblant accru de préoccupations politiques concernant les voitures. Ils sont simplement une forme de transport quotidien. Vous montez dans votre voiture et vous vous rendez au travail. Vous utilisez votre voiture pour faire des courses et aller faire vos courses. Si vous avez le temps de passer des vacances, vous utilisez votre voiture pour vous rendre dans les forêts ouvertes ou peut-être visiter des monuments nationaux précieux.

Les voitures semblent être apolitiques.

Désolé, mais ce n'est pas du tout le cas.

On peut faire valoir que les voitures sont intimement entourées et immergées dans la politique comme n'importe quel autre sujet dit de point d'éclair. Peut-être que les médias généraux ne couvrent pas la politique axée sur la voiture autant que cela pourrait être fait pour d'autres sujets plus séduisants, mais néanmoins, les courants politiques sous-jacents existent toujours.

Une dimension politique évidente consiste en ce que devraient être nos voitures.

Je fais référence à la composition ou à la mécanisation des voitures. Par exemple, il y a un débat politique passionnant sur la question de savoir si les voitures devraient utiliser l'ICE (moteurs à combustion interne) ou passer aux VE (véhicules électriques). Il s'agit d'un domaine de discours important qui est lié à de nombreux autres sujets politiquement chargés, tels que les questions environnementales et les facettes du changement climatique.

Une question moins connue et pourtant connexe traite de la taille des voitures et de leur empreinte globale à divers égards. Devrions-nous avoir des voitures de grande taille ou seulement des voitures de plus petite taille ? Devrions-nous concevoir des voitures pour décourager l'utilisation de la voiture, dans le but d'inciter les gens à utiliser les transports en commun et les transports publics à la place ? Etc.

Voici quelque chose auquel vous n'avez probablement pas pensé.

Certaines études ont examiné si le type de voiture possédée est basé sur les tendances politiques du propriétaire de la voiture. Vraisemblablement, vous pourrez peut-être trouver une corrélation statistique entre une personne déclarée démocrate et le type de voiture achetée, et également trouver une corrélation statistique entre le fait d'être républicain et le type de voiture possédée. Je ne vais pas me plonger dans ces études ici, même si je voudrais mentionner que vous devez interpréter ces études et leurs résultats avec un œil prudent et une bonne dose de scepticisme quant à la validité statistique impliquée.

En parlant d'utiliser les statistiques, il y a un autre angle intrigant pour les caractéristiques politiques et les voitures. Il y a des efforts de recherche qui semblent lier divers comportements de conduite des personnes à l'affiliation à un parti politique de ces conducteurs.

Les questions souvent abordées incluent :

· Les conducteurs qui ont des accidents de voiture ou des collisions sont-ils plus susceptibles ou moins susceptibles d'être démocrates ou républicains ?

· Les conducteurs ivres sont-ils plus susceptibles d'être des libéraux ou des conservateurs ?

· Lorsque ces incidents fous de rage au volant se produisent, au cours desquels les conducteurs deviennent fous et se frappent les uns les autres, ces fous furieux auraient-ils tendance à être des libéraux ou des conservateurs ?

· Qui reçoit le plus de contraventions et conduit vraisemblablement de manière plus risquée, les démocrates ou les républicains ?

· Etc.

Encore une fois, je ne vais pas plonger ici dans ces efforts de recherche. Et, encore une fois, assurez-vous d'être sur vos gardes lorsque vous lisez de telles études ou que vous voyez les gros titres sur leurs résultats. Tout ce que je dirai, c'est que la vieille ligne sur les statistiques est toujours largement vraie aujourd'hui, de sorte qu'il y a des mensonges, des mensonges maudits et des statistiques (j'ai nettoyé ce peu de sagesse salée pour un public plus distingué).

Nous semblons donc avoir de nombreuses preuves que le sujet des voitures est malheureusement imprégné de connotations politiques.

Je choisirai alors un sujet différent, qui sera peut-être complètement apolitique.

Prêt cette fois ?

Intelligence artificielle (IA).

Certes, on l'espère, l'IA doit être apolitique, surtout en ce qui concerne les capacités internes des systèmes d'IA. Vous pourriez bien sûr soupçonner qu'il y a de la politique environnant si l'IA doit être utilisée ou non, mais vous penseriez apparemment que l'intérieur d'un système d'IA serait au-delà de toute fermentation politique en soi.

Avant d'examiner de plus près cette hypothèse répandue, il pourrait être instructif d'examiner certaines autres facettes de l'IA qui ont récemment amené de nombreuses personnes à repenser l'envie irréfléchie de produire et d'accepter instinctivement des systèmes d'IA en un clin d'œil.

Vous voyez, dans la ruée vers le AI pour de bon l'excitation des dernières années, il y a eu une prise de conscience croissante que toutes les IA ne seront pas nécessairement bonnes. Nous sommes venus pour voir qu'il y a aussi beaucoup d'opportunités pour le AI pour le mal se lever. Cela peut se produire par l'intention délibérée de ceux qui développent l'IA et peut également se produire par ce que certains diraient avec force qu'il s'agit d'un manque totalement irresponsable de surveillance appropriée de la part des développeurs d'IA et de ceux qui promulguent des systèmes d'IA.

J'ai couvert bon nombre de ces problèmes d'éthique de l'IA dans ma couverture de colonne, comme le lien ici et le lien ici.

Considérer comme un indicateur de AI pour le mal la question de la reconnaissance faciale.

Beaucoup pensaient que la reconnaissance faciale allait être la plus dandy des technologies d'IA (et, à bien des égards, c'est en effet une sorte de AI pour de bon). Il serait si facile de faire des opérations bancaires aux guichets automatiques en faisant simplement scanner votre visage pour le reconnaître plutôt qu'en utilisant un code PIN secret et une carte bancaire. Il serait si pratique d'entrer dans une épicerie et de magasiner en utilisant simplement votre visage comme moyen d'indiquer votre compte d'épicerie en ligne qui pourrait être facturé pour les articles que vous sélectionnez.

Vous connaissez le refrain.

La prochaine chose que vous savez, la société a commencé à découvrir que la reconnaissance faciale n'est pas que des bonbons au goût sucré et des roses odorantes. Certains des algorithmes de reconnaissance faciale basés sur l'IA n'ont pas réussi à discerner les gens en raison de leur race. De nombreux autres problèmes déconcertants et carrément scandaleux ont surgi, y compris des préjugés inhérents liés au sexe et à d'autres facteurs. Pour ma couverture sur les sujets d'éthique de l'IA qui sous-tendent la reconnaissance faciale, voir le lien ici.

Le point global est qu'il y a de fortes chances que tout AI pour de bon va également transporter des bagages associés composés de AI pour le mal. Il y a des occasions où AI pour le mal est entièrement mauvais, et peu de qualités rédemptrices existent pour suggérer qu'il y a un minimum de AI pour de bon dans. Dans l'ensemble, cependant, un système d'IA va généralement avoir un semblant des deux AI pour de bon ainsi que AI pour le mal. Le premier que nous voudrions encourager, le second que nous voudrions prévenir, réduire, atténuer, et quand tout le reste échoue, alors attraper et désamorcer dès que possible.

Vous pensez peut-être, oui, tout cela a du sens et nous devrions scruter attentivement l'IA pour tout type de préjugés raciaux, de préjugés sexistes et de tout type d'inégalités. Ce serait l'action appropriée et aiderait la société à éviter le mal et à récolter fructueusement le bien de l'IA.

Croyez-le ou non, il y a un autre facteur qui peut être ajouté à la liste des choses surprenantes enveloppées dans l'IA dont beaucoup ne savaient pas qu'elles étaient dans le ragoût hétéroclite de l'IA.

Penchants politiques.

Des études récentes montrent que les systèmes d'IA peuvent incarner (pour ainsi dire, mais pas de manière anthropomorphique), une pléthore de tendances politiques, d'opinions, de préférences et d'autres attributs et infusions politiques. Cela peut à son tour avoir un impact sur le fonctionnement de l'IA, comme ce que l'IA "décide" en fonction de la programmation de l'IA.

Si vous faites une demande de prêt en ligne et qu'un système de prise de décision algorithmique basé sur l'IA est utilisé, vous n'avez souvent aucune idée de ce en quoi consiste la programmation de l'IA. Après avoir été refusé pour le prêt, vous ne pouvez pas être sûr que l'IA a évité d'utiliser votre race, votre sexe ou d'autres facteurs similaires pour faire le choix de refus.

Vous ne pouvez pas non plus être sûr que l'IA n'a pas étouffé votre demande de prêt en raison de ses préjugés politiques.

Lorsque j'énonce cela en des termes aussi crus, n'exagérez pas la notion en croyant que l'IA est sensible. Comme je le mentionnerai plus loin dans un instant, nous n'avons pas d'IA sensible aujourd'hui. Point final, point final. Peu importe les gros titres que vous voyez, sachez qu'il n'y a rien de proche de l'IA sensible aujourd'hui. Nous ne savons même pas s'il est possible d'atteindre la sensibilité avec l'IA. Il n'y a pas non plus d'indication sur le moment où cela se produira, ou si cela se produira un jour.

Revenons à la question en cours.

Maintenant que j'ai compris que l'IA peut contenir des préjugés politiques, nous pouvons examiner de plus près comment cela se produit et de quelle manière les tendances politiques peuvent apparaître insidieusement.

Soit dit en passant, si l'idée que l'IA peut intégrer des prédilections politiques vous cause une consternation ou un choc horrible, associez-le à un autre exemple de percer le voile immaculé de l'IA. La société semble avoir jusqu'ici accepté une image de marque de l'IA comme incorporant la grande innocence et l'aura immaculée de neutralité et d'équilibre.

Nous aurions pu reporter cela sur d'autres types de machines. Les grille-pain ne semblent pas avoir de préjugés inhérents basés sur la race, le sexe, etc. De la même manière, nous ne nous attendrions pas à ce qu'un grille-pain ait un esprit politique, pour ainsi dire. Un grille-pain est un grille-pain. Il est considéré comme une simple machine.

La raison pour laquelle la perspective du grille-pain ne tient pas la route en ce qui concerne l'IA est que le système d'IA est programmé pour essayer de conserver des capacités de type cognitif. En tant que tel, cela plonge la machine dans le dilemme des problèmes cognitifs tels que l'incarnation des préjugés, etc. Je vous assure que nous découvrirons assez tôt que les grille-pain basés sur l'IA sont en proie à des préjugés et à des préoccupations problématiques.

Un moyen pratique d'ouvrir la porte à la compréhension de la façon dont l'IA peut devenir politiquement imprégnée sera de jeter un coup d'œil à l'utilisation de l'IA dans l'avènement de véritables voitures autonomes basées sur l'IA. Nous pouvons faire d'une pierre deux coups et examiner le sujet générique et primordial de l'IA qui contient une incarnation politique, et le faire dans le contexte exemplaire de la façon dont cela pourrait se produire dans les voitures autonomes.

Je tiens cependant à préciser que l'inoculation politique de l'IA est un sujet autonome qui mérite d'être reconnu. N'entremêlez pas par erreur l'IA des voitures autonomes avec les dimensions politiques de l'IA. Toute IA aura des possibilités politiquement inhérentes, et la profondeur et le degré dépendront de la façon dont l'IA est conçue et mise en service.

Voici donc une question remarquable qui mérite d'être méditée: Comment l'IA en arrivera-t-elle à imprégner en interne les tendances politiques, et cela peut-il même se produire dans le domaine apparemment apolitique de l'IA qui est utilisée pour ces nouvelles voitures autonomes basées sur l'IA ?

Permettez-moi un instant de déballer la question en ce qui concerne les voitures autonomes.

Tout d'abord, notez qu'il n'y a pas de conducteur humain impliqué dans une véritable voiture autonome. Gardez à l'esprit que les vraies voitures autonomes sont conduites via un système de conduite IA. Il n'y a pas besoin d'un conducteur humain au volant, et il n'y a pas non plus de disposition pour qu'un humain conduise le véhicule. Pour ma couverture étendue et continue des véhicules autonomes (VA) et en particulier des voitures autonomes, voir le lien ici.

J'aimerais clarifier davantage ce que l'on entend lorsque je fais référence à de vraies voitures autonomes.

Comprendre les niveaux des voitures autonomes

Pour clarifier, les vraies voitures autonomes sont celles que l'IA conduit entièrement seule et qu'il n'y a aucune assistance humaine pendant la tâche de conduite.

Ces véhicules sans conducteur sont considérés comme des niveaux 4 et 5 (voir mon explication sur ce lien ici), tandis qu'une voiture qui nécessite un conducteur humain pour partager l'effort de conduite est généralement considérée au niveau 2 ou au niveau 3. Les voitures qui co- partager la tâche de conduite sont décrits comme étant semi-autonomes et contiennent généralement une variété de modules complémentaires automatisés appelés ADAS (Advanced Driver-Assistance Systems).

Il n'y a pas encore de vraie voiture autonome au niveau 5, que nous ne savons même pas encore si cela sera possible, ni combien de temps il faudra pour y arriver.

Pendant ce temps, les efforts de niveau 4 tentent progressivement d'obtenir une certaine traction en subissant des essais routiers publics très étroits et sélectifs, bien qu'il y ait une controverse sur la question de savoir si ces tests devraient être autorisés en soi (nous sommes tous des cobayes à vie ou à mort dans une expérience. se déroulant sur nos autoroutes et nos routes, certains prétendent, voir ma couverture à ce lien ici).

Étant donné que les voitures semi-autonomes nécessitent un conducteur humain, l'adoption de ces types de voitures ne sera pas très différente de la conduite de véhicules conventionnels, il n'y a donc pas beaucoup de nouvelles en soi à couvrir à ce sujet (cependant, comme vous le verrez dans un instant, les points suivants sont généralement applicables).

Pour les voitures semi-autonomes, il est important que le public soit averti d'un aspect inquiétant qui est apparu récemment, à savoir que malgré ces conducteurs humains qui continuent à publier des vidéos d'eux-mêmes s'endormant au volant d'une voiture de niveau 2 ou de niveau 3 , nous devons tous éviter d'être induits en erreur en leur faisant croire que le conducteur peut détourner son attention de la tâche de conduite tout en conduisant une voiture semi-autonome.

Vous êtes la partie responsable des actions de conduite du véhicule, quelle que soit la quantité d'automatisation pouvant être lancée dans un niveau 2 ou 3.

Voitures autonomes et tendances politiques intégrées à l'IA

Pour les vrais véhicules autonomes de niveau 4 et de niveau 5, aucun conducteur humain ne sera impliqué dans la tâche de conduite.

Tous les occupants seront des passagers.

L'IA fait la conduite.

Un aspect à discuter immédiatement est le fait que l'IA impliquée dans les systèmes de conduite d'IA d'aujourd'hui n'est pas sensible. En d'autres termes, l'IA est tout à fait un collectif de programmation et d'algorithmes informatiques, et certainement pas capable de raisonner de la même manière que les humains.

Pourquoi cet accent supplémentaire sur le fait que l'IA n'est pas sensible ?

Parce que je veux souligner que lorsque je discute du rôle du système de pilotage de l'IA, je n'attribue pas des qualités humaines à l'IA. Sachez qu'il existe une tendance continue et dangereuse de nos jours à anthropomorphiser l'IA. En substance, les gens attribuent une sensibilité de type humain à l'IA d'aujourd'hui, malgré le fait indéniable et incontestable qu'aucune IA de ce type n'existe encore.

Avec cette clarification, vous pouvez imaginer que le système de conduite AI ne «saura» pas nativement d'une manière ou d'une autre les facettes de la conduite. La conduite et tout ce que cela implique devront être programmés dans le cadre du matériel et des logiciels de la voiture autonome.

Plongeons dans la myriade d'aspects qui viennent jouer sur ce sujet.

Tout d'abord, il est important de réaliser que toutes les voitures autonomes IA ne sont pas identiques. Chaque constructeur automobile et entreprise de technologie autonome adopte son approche pour concevoir des voitures autonomes. En tant que tel, il est difficile de faire des déclarations radicales sur ce que les systèmes de conduite IA feront ou ne feront pas.

De plus, chaque fois qu'il déclare qu'un système de conduite d'IA ne fait pas quelque chose en particulier, cela peut, plus tard, être dépassé par les développeurs qui programment en fait l'ordinateur pour faire cette même chose. Étape par étape, les systèmes de conduite d'IA sont progressivement améliorés et étendus. Une limitation existante aujourd'hui pourrait ne plus exister dans une future itération ou version du système.

J'espère que cela fournit une litanie suffisante de mises en garde pour sous-tendre ce que je suis sur le point de raconter.

Nous sommes maintenant prêts à plonger profondément dans le dilemme intégré à la politique de l'IA.

Laissons brièvement de côté les aspects de la voiture autonome et explorons d'abord le sujet de l'IA pour savoir comment il intègre les tendances politiques. Le moyen le plus simple pour l'IA d'être politiquement frappé est par les actions des développeurs d'IA qui élaborent le logiciel d'IA. En tant qu'êtres humains, ils pourraient reporter leurs penchants politiques personnels dans ce qu'ils programment le logiciel à faire.

Lorsque les systèmes d'IA ont commencé à présenter divers préjugés raciaux et sexistes, il y a eu un énorme tollé selon lequel cela devait être le résultat des développeurs d'IA qui ont conçu ces systèmes. Il y avait des accusations selon lesquelles il s'agissait d'un acte délibéré de la part des développeurs d'IA. D'autres ont cependant suggéré que les développeurs d'IA manquaient de diversité et, par conséquent, ils ont laissé négligemment ou inconsidérément leurs préjugés existants dans leurs efforts de programmation d'IA.

Pour de nombreuses équipes d'IA, cela les a incités à prendre davantage conscience de la nécessité d'assurer la diversité parmi leurs collègues développeurs, y compris lorsque de nouveaux membres étaient ajoutés à leurs groupes de programmation. De plus, des cours éducatifs instructifs spéciaux ont été créés pour accroître la sensibilisation à la diversité pour les développeurs d'IA. Il existe même des méthodologies de développement de l'IA qui englobent les aspects de diversité pour guider explicitement les projets d'IA vers la surveillance des biais et des inégalités dans leurs systèmes.

Bien que presque personne ne soit encore conscient du type de parti pris politiquement ancré pour l'IA, il y a de fortes chances qu'elle finisse par prendre de l'importance et qu'un tollé se produise. Une fois de plus, il y aura un examen minutieux des développeurs d'IA. Peut-être que certains infusent intentionnellement leurs penchants politiques, tandis que d'autres pourraient le faire sans se rendre compte qu'ils le font.

J'ose dire que l'accent mis sur l'hypothèse que les développeurs d'IA étaient la seule source d'introduction de biais dans l'IA a manqué la totalité de l'origine des biais de l'IA. Une prise de conscience progressive a été que l'utilisation de l'apprentissage automatique (ML) et de l'apprentissage en profondeur (DL) est également devenue un contributeur notable aux aspects de biais internes de l'IA.

L'apprentissage automatique et l'apprentissage en profondeur sont des techniques et des technologies de mise en correspondance de modèles informatiques.

Vous assemblez les données que vous souhaitez alimenter dans le ML/DL, qui cherche ensuite par calcul à trouver des modèles mathématiques dans l'ensemble de données fourni. Sur la base de ces modèles calculés, le ML/DL sera utilisé, par exemple pour pouvoir faire, par exemple, la reconnaissance faciale. Pour la reconnaissance faciale, nous pourrions alimenter un tas de photos de personnes, et le ML/DL calculera les caractéristiques notables de ce qui rend les visages reconnaissables, telles que la forme et la taille du nez, la forme et la taille de la bouche et des lèvres. , la forme et la taille du front, etc.

Cette approche computationnelle semble être au-delà de tout type d'influence de biais. Ce ne sont que des calculs.

Aha, mais rappelez-vous que nous alimentons des images (ou quoi que ce soit) dans le ML/DL dans le cadre de la « formation » ou de la mise en correspondance des modèles de calcul. Pour la reconnaissance faciale, si nous devions alimenter principalement des images montrant des personnes d'une race particulière, il y a de fortes chances que l'appariement de modèles informatiques se concentre sur ces aspects faciaux. Plus tard, en supposant que nous généralisions ce système de reconnaissance faciale, ceux qui l'utilisaient et appartenaient à une race différente pourraient être moins susceptibles d'être "reconnus" mathématiquement parce que les modèles ML/DL sont façonnés autour de la race qui a été principalement trouvée dans la formation ensemble.

Ainsi, vous pouvez clairement voir comment l'approche mathématique autrement "impartiale" de ML/DL peut être faussée (il existe également d'autres moyens, mais je ne fais que mentionner celui-ci, ici). Les développeurs d'IA ont-ils délibérément créé un ensemble de données qui était racialement déséquilibré ? Je dirais qu'il s'agit rarement d'un acte intentionnel, bien que le fait qu'ils ne se rendent pas compte qu'ils l'ont fait n'est toujours pas une excuse suffisante.

De nos jours, il y a une poussée stridente pour essayer d'amener ceux qui utilisent ML/DL à être plus attentifs aux données qu'ils utilisent pour la formation et aux résultats que cela produit. Malheureusement, tout le monde a sauté dans le train en marche ML/DL et bon nombre de ces débutants ou fugitifs qui ont repris le flambeau ML/DL le font sans avoir conscience des préjugés infusés. Il y a peut-être aussi de mauvais acteurs qui pourraient le faire intentionnellement, mais espérons qu'ils sont peu nombreux.

J'espère que ce qui précède vous a mis au courant des aspects de l'éthique de l'IA impliquant l'introduction de préjugés dans l'IA d'aujourd'hui.

Allez-y et répétez tout le tralala, en remplaçant la notion générique de préjugés par les indications spécifiques de tendances politiquement ancrées. J'ai déjà mentionné que les développeurs d'IA eux-mêmes pourraient porter ouvertement ou par inadvertance leurs tendances politiques dans ce que fait l'IA programmée. L'autre facette que j'ai également évoquée est que pour l'utilisation de l'apprentissage automatique et de l'apprentissage en profondeur, il est possible de sélectionner des données de formation qui pourraient délibérément ou accidentellement véhiculer des modèles qui s'inscrivent dans une dimension politique particulière.

Eh bien, je suis un peu long sur cette colonne (oups, TLDR, certains diront amèrement), donc je vais essayer d'esquisser brièvement un exemple de la façon dont l'IA pour une voiture autonome basée sur l'IA pourrait être emportée dans ces sortes de trous de ver à tendance politique (pour ma couverture étendue de ces questions, à travers plusieurs de mes publications, voir le lien ici).

Un problème d'équité potentiel bien connu et souvent discuté concernant les voitures autonomes IA concerne l'utilisation de robots-taxis et qui aura accès à cette nouvelle option de mobilité en tant que service. Les inquiétudes sont que seuls les riches pourront se permettre d'utiliser des robots-taxis, et donc ceux dans les tranches de revenus les plus faibles seront exclus de l'ère émergente des voitures sans conducteur (voir un rapport détaillé à ce sujet, sur le lien ici ).

Il y a une autre tournure qui découle de ce scrupule.

Imaginez que des voitures autonomes errent dans une ville et attendent une demande de transport. Une demande arrive et une voiture autonome robot-taxi à proximité se précipite pour récupérer le passager. Le pilote indique où il veut aller et le système de conduite IA trace un chemin pour y arriver. Le système de conduite IA procède ensuite à la conduite du véhicule autonome vers la destination souhaitée.

Tout cela semble bien.

Voici une appréhension qui donne à réfléchir qui a été exprimée.

Supposons que le système de conduite IA choisisse de concevoir un chemin qui évite les quartiers les plus défavorisés. Vous pourriez supposer que le traçage de navigation ne serait basé que sur le chemin optimal, tel que la distance la plus courte ou peut-être le temps le plus court. Peut-être peut-être pas.

D'autres facteurs pourraient être la probabilité que la voiture autonome traverse ce qui pourrait être considéré comme des lieux criminels. Il se peut que le danger pour le véhicule autonome et les passagers soit pris en considération sur la voie à suivre.

On se tord les mains que les voitures autonomes éviteraient presque toujours inextricablement les communautés les plus pauvres ou les plus opprimées. Les gens qui roulent dans des voitures autonomes ne semblent jamais se rendre compte que de tels endroits existent dans leurs villes ou villages. Cela les rendrait vraisemblablement inconscients des besoins de ces communautés. En plus de cela, ceux qui vivent dans ces zones peuvent rarement avoir l'occasion d'utiliser une voiture autonome, même si elle est abordable. Il n'y aurait pas de robots-taxis errant au milieu d'eux, s'étant par calcul tenus en dehors de ces zones.

Ce biais serait-il dû à une programmation intentionnelle de l'IA par les développeurs ?

Peut-être, mais pas nécessairement.

Peut-être ce biais provient-il de l'utilisation du Machine Learning et du Deep Learning ?

Bien sûr, c'est une possibilité envisagée.

Le système de conduite de l'IA pourrait être basé sur ML/DL qui utilisait des données pour déterminer où procéder lors de la cartographie d'un chemin. Si ces données étaient conçues pour éviter certaines zones, le ML/DL détecterait probablement un tel modèle et le suivrait. Au fil du temps, en supposant que ces données s'accumulent davantage au fur et à mesure que les voitures autonomes sont en circulation, les données utilisées par la suite pour les mises à jour et l'entretien renforceraient davantage ces mêmes modèles concoctés.

On pourrait dire que les modèles s'aggravent à mesure que l'utilisation du modèle précédent se met en place à plusieurs reprises, une sorte d'effet boule de neige ou de spirale constante.

D'une certaine manière, vous pourriez interpréter que ce biais apparent de l'endroit où conduire est un exemple de la façon dont une tendance potentielle intégrée à la politique de l'IA pourrait survenir. Une perspective serait de laisser l'IA continuer sans relâche dans cette prédilection. Une autre serait de réviser l'IA pour pénétrer délibérément dans les domaines qui étaient hors de portée, ce qui, une fois de plus, vous pourriez affirmer qu'il s'agit peut-être d'une posture politiquement penchée infusée dans l'IA.

Tout compte fait, l'IA non plus expositions une tendance politique ou est du moins perçue comme telle, qu'elle ait ou non un semblant (ce qu'elle n'a pas par sensibilité) sur la politique des choses.

Conclusion

Il y a beaucoup d'exemples de ce genre qui peuvent être soulevés.

Je vais rester dans le contexte de la voiture autonome et vous donner un autre exemple rapide. Supposons qu'un passager demande à être transporté par un robot-taxi à voiture autonome et qu'il le fasse pour se rendre à un rassemblement politique qui se déroule au palais de justice du centre-ville. Le système de conduite AI refuse d'y emmener le pilote.

Pourquoi ?

Imaginez que les données antérieures recueillies sur les rassemblements politiques en tant que point de destination aient indiqué que les voitures autonomes étaient prises dans les embouteillages. Supposons que cela signifiait que les voitures autonomes étaient moins en mesure de gagner de l'argent avec les passagers, en raison des longs temps d'attente dans la circulation et de la facturation d'un taux moindre pour ces temps d'attente. Un algorithme d'IA, tel que l'utilisation de ML/DL, pourrait déterminer par calcul que la participation à des rassemblements politiques est un mauvais choix pour gagner de l'argent. Par conséquent, lorsque des demandes de robot-taxi se présentent pour se rendre à un rassemblement politique, la demande est refusée.

Je pense que vous pouvez voir comment cela pourrait être considéré comme un choix politiquement motivé. Bien que l'IA n'utilise peut-être directement aucun motif politique, d'une manière ou d'une autre, elle semble en tout cas faire un choix politique.

Vous pouvez parier votre dernier dollar que nous allons bientôt faire face à une réaction politique contre les tendances politiques de l'IA. Écoutez-moi bien!

En parlant de mots, le célèbre poète et dramaturge grec Aristophane a affirmé que sous chaque pierre se cache un politicien. Dans le monde d'aujourd'hui, au sein de chaque système d'IA, il existe une possibilité indubitable d'un penchant politique intégré, que vous le sachiez ou non.

Tu ferais mieux de commencer à retourner ces pierres.