L'éthique de l'IA se bat passionnément pour que votre droit légal soit une exception

On dit qu'il y a une exception à toute règle.

Le problème cependant est que souvent la règle permanente prévaut et qu'il y a peu ou pas de possibilité qu'une exception soit reconnue ou acceptée. Le cas moyen est utilisé malgré la possibilité stridente qu'une exception soit au premier plan. Une exception ne reçoit aucun temps d'antenne. Il n'a aucune chance d'être dûment pris en considération.

Je suis sûr que vous devez savoir de quoi je parle.

Avez-vous déjà tenté d'obtenir une sorte de service client individualisé par lequel vous étiez traité sans réfléchir, sans aucune distinction pour votre cas particulier et vos besoins spécifiques ?

Cela vous est sans aucun doute arrivé, probablement un nombre incalculable de fois.

Je vais vous présenter une tendance inquiétante qui se dégage de la façon dont l'intelligence artificielle (IA) est conçue sans relâche pour forcer tout à s'adapter au paradigme de la taille unique.

Les exceptions ne sont pas détectées ou ont choisi d'être déformées comme si elles n'étaient pas du tout des exceptions. La base de cela est en partie due à l'avènement de l'apprentissage automatique (ML) et de l'apprentissage en profondeur (DL). Comme vous le verrez bientôt, ML/DL est une forme de mise en correspondance de modèles de calcul, qui est « plus facile » à développer et à déployer si vous êtes prêt à ignorer ou à contourner les exceptions. Ceci est très problématique et soulève des préoccupations très notables en matière d'éthique de l'IA. Pour ma couverture globale continue et étendue de l'éthique de l'IA et de l'IA éthique, voir le lien ici ainsi que le lien ici, Juste pour en nommer quelques-uns.

Les choses ne doivent pas nécessairement être ainsi et sachez que cela est alimenté par ceux qui fabriquent et déploient l'IA en choisissant d'ignorer ou de minimiser la gestion des exceptions dans leurs concoctions d'IA.

Lorsque la règle des exceptions

Commençons par déballer la nature du cas moyen par rapport à la réalisation des exceptions.

Mon exemple préféré de ce type de dogpiling ou d'approche sans exception de cas myopique moyen est illuminé de manière éclatante par presque tous les épisodes de la série télévisée acclamée et toujours très populaire connue sous le nom de Maison, MD (généralement juste exprimé comme Villa, qui a duré de 2004 à 2012 et peut être consulté aujourd'hui sur les réseaux sociaux et d'autres médias). L'émission impliquait un personnage fictif nommé Dr Gregory House qui était bourru, insupportable et assez peu conventionnel, mais il était décrit comme un génie médical capable de dénicher les maladies et les affections les plus obscures. D'autres médecins et même des patients ne l'ont peut-être pas nécessairement aimé, mais il a fait le travail.

Voici comment un épisode typique s'est déroulé (alerte de spoiler générique !).

Un patient se présente à l'hôpital où le Dr House fait partie du personnel. Le patient présente initialement des symptômes quelque peu communs et divers autres médecins essaient à tour de rôle de diagnostiquer et de guérir le patient. Ce qui est étrange, c'est que les tentatives d'aider le patient échouent à améliorer les conditions défavorables ou, pire encore, ont tendance à se retourner contre eux. Le patient va de mal en pis.

Parce que le patient est maintenant considéré comme une sorte de curiosité médicale et que personne d'autre ne peut comprendre de quoi souffre le patient, le Dr House est impliqué dans l'affaire. Cela est parfois fait exprès afin de puiser dans ses prouesses médicales, tandis que dans d'autres cas, il entend parler de l'affaire et ses instincts innés l'attirent vers des circonstances inhabituelles.

Nous découvrons peu à peu que le patient est atteint d'une maladie extrêmement rare. Seuls le Dr House et son équipe d'internes en médecine sont capables de comprendre cela.

Maintenant que j'ai partagé avec vous l'intrigue principale des épisodes, plongeons dans les leçons apprises qui illustrent la nature du cas moyen par rapport aux exceptions.

Les histoires fictives sont conçues pour montrer comment la pensée à l'intérieur de la boîte peut parfois manquer cruellement la cible. Tous les autres médecins qui tentent d'abord d'aider le patient sont obscurcis dans leur processus de réflexion. Ils veulent forcer les symptômes et les facettes présentées dans un diagnostic médical conventionnel. Le patient n'est qu'un des nombreux qu'ils ont vraisemblablement vus auparavant. Examinez le patient, puis prescrivez les mêmes traitements et solutions médicales qu'il a utilisés à plusieurs reprises tout au long de sa carrière médicale.

Laver, rincer, répéter.

Dans un sens, vous pouvez justifier cette approche. Il y a de fortes chances que la plupart des patients souffrent des affections les plus courantes. Jour après jour, ces médecins rencontrent les mêmes problèmes médicaux. Vous pourriez suggérer que les patients qui entrent à l'hôpital sont véritablement sur une chaîne de montage médicale. Chacun suit les protocoles normalisés de l'hôpital comme s'il faisait partie d'une usine de fabrication ou d'une usine d'assemblage.

Le cas moyen prévaut. Non seulement cela convient généralement, mais cela permet également à l'hôpital et au personnel médical d'optimiser leurs services médicaux en conséquence. Les coûts peuvent être réduits lorsque vous concevez les processus médicaux pour gérer le cas moyen. Il y a un conseil assez célèbre souvent répété dans l'esprit des étudiants en médecine, à savoir que si vous entendez des bruits de sabots venant de la rue, il y a de fortes chances que vous pensiez à un cheval plutôt qu'à un zèbre.

Efficace, productif, efficace.

Jusqu'à ce qu'une exception se faufile au milieu.

Peut-être qu'un zèbre du zoo s'est échappé et s'est promené dans votre rue.

Cela signifie-t-il que les exceptions devraient être la règle et que nous devrions mettre de côté la règle du cas moyen au lieu de nous concentrer exclusivement sur les exceptions ?

Vous auriez du mal à affirmer que toutes nos rencontres et tous nos services quotidiens devraient être axés sur les exceptions plutôt que sur le cas moyen.

Notez que je ne fais pas une telle suggestion. Ce que je prétends, c'est que nous devons veiller à ce que des exceptions soient autorisées et que nous devons reconnaître quand des exceptions surviennent. Je mentionne cela parce que certains experts sont susceptibles de proclamer haut et fort que si vous êtes un partisan de la reconnaissance des exceptions, vous devez donc être opposé à la conception pour le cas moyen.

C'est une fausse dichotomie.

Ne tombez pas pour ça.

Nous pouvons avoir notre gâteau et le manger aussi.

Faire valoir le droit d'être une exception

Je vais peut-être ensuite vous choquer un peu en reliant tout cela à l'utilisation naissante de l'IA.

Les systèmes d'IA sont de plus en plus conçus pour se concentrer sur le cas moyen, souvent à l'exclusion ou au détriment de la reconnaissance des exceptions.

Vous pourriez être surpris de savoir que cela se produit. La plupart d'entre nous supposeraient que puisque l'IA est une forme d'automatisation informatique, la beauté de l'automatisation des choses est que vous pouvez généralement incorporer des exceptions. Cela peut généralement être fait à un coût moindre que si vous utilisiez le travail humain pour effectuer un service similaire. Avec le travail humain, il peut être coûteux ou prohibitif d'avoir toutes sortes de main-d'œuvre disponibles qui peuvent faire face à des exceptions. Les choses sont beaucoup plus faciles à gérer et à mettre en place si vous pouvez supposer que vos clients ou vos clients sont tous des calibres moyens. Mais l'utilisation de systèmes informatisés est censée s'accommoder d'exceptions, facilement. Dans cette façon de penser, nous devrions applaudir avec fracas pour que davantage de capacités informatisées arrivent au premier plan.

Considérez cela comme une énigme hallucinante et prenez un moment pour réfléchir à cette question épineuse : Comment l'IA, qui est par ailleurs supposée être la meilleure de l'automatisation, peut-elle suivre inexorablement la voie routinière et sans exception qui, ironiquement ou de manière inattendue, nous imaginions qu'elle irait exactement dans la direction opposée ?

Réponse L'apprentissage automatique et l'apprentissage en profondeur nous emmènent vers une existence sans exception, bien que ne sauraient car il faut obligatoirement emprunter ce chemin (on peut mieux faire).

Décompressons ceci.

Supposons que nous décidions d'utiliser l'apprentissage automatique pour concevoir une IA qui sera utilisée pour déterminer les diagnostics médicaux. Nous recueillons un tas de données historiques sur les patients et leur situation médicale. Le ML/DL que nous avons mis en place tente d'entreprendre une mise en correspondance de modèles computationnels qui examinera les symptômes des patients et restituera une affection attendue associée à ces symptômes.

Sur la base des données fournies, le ML/DL établit mathématiquement que des symptômes tels que l'écoulement nasal, le mal de gorge, les maux de tête et les courbatures sont tous fortement associés au rhume. Un hôpital choisit d'utiliser cette IA pour effectuer une présélection des patients. Effectivement, les patients signalant ces symptômes lors de leur première visite à l'hôpital sont «diagnostiqués» comme ayant probablement un rhume.

En changeant de vitesse, ajoutons une sorte de touche Dr House à tout cela.

Un patient vient à l'hôpital et est diagnostiqué par l'IA. L'IA indique que le patient semble avoir un rhume basé sur les symptômes du nez qui coule, des maux de gorge et des maux de tête. Le patient reçoit des prescriptions apparemment appropriées et des conseils médicaux pour faire face à un rhume. Tout cela fait partie intégrante de l'approche du cas moyen utilisée lors de la conception de l'IA.

Il s'avère que le patient finit par avoir ces symptômes pendant plusieurs mois. Un expert en maladies rares et aliments se rend compte que ces mêmes symptômes pourraient être le reflet d'une fuite de liquide céphalo-rachidien (LCR). L'expert traite le patient avec diverses interventions chirurgicales liées à ces fuites. Le patient récupère (en passant, cette histoire remarquable d'un patient avec une fuite de LCR qui a été initialement diagnostiquée comme ayant un rhume est basée vaguement sur un cas médical réel).

Nous allons maintenant retracer nos pas dans cette saga médicale.

Pourquoi l'IA qui effectuait la présélection à l'admission n'a-t-elle pas été en mesure d'évaluer si le patient pouvait avoir cette maladie rare ?

Une réponse est que si les données d'entraînement utilisées pour créer le ML/DL ne contenaient pas de telles instances, il n'y aurait rien dedans pour que la correspondance de modèle de calcul puisse correspondre. En l'absence de données couvrant les exceptions à la règle, la règle générale ou le cas moyen lui-même sera considéré comme apparemment sans tache et appliqué sans aucune hésitation.

Une autre possibilité est qu'il y ait eu, par exemple, un cas de cette rare fuite de CSF dans les données historiques, mais ce n'était qu'un cas particulier et en ce sens une valeur aberrante. Le reste des données était mathématiquement proche du cas moyen constaté. La question se pose alors de savoir quoi faire de la soi-disant valeur aberrante.

Sachez que le traitement de ces valeurs aberrantes est une question qui diffère énormément quant à la manière dont les développeurs d'IA pourraient décider de faire face à l'apparition de quelque chose en dehors du cas moyen déterminé. Il n'y a pas d'approche requise que les développeurs d'IA sont obligés d'adopter. C'est un peu un Far West quant à ce qu'un développeur d'IA donné pourrait faire dans une instance donnée de levée d'exception de ses efforts de développement ML/DL.

Voici ma liste des façons dont ces exceptions sont souvent de manière inappropriée manipulé :

• Exception considérée comme une erreur
• Exception supposée indigne
• Exception supposée ajustable dans la "norme"
• Exception pas remarquée du tout
• Exception remarquée mais sommairement ignorée
• Exception remarquée puis oubliée plus tard
• Exception remarquée et cachée à la vue
• Etc

Un développeur d'IA pourrait décider que la rareté n'est rien de plus qu'une erreur dans les données. Cela peut sembler étrange que quiconque pense de cette façon, surtout si vous essayez de l'humaniser en imaginant par exemple que le patient avec la fuite de LCR est ce cas. Il y a cependant une forte tentation que si toutes vos données hors contexte disent fondamentalement une chose, peut-être composée de milliers et de milliers d'enregistrements et qu'ils convergent tous vers un cas moyen, l'occurrence d'une donnée bizarre peut facilement (paresseusement !) être interprété comme une pure erreur. L'"erreur" peut alors être rejetée par le développeur d'IA et ne pas être prise en compte dans le domaine de la formation du ML/DL.

Un autre moyen de faire face à une exception serait de décider qu'il s'agit d'une affaire indigne. Pourquoi s'embêter avec une rareté alors que vous vous précipitez peut-être pour faire fonctionner un ML/DL ? Jetez la valeur aberrante et passez à autre chose. Aucune pensée ne va nécessairement vers les répercussions sur la route.

Une autre approche consiste à replier l'exception dans le reste du milieu des cas moyens. Le développeur d'IA modifie les données pour s'adapter au reste de la norme. Il est également possible que le développeur d'IA ne remarque pas l'existence de l'exception.

Le ML/DL peut signaler que l'exception a été détectée, ce que le développeur d'IA est censé indiquer au ML/DL sur la façon dont la valeur aberrante doit être traitée mathématiquement. Le développeur d'IA peut mettre cela sur une liste de choses à faire et oublier plus tard de s'en occuper ou peut simplement choisir de l'ignorer, et ainsi de suite.

Dans l'ensemble, la détection et la résolution du traitement des exceptions en matière d'IA se fait sans aucune approche spécifiquement stipulée ou convaincante équilibrée et raisonnée en soi. Les exceptions sont souvent traitées comme des parias indignes et le cas moyen est le gagnant. Traiter les exceptions est difficile, peut prendre du temps, nécessite un semblant de compétences en développement d'IA adroites, et est autrement un problème par rapport au regroupement de choses dans un nœud papillon astucieux d'un package unique.

Dans une certaine mesure, c'est pourquoi l'éthique de l'IA et l'IA éthique sont un sujet si crucial. Les préceptes de l'IA Ethics nous incitent à rester vigilants. Les technologues en IA peuvent parfois devenir préoccupés par la technologie, en particulier l'optimisation de la haute technologie. Ils ne tiennent pas nécessairement compte des ramifications sociétales plus larges.

Outre l'utilisation des préceptes d'éthique de l'IA en général, il y a une question correspondante de savoir si nous devrions avoir des lois pour régir les diverses utilisations de l'IA. De nouvelles lois circulent aux niveaux fédéral, étatique et local concernant la portée et la nature de la conception de l'IA. L'effort pour rédiger et promulguer de telles lois est graduel.

Dans cette discussion particulière sur le rôle des exceptions vient un point de vue provocateur selon lequel il devrait peut-être y avoir un droit légal associé au fait d'être une exception. Il se pourrait que le seul moyen viable d'obtenir une reconnaissance de bonne foi pour quelqu'un faisant éventuellement exception consiste à utiliser le bras long de la loi.

Mettre en place un nouveau type de droit de l'homme.

Le droit d'être considéré comme une exception.

Considérez cette proposition : « Le droit d'être une exception n'implique pas que chaque individu is une exception mais que, lorsqu'une décision peut causer un préjudice au sujet de la décision, le décideur devrait envisager la possibilité que le sujet Au cours de cette réunion, Matthew a obtenu de précieux conseils et Linda lui a demandé de la tenir au courant de ses progrès. être une exception. Le droit à l'exception implique trois ingrédients : nuire, individualisationet incertitudes. Le décideur doit choisir d'infliger un préjudice uniquement lorsqu'il a examiné si la décision est correctement individualisée et, surtout, l'incertitude qui accompagne la composante basée sur les données de la décision. Plus le risque de préjudice est grand, plus la considération est sérieuse » (par Sarah Cen, dans un article de recherche intitulé Le droit d'être une exception dans la prise de décision basée sur les données, MIT, 12 avril 2022).

Vous pourriez être tenté de supposer que nous avons déjà un tel droit.

Pas nécessairement. Selon le document de recherche, le droit de l'homme le plus proche probablement reconnu à l'échelle internationale pourrait être celui de la dignité individuelle. En théorie, l'idée qu'il devrait y avoir une reconnaissance de la dignité telle qu'un individu et son unicité spécifique sont censés être englobés vous place dans le stade approximatif d'un droit humain d'exception potentiel. Un problème est que les lois existantes régissant le domaine de la dignité seraient quelque peu nébuleuses et trop malléables, donc mal adaptées à la construction juridique spécifique d'un droit d'exception.

Ceux qui sont en faveur d'un nouveau droit consistant en un droit de l'homme à être une exception soutiendraient que :

• Un tel droit obligerait à peu près légalement les développeurs d'IA à faire face explicitement aux exceptions
• Les entreprises qui fabriquent de l'IA seraient plus légalement raccrochées pour ne pas traiter les exceptions
• L'IA serait probablement mieux équilibrée et plus robuste dans l'ensemble
• Ceux qui utilisent l'IA ou qui sont soumis à l'IA seraient mieux lotis
• Lorsque l'IA n'accepte pas les exceptions, un recours juridique serait facilement réalisable
• Les fabricants d'IA sont également mieux lotis (leur IA couvrirait un plus large éventail d'utilisateurs)
• Etc

Ceux qui s'opposent à ce qu'un nouveau droit qualifié de droit de l'homme soit une exception ont tendance à dire :

• Les droits de l'homme et les droits juridiques existants couvrent suffisamment cela et il n'est pas nécessaire de compliquer les choses
• Un fardeau excessif serait placé sur les épaules des fabricants d'IA
• Les efforts pour concevoir l'IA deviendraient plus coûteux et auraient tendance à ralentir les progrès de l'IA
• De fausses attentes surgiraient que tout le monde exigerait d'être une exception
• Le droit lui-même ferait sans aucun doute l'objet d'interprétations divergentes
• Ceux qui gagneront le plus seront les professions juridiques lorsque les affaires judiciaires monteront en flèche
• Etc

En bref, l'opposition à un tel nouveau droit soutient généralement qu'il s'agit d'un jeu à somme nulle et qu'un droit légal d'être une exception coûtera plus cher qu'il n'en retirera de bénéfices. Ceux qui pensent qu'un tel nouveau droit est raisonnablement nécessaire sont susceptibles de souligner qu'il ne s'agit pas d'un jeu à somme nulle et qu'en fin de compte tout le monde en profite, y compris ceux qui fabriquent l'IA et ceux qui l'utilisent.

Vous pouvez être sûr que ce débat englobant les implications juridiques, éthiques et sociétales associées à l'IA et aux exceptions sera bruyant et persistant.

Les voitures autonomes et l'importance des exceptions

Considérez comment cela s'applique dans le contexte des systèmes autonomes tels que les véhicules autonomes et les voitures autonomes. Il y a déjà eu diverses critiques concernant l'état d'esprit du cas moyen du développement de l'IA pour les voitures autonomes et les véhicules autonomes.

Par exemple, au début, très peu de conceptions de voitures autonomes accueillaient les personnes souffrant d'une forme ou d'une autre de handicap physique. Il n'y a pas eu beaucoup d'idées pour englober plus largement une gamme complète de besoins des cyclistes. Dans l'ensemble, cette prise de conscience s'est accrue, bien que des inquiétudes soient toujours exprimées quant à savoir si cela est suffisamment avancé et aussi largement adopté qu'il devrait l'être.

Un autre exemple du cas moyen par rapport à une exception concerne quelque chose qui pourrait vous prendre au dépourvu.

Es-tu prêt?

La conception et le déploiement de nombreux systèmes de conduite IA et voitures autonomes d'aujourd'hui ont tendance à supposer silencieusement ou tacitement que les adultes rouleront dans la voiture autonome. Nous savons que lorsqu'un conducteur humain est au volant, il y a bien sûr un adulte dans le véhicule, par définition puisque l'obtention d'un permis de conduire est généralement basée sur le fait d'être majeur (enfin, ou presque). Pour les voitures autonomes dont l'IA fait toute la conduite, il n'est pas nécessaire qu'un adulte soit présent.

Le fait est que nous pouvons faire monter des enfants seuls dans des voitures sans qu'aucun adulte ne soit présent, du moins cela est possible dans le cas de voitures entièrement autonomes pilotées par l'IA. Vous pouvez envoyer vos enfants à l'école le matin en utilisant une voiture autonome. Plutôt que de devoir emmener vos enfants ou de faire appel à un chauffeur humain d'un service de covoiturage, vous pouvez simplement faire entasser vos enfants dans une voiture autonome et les conduire à l'école.

Tout n'est pas rose quand il s'agit d'avoir des enfants seuls dans des voitures autonomes.

Puisqu'il n'est plus nécessaire d'avoir un adulte dans le véhicule, cela implique que les enfants ne se sentiront plus influencés ou dirons-nous contrôlés par la présence d'un adulte. Les enfants vont-ils devenir fous et déchirer l'intérieur des voitures autonomes ? Les enfants essaieront-ils de grimper ou d'atteindre les fenêtres de la voiture autonome ? Quels autres types de bouffonneries pourraient-ils faire, entraînant des blessures potentielles et des dommages graves ?

J'ai couvert le débat houleux sur l'idée que des enfants roulent seuls dans des voitures autonomes, voir le lien ici. Certains disent que cela ne devrait jamais être autorisé. Certains disent que c'est inévitable et que nous devons trouver le meilleur moyen de le faire fonctionner.

Conclusion

Revenons au thème général du cas moyen par rapport à l'exception.

Nous semblons tous d'accord qu'il y aura toujours une exception à la règle. Une fois qu'une règle a été formée ou identifiée, nous devons rechercher des exceptions. Lorsque nous rencontrons des exceptions, nous devons réfléchir à la règle à laquelle cette exception s'applique probablement.

Une grande partie de l'IA conçue aujourd'hui est conçue autour de la formulation de la règle, tandis que les défis associés aux exceptions ont tendance à être abandonnés et ignorés.

Pour ceux qui aiment être smarmy et dire qu'il n'y a pas d'exceptions à la règle qu'il y a toujours des exceptions à la règle, je reconnais que ce mot d'esprit semble être un casse-tête mental. À savoir, comment pouvons-nous avoir une règle selon laquelle il y a toujours des exceptions, mais alors cette règle même ne semble pas s'appliquer à la règle selon laquelle il y a toujours des exceptions à la règle ?

Fait tourner la tête.

Heureusement, il n'est pas nécessaire de compliquer excessivement ces questions qui donnent à réfléchir. Nous pouvons, espérons-le, vivre avec la règle empirique pratique et vitale que nous devrions rechercher et accepter les exceptions à chaque règle.

Cela règle les choses, alors maintenant, mettons-nous au travail.