Les raisons de réglementer les algorithmes d'IA sont plus simples que vous ne le pensez

Craignez-vous que l'intelligence artificielle envahisse le monde ? Beaucoup le font. De Elon Musk inquiet pour DeepMind bat les humains dans le jeu avancé de Go en 2017, aux membres du Congrès, aux décideurs politiques européens (voir Une approche européenne de l'intelligence artificielle), et les universitaires, on a le sentiment que c'est la décennie pour prendre l'IA au sérieux, et elle s'installe. Cependant, pas pour les raisons que vous pourriez penser et non en raison d'une menace actuelle.

C'est là qu'interviennent les algorithmes. Qu'est-ce qu'un algorithme, me demanderez-vous ? La façon la plus simple de le considérer est un ensemble d'instructions que les machines peuvent comprendre et dont elles peuvent apprendre. Nous pouvons déjà demander à une machine de calculer, de traiter des données et de raisonner de manière structurée et automatisée. Cependant, le problème est qu'une fois ces instructions données, la machine les suivra. Pour l'instant, c'est le but. Contrairement aux êtres humains, les machines suivent des instructions. Ils n'apprennent pas très bien. Mais une fois qu'ils le font, ils pourraient causer des problèmes.

Je ne veux pas faire un argument sensationnaliste sur l'idée que les ordinateurs surpasseraient un jour l'intelligence humaine, mieux connu sous le nom d'argument de la singularité (voir le philosophe de la NYU David Chalmers' réflexions sur le sujet.) Au contraire, la fabrication pourrait être le meilleur exemple de la raison pour laquelle les algorithmes d'IA commencent à avoir plus d'importance pour le grand public. On craint que les machines n'accélèrent énormément leurs prouesses à nos dépens. Pas par un raisonnement avancé, nécessairement, mais à cause de l'optimisation dans les limites de ce qu'un algorithme dit.

La fabrication consiste à fabriquer des choses. Mais quand les machines fabriquent des choses, nous devons faire attention. Même si ce que font les machines est simple. Je vais vous expliquer pourquoi.

Des bottes de pluie aux téléphones portables et vice-versa

Supposons qu'une usine fabrique des bottes de pluie. J'adore les bottes de pluie car j'ai grandi dans une région de Norvège où il pleut beaucoup ; J'aime être à l'extérieur, soumis aux nombreux éléments de la nature. Nokia a fabriqué les bottes de pluie avec lesquelles j'ai grandi. Oui, le Nokia que nous connaissons aujourd'hui sous le nom de société d'électronique fabriquait des bottes en caoutchouc. Pourquoi cette clé ? Parce qu'une fois que vous faites quelque chose, vous êtes destiné à vouloir apporter des améliorations. Ça a du sens. On pourrait dire que c'est la nature humaine.

Ce qui est arrivé à Nokia est bien connu et ressemble un peu à ceci : Initialement une papeterie, à l'époque où j'étais enfant, la fabrication de bottes en caoutchouc (et de pneus) était particulièrement réussie pour l'entreprise. Cependant, ils ont vu d'autres opportunités. Par conséquent, à un moment donné dans les années 1980, ils se sont tournés vers l'électronique et ont rapidement changé les usines, créant une grande structure de fournisseurs locaux lorsqu'ils ont commencé à fabriquer des téléphones portables. Cela a inauguré la révolution des communications mobiles, qui a commencé en Scandinavie et s'est propagée au reste du monde. Naturellement, beaucoup ont écrit l'histoire de Nokia dans les années 1990 (voir Les secrets du miracle finlandais : l'essor de Nokia).

Mon exemple est simple. Peut-être, trop simple. Mais pensez-y de cette façon. Si une grande entreprise peut rapidement passer de la fabrication de papier sur lequel écrire, à des bottes qui facilitent la sortie sous la pluie, puis enfin, à des téléphones portables qui modifient la façon dont les humains communiquent : à quel point la prochaine étape sera-t-elle facile ? Supposons qu'une entreprise qui fabrique des téléphones portables décide de fabriquer des nanobots et peut-être que ceux-ci décollent dans une décennie, modifiant l'humanité avec de minuscules machines fonctionnant de manière autonome partout, capables de réassembler et de modifier l'expérience humaine. Et si cela se produisait sans tenir compte de la manière dont nous voulons que cela se produise, de qui nous voulons être responsable et des objectifs ultimes ?

Suggérer que les robots ont consciemment aidé Nokia à décider de fabriquer des téléphones portables serait exagéré. Mais reconnaître que la technologie a joué un rôle en permettant à une zone rurale finlandaise située sur sa rive nord de penser qu'elle pourrait obtenir la domination mondiale dans une nouvelle industrie joue un rôle important.

L'histoire de Nokia n'a pas été aussi rose au cours de la dernière décennie étant donné qu'ils n'ont pas pris en compte l'émergence des systèmes d'exploitation iOS et Android basés sur des logiciels. Maintenant, en conséquence, Nokia ne fabrique plus de téléphones. Dans une petite histoire de retour, ils fabriquent maintenant des infrastructures de réseau et de télécommunications, des solutions de sécurité réseau, des routeurs Wi-Fi, de l'éclairage intelligent et des téléviseurs intelligents (voir L'histoire du retour de Nokia). Nokia fabrique toujours des choses, c'est vrai. La seule observation à faire est que Nokia semble toujours aimer mélanger les choses qu'ils fabriquent. Même les décisions de fabrication des êtres humains sont parfois difficiles à comprendre.

Fabriquer, c'est faire évoluer les choses. De manière générale, ce que nous fabriquons aujourd'hui a changé par rapport à il y a à peine dix ans. Les imprimantes 3D ont décentralisé la production de nombreux produits avancés, à la fois dans l'industrie et à la maison. Les conséquences bouleversantes de l'impression 3D ne se sont pas encore produites. Nous ne savons pas si cela va durer, mais nous savons que la FDA se concentre sur la réglementation de la fabrication de produits (voir ici) comme les pilules imprimées ou les dispositifs médicaux qui en découlent, les problèmes évidents de propriété intellectuelle et de responsabilité, ou les problèmes liés à la capacité d'imprimer des armes à feu. En fin de compte, la discussion politique sur les conséquences négatives que l'impression 3D pourrait avoir au-delà de cela est inexistante, et peu d'entre nous ont pris la peine d'y penser.

Je ne dis pas que l'impression 3D est dangereuse en soi. C'est peut-être un mauvais exemple. Néanmoins, des choses qui paraissent banales au départ peuvent changer le monde. Les exemples ne manquent pas : la pointe de flèche du chasseur/cueilleur en métal qui déclenche les guerres, les masques rituels qui nous protègent du COVID-19, les clous qui construisent des gratte-ciel, les presses à caractères mobiles qui remplissent (encore) nos usines de papier imprimé et alimentent les l'édition, les ampoules qui permettent de voir et de travailler à l'intérieur la nuit, je pourrais continuer. À ma connaissance, personne ne s'est assis à la fin des années 1800 et a prédit que Nokia déplacerait sa production du papier vers le caoutchouc vers l'électronique, puis loin des téléphones portables. Peut-être qu'ils auraient dû.

Les humains sont de piètres prédicteurs du changement progressif, le processus par lequel un changement entraîne d'autres changements, et tout à coup, les choses sont radicalement différentes. Nous ne comprenons pas encore ce processus parce que nous avons peu de connaissances pratiques sur le changement exponentiel ; nous ne pouvons pas l'imaginer, le calculer ou le sonder. Cependant, maintes et maintes fois, cela nous frappe. Les pandémies, la croissance démographique, l'innovation technologique de l'impression de livres à la robotique, cela nous frappe généralement sans avertissement.

Le truc avec le futurisme n'est pas si, mais quand. On pourrait en fait être en mesure de prédire le changement simplement en choisissant de nouvelles méthodes de production et en déclarant qu'elles deviendront plus répandues à l'avenir. C'est assez simple. Le plus délicat est de savoir exactement quand et surtout comment.

Les trombones ne sont pas le problème

Reprenons mon exemple d'usine, mais cette fois, imaginez que les machines sont en charge de nombreuses décisions, pas toutes les décisions, mais des décisions de production comme l'optimisation. Dans son livre Superintelligence, l'humaniste dystopique de l'Université d'Oxford, Nick Bostrom, a imaginé un algorithme d'optimisation de l'IA gérant une usine de trombones. À un moment donné, dit-il, imaginez que la machine raisonne qu'apprendre à détourner des ressources toujours croissantes vers la tâche est rationnel, finissant par transformer progressivement notre monde en trombones et résistant à nos tentatives de l'éteindre.

En dépit d'être un gars intelligent, l'exemple de Bostrom est assez stupide et trompeur (mais mémorable). D'une part, il ne tient pas compte du fait que les humains et les robots ne sont plus des entités distinctes. Nous interagissons. La plupart des robots intelligents évoluent vers des cobots ou des robots collaboratifs. Les humains auront de nombreuses chances de corriger la machine. Même ainsi, son point de base demeure. Il peut y avoir un changement radical à un moment donné, et si ce changement se produit assez rapidement et sans surveillance suffisante, le contrôle peut être perdu. Mais ce résultat extrême semble un peu tiré par les cheveux. Quoi qu'il en soit, je suis d'accord, nous devons réglementer les humains qui utilisent ces machines et exiger que les travailleurs soient toujours au courant en les formant de manière appropriée. Ce type de formation ne se passe pas bien. Cela prend actuellement trop de temps et il faut des compétences spécialisées à la fois pour se former et pour être formé. Je sais une chose. À l'avenir, toutes sortes de personnes utiliseront des robots. Ceux qui ne le feront pas seront assez impuissants.

Augmenter les humains vaut mieux que l'automatisation aveugle, même si nous ne fusionnons jamais complètement avec les machines. Les deux concepts sont logiquement distincts. Il est possible que les personnes et les robots soient bloqués dans l'automatisation pour le plaisir de l'automatisation. Cela ferait beaucoup de tort à la fabrication à l'avenir. Même s'il ne produit pas de robots tueurs. Je crois qu'une fusion est dans des centaines d'années, mais ce n'est pas la question. Même si ce n'est que dans trente ans, les machines automotrices fonctionnant sur des algorithmes simplistes qui perdent le contrôle, ce scénario se produit déjà dans l'atelier. Certaines de ces machines ont trente ans et fonctionnent sur d'anciens systèmes de contrôle propriétaires. Leur principal défi n'est pas qu'ils soient avancés, mais le contraire. Ils sont trop simplistes pour pouvoir communiquer. Ce n'est pas un problème pour demain. C'est un problème préexistant. Nous devons lui ouvrir les yeux. Pensez-y la prochaine fois que vous enfilerez vos bottes en caoutchouc.

J'ai toujours mes bottes Nokia des années 1980. Ils ont un trou, mais je les garde pour me rappeler d'où je viens et la distance que j'ai parcourue. La pluie continue de tomber aussi, et tant que c'est assez propre, je ne veux pas de meilleure solution que ces bottes. Là encore, je suis humain. Un robot aurait probablement déjà évolué. Quelle est la version AI des bottes de pluie, je me demande. Ce n'est pas un téléphone portable. Ce n'est pas un capteur de pluie. Cela épate l'esprit.

Aujourd'hui, les bottes numériques signifient que vous pouvez les personnaliser car elles comportent des motifs imprimés en 3D. Il existe des chaussures virtuelles qui n'existent que sous forme de NFT (jetons non fongibles) qui peuvent être vendus et échangés. Les meilleures baskets virtuelles valent 10,000 XNUMX $ de nos jours (voir Qu'est-ce qu'une sneaker NFT et pourquoi vaut-elle 10,000 XNUMX $ ?). Je n'ai pas peur de ceux-là, mais devrais-je l'être? Si le monde virtuel prend plus de valeur que le monde physique, peut-être que je le ferai. Ou devrais-je attendre d'être inquiet jusqu'à ce que le propre avatar d'une IA achète sa propre botte NFT pour faire face à la "pluie" ? Si nous construisons des algorithmes à notre image, il est plus probable qu'une IA serait douée pour des choses pour lesquelles nous souhaiterions être doués mais qui ne le sont généralement pas, comme acheter des actions, nouer des amitiés fidèles (peut-être avec des machines et des humains) et se souvenir des choses. Le métaverse industriel peut être étonnamment sophistiqué – plein de jumeaux numériques qui imitent notre monde et le surpassent de manière fructueuse – ou il peut être d'une simplicité choquante. Peut-être les deux. Nous ne savons pas encore.

Nous devons réglementer les algorithmes d'IA parce que nous ne savons pas ce qui nous attend. C'est une raison suffisante, mais quant à la façon dont nous le faisons, c'est une longue histoire. Permettez-moi une dernière observation rapide, peut-être que tous les algorithmes fondamentaux devraient être rendus publics. La raison en est que, sinon, il n'y a aucun moyen de savoir à quoi ils pourraient mener. Les meilleurs sont assez connus (voir Top 10 des algorithmes d'apprentissage automatique), mais il n'y a pas de vue d'ensemble mondiale sur où et comment ils seront utilisés. Ce sont surtout les algorithmes non supervisés qu'il faut surveiller avec attention (voir Six cas d'utilisation puissants pour l'apprentissage automatique dans le secteur manufacturier), qu'ils soient utilisés pour prédire la maintenance ou la qualité, pour simuler des environnements de production (par exemple des jumeaux numériques) ou pour générer de nouvelles conceptions auxquelles un humain n'aurait jamais pensé. Dans le paysage actuel, ces algorithmes non supervisés sont généralement des réseaux de neurones artificiels, qui tentent d'imiter le cerveau humain.

J'ai commencé à m'inquiéter des réseaux de neurones, uniquement parce que je trouve leur logique difficile à comprendre. Le problème est que la plupart des experts, même ceux qui les déploient, ne comprennent pas comment ces algorithmes se déplacent d'une étape à l'autre ou d'une couche à l'autre. Je ne pense pas que la métaphore des « couches cachées », qui est souvent utilisée, soit très pertinente ou très amusante. Il ne devrait y avoir aucune couche cachée dans la fabrication, dans la collecte automatisée des impôts, dans les décisions d'embauche ou dans les admissions à l'université, pour commencer. Peut-être devriez-vous aussi envisager de vous inquiéter ? Une chose est sûre, les humains et les machines qui fabriquent des choses ensemble changeront le monde. Il l'a déjà fait plusieurs fois. Du papier aux bottes de pluie, en passant par les couches des cerveaux artificiels d'aujourd'hui, rien ne doit être laissé inexploré. Nous ne devrions pas nous cacher du simple fait qu'à partir de nombreux petits changements, un changement plus important peut soudainement apparaître.