AI Shake-Up alors qu'un éminent gourou de l'IA propose des "ordinateurs mortels" hallucinants qui obtiennent également l'éthique de l'IA et la loi sur l'IA

Voici quelque chose auquel vous n'aviez probablement pas encore réfléchi : Ordinateurs mortels.

Mais peut-être devriez-vous l'être.

Le sujet captivant a été abordé lors de la récente et assez importante conférence annuelle sur l'IA, qui se concentre particulièrement sur l'avènement des réseaux de neurones et de l'apprentissage automatique, à savoir la Conférence sur les systèmes de traitement de l'information neuronale (connue par les initiés sous le nom de NeuroIPS). Le conférencier invité et un gourou de longue date de l'IA considéré, Geoffrey Hinton, a fait l'affirmation intrigante et peut-être controversée selon laquelle nous devrions penser aux ordinateurs dans un contexte mortel et immortel.

Je vais aborder l'affirmation notable et le faire de deux manières qui, au début, ne sembleront pas nécessairement liées, mais après un peu d'élucidation supplémentaire, elles deviendront plus clairement liées l'une à l'autre en ce qui concerne les conflits entre mortels et immortels.

Les deux sujets sont :

1) Lier intégralement le matériel et les logiciels pour les mécanisations de l'IA plutôt que de les avoir comme des alliés distincts et séparés

2) Transférer ou distiller des formulations d'apprentissage automatique d'un modèle d'IA à un autre qui le fait sans exiger ni nécessairement désirer (ou même éventuellement autrement possible) une copie directe de race pure

Tout cela a des considérations importantes pour l'IA et l'orientation future du développement de l'IA.

En outre, de nombreuses préoccupations très épineuses en matière d'éthique et de droit de l'IA se posent également. Ces types d'avancées technologiques envisagées par l'IA sont généralement diffusées sur une base purement technologique bien avant que l'on se rende compte qu'elles pourraient également avoir des répercussions notables sur l'IA éthique et la loi sur l'IA. Dans un sens, généralement, le chat est déjà sorti du sac, ou le cheval est sorti de l'écurie, avant le réveil que l'éthique de l'IA et la loi sur l'IA devraient faire l'objet d'une diligence raisonnable.

Eh bien, brisons ce cycle de réflexion tardive et entrons au rez-de-chaussée sur celui-ci.

Pour ceux d'entre vous qui sont globalement intéressés par les dernières informations sous-jacentes à l'éthique de l'IA et à la loi sur l'IA, vous trouverez peut-être instructif et inspirant ma couverture continue et étendue sur le lien ici ainsi que le lien ici, Juste pour en nommer quelques-uns.

Je vais d'abord aborder ici le point ci-dessus concernant la liaison entre le matériel et le logiciel. Une discussion et une analyse du sujet auront lieu main dans la main. Ensuite, j'aborderai la question de la copie ou certains disent distiller les éléments cruciaux d'un système d'IA d'apprentissage automatique, d'une IA à une IA nouvellement conçue comme cible.

Commençons.

Liaison du matériel et des logiciels pour l'IA

Vous savez probablement que, dans l'ensemble, la conception des ordinateurs est telle qu'il y a le côté matériel et, séparément, le côté logiciel. Lorsque vous achetez un ordinateur portable ou un ordinateur de bureau de tous les jours, il est considéré comme un appareil informatique à usage général. Il y a des microprocesseurs à l'intérieur de l'ordinateur qui sont utilisés pour exécuter et exécuter des logiciels que vous pourriez acheter ou écrire vous-même.

Sans aucun logiciel pour votre ordinateur, c'est un morceau de métal et de plastique qui ne vous fera pas grand-chose, à part agir comme un presse-papiers. Certains diraient que le logiciel est roi et gouverne le monde. Bien sûr, si vous n'avez pas de matériel sur lequel exécuter le logiciel, le logiciel ne servira à rien. Vous pouvez écrire autant de lignes de code que votre cœur le désire, mais jusqu'à ce que le logiciel soit utilisé via un ordinateur, le code source formulé est aussi fragile et incapable de voler qu'une belle œuvre de poésie ou un roman policier palpitant.

Permettez-moi de passer momentanément à une autre avenue qui pourrait sembler lointaine (elle ne le sera pas).

Nous essayons souvent de faire des analogies entre le fonctionnement des ordinateurs et le fonctionnement du cerveau humain. Cette tentative de faire des parallèles conceptuels est pratique. Cela étant dit, vous devez être prudent avant d'aller trop loin sur ces analogies, car les comparaisons ont tendance à s'effondrer lorsque vous vous rapprochez des détails charnus.

Quoi qu'il en soit, pour les besoins de la discussion, voici une analogie souvent utilisée.

Le cerveau lui-même est officieusement parfois appelé vêtements humides. C'est une façon accrocheuse de formuler les choses. Nous savons que les ordinateurs sont constitués de matériel et de logiciels, il est donc judicieux d'utiliser la partie « matériel » de la frappe pour décrire ce qu'est un cerveau. Niché dans nos noggins, le puissant et mystérieux cerveau flotte, calculant mentalement toutes nos actions (certaines bonnes, tandis que certaines de nos pensées ne sont décidément pas remplies de bonté).

Avec un poids moyen d'environ trois livres, le cerveau est un organe remarquable. D'une manière ou d'une autre, et nous ne savons pas encore comment, le cerveau est capable d'utiliser environ 100 milliards de neurones et peut-être de 100 à 1,000 XNUMX milliards d'interconnexions ou de synapses pour réfléchir à notre place. Comment les propriétés biologiques et chimiques du cerveau engendrent-elles l'intelligence ? Personne ne peut le dire avec certitude. C'est une quête des âges.

Je vous demande ceci, le cerveau est-il ostensiblement uniquement matériel, ou est-ce à la fois matériel et logiciel combinés ?

Noodle sur ce casse-tête.

Vous pourriez être tenté de prétendre que le cerveau est simplement du matériel (au sens général). C'est un organe du corps. De même, vous pourriez dire que le cœur est un matériel, la vessie est un matériel, etc. Ce sont toutes des mécanisations comme lorsque nous parlons d'artefacts qui ont une forme physique et qui effectuent des actions physiquement liées.

Où est donc le logiciel qui fait fonctionner les humains ?

J'oserais suggérer que nous sommes tous à peu près d'accord sur le fait que le « logiciel » de l'humanité réside d'une manière ou d'une autre dans le cerveau. Les étapes nécessaires pour cuire un œuf ou réparer un pneu crevé sont des instructions qui sont incarnées dans notre cerveau. En utilisant cette analogie informatique du matériel et des logiciels notée précédemment, notre cerveau est un morceau de matériel pour ainsi dire, pour lequel nous apprenons sur le monde et les instructions de ce qu'il faut faire sont "en cours d'exécution" et "stockées" dans notre cerveau.

Sur un ordinateur, nous pouvons facilement pointer du doigt le matériel et dire qu'il s'agit de matériel. Nous pouvons avoir une liste de code source et pointer vers la liste en tant que logiciel. De nos jours, nous téléchargeons électroniquement des logiciels en ligne et les installons sur nos ordinateurs portables et nos smartphones. Autrefois, nous utilisions des disquettes et des cartes perforées pour stocker nos logiciels à charger sur le matériel de l'ordinateur.

Je vous entraîne dans une énigme importante.

Une fois que vous avez appris quelque chose et que la connaissance est présente dans votre cerveau, pouvez-vous encore faire la distinction entre le « matériel » de votre cerveau et le « logiciel » présumé de votre cerveau ?

Une position défendue est que la connaissance dans votre cerveau n'est pas particulièrement séparable des conceptions du matériel et du logiciel. L'analogie avec la nature des ordinateurs s'effondre ainsi, diront certains avec ferveur. Les connaissances dans le cerveau sont entrelacées et inséparables du matériel de votre cerveau. Les propriétés biologiques et chimiques entremêlent les connaissances que vous possédez mentalement.

Ragoût sur cela pour un peu de réflexion mentale.

Si nous espérons un jour concevoir des ordinateurs qui soient à la hauteur de l'intelligence humaine, voire qui dépassent l'intelligence humaine, nous pouvons peut-être utiliser les structures du cerveau et son fonctionnement interne comme guide de ce que nous devons faire pour atteindre un objectif aussi noble. Pour certains dans le domaine de l'IA, il existe une croyance selon laquelle plus nous en savons sur le fonctionnement du cerveau, meilleures sont nos chances de concevoir une véritable IA, parfois appelée intelligence générale artificielle (IAG).

D'autres dans l'IA sont moins enchantés d'avoir à savoir comment fonctionne le cerveau. Ils soulignent que nous pouvons procéder rapidement à l'élaboration de l'IA, que nous soyons capables ou non de déverrouiller le fonctionnement interne secret du cerveau. Ne laissez pas les mystères du cerveau entraver nos efforts d'IA. Bien sûr, continuez à essayer de décoder et de déchiffrer le cerveau humain, mais nous ne pouvons pas rester assis et attendre que le cerveau soit rétro-conçu. Si cela est faisable un jour, c'est une excellente nouvelle, même si c'est peut-être impossible ou que cela se produira dans des éternités.

Je suis maintenant prêt à partager avec vous la controverse informatique mortelle et immortelle. Assurez-vous d'être assis et prêt pour la grande révélation.

Un ordinateur qui a une séparation claire entre le matériel et le logiciel pourrait être revendiqué comme étant "immortel" dans la mesure où le matériel peut persister indéfiniment (dans certaines limites, bien sûr), tandis que le logiciel pourrait être écrit et réécrit maintes et maintes fois. Vous pouvez faire fonctionner un ordinateur conventionnel aussi longtemps que vous pouvez effectuer des réparations sur le matériel et garder l'engin capable de s'allumer. Vous pouvez encore utiliser aujourd'hui les ordinateurs domestiques rudimentaires des années 1970 qui se présentaient en kits à assembler, bien qu'ils aient presque cinquante ans (longtemps dans années informatiques).

Supposons cependant que nous ayons choisi de fabriquer des ordinateurs dont le matériel et les logiciels fonctionnent de manière inséparable (j'en dirai plus à ce sujet sous peu). Considérez ceci sur la même base que j'ai mentionné plus tôt que le cerveau a peut-être une composition intégrale de matériel et de logiciel. Si tel était le cas, on pourrait penser que l'ordinateur de cet acabit ne serait plus immortel. Il serait interprété comme étant "mortel" à la place.

Selon les remarques faites lors de la conférence NeurIPS par le conférencier invité et éminent gourou de l'IA Geoffrey Hinton, et comme indiqué dans son document de recherche qui l'accompagne :

• "Les ordinateurs numériques à usage général ont été conçus pour suivre fidèlement les instructions, car on supposait que la seule façon d'obtenir un ordinateur à usage général pour effectuer une tâche spécifique était d'écrire un programme qui spécifiait exactement ce qu'il fallait faire avec des détails atroces. Ce n'est plus vrai, mais la communauté des chercheurs a mis du temps à comprendre les implications à long terme de l'apprentissage en profondeur sur la façon dont les ordinateurs sont construits. Plus précisément, la communauté s'est accrochée à l'idée que le logiciel devrait être séparable du matériel afin que le même programme ou le même ensemble de poids puisse être exécuté sur une copie physique différente du matériel. Cela rend la connaissance contenue dans le programme meurt ou les poids immortels : La connaissance ne meurt pas lorsque le matériel meurt » (tel que contenu et cité dans son article de recherche « The Forward-Forward Algorithm : Some Preliminary Investigations », préimpression disponible en ligne) .

Notez que le type particulier d'informatique discuté dans ce type d'IA utilise des réseaux de neurones artificiels (ANN).

Mettons les choses au clair à ce sujet.

Il y a des neurones biologiques du monde réel dans notre cerveau. Vous les utilisez tout le temps. Ils sont biologiquement et chimiquement interconnectés dans un réseau dans votre caboche. Ainsi, nous pouvons nous référer à cela comme un Réseau neuronal.

Ailleurs, il y a, dirons-nous, de faux «neurones» que nous représentons informatiquement dans les ordinateurs dans le but de concevoir l'IA. De nombreuses personnes en IA les appellent également des réseaux de neurones. Je crois que c'est quelque peu déroutant. Vous voyez, je préfère m'y référer comme artificiel les réseaux de neurones. Cela aide à faire immédiatement la distinction entre une référence à dans votre tête les réseaux de neurones (la vraie chose, pour ainsi dire), et ceux basés sur ordinateur (artificiel les réseaux de neurones).

Tout le monde ne prend pas cette position. Beaucoup de gens dans l'IA supposent simplement que tout le monde dans l'IA "sait" que lorsqu'ils se réfèrent aux réseaux de neurones, ils parlent presque toujours des ANN - à moins qu'une situation ne survienne dans laquelle, pour une raison quelconque, ils veulent discuter de vrais neurones et de vrais réseaux de neurones dans le cerveau.

J'espère que vous comprenez ma dérive. La plupart du temps, les gens de l'IA diront "réseaux de neurones", ce qui est potentiellement ambigu car vous ne savez pas s'ils font référence aux vrais réseaux dans nos têtes ou aux réseaux informatiques que nous programmons dans les ordinateurs. Mais comme les gens de l'IA traitent généralement d'instances informatiques, ils supposent par défaut que vous faites référence à des réseaux de neurones artificiels. J'aime ajouter le mot "artificiel" au début du libellé pour être plus clair sur les intentions.

Ensuite, vous pouvez en quelque sorte considérer ces neurones artificiels computationnels comme une simulation mathématique ou computationnelle de ce que nous pensons que font les neurones physiques biochimiques réels, comme l'utilisation de valeurs numériques comme facteurs de pondération qui se produisent autrement biochimiquement dans le cerveau. Aujourd'hui, ces simulations ne sont pas aussi complexes que les vrais neurones. Les ANN actuels sont une représentation mathématique et informatique extrêmement grossière.

En règle générale, les ANN sont souvent l'élément central de l'apprentissage automatique (ML) et de l'apprentissage en profondeur (DL). à le lien ici ainsi que le lien ici, Par exemple.

Pour en revenir aux types d'ordinateurs immortels contre mortels, voici plus à ruminer selon le chercheur :

• « La séparation du logiciel du matériel est l'un des fondements de l'informatique et présente de nombreux avantages. Il permet d'étudier les propriétés des programmes sans se soucier du génie électrique. Il permet d'écrire un programme une seule fois et de le copier sur des millions d'ordinateurs. Si, toutefois, nous sommes prêts à abandonner l'immortalité, il devrait être possible de réaliser d'énormes économies dans l'énergie nécessaire pour effectuer un calcul et dans le coût de fabrication du matériel qui exécute le calcul. Nous pouvons autoriser des variations importantes et inconnues dans la connectivité et les non-linéarités de différentes instances de matériel destinées à effectuer la même tâche et s'appuyer sur une procédure d'apprentissage pour découvrir des valeurs de paramètres qui utilisent efficacement les propriétés inconnues de chaque instance particulière de le matériel. Ces valeurs de paramètres ne sont utiles que pour cette instance matérielle spécifique, de sorte que le calcul qu'elles effectuent est mortel : il meurt avec le matériel » (ibid).

Vous avez maintenant appris comment immortel et mortel sont utilisés dans ce contexte.

Laissez-moi élaborer.

La proposition est qu'un ordinateur spécialement conçu sur la base des RNA pourrait être conçu de telle sorte que le matériel et le logiciel soient considérés comme inséparables. Une fois que le matériel ne fonctionne plus un jour (ce qui, bien sûr, nous disons qu'il intègre intégralement le logiciel), ce type d'ordinateur n'est apparemment plus utile et ne fonctionnera plus. On dit qu'il est mortel. Vous pourriez aussi bien enterrer l'ordinateur basé sur ANN car il ne vous fera plus grand bien désormais après que le matériel et les logiciels inséparables ne fonctionnent plus de manière viable en équipe.

Si vous vouliez essayer de relier cela à l'analogie d'un cerveau humain, vous pourriez imaginer la situation austère d'un cerveau humain qui se détériore complètement ou qui est d'une manière ou d'une autre irrémédiablement endommagé. Nous acceptons l'idée qu'une personne est mortelle et que son cerveau finira inévitablement par cesser de fonctionner. Les connaissances qu'ils contenaient dans leur cerveau ne sont plus disponibles. À moins qu'il ne leur arrive d'essayer de le dire aux autres ou d'écrire ce qu'ils savaient, leur savoir est parti dans le monde entier.

Vous avez sans aucun doute entendu ou vu des rapports de tentatives de préservation des cerveaux, comme les mettre dans un état congelé, selon la théorie selon laquelle les humains pourraient peut-être un jour être immortels ou au moins se prolonger au-delà de leur durée de vie habituelle. Votre cerveau pourrait continuer à vivre, même s'il n'est pas dans votre corps. De nombreux films et histoires de science-fiction ont spéculé sur de telles idées.

Nous sommes maintenant prêts pour un aperçu détaillé de l'ordinateur mortel et de l'ordinateur immortel en tant que concept et de ce qu'il prédit.

Discussion consciente et analyse réfléchie

Avant de plonger dans les entrailles de cette analyse de l'approche postulée, quelques mises en garde importantes et des points supplémentaires méritent d'être mentionnés.

Le chercheur a souligné que le inventé ordinateurs mortels ne remplacerait pas ou n'éliminerait pas particulièrement le ordinateurs immortels que nous appelons aujourd'hui les ordinateurs numériques conventionnels. Il y aurait une coexistence des deux types d'ordinateurs. Je dis cela parce que la réaction de certains a été que le rappel à l'ordre était une affirmation générale selon laquelle TOUTE les ordinateurs se dirigent ou se dirigeront nécessairement vers le type mortel.

Ce n'était pas une affirmation faite.

Au cours de son allocution, il a mentionné que ces spécialistes orienté neuromorphique les ordinateurs effectueraient un travail de calcul connu sous le nom de calculs mortels: "Nous allons faire ce que j'appelle le calcul mortel, où les connaissances que le système a apprises et le matériel sont indissociables" (tel que cité dans un article ZDNET de Tiernan Ray du 1er décembre 2022).

Et notamment : « Il ne remplacera pas les ordinateurs numériques » (ibid).

De plus, ces nouveaux types d'ordinateurs ne seront décidément pas bientôt dans votre magasin d'informatique local ou disponibles à l'achat en ligne tout de suite, comme l'a déclaré lors de sa présentation : « Ce que je pense, c'est que nous allons voir un type complètement différent de ordinateur, pas avant quelques années, mais il y a toutes les raisons d'enquêter sur ce type d'ordinateur complètement différent. Les usages seraient également différents : "Ce ne sera pas l'ordinateur qui s'occupera de votre compte bancaire et qui saura exactement combien d'argent vous avez."

Une torsion supplémentaire est que les ordinateurs mortels seraient apparemment développés plutôt que fabriqués comme nous le faisons aujourd'hui pour la fabrication de processeurs informatiques et de puces informatiques.

Au cours du processus de croissance, l'ordinateur mortel augmenterait ses capacités dans un style de maturation computationnelle. Ainsi, un ordinateur mortel donné pourrait démarrer avec pratiquement aucune capacité et devenir ce qu'il était censé devenir. Par exemple, supposons que nous voulions créer des téléphones portables via l'utilisation d'ordinateurs mortels. Vous commencerez avec une variante simple d'un ordinateur mortel qui a été initialement façonnée ou ensemencée à cette fin. Il deviendrait ensuite la version plus avancée que vous recherchiez. En bref : "Vous remplaceriez cela par chacun de ces téléphones portables qui devrait commencer comme un téléphone portable pour bébé, et il faudrait qu'il apprenne à être un téléphone portable."

Sur l'une de ses diapositives fondamentales sur le calcul mortel, les avantages étaient décrits ainsi : "Si nous abandonnons l'immortalité et acceptons que la connaissance soit inextricable des détails physiques précis d'un élément matériel spécifique, nous obtenons deux grands avantages : (1) Nous pouvons utiliser un calcul analogique à très faible puissance, (2) Nous pouvons développer du matériel dont la connectivité précise et le comportement analogique sont inconnus.

Une partie du même discours et également contenue dans son document de recherche préimprimé est une technique proposée pour mieux concevoir les RNA, qu'il appelle utiliser un avance avance approche en réseau. Certains d'entre vous qui connaissent les ANN sont sans doute déjà très conscients de l'utilisation de la rétropropagation ou de la rétropropagation. Vous voudrez peut-être jeter un œil à sa technique avant-avant proposée. Je couvrirai cette approche fascinante dans une future chronique, alors soyez à l'affût de ma prochaine couverture à ce sujet.

Changeons de vitesse, examinons ce qui se dit dans les couloirs et les ruelles de la communauté de l'IA à propos de cet impétueux ordinateur mortel machination.

Nous allons commencer par ce que certains diraient est un non-starter sur le sujet tout compte fait.

Es-tu prêt?

Arrêtez d'appeler cette chose un mortel l'ordinateur.

De même, arrêtez de proclamer que les ordinateurs conventionnels d'aujourd'hui sont immortel.

Les deux utilisations sont tout simplement fausses et trompeuses, exhortent les sceptiques.

Une définition courante du dictionnaire de ce qui est immortel consiste en quelque chose qui ne peut pas mourir. Il vit pour toujours. Pour ne pas mourir, vous devez probablement dire que la chose elle-même est vivante. Vous faites fausse route pour affirmer que les ordinateurs d'aujourd'hui sont vivants. Aucune personne raisonnable n'attribuerait de bonne foi des propriétés "vivantes" aux ordinateurs modernes. Ce sont des machines. Ce sont des choses. Ce ne sont pas des personnes ni des animaux ou d'une condition de vie.

Si vous voulez élargir la définition d'immortel pour permettre que nous nous référions également à des entités non vivantes, dans ce cas, l'entité non vivante ne devra apparemment jamais se décomposer et ne pourra pas inévitablement se désintégrer en poussière. Pouvez-vous faire une telle affirmation sur les ordinateurs d'aujourd'hui ? Cela semble exagéré (note complémentaire : nous pourrions bien sûr entrer dans une grande discussion philosophique sur la nature de la matière et de l'existence, mais n'allons pas là dans ce cas).

L'essentiel est que l'utilisation ou certains diraient l'utilisation abusive des mots «mortel» et «immortel» est bizarre et injustifiée. Prendre une langue vernaculaire couramment utilisée et la réutiliser à d'autres fins est déroutant et rend les eaux troubles. Vous devez être prêt à apparemment reconceptualiser ce que signifient mortel et immortel dans ce contexte spécifique. Cela devient problématique.

Plus déconcertant encore, ces choix de mots tendent à anthropomorphiser les aspects informatiques.

Il y a déjà plus qu'assez de problèmes associés à l'anthropomorphisation de l'IA, nous n'avons certainement pas besoin d'inventer plus de telles possibilités. Comme je l'ai longuement discuté dans ma couverture de l'éthique de l'IA et de l'IA éthique, les gens attribuent toutes sortes de façons sauvages des capacités sensibles aux ordinateurs. À son tour, cela induit les gens en erreur en leur faisant croire à tort que les ordinateurs basés sur l'IA peuvent penser et agir comme le font les humains. C'est une pente glissante de mise en danger lorsque la société se laisse bercer par la croyance que l'IA et l'informatique d'aujourd'hui sont à égalité avec l'intellect et le bon sens de l'humanité, voir par exemple mon analyse sur le lien ici ainsi que le lien ici.

D'accord, nous pouvons rejeter ou mépriser les choix de formulation maladroits, mais cela suggère-t-il que nous devrions jeter le bébé avec l'eau du bain (une vieille expression, probablement proche de la retraite) ?

Certains soutiennent que nous pouvons peut-être trouver une meilleure formulation pour cette approche ou conception globale. Jetez l'utilisation de "mortel" et "immortel" afin que le reste des idées ne soit pas entaché par une utilisation inappropriée ou inappropriée. Pendant ce temps, il y a des contre-arguments selon lesquels il est parfaitement acceptable d'utiliser ces choix de mots, soit parce qu'ils conviennent, soit parce que nous ne devrions pas être inflexibles sur la façon dont nous choisissons de réutiliser les mots. Une rose est une rose sous n'importe quel autre nom, déclarent-ils.

Pour éviter d'autres débats acrimonieux ici, je vais désormais éviter d'utiliser les mots « mortel » et « immortel » et déclarerai simplement que nous avons deux principaux types d'ordinateurs qui circulent, l'un qui est un ordinateur numérique conventionnel d'aujourd'hui et l'autre. l'autre est une proposition neuromorphique l'ordinateur.

Pas besoin d'entraîner l'énigme de la mortalité là-dedans, semble-t-il. Gardez le ciel dégagé pour voir ce que nous pouvons faire d'autre de la question en cours.

Dans ce cas, certains diront que l'idée proposée d'un ordinateur neuromorphique n'a rien de nouveau.

Vous pouvez remonter aux premiers jours de l'IA, en particulier lorsque les ANN ont été initialement explorés, et voir qu'il était question de concevoir des ordinateurs spécialisés pour effectuer le travail des réseaux de neurones artificiels. Toutes sortes de nouveaux matériels ont été proposés. Cela se produit encore à ce jour. Bien sûr, vous pourriez contredire que la majeure partie de l'exploration actuelle du matériel spécialisé pour les RNA et l'apprentissage automatique est toujours basée sur l'approche conventionnelle de l'informatique. En ce sens, cette inséparabilité analogique du matériel et du logiciel repousse quelque peu les limites, et la proposition de "développer" l'ordinateur le fait aussi, du moins en ce qui concerne la sortie du courant dominant considéré.

En bref, il y en a qui sont complètement imprégnés de ces questions et qui s'étonnent que quelqu'un d'autre puisse être surpris par les propositions lancées. Ces notions sont soit les mêmes qu'auparavant, soit font écho à ce qui est déjà examiné dans divers laboratoires de recherche.

Ne vous cassez pas les cheveux, disent-ils.

Cela nous amène à une autre facette qui dérange beaucoup.

En un mot: Prévisibilité.

Les ordinateurs d'aujourd'hui sont généralement considérés comme prévisibles. Vous pouvez jeter un œil au matériel et au logiciel pour comprendre ce que l'ordinateur va faire. De même, vous pouvez retracer ce qu'un ordinateur a déjà fait pour découvrir pourquoi il a fait ce qu'il a fait. Il y a bien sûr des limites à cela, donc je ne veux pas exagérer la prévisibilité, mais je pense que vous avez l'idée globale.

Vous savez peut-être que l'un des problèmes épineux auxquels l'IA est confrontée aujourd'hui est que certaines IA sont conçues pour s'auto-ajuster. L'IA que les développeurs mettent en place peut changer d'elle-même pendant son utilisation. Dans le domaine de l'éthique de l'IA, il existe de nombreux exemples d'IA qui ont été utilisées qui, au début, n'avaient pas de préjugés indus ou de tendances discriminatoires, qui ont ensuite progressivement été auto-mutées par calcul pendant la période de production de l'IA, voir mon des évaluations détaillées à le lien ici.

Le souci est que nous entrons déjà dans un contexte impliquant une IA qui n'est pas nécessairement prévisible.

Supposons que l'IA pour les systèmes d'armes subisse des ajustements automatiques et que le résultat soit que l'IA arme et lance des armes mortelles sur des cibles et à des moments inattendus. Les humains pourraient ne pas être dans la boucle pour arrêter l'IA. Les humains qui sont dans la boucle pourraient ne pas être en mesure de réagir assez rapidement pour dépasser les actions de l'IA. Pour d'autres exemples effrayants, voir mon analyse sur le lien ici.

Pour les ordinateurs neuromorphiques, le problème est que nous mettons l'imprévisibilité sous stéroïdes. Dès le départ, l'essence d'un ordinateur neuromorphique pourrait être qu'il fonctionne d'une manière qui défie les prédictions. Nous affichons l'imprévisibilité. Il devient un insigne d'honneur.

Deux camps existent.

Un camp dit que nous pouvons vivre avec les problèmes d'imprévisibilité peu recommandables, en mettant en place des garde-corps pour empêcher l'IA d'aller trop loin. L'autre camp soutient que vous conduisez le monde sur une voie dangereuse. Le jour viendra où les garde-corps revendiqués échoueront, ou ne seront pas assez stricts, ou que par accident ou intention malveillante, les garde-corps seront enlevés ou modifiés.

Devrions-nous dissiper les scrupules concernant les ordinateurs neuromorphiques et la prévisibilité ?

Selon les remarques du chercheur : "Parmi les personnes qui s'intéressent au calcul analogique, il y en a encore très peu qui sont prêts à renoncer à l'immortalité." De plus : "Si vous voulez que votre matériel analogique fasse la même chose à chaque fois... Vous avez un vrai problème avec toutes ces choses électriques parasites."

Je vais rattraper ça.

Une perspective imminente et quelque peu sombre est que la soi-disant prévisibilité associée aux ordinateurs numériques d'aujourd'hui va de toute façon dans le sens de l'imprévisibilité. Comme mentionné, cela peut se produire en particulier par l'IA qui s'auto-ajuste sur les plates-formes informatiques conventionnelles. Ce n'est pas parce que les ordinateurs neuromorphiques semblent apparemment imprévisibles que les ordinateurs numériques conventionnels sont en fait prévisibles.

Le rouleau compresseur de l'imprévisibilité s'abat sur nous, à toute vapeur, quelle que soit la plate-forme informatique que vous souhaitez choisir. Pour mon évaluation des derniers efforts pour essayer d'atteindre la sécurité de l'IA dans cette optique, voir le lien ici.

Cette tournure de la prévisibilité devrait vous faire réfléchir sur quelque chose d'une nature déterrée, en quelque sorte. Ceux d'entre vous qui sont impliqués dans l'éthique de l'IA et le droit de l'IA pourraient ne sauraient ont examiné les ramifications de ordinateurs neuromorphiques.

Vous visiez probablement des ordinateurs numériques conventionnels qui exécutent l'IA. Eh bien, devinez quoi, vous avez un segment entièrement supplémentaire et émergent de l'informatique IA que vous pouvez maintenant rester éveillé la nuit. Oui, des ordinateurs neuromorphiques. Mettez ça sur votre liste de choses à faire.

Désolé, encore des nuits blanches pour vous.

Examinons brièvement ce que l'éthique de l'IA et le droit de l'IA ont fait à propos de l'informatique numérique conventionnelle et de l'IA.

Dans les colonnes précédentes, j'ai couvert les divers efforts nationaux et internationaux pour élaborer et promulguer des lois réglementant l'IA, voir le lien ici, par exemple. J'ai également couvert les divers principes et directives d'éthique de l'IA que divers pays ont identifiés et adoptés, y compris par exemple l'effort des Nations Unies tel que l'ensemble d'éthique de l'IA de l'UNESCO que près de 200 pays ont adopté, voir le lien ici.

Voici une liste clé utile de critères ou de caractéristiques éthiques de l'IA concernant les systèmes d'IA que j'ai déjà explorés de près :

• Transparence
• Justice et équité
• Non-malfaisance
• Responsabilité
• Confidentialité
• Bienfaisance
• Liberté & Autonomie
• La confiance
• Durabilité
• Dignité
• Solidarité

Ces principes d'éthique de l'IA sont sincèrement censés être utilisés par les développeurs d'IA, ainsi que par ceux qui gèrent les efforts de développement de l'IA, et même ceux qui finissent par mettre en place et effectuer l'entretien des systèmes d'IA.

Toutes les parties prenantes tout au long du cycle de vie de développement et d'utilisation de l'IA sont considérées dans le cadre du respect des normes en cours d'établissement de l'IA éthique. Il s'agit d'un point culminant important puisque l'hypothèse habituelle est que "seuls les codeurs" ou ceux qui programment l'IA sont soumis à l'adhésion aux notions d'éthique de l'IA. Comme souligné précédemment ici, il faut un village pour concevoir et mettre en œuvre l'IA, et pour lequel tout le village doit connaître et respecter les préceptes d'éthique de l'IA.

La partie de cela à laquelle vous n'avez peut-être pas beaucoup réfléchi auparavant est de savoir comment ces mêmes préceptes d'éthique de l'IA et la liste croissante de nouvelles lois sur l'IA s'appliqueront aux ordinateurs neuromorphiques. Pour clarifier, l'éthique de l'IA et la loi sur l'IA doivent en effet en tenir explicitement compte. Je souligne que peu le font, et sachez qu'il y a de fortes chances que l'avènement des ordinateurs neuromorphiques en jette beaucoup dans une boucle en termes de nouvelle dimension pour essayer de régner sur l'IA.

Nous devons considérer l'IA éthique et les lois sur l'IA d'une manière suffisamment large pour englober toute IA nouvellement conçue, y compris les ordinateurs neuromorphiques.

L'alternative à la bascule est un jeu classique du chat et de la souris. Voici comment cela se passe. De nouvelles façons de concevoir l'IA sont conçues et construites. L'éthique et les lois sur l'IA existantes sont prises au dépourvu et n'englobent pas pleinement les dernières manigances de l'IA. Un effort précipité est fait pour mettre à jour les préceptes éthiques de l'IA et modifier ces nouvelles lois sur l'IA.

Faire mousser, rincer, répéter.

Il vaudrait mieux pour nous tous de garder une longueur d'avance, plutôt que de se faire prendre derrière la balle huit.

Conclusion

Je t'ai fait voyager un peu.

Au départ, j'ai proposé qu'il y aurait deux grands sujets à examiner :

1) Lier intégralement le matériel et les logiciels pour les mécanisations de l'IA plutôt que de les avoir comme des alliés distincts et séparés

2) Transférer ou distiller des formulations d'apprentissage automatique d'un modèle d'IA à un autre qui le fait sans exiger ni nécessairement désirer (ou même éventuellement autrement possible) une copie directe de race pure

Le premier sujet sur la liaison entre le matériel et le logiciel a été l'essentiel du voyage ici. Cela nous a conduits dans le bourbier informatique mortel contre immortel. Parmi lesquelles il y avait des considérations cruciales sur l'éthique de l'IA et le droit de l'IA qui, autrement, ne seraient généralement pas abordées, car ce type de sujet lié à l'informatique est généralement considéré par certains comme un sujet purement technologique plutôt que comme une préoccupation d'impact sociétal.

Je dis qu'il est plus sage d'être plus tôt et plus sûr, plutôt que plus tard et moins bien quand il s'agit d'évoquer l'IA éthique et la loi sur l'IA.

Le deuxième sujet, que je n'ai pas encore développé ici, se rapporte matériellement au premier sujet.

Voici l'affaire.

Supposons que nous ayons un "ordinateur mortel" et que nous souhaitions préserver les capacités afin de pouvoir disposer d'une sauvegarde ou apparemment de copies de ce que contient l'IA. Nous pourrions être inquiets qu'un ordinateur mortel particulier approche de sa fin. Aïe, nous en dépendons. Que devons-nous faire? Une réponse est que nous devrions copier la fichue chose.

Mais, copier un ordinateur neuromorphique du genre esquissé sera plus difficile qu'il n'y paraît à première vue. Les choses peuvent devenir délicates.

Peut-être devrions-nous proposer un stratagème de copie qui soit généralisable et applicable aux circonstances impliquant l'apprentissage automatique et les réseaux de neurones artificiels. Nous voulons que cela fonctionne sur des instances à grande et très grande échelle. Nous serions également disposés à ce que la copie ne soit pas une copie exacte, et à la place pourrait être essentiellement équivalente ou peut-être même mieux conçue à la suite de l'action de copie.

Une technique connue sous le nom de distillation a été proposé.

Je n'ai plus de place pour la chronique d'aujourd'hui, je vais donc aborder ce deuxième sujet dans une prochaine chronique. J'ai pensé que vous voudriez connaître la relation entre ce deuxième sujet et le premier sujet qui a été largement couvert ici. Considérez cela comme une note supplémentaire servant de teaser ou de bande-annonce de ce qui va suivre.

Restez sur le bord de votre siège, car le sujet de la distillation se démarque assez bien.

Comme le disait Batman, gardez vos ailes de chauve-souris croisées et soyez prêt pour le même temps de chauve-souris et le même canal de chauve-souris pour résoudre la question épineuse de savoir comment copier un ANN ou un modèle d'apprentissage automatique ou un ordinateur neuromorphique sur un autre.

Une dernière remarque pour le moment. Il y a une ligne célèbre dans le film Le retour du chevalier noir dans lequel notre croisé capé dit ceci : "Le monde n'a de sens que si vous le forcez." J'essaierai de m'en tenir à cet idéal lorsque j'aborderai le deuxième sujet sur la distillation liée à l'IA.

Restez à l'écoute pour la partie 2 de ce double en-tête passionnant et passionnant.