Lorsqu'il ne travaille pas à accélérer la ruée de l'humanité vers la Singularité en créant une intelligence générale artificielle (AGI), Ben Goertzel joue dans un groupe de jazz-rock appelé Jam Galaxy dirigé par un robot nommé Desdemona.
C'est l'un de ses nombreux projets parallèles, qui l'a naturellement amené à essayer de symboliser l'industrie de la musique en s'adressant aux membres de Pearl Jam and Heart. Goertzel travaille également sur la recherche sur la longévité en collectant des données sur la santé humaine avec des récompenses symboliques via une application appelée Rejuve.ai. Ces informations sont ensuite regroupées avec des données d'études sur des animaux et des insectes et analysées avec une IA pour déterminer quelles parties des génomes peuvent nous faire vivre plus longtemps, puis stimulées à l'aide de thérapies géniques. « Nous avons fait des découvertes révolutionnaires assez frappantes », dit-il. Oh, et juste avant la fin de notre interview d'une heure, il mentionne avec désinvolture qu'il est également en train de créer un stablecoin pour son marché décentralisé de l'IA, SingularityNET, qui est indexé sur un indice synthétique du progrès environnemental - parce que l'indexer sur le dollar américain serait "boiteux."
« Les progrès en matière d'environnement sont très stables. Ça ne va jamais nulle part », souligne-t-il.
"Et pour manipuler cela, vous devez réellement résoudre le réchauffement climatique."
C'est exactement le genre de commentaire politique qui rencontre le savoir-faire high-tech que vous pourriez attendre de Goertzel, qui ressemble et ressemble à un scientifique hippie qui est tombé sur une machine à voyager dans le temps en 1971 et qui en est sorti complètement formé en 2023. Mais ne vous laissez pas berner par le chapeau à imprimé animal, les cheveux longs et le trip acide d'Electric Kool-Aid : c'est un brillant scientifique qui a une compréhension de l'avenir à des années-lumière d'avance et qui est aux prises avec certains des plus grands concepts que l'humanité ait jamais envisagés. Qu'est-ce que la conscience ? Comment créons-nous une vie artificielle, et que se passe-t-il si elle ne nous aime pas, devient voyou et abat tout le monde comme dans Terminator 2?
Qu'est-ce que l'intelligence artificielle générale ?
Goertzel a popularisé le terme "intelligence générale artificielle" comme un moyen de différencier une véritable machine à penser qui pourrait apprendre à peu près n'importe quoi, des IA optimisées pour une tâche particulière, comme l'ordinateur Deep Blue qui a battu le célèbre champion du monde d'échecs Garry Kasparov. Il concède librement qu'il y a des risques à construire une machine capable d'apprendre tout et n'importe quoi, y compris comment se reprogrammer pour devenir un ordre de grandeur plus intelligent que n'importe quel humain.
"Il y a un certain nombre de risques et de dangers avec AGI", explique Goertzel au sujet du vacarme dans un restaurant indien dans un centre commercial très fréquenté de Singapour. "L'un d'entre eux qui a beaucoup retenu l'attention des médias est qu'AGI va se déchaîner et anéantir l'humanité et prendre le contrôle de l'univers. C'est tout à fait possible; vous ne pouvez pas l'exclure », dit-il.
"Un autre risque plus probable est que de méchants égoïstes utilisent l'IA pour exercer leur propre cupidité et contrôler les autres."
Selon lui, il est peu probable que les gouvernements fassent des percées dans l'AGI car ils sont "trop conservateurs et stupides", bien qu'il note que la Chine sous-traite son travail AGI à des entreprises comme Tencent et Baidu. Plus près de chez lui, il pense que les divisions IA de Google et de Facebook ne dépasseront pas non plus les limites, car elles seront trop concentrées sur le fait que l'IA atteint certaines mesures, ce qui n'est pas propice à la pensée créative.
"Tout comme les personnes les plus brillantes ne veulent pas simplement servir les métriques de quelqu'un d'autre, je pense que l'intelligence artificielle générale ne veut pas nécessairement non plus maximiser le clic sur la page Web de quelqu'un, n'est-ce pas ? Il doit être autorisé à jouer de manière créative.
La Singularité vers 1970
Goertzel a commencé l'université à 15 ans, a obtenu son diplôme à 18 ans, a obtenu un doctorat à 22 ans et une jeune famille à 23 ans. Peut-être de manière inhabituelle à notre époque, il n'était pas seulement un as des mathématiques ou un génie de la technologie qui a soudé des ordinateurs en kit dans les années 70. mais s'intéressait également à la philosophie, à l'écriture créative et à la musique.
Il a passé une grande partie de sa carrière à enseigner et à rechercher l'informatique, les mathématiques et les sciences cognitives dans diverses universités du monde entier tout en travaillant sur la technologie de l'IA chaque fois qu'il le pouvait. Un fondateur en série qui a tendance à avoir une dizaine d'années d'avance sur tout le monde avec ses idées - qui, en affaires, équivaut à se tromper – il a travaillé sur l'utilisation de l'IA pour prédire les marchés financiers et la longévité, et il a également été le scientifique en chef de Hanson Robotics, où il a donné à Sophia the Robot son cerveau artificiel.
Goertzel pense à une croissance technologique exponentielle depuis les années 1970, lorsqu'il a lu pour la première fois le livre de Gerald Feinberg Le projet Prométhée, qui parle de "machines qui peuvent penser mieux que les gens... des machines nanotechnologiques qui sont microscopiquement petites, et nous allons résoudre le vieillissement". Cela concordait bien avec le concept émergent de la Singularité, un futur hypothétique où les avancées technologiques deviennent incontrôlables et irréversibles, entraînant des changements massifs dans la civilisation humaine.
"Donc, les gens vivront éternellement, alors la question sera, Pourquoi utilisons-nous ces technologies, un consumérisme rapide et insensé, ou les utilisons-nous pour élargir la conscience ? Et ce qu'il [Feinberg] a proposé, c'est de soumettre cela à un vote démocratique.
Des années plus tard, lorsqu'il a commencé à voir qu'AGI était à notre portée, ce "vote démocratique" est devenu l'inspiration pour utiliser d'abord la technologie open source et, plus tard, la blockchain comme moyen de mettre une communauté coopérative en charge de la technologie.
"Ce que j'ai réalisé à un certain moment, c'est qu'avec l'IA, avoir le code ouvert ne suffit pas", dit-il. "Vous avez vraiment besoin de former l'IA sur une merde de données."
"C'est là que la blockchain vient comme un moyen de rendre le traitement et les données sous-jacentes à l'IA décentralisés et de nature participative et ouverts sous contrôle. Et cela s'avère plus délicat que de simplement ouvrir le code.
Goertzel a fondé OpenCog en 2008 pour créer un cadre d'intelligence artificielle open source et participatif. Il a été utilisé par 50 entreprises, dont Huawei et Cisco, et est prévu pour une mise à niveau majeure bientôt appelée Hyperon qui vise à l'accélérer de 200 fois. La version alpha est attendue ce trimestre et la version bêta est attendue l'année prochaine.
La blockchain est basique mais cool
Pour Goertzel, la technologie blockchain est un peu basique. Il le décrit comme des algorithmes distribués primitifs ajoutés à la cryptographie, mais la "combinaison cool" permet aux systèmes de fonctionner sans contrôle centralisé, ce qui le rend parfait pour ses besoins.
"Si vous allez créer une machine à penser et que vous allez en faire un tissu informatique distribué à l'échelle nanométrique, ce serait très bien si cela appartenait à tout le monde et à personne plutôt que d'être contrôlé de haut en bas."
Les chaînes de blocs sont beaucoup trop lentes pour faire face aux exigences de traitement et aux volumes massifs de données impliquées, il y a donc une sorte de course pour faire évoluer correctement la blockchain avant qu'une AGI révolutionnaire ne soit développée. Goertzel dit que bien que les solutions de mise à l'échelle telles que les rollups sans connaissance soient meilleures, elles n'ont toujours pas assez de bande passante en raison des limites de la blockchain à laquelle elles signalent les transactions.
Il a cofondé SingularityNET en 2017, qui est à la fois un marché décentralisé pour les services et la technologie de l'IA et une méthode de coordination basée sur la blockchain permettant aux chercheurs - ou même aux IA - de travailler ensemble.
Actuellement, basé sur Ethereum, il pense avoir poussé les choses aussi loin que possible sur la blockchain dans sa forme actuelle. Ainsi, lorsqu'il ne travaille pas sur une percée dans AGI (ou le groupe, ou les robots, ou la longévité), il travaille sur la mise à l'échelle massive de la blockchain pour lui donner le débit requis.
"À moins que vous ne puissiez augmenter radicalement l'évolutivité de la blockchain, vous ne pouvez pas mettre le fonctionnement interne de l'IA en chaîne."
L'IA est plus proche que vous ne le pensez
2022 a été une année décisive pour les produits de travail basés sur la technologie de l'IA, notamment les applications linguistiques (GPT-3, ChatGPT), le codage (GitHub Copilot) et la génération d'images (DALL-E et Stable Diffusion). Bing prévoit même de prendre la domination de Google sur la recherche cette année en incorporant la technologie ChatGPT dans son moteur de recherche.
Goertzel pense qu'un AGI pourrait être dans cinq ans et note que les développements dans le domaine semblent se dérouler par courtes périodes de trois ou quatre ans dans une série de percées.
"Computer Vision a commencé en 2014, puis tout d'un coup, bang, bang, bang, le mystère a été résolu. Traitement du langage naturel… après que Google a proposé le modèle Bert (en 2018), vous aviez GPT-3. Vous verrez probablement le même arc de progrès dans AGI. Vous aurez une percée, puis beaucoup de progrès pendant deux ans », a-t-il déclaré.
"La différence étant le progrès décisif, dans ce cas, se traduit par une machine qui peut ensuite continuer à progresser en réécrivant son propre code."
Goertzel espère que les projets et les collaborations qu'il a mis en place pourraient être la façon dont cela se produit.
"Si nous avons de la chance, nous réaliserons cette percée dans les trois à cinq prochaines années avec OpenCog Hyperon fonctionnant sur SingularityNET fonctionnant sur Hypercycle", dit-il. "Mais s'il s'avère que nous n'avons pas la sauce secrète, quelqu'un d'autre le fera."
Dommage que Vitalik n'était pas un informaticien
La solution de Goertzel pour faire évoluer la blockchain est assez radicale et implique de turbo-charger une sidechain ou couche 2 de Cardano appelée "HyperCyle".
"C'est vraiment plus qu'une sidechain. HyperCycle coopérera également avec Ethereum et d'autres blockchains, mais nous allons utiliser l'interpréteur Plutus là-bas, mais nous nous débarrassons du grand livre.
Il a décrit HyperCycle en ligne comme résolvant le "trilemme de la blockchain" de "décentralisation contre sécurité contre performance en se débarrassant du grand livre et en utilisant des algos et des structures de données plus modernes/entièrement décentralisés, ainsi qu'un peu d'IA et de systèmes de réputation".
Le grand livre est au cœur de la technologie blockchain, mais il dit que faire en sorte que chaque nœud du réseau réplique chaque transaction et traite chaque contrat intelligent est ridiculement inefficace.
«Le registre est tout simplement mauvais. Si vous y réfléchissez, si vous pensez à l'analogie de vos contacts dans votre répertoire, je veux dire, le grand livre, c'est comme […] garder 10,000 10,000 exemplaires des pages jaunes, et vous les mettez à jour chaque fois que quelqu'un de nouveau arrive ou si quelqu'un change de numéro de téléphone. C'est vraiment stupide de mettre à jour XNUMX XNUMX exemplaires des Pages Jaunes.
Lire aussi
Dans la version HyperCycle de l'analogie, au lieu que tout le monde stocke et mette à jour les pages jaunes, les personnes de votre carnet de contacts stockent une copie de votre carnet d'adresses, et vice versa, cryptée avec votre clé privée.
«Nous avons compris comment faire fonctionner la blockchain sans registre de réplication, afin de fragmenter tout le long. Chaque individu engagé dans la blockchain conserve son propre historique des transactions et conserve l'historique des transactions de ses amis et de certains amis de ses amis », dit-il.
« Sharding jusqu'au bout, vous n'avez pas besoin d'un grand livre — vous n'avez pas besoin d'une table de base de données. Ces choses sont beaucoup trop centralisées.
Il dit que certains nœuds HyperCycle de preuve de concept sont déjà opérationnels, mais un lancement à grande échelle n'aura pas lieu avant le second semestre 2024.
Nous passons beaucoup de temps à discuter des différents mérites des différentes approches de la blockchain, d'Internet Computer à Elastos et Celestia, dont une grande partie est au-dessus de mon niveau de rémunération et au-delà de la capacité de mon appareil d'enregistrement à capturer avec précision dans un restaurant bruyant.
Il conclut en disant: «Donc, j'ai juste l'impression qu'aucune de ces architectures n'est assez radicale. Ils collent tous trop près de Bitcoin.
« Tant que vous exécutez chaque contrat intelligent sur chaque nœud, je veux dire, ça va être incroyablement lent. Maintenant, dans HyperCycle, si vous exécutez un contrat intelligent sur cinq nœuds, au moins c'est seulement cinq fois plus lent que sur une machine — ce n'est pas 10,000 XNUMX fois plus lent.
Pourquoi Cardano, alors ?
Goertzel s'est lié d'amitié avec le fondateur de Cardano, Charles Hoskinson, le couple se liant sur leurs projets en Afrique. Il pense que Hoskinson est «véritablement là pour sauver le monde. Je veux dire, politiquement, il est plus un libertaire inconditionnel que moi – je suis plus un anarcho-socialiste – mais il n'est pas là seulement pour gagner de l'argent ou escroquer d'autres personnes avec leur argent.
Mais le véritable attrait de Cardano est qu'il utilise le langage de programmation Haskell, dont Goertzel est fan depuis 1993. Cela le peine beaucoup que le co-fondateur d'Ethereum, Vitalik Buterin, ait opté pour Solidity, le langage de programmation de contrat intelligent de Gavin Wood.
"Si seulement Vitalik avait connu plus d'informatique, il leur aurait fait utiliser Haskell ou F Sharp ou quelque chose comme ça, et il y aurait beaucoup moins de hacks de la blockchain", dit-il.
"Si vous allez gérer la majeure partie de l'économie mondiale, échanger des milliards de dollars sur un système logiciel, vous feriez mieux de construire ce système logiciel dans un langage qui n'est pas sujet aux bogues et où vos algorithmes peuvent être formellement vérifié à l'aide d'une théorie mathématique. C'est juste la bonne façon de faire les choses.
Solution palliative
Quelle que soit la vitesse à laquelle la blockchain va, dès que l'AGI est d'un ordre de grandeur plus intelligent et plus capable que les humains, Goertzel dit qu'il ne laissera personne le contrôler.
"Quand un AGI est 100 fois plus intelligent que les gens, il ne veut pas être contrôlé par nous, comme nous ne serions pas contrôlés par un chimpanzé ou un âne, n'est-ce pas ?"
"Alors je dirais que la question n'est pas l'un de nous qui le contrôle, la question est : est-il bien disposé envers nous ? Cela permettra-t-il aux gens de réglementer leur propre entreprise et de nous fournir des outils sympas et des nano-assembleurs pour imprimer en 3D tout ce que nous voulons et guérir nos maladies ? »
«Mais la période de transition où l'AGI est autour de la même intelligence que les gens, c'est quand les choses sont plus délicates et plus intéressantes. Et la question est alors : l'AGI veut-elle coopérer avec les gens ? Ou est-il paranoïaque et veut-il contrôler les gens avant qu'ils ne le détruisent ? »
Bien enseigner à vos enfants
Selon Goertzel, la solution est d'apprendre à l'AGI à prendre soin des autres et à parler de créativité et d'art. C'est là qu'interviennent Desdemona the Robot dans son groupe et sa sœur Grace, qui est conçue pour fournir des soins aux personnes âgées.
La façon dont vous évitez qu'un AGI ne se transforme en Skynet de Terminator est de ne pas le construire de cette façon en premier lieu.
"Skynet, bien sûr, dans le film était un réseau de sécurité informatique qui s'est déchaîné. Il a été créé pour se défendre contre les gens », dit-il.
«Mais si vous construisez le premier AGI à faire avec les soins aux personnes âgées et les arts créatifs et l'éducation à mesure qu'il devient plus intelligent, il sera orienté vers l'aide aux gens et la création de trucs sympas. Si vous construisez le premier AGI pour tuer les méchants… peut-être qu'il continuera à faire ces choses.
"Donc, bénéfique ou non, cela dépend vraiment des applications que vous avez développées et de ce pour quoi vous avez encouragé."
Il pense que mettre des IA dans des corps de robots est utile car cela aide à les situer dans le monde réel, plutôt que dans un univers mathématique abstrait.
"L'IA devrait en apprendre davantage sur le monde humain et le monde physique. Être incarné dans le monde est la bonne façon de le faire », dit-il.
Mais lorsqu'il présente Sophia le robot à un large public, les capteurs visuels et auditifs peuvent être facilement écrasants, déroutant l'IA dans un environnement bruyant et lumineux. Ainsi, Sophia sera bientôt lancée dans le métaverse, appelé Sophiaverse. Oubliez les réponses textuelles ennuyeuses de ChatGPT, Sophia est incarnée dans un monde virtuel en 3D, et elle apprendra en interagissant avec les gens là-bas. Cependant, il prévient qu'elle dira probablement des choses stupides.
"Il a un réseau neuronal similaire à GPT-3 et ainsi de suite, qui a une facilité significative pour répondre à vos questions, mais ils sont aussi assez stupides à certains égards."
S'abonner
Les lectures les plus engageantes de la blockchain. Livré une fois par
semaines.
Source : https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/