L’intelligence artificielle (IA) et la blockchain sont des technologies numériques émergentes qui ont captivé l’imagination du public, mais qui ont également suscité de sérieuses inquiétudes.
Il convient donc de se demander : l’IA et la blockchain peuvent-elles être intégrées d’une manière qui profite à l’humanité ?
Il y a des raisons de le penser. Dès 2016, Vitalik Buterin écrivait que les communautés de la crypto-économie et de la sécurité de l’IA « essayaient de s’attaquer à ce qui est fondamentalement le même problème » : comment réguler des systèmes complexes et intelligents avec des « propriétés émergentes imprévisibles ».
Les deux s’appuient pour le contrôle sur des systèmes essentiellement « stupides » « dont les propriétés une fois créées sont inflexibles », après tout. Une fois qu’un contrat intelligent est mis en œuvre, il ne peut plus être modifié, par exemple. Les deux communautés « devraient s’écouter davantage », a-t-il conclu.
Au cours de l’année écoulée, avec l’émergence de ChatGPT et d’autres outils d’IA générative, les inquiétudes se sont accrues quant à la possibilité que l’IA devienne incontrôlable. Les humains pourraient perdre le contrôle des systèmes d’armes autonomes dans un scénario cauchemardesque.
Ainsi, l’idée selon laquelle les blockchains et les contrats intelligents peuvent d’une manière ou d’une autre servir de garde-fou pour empêcher les modèles d’IA de dévier de leur trajectoire est de plus en plus répandue.
"Tous ceux qui travaillent dans le domaine de la cryptographie ont un rôle très distinct à jouer pour faire en sorte que l'AGI se déroule bien", a déclaré Allison Duettmann, présidente du Foresight Institute, lors de la récente conférence SmartCon 2023. Cela est particulièrement vrai compte tenu des prédictions selon lesquelles l’intelligence artificielle générale, ou AGI, où les machines atteignent une intelligence de niveau humain, pourrait arriver le plus tôt possible.
Cette fusion potentielle de l’IA et de la technologie blockchain était également dans l’esprit des décideurs informatiques qui ont participé à une enquête récemment publiée commandée par Casper Labs. Près de la moitié (48 %) des 608 responsables informatiques interrogés aux États-Unis, en Europe et en Chine conviennent que « l’intégration de l’IA et de la technologie blockchain a le potentiel de révolutionner notre secteur, en permettant d’améliorer la sécurité, la transparence et l’efficacité des données ».
Des technologies complémentaires, une dynamique croissante
L'idée de base est que les registres immuables et infalsifiables des blockchains, ainsi que les contrats intelligents, peuvent fournir des garde-fous pour la mise en œuvre de l'IA, garantissant ainsi une intelligence artificielle responsable. Selon certains, une blockchain pourrait même servir de « kill switch » pour les modèles d’IA incontrôlables.
Dans l'enquête commandée par Casper Labs par Zogby Analytics, 71 % des responsables informatiques ont déclaré qu'ils « considèrent la blockchain et l'IA comme des technologies complémentaires ». De plus, lorsqu’on leur a demandé comment leurs organisations utilisaient actuellement la blockchain, « travailler efficacement avec l’IA était la réponse globale la plus populaire (51 %) ».
Par ailleurs, le 1er novembre, le président américain Joe Biden a publié un décret établissant de nouvelles normes de sûreté et de sécurité en matière d’IA. L’ordonnance vise à protéger le public contre un large éventail de risques, notamment les matières biologiques dangereuses créées par l’IA, la fraude et la tromperie basées sur l’IA.
Cette commande "a créé beaucoup d'élan", a déclaré à Cointelegraph Mrinal Manohar, PDG et co-fondateur de Casper Labs, qui dispose d'une blockchain de couche 1 axée sur les entreprises. De nos jours, la gouvernance de l’IA préoccupe de plus en plus d’informaticiens d’entreprise.
Voit-il davantage d’entreprises lancer de véritables projets d’IA/blockchain ? « Nous prévoyons que 2024 sera une année de grands POC [preuves de concept] et MVP [produits minimum viables]. Et après cela, je prévois qu'il y aura de véritables cas d'utilisation », a déclaré Manohar.
Mais il y a sûrement des obstacles ici, notamment celui de la mise à l’échelle. La validation rapide des transactions dans des blockchains décentralisées à grand volume reste un défi, même si des progrès ont été réalisés récemment.
Dans un article souvent cité de 2021, Ben Garfinkel, directeur du Center for the Governance of AI, a écrit que « les blockchains sans autorisation établies, y compris Ethereum, sont trop inefficaces pour exécuter autre chose que des applications assez simples ». Même une application « qui vérifie qui a gagné une partie d’échecs se heurte aux limites actuelles d’Ethereum ».
Magazine : S'introduire dans Liberland : esquiver les gardes avec des chambres à air, des leurres et des diplomates
Pourtant, si les contrats intelligents « deviennent un jour suffisamment fiables », admet Garfinkel, ils pourraient être utiles comme mécanismes de vérification des accords internationaux visant à régir les systèmes d’IA.
Casper Labs est clairement plus optimiste. « Dans la course pour résoudre le défi de la « boîte noire » de l'IA, la blockchain apparaît comme la solution tout-en-un que nous attendions pour intégrer la transparence indispensable », écrit Manohar dans le rapport. Le fonctionnement interne des systèmes d’IA est fondamentalement invisible pour les utilisateurs, d’où l’analogie de la « boîte noire ».
La solution blockchain hybride
Pourtant, comment la technologie blockchain peut-elle être considérée comme une solution au problème de la « boîte noire » de l’IA si elle ne peut même pas évoluer ?
"La façon dont vous résolvez le problème de mise à l'échelle consiste à utiliser des blockchains hybrides", a déclaré Manohar à Cointelegraph. Personne aujourd’hui ne parle de placer d’énormes ensembles de données sur Ethereum ou sur la propre blockchain de couche 1 de Casper Labs. La solution de Casper Labs consiste à utiliser à la fois des blockchains autorisées (privées) et publiques (non autorisées).
"Les gens se sont forcés à adopter ce genre de réflexion selon laquelle il faut être complètement autorisé ou complètement ouvert", a déclaré Manohar, expliquant plus en détail :
« Dans une blockchain hybride, vous disposez de votre propre blockchain privée qui vous appartient. Vous le contrôlez, vous le configurez et vous pouvez le faire fonctionner aussi vite que vous le souhaitez car vous disposez d'un ensemble de validateurs limité.
Et la chaîne publique ? C'est davantage pour le contrôle de version et la tenue de registres. Vous souhaiterez peut-être enregistrer une nouvelle version de l’IA sur la chaîne publique, par exemple. "La beauté de ce modèle hybride est que vous choisissez quand vous avez besoin de l'immuabilité de la chaîne publique et où vous gérez simplement votre infrastructure par vous-même", a déclaré Manohar.
Tant que vous stockez correctement la référence sur la blockchain publique, « vous pouvez toujours vous assurer que ces données n'ont pas été falsifiées, car si elles étaient falsifiées, les hachages ne correspondraient pas ».
De plus, tout ce que vous souhaitez vérifier peut être placé sur la blockchain publique car elle est inviolable. Ainsi, « chaque fois que je modifie l’IA ou chaque fois que j’utilise un nouvel ensemble de données, j’envoie un ping à la blockchain publique », a déclaré Manohar.
Un gros problème avec l’IA aujourd’hui est qu’on ne sait pas quand quelque chose ne va pas. Mais les blockchains offrent un moyen de restaurer la bande, pour ainsi dire, car elles sont hautement sérialisées et horodatées.
Ainsi, si un modèle d’IA « commence à montrer des signes d’hallucination ou de biais inhérents, vous pouvez simplement ramener le système d’IA à une itération récente qui ne présentait pas ces problèmes, puis diagnostiquer d’où proviennent les données problématiques », note Casper Labs dans son rapport. site web.
Mais d’autres ne sont pas convaincus qu’une blockchain puisse résoudre le problème de la « boîte noire » de l’IA.
"Il est trompeur de décrire la" transparence "de la blockchain comme un antidote au problème de la" boîte noire "de l'IA", a déclaré Samir Rawashdeh, professeur agrégé et directeur du centre de recherche sur l'intelligence artificielle de Dearborn à l'Université du Michigan, à Dearborn, à Cointelegraph.
Cela ne rend pas le fonctionnement interne inhérent d'un modèle d'apprentissage automatique plus compréhensible ni ne précise « de quelle manière un résultat particulier remonte aux données de formation d'origine ».
Ce que Casper Labs propose réellement, suggère Rawashdeh, c'est un « système de contrôle de version » – bien qu'avec quelques fonctionnalités intéressantes – qui peut être utilisé « pour suivre le développement et le déploiement du modèle d'IA ».
Cela dit, une blockchain pourrait indirectement relever le défi de la « boîte noire », a ajouté Rawashdeh, en offrant une piste d'audit qui contribue à garantir l'intégrité, la provenance et la transparence des données dans les ensembles de données utilisés pour former les modèles d'IA. Mais cela ne rend pas le processus de décision lui-même plus interprétable.
Quand les machines s’entendent contre les humains
À l’avenir, des inquiétudes surgissent autour de l’intelligence artificielle générale : la blockchain pourrait-elle aider à éviter ces mauvais scénarios où les modèles AGI renversent les élections ou même déclenchent des guerres ?
"Cela pourrait en fait énormément aider", a répondu Manohar. La blockchain « serait le meilleur coupe-circuit » pour un modèle d’IA à condition que son énergie électrique « passe par une blockchain complètement décentralisée ».
Autrement dit, la blockchain et ses validateurs humains décident si le modèle d’IA est alimenté ou non. "Il y a toujours un signal kill switch, où si tous les validateurs sont d'accord, ils peuvent simplement arrêter le réseau, couper l'accès de l'IA à l'alimentation", a déclaré Manohar, ajoutant :
"Cela pourrait en fait agir comme un kill switch incroyablement puissant pour ces scénarios de cauchemar."
Les soupçons demeurent
Il existe d’autres obstacles potentiels à cette intégration de la blockchain et de l’IA. D'une part, "il y a beaucoup de suspicion au sein de la communauté de l'IA à l'égard de la cryptographie", a déclaré Duettmann. La crypto et la blockchain évoquent encore pour beaucoup les escroqueries aux jetons non fongibles et d’autres comportements peu recommandables.
Cela dit, lorsqu'on lui a demandé si Foresight voyait davantage de propositions de financement pour des projets d'IA/Blockchain, Duettmann a répondu : « Il y a actuellement beaucoup de mouvements dans l'espace. » Elle voit en moyenne environ cinq propositions de financement par semaine combinant la technologie blockchain et l'IA. Bien sûr, l’Institut ne peut en financer qu’une fraction, mais « il en a certainement récupéré beaucoup ».
Quant aux deux communautés, « en fin de compte, elles ont beaucoup à apprendre l’une de l’autre », a-t-elle déclaré. Dans son discours à la SmartCon 2023, elle a noté que l'industrie de la cryptographie est très performante en matière de sécurité des réseaux, utilisant souvent le « red teaming », dans lequel les équipes recherchent des entrées qui provoquent un comportement catastrophique. « Étendons le « red teaming » aux modèles d'apprentissage automatique », a-t-elle proposé.
Plus d'acceptation en Chine
L’intégration de l’IA et de la technologie blockchain semble être perçue particulièrement favorablement en Chine. Dans l'enquête de Casper Lab, 68 % des informaticiens chinois interrogés ont convenu que « l'intégration de l'IA et de la technologie blockchain a le potentiel de révolutionner notre industrie, permettant d'améliorer la sécurité, la transparence et l'efficacité des données ». À titre de comparaison, cette part était de 48 % aux États-Unis et de seulement 34 % en Europe.
Récent : Stimuler l’adoption de la blockchain en gardant la technologie en arrière-plan
Pourquoi si haut en Chine ? La Chine s'est montrée hostile aux crypto-monnaies ces dernières années, mais reste positive à l'égard de la technologie blockchain, a observé Manohar. Certaines municipalités ont placé les titres fonciers sur une blockchain. La Chine considère la technologie blockchain comme un mécanisme efficace de certification et de suivi.
En Occident, en comparaison, « tout le monde pense que la blockchain n’est qu’une cryptomonnaie », affirme Manohar. Mais cet écart éducatif va probablement se réduire. À long terme, « tout revient à la normale ».
Cette application phare de la blockchain est-elle ?
On a demandé à Manohar si la fusion de l’IA et de la blockchain pourrait éventuellement constituer l’« application tueuse » tant recherchée de la blockchain.
"Cela pourrait être l'un d'entre eux", répondit-il. Les protocoles de gouvernance de suivi et de traçabilité de la blockchain pour les secteurs de la chaîne d'approvisionnement et des technologies financières sont également candidats, mais ces deux domaines avaient une gouvernance passable avant l'apparition des blockchains et des contrats intelligents.
En comparaison, « il n’existe pas de système de gouvernance en place dans le domaine de l’IA. Il y a donc beaucoup plus de place pour l’innovation. Je pense donc vraiment que cela pourrait être l'application phare de la blockchain », a-t-il déclaré à Cointelegraph.
Source : http://cointelegraph.com/news/blockchain-ai-hybrid-adoption