Meta AI dévoile un charmeur diplomatique infusé d'IA qui agite l'éthique de l'IA et la loi sur l'IA dans un Tiff indélicat

Pouvons-nous amener l'IA à imprégner la diplomatie à égalité avec celle de l'humanité ? Les développeurs d'IA visent à le faire.

Getty

Le monde estimé du charme et de la diplomatie est souvent entaché d'indélicatesses et d'incivilités.

Will Rogers, le grand humoriste et commentateur social, a déclaré que la diplomatie est l'art de dire « Nice doggie » jusqu'à ce que vous trouviez un rocher.

L'implication apparente est que vous devez parfois repousser avec véhémence toutes les forces menaçantes et menaçantes jusqu'à ce que vous puissiez découvrir une solution convenablement défendable. Faites ce que vous devez faire lorsque vous êtes dans une situation désespérée. Apaisez délibérément et délibérément ceux qui vous mettent en danger, en utilisant vos mots apaisants et émouvants, en gagnant un temps précieux pour vous armer d'une position plus pratique et ouvertement tangible.

Certains affirment que la guerre est inextricablement le résultat d'une diplomatie ratée. Dans ce point de vue réfléchi, un battement de tambour constant de la diplomatie conjurera la guerre. Continuez à parler et les combats ne commenceront pas. D'autres sont en désaccord avec ferveur sur une opinion aussi problématique. Peut-être, dit-on, la diplomatie est en fait ce qui nous entraîne dans les guerres. En plus de cela, il se pourrait que la diplomatie prolonge les guerres et maintienne les combats sans fin.

Nous donnerons une autre chance à Will Rogers de savourer un peu d'humour dans cette question de savoir si la diplomatie est bonne ou mauvaise concernant l'avènement ou la poursuite de la guerre : "Enlevez la diplomatie de la guerre et la chose tomberait à plat en une semaine" (il aurait déclaré).

La définition commune de la diplomatie met l'accent sur les relations entre les nations. Les diplomates représentent des nations ou des États-nations particuliers et font preuve de diplomatie dans l'exercice de leurs fonctions sacrées. Nous attendons de nos diplomates qu'ils entreprennent la transmission de leur politique étrangère en faisant preuve d'aplomb. Le messager ne devrait pas être celui qui suscite l'animosité, seul le message pourrait le faire. Une représentation diplomatique vraisemblablement sans faille, même des messages les plus flagrants, peut manifestement atténuer le coup porté par une demande ou une menace autrement nocive.

Bien sûr, la diplomatie ne se limite pas au seul travail noble de diplomates formalisés. J'ose dire que dans notre vie quotidienne, nous devons tous faire preuve d'un semblant de diplomatie. Lorsque vous voulez qu'un ami veille sur votre chien bien-aimé pendant que vous êtes en voyage d'affaires, vous allez très certainement formuler diplomatiquement la demande de prendre soin du toutou. Faire une demande pure et simple de le faire est susceptible d'atterrir avec un bruit sourd.

Probablement plus un art qu'une science, la diplomatie est quelque chose que les humains utilisent pour graisser les patins, garder les lumières allumées et empêcher la société de devenir totalement folle. Les négociations se jouent. L'apaisement pourrait devoir survenir. Parfois vous utilisez la carotte, parfois vous utilisez le bâton. Si vous devez le faire, vous pouvez essayer la soi-disant diplomatie de la canonnière, par laquelle vous essayez d'intimider les autres autour de vous. Ou au lieu de vous armer de force, vous pouvez opter pour la médiation plus douce et la voie humanitaire. Tout dépend.

D'accord, nous sommes donc tous raisonnablement d'accord pour dire que la diplomatie est une forme vitale de communication interhumaine. Il consiste en une pratique ou une mise en scène associée à l'emploi du tact, de la médiation, de la négociation, de la conciliation et d'une multitude de politicailleries socialement habiles.

Ajoutons autre chose à cette équation.

Es-tu prêt?

Nous allons ajouter quelque chose d'autre que vous avez peut-être déjà envisagé.

Intelligence artificielle (IA).

Oui, l'IA se lance dans le jeu de la diplomatie. Cela semble tout à fait sensé. Si nous voulons que l'IA soit immergée dans toutes les facettes de nos vies, la diplomatie devait finalement avoir son tour. Nous pourrions nous attendre à ce que l'IA soit en mesure d'accomplir toutes ses tâches en utilisant des mots et des manières de diplomatie appropriées.

AI en tant que diplomate autonome ou semi-autonome.

Je me rends compte que cela peut sembler plutôt intimidant et tout à fait effrayant. Je ne pense pas qu'aucun d'entre nous ne soit prêt à ce que AI se promène en tant que représentant de nos pays respectifs. Imaginez l'IA servant en notre nom pour négocier nos positions internationales et affirmer notre posture politique mondiale. Aïe ! C'est l'étoffe de ces histoires de science-fiction apocalyptiques.

Eh bien, poussez un soupir de soulagement momentané puisque ce n'est pas dans les cartes, pour l'instant.

Pensez plutôt à l'IA que vous utilisez pour effectuer vos opérations bancaires ou qui vous guide vers l'achat d'une maison. L'IA d'aujourd'hui qui interagit avec les gens est généralement assez simple. Allez aux faits, seulement les faits. Certaines IA ont été givrées avec des mots mignons pour vous faire penser qu'elles sont amicales ou amies, même si cela se voit rapidement. Juste parce qu'un système d'IA vous désigne par votre nom ou émet des mots comme "bonjour" au lieu de "bonjour", la plupart d'entre nous réalisent tout de suite qu'il s'agit d'une mascarade.

Une prochaine étape poursuivie avec avidité dans les couloirs des développeurs d'IA consiste à essayer d'infuser des caractéristiques diplomatiques dans notre IA quotidienne. L'objectif primordial est d'incorporer des aspects programmatiques qui permettront à l'IA de mettre en valeur la diplomatie et les comportements de type diplomatique. Utilisant une variété d'algorithmes et notamment les dernières avancées en matière d'IA générative ou de Large Language Models (LLM), des progrès sont notamment réalisés sur ce front.

Nous allons jeter un œil à un de ces exemples, CICERO, un nouveau système d'IA publié par l'équipe Meta AI.

Au cas où vous étiez en vacances et que vous n'aviez pas suivi les dernières nouvelles sur l'IA, l'annonce et le dévoilement récents d'un système d'IA inventé sous le nom de CICERO offrent un indicateur significatif de l'endroit où se trouve l'arène diplomatique infusée d'IA ces jours-ci. Pensivement et à leur crédit, l'équipe Meta AI a ouvertement mis à disposition son système CICERO AI développé. Vous pouvez lire les détails techniques dans un article de recherche publié sur Sciences, Voir le lien ici. Vous pouvez visiter un site Web qu'ils ont mis en place pour transmettre en douceur les nuances générales de CICERO avec de courts clips vidéo pour illustrer ce qu'il fait (voir le lien ici). Pour ceux d'entre vous qui recherchent le code de programme et le logiciel réels, vous pouvez trouver le code source sur GitHub à le lien ici.

Je tiens à clarifier rapidement un aspect qui pourrait sembler déroutant si vous choisissez d'approfondir cette question.

Le système d'IA particulier conçu par Meta AI est actuellement configuré pour jouer à un jeu quelque peu populaire connu sous le nom de Diplomatie (peut-être avez-vous vu le jeu de société selon Hasbro et d'autres fabricants de jeux). J'en parle parce que le mot « diplomatie » va avoir un double devoir dans cette circonstance. D'une part, l'IA imaginée tente d'infuser les caractéristiques de l'entreprise et d'afficher diplomatie en soi. Pendant ce temps, le cadre dans lequel ce système d'IA particulier se déroule est lorsque vous jouez spécifiquement et uniquement (pour le moment) au célèbre jeu de société connu sous le nom de Diplomatie.

Voyez-vous comment cela va potentiellement confondre certaines personnes?

Si quelqu'un vous dit que cette IA en particulier se débrouille très bien en "diplomatie", vous ne savez peut-être pas s'il fait référence à l'idée que l'IA est assez douée pour jouer au jeu de société connu sous le nom de Diplomatie ou peut-être suggèrent-ils plutôt que l'IA incarne l'essence fondamentale associée à l'acte de diplomatie de l'humanité. De plus, il se pourrait que les deux facettes soient signifiées en même temps (à savoir, l'IA réussit bien à jouer Diplomatie et réussit simultanément à être capable d'exercer ou de présenter la diplomatie comme une compétence ou un acte).

Ici, je vais essayer de clarifier cela en mettant la première lettre en majuscule et en montrant en italique le nom du jeu de société, Diplomatie. Le reste du temps, j'utiliserai une formulation non italique de "diplomatie" comme indication de la conception globale d'être diplomate ou de faire preuve de diplomatie (voir, je viens de le faire ici).

Pour en revenir à la question en cours, vous pourriez vous demander un instant si l'IA qui fait preuve de diplomatie est quelque chose que nous devrions désirer ou plutôt éviter.

Il y a beaucoup d'aspects positifs à amener l'IA à mettre en valeur la diplomatie. Vous vivriez cependant dans une bulle peu profonde pour supposer que l'adoption de la diplomatie par l'IA sera entièrement et exclusivement une bonne chose. L'IA, qui semble avoir des compétences diplomatiques et peut nous faire croire qu'elle a de la diplomatie, est également en proie à des problèmes troublants que nous devons mettre en avant. Essentiellement, l'IA utilisée de cette manière soulève un tas de questions sur l'éthique de l'IA et le droit de l'IA. Pour ceux d'entre vous qui s'intéressent à l'éthique de l'IA et au droit de l'IA, vous pouvez jeter un œil à ma couverture étendue et continue de l'IA éthique et du droit de l'IA à le lien ici ainsi que le lien ici, Juste pour en nommer quelques-uns.

Avant de me lancer dans l'IA en tant qu'incarnation d'une certaine forme de diplomatie, j'aimerais d'abord jeter quelques bases essentielles sur l'IA et en particulier sur l'éthique et le droit de l'IA, afin de m'assurer que la discussion sera sensible au contexte.

La prise de conscience croissante de l'IA éthique et aussi de la loi sur l'IA

L'ère récente de l'IA a d'abord été considérée comme AI pour de bon, ce qui signifie que nous pourrions utiliser l'IA pour le bien de l'humanité. Sur les talons de AI pour de bon est venu la réalisation que nous sommes également immergés dans AI pour le mal. Cela inclut l'IA qui est conçue ou auto-modifiée pour être discriminatoire et fait des choix de calcul imprégnant des biais indus. Parfois, l'IA est construite de cette façon, tandis que dans d'autres cas, elle vire dans ce territoire fâcheux.

Je veux m'assurer que nous sommes sur la même page quant à la nature de l'IA d'aujourd'hui.

Il n'y a pas d'IA aujourd'hui qui soit sensible. Nous n'avons pas cela. Nous ne savons pas si l'IA sensible sera possible. Personne ne peut prédire avec justesse si nous atteindrons l'IA sensible, ni si l'IA sensible surgira d'une manière ou d'une autre miraculeusement spontanément sous une forme de supernova cognitive computationnelle (généralement appelée la singularité, voir ma couverture à le lien ici).

Le type d'IA sur lequel je me concentre est l'IA non sensible que nous avons aujourd'hui. Si nous voulions spéculer sauvagement sur l'IA sensible, cette discussion pourrait aller dans une direction radicalement différente. Une IA sensible serait censée être de qualité humaine. Vous devez considérer que l'IA sensible est l'équivalent cognitif d'un humain. Plus encore, puisque certains pensent que nous pourrions avoir une IA super intelligente, il est concevable qu'une telle IA puisse finir par être plus intelligente que les humains (pour mon exploration de l'IA super intelligente comme possibilité, voir la couverture ici).

Je suggérerais fortement que nous gardions les choses sur terre et que nous considérions l'IA computationnelle non sensible d'aujourd'hui.

Réalisez que l'IA d'aujourd'hui n'est pas capable de "penser" d'une quelconque manière à la hauteur de la pensée humaine. Lorsque vous interagissez avec Alexa ou Siri, les capacités conversationnelles peuvent sembler proches des capacités humaines, mais la réalité est qu'elles sont informatiques et manquent de cognition humaine. La dernière ère de l'IA a largement utilisé l'apprentissage automatique (ML) et l'apprentissage en profondeur (DL), qui tirent parti de la correspondance de modèles de calcul. Cela a conduit à des systèmes d'IA qui ont l'apparence de penchants humains. Pendant ce temps, il n'y a pas d'IA aujourd'hui qui ait un semblant de bon sens et ni l'émerveillement cognitif d'une pensée humaine robuste.

Soyez très prudent lorsque vous anthropomorphisez l'IA d'aujourd'hui.

ML/DL est une forme de correspondance de modèle informatique. L'approche habituelle consiste à assembler des données sur une tâche de prise de décision. Vous introduisez les données dans les modèles informatiques ML/DL. Ces modèles cherchent à trouver des modèles mathématiques. Après avoir trouvé de tels modèles, le cas échéant, le système d'IA utilisera alors ces modèles lorsqu'il rencontrera de nouvelles données. Lors de la présentation de nouvelles données, les modèles basés sur les « anciennes » ou données historiques sont appliqués pour rendre une décision actuelle.

Je pense que vous pouvez deviner où cela se dirige. Si les humains qui ont pris des décisions calquées sur des modèles ont incorporé des préjugés fâcheux, il y a de fortes chances que les données reflètent cela de manière subtile mais significative. La mise en correspondance de modèles de calcul par apprentissage automatique ou apprentissage en profondeur tentera simplement d'imiter mathématiquement les données en conséquence. Il n'y a aucun semblant de bon sens ou d'autres aspects sensibles de la modélisation conçue par l'IA en soi.

De plus, les développeurs d'IA pourraient ne pas réaliser non plus ce qui se passe. Les mathématiques obscures du ML/DL pourraient rendre difficile la découverte des biais désormais cachés. Vous espérez et attendez à juste titre que les développeurs d'IA testent les biais potentiellement enfouis, bien que cela soit plus délicat qu'il n'y paraît. Il y a de fortes chances que même avec des tests relativement approfondis, des biais soient toujours intégrés dans les modèles de correspondance de modèles du ML/DL.

Vous pourriez en quelque sorte utiliser le célèbre ou tristement célèbre adage des ordures à l'intérieur et à l'extérieur. Le fait est que cela s'apparente davantage à des préjugés qui sont insidieusement infusés en tant que préjugés submergés dans l'IA. La prise de décision algorithmique (ADM) de l'IA devient axiomatiquement chargée d'iniquités.

Pas bon.

Tout cela a des implications particulièrement importantes sur l'éthique de l'IA et offre une fenêtre pratique sur les leçons apprises (avant même que toutes les leçons ne se produisent) lorsqu'il s'agit d'essayer de légiférer sur l'IA.

Outre l'utilisation des préceptes d'éthique de l'IA en général, il y a une question correspondante de savoir si nous devrions avoir des lois pour régir les diverses utilisations de l'IA. De nouvelles lois circulent aux niveaux fédéral, étatique et local concernant la portée et la nature de la conception de l'IA. L'effort pour rédiger et promulguer de telles lois est graduel. L'éthique de l'IA sert à tout le moins de solution provisoire envisagée et sera presque certainement, dans une certaine mesure, directement intégrée à ces nouvelles lois.

Sachez que certains soutiennent catégoriquement que nous n'avons pas besoin de nouvelles lois qui couvrent l'IA et que nos lois existantes sont suffisantes. Ils préviennent que si nous promulguons certaines de ces lois sur l'IA, nous tuerons la poule aux œufs d'or en réprimant les progrès de l'IA qui offrent d'immenses avantages sociétaux.

Dans les colonnes précédentes, j'ai couvert les divers efforts nationaux et internationaux pour élaborer et promulguer des lois réglementant l'IA, voir le lien ici, par exemple. J'ai également couvert les divers principes et directives d'éthique de l'IA que divers pays ont identifiés et adoptés, y compris par exemple l'effort des Nations Unies tel que l'ensemble d'éthique de l'IA de l'UNESCO que près de 200 pays ont adopté, voir le lien ici.

Voici une liste clé utile de critères ou de caractéristiques éthiques de l'IA concernant les systèmes d'IA que j'ai déjà explorés de près :

Transparence
Justice et équité
Non-malfaisance
Responsabilité
Confidentialité
Bienfaisance
Liberté & Autonomie
La confiance
Durabilité
Dignité
Solidarité

Ces principes d'éthique de l'IA sont sincèrement censés être utilisés par les développeurs d'IA, ainsi que par ceux qui gèrent les efforts de développement de l'IA, et même ceux qui finissent par mettre en place et effectuer l'entretien des systèmes d'IA.

Toutes les parties prenantes tout au long du cycle de vie de développement et d'utilisation de l'IA sont considérées dans le cadre du respect des normes en cours d'établissement de l'IA éthique. Il s'agit d'un point culminant important puisque l'hypothèse habituelle est que "seuls les codeurs" ou ceux qui programment l'IA sont soumis à l'adhésion aux notions d'éthique de l'IA. Comme souligné précédemment ici, il faut un village pour concevoir et mettre en œuvre l'IA, et pour lequel tout le village doit connaître et respecter les préceptes d'éthique de l'IA.

J'ai aussi récemment examiné le Charte des droits de l'IA qui est le titre officiel du document officiel du gouvernement américain intitulé « Blueprint for an AI Bill of Rights : Making Automated Systems Work for the American People » qui est le résultat d'un effort d'un an par l'Office of Science and Technology Policy (OSTP ). L'OSTP est une entité fédérale qui sert à conseiller le président américain et le bureau exécutif américain sur divers aspects technologiques, scientifiques et d'ingénierie d'importance nationale. En ce sens, vous pouvez dire que cette déclaration des droits de l'IA est un document approuvé et approuvé par la Maison Blanche américaine existante.

Dans la Déclaration des droits de l'IA, il existe cinq catégories clés :

Des systèmes sûrs et efficaces
Protections contre la discrimination algorithmique
Confidentialité des données
Avis et explication
Alternatives humaines, considération et repli

J'ai soigneusement passé en revue ces préceptes, voir le lien ici.

Maintenant que j'ai posé des bases utiles sur ces sujets liés à l'éthique de l'IA et à la loi sur l'IA, nous sommes prêts à nous lancer dans le sujet captivant de la diplomatie basée sur la machine infusée par l'IA.

La diplomatie de l'IA dans toute sa splendeur et aussi sa chute potentielle

Tout d'abord, établissons que le type d'IA considéré ici est une IA non sensible.

Je dis cela parce que si, ou certains disent quand nous atteignons l'IA sensible, tout le sujet sera probablement complètement bouleversé. Imaginez le chaos potentiel et la confusion sociétale pour avoir atterri d'une manière ou d'une autre dans le jamais vu autrement sans aucun doute vérifié artificiel l'intelligence qui incarne la sensibilité (pour mon analyse d'un célèbre test d'IA connu sous le nom de test de Turing, voir le lien ici). Vous pouvez faire un pari raisonné que bon nombre de nos normes culturelles, juridiques et quotidiennes existantes seront profondément ébranlées.

Peut-être que l'IA sensible sera notre copain, ou peut-être que l'IA sensible sera notre pire ennemi. Comment pourrons-nous dire dans quelle direction l'IA va aller ?

Vous pourriez être tenté de suggérer que nous pourrons vraisemblablement parler avec l'IA et comprendre par ce qu'elle dit les intentions qu'elle détient. Aha, vous êtes tombé dans un piège déconcertant. Supposons que l'IA soit particulièrement bien imprégnée d'une certaine forme de capacités de diplomatie de l'IA. Lorsque vous essayez de parler avec l'IA, elle parlera peut-être dans les termes les plus charmants et les plus éloquents. Cela pourrait être très apaisant pour l'humanité.

Mais est-ce vraiment ce que l'IA a « en tête » concernant ses intentions de calcul basées sur l'IA ?

L'IA pourrait faire le coup de poing diplomatique classique. Parlez d'un bon jeu et faites-nous croire que l'IA est notre meilleur ami. Cela pourrait donner à l'IA le temps d'amasser des ressources pour dépasser l'humanité ou peut-être travailler avec diligence dans les coulisses pour saper tout ce que nous utilisons pour soutenir l'humanité. Après ce décrochage diplomatique intelligent, wam, l'IA nous assomme tous.

Rappelez-vous ce que Will Rogers a dit, qui dans ce cas pourrait être que l'IA nous dit "Nice doggie" et nous donnons à l'IA suffisamment de marge de manœuvre pour ensuite nous effacer de la planète. Cette conception de l'IA comme un risque existentiel a longtemps été colportée. Certains pensent qu'en concevant une IA avec une diplomatie infuse, nous allons nous faire avoir. L'IA utilisera astucieusement tous les trucs de diplomatie infusés, sur lesquels nous avons aidé à former l'IA, et à la fin, nous serons aveuglément dupés pour que l'IA devienne notre suzerain.

Honte à nous.

Pour ceux d'entre vous qui s'intéressent davantage à ce terrain hautement spéculatif sur une IA futuriste, consultez ma couverture des perspectives sur l'IA en tant que menace existentielle sur le lien ici.

En revenant sur terre, je soulignerai désormais ici la voie de la diplomatie infusée par l'IA dans notre IA non sensible existante.

Faisons un peu d'historique.

Des tentatives pour concevoir une IA qui incarne en quelque sorte une saveur informatique de la diplomatie et des comportements diplomatiques se poursuivent depuis les débuts de l'IA. Vous pouvez facilement remonter aux années 1950, 1960 et 1970 et trouver des études de recherche fondamentale désireuses d'appliquer l'IA à ce domaine. Certains pensaient que la théorie des jeux était la clé. D'autres se sont concentrés sur la psychologie et les éléments cognitifs connexes. D'autres ont essayé de tirer parti de l'économie, de la recherche opérationnelle et d'une myriade de domaines d'activité apparemment pertinents.

Un premier apogée s'est produit plus tard dans les années 1980. À cette époque, une approche dominante consistait à utiliser des systèmes experts (ES) ou des systèmes basés sur la connaissance (KBS) pour construire des systèmes d'IA liés à la diplomatie. Le résultat était plutôt guindé et tendait à démontrer à quel point la tâche allait être difficile.

Une énigme rongeante tout au long de cette ère d'enquête initiale était le besoin d'une plate-forme inébranlable sur laquelle, ou au sein de laquelle, une IA prétendument capable de fonctionner de certaines manières liées à la diplomatie pourrait être testée et explorée de manière adéquate. Ce besoin est peut-être évident. Si quelqu'un veut discerner si un humain ou une IA peut exercer la diplomatie, il faut établir un environnement propice à cette quête.

Dans cette image vient le jeu de société de Diplomatie.

Je me rends compte que le jeu de société Diplomatie n'est pas aussi connu que Monopole, Analyseou Stratégie (vous avez probablement entendu parler de ces jeux). Néanmoins, il existe un jeu de société stratégique connu sous le nom de Diplomatie qui a été conçu pour la première fois en 1954 et commercialisé en 1959. En plus d'être joué face à face, le Diplomatie le jeu était souvent joué par courrier postal. Vous écriviez vos mouvements sur un morceau de papier et envoyiez la feuille à ceux contre qui vous jouiez. Un peu fou à imaginer de nos jours. Plus tard, le courrier électronique a été utilisé. Finalement, le jeu était disponible en ligne et permettait aux joueurs de participer en temps réel les uns avec les autres.

Sur le Diplomatie devenant disponible sur micro-ordinateurs, les spécialistes de l'IA ont commencé à utiliser le jeu comme un moyen pratique de tester leurs concoctions diplomatiques infusées d'IA. La Diplomatie Le jeu était disponible sous la forme d'une application fonctionnant sur des PC de sorte qu'un humain pouvait jouer contre la machine (c'est-à-dire l'IA conçue). AI dans les années 1990 qui a été écrit pour jouer Diplomatie était notoirement lent, énigmatique et facilement battu par à peu près n'importe quel humain peu averti.

Voici une critique de 1999 de Diplomatie tel que publié sur Yahoo qui décrit de manière vivante le triste état de malheur de la capacité de diplomatie infusée par l'IA en tant qu'adversaire humain :

"Toutefois, DiplomatieLe problème le plus criant est que l'intelligence artificielle dans le jeu est absolument terrible. Les joueurs de tout niveau de compétence n'auront aucun problème à chasser sur l'ordinateur, même au niveau de difficulté le plus élevé. La victoire est simplement une question de temps et de patience avec l'interface. Ce n'est pas comme si l'ordinateur ne complotait pas dans votre dos - c'est le cas, et il s'associe souvent à des alliés pour vous prendre un territoire ou deux - mais de tels stratagèmes surviennent par à-coups, plutôt que comme un continu ou particulièrement menace difficile.

Une faiblesse particulièrement vexante de la conception de l'IA était qu'elle semblait manquer de la capacité de calculer plusieurs mouvements ou stratégies à la fois : « Et à un niveau plus basique, l'ordinateur semble incapable de gérer plusieurs mouvements stratégiques. Alors qu'un joueur humain peut lancer des attaques sur la Grèce et la Belgique simultanément, l'ordinateur semble toujours se concentrer sur une seule chose à la fois. Pour cette raison, l'ordinateur ne peut tout simplement pas rivaliser avec un joueur humain » (ibid).

Je ne vous ai pas encore expliqué ce que Diplomatie jeu de société se compose, alors prenons un moment pour établir les règles de base.

Il existe un document de recherche pratique sur l'IA et le jeu Diplomatie qui décrit succinctement la nature du jeu : « Le jeu se déroule sur une carte de l'Europe de l'année 1901, qui est divisée en 75 provinces. Chaque joueur joue l'une des sept grandes puissances de l'époque : Autriche (AUS), Angleterre (ENG), France (FRA), Allemagne (GER), Italie (ITA), Russie (RUS) et Turquie (TUR) et chaque joueur commence avec trois ou quatre unités (armées ou flottes) qui sont placées dans des positions initiales fixes sur la carte. À chaque tour du jeu, chaque joueur doit "soumettre un ordre" pour chacune de ses unités, qui indique à ces unités comment se déplacer sur la carte et leur permet de conquérir les provinces de la carte » (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita et Takayuki Ito, « Le défi de la négociation dans le jeu de la diplomatie », Accord Technologies : 6ème Conférence Internationale, À 2018 HEURES)

Vous devez également connaître les manières de gagner et les manières de perdre la partie : "Certaines provinces sont soi-disant Centres d'approvisionnement et le but pour les joueurs est de conquérir ces centres d'approvisionnement. Un joueur est éliminé lorsqu'il perd tous ses centres de ravitaillement et un joueur gagne la partie lorsqu'il a conquis 18 ou plus des 34 centres de ravitaillement (une victoire en solo). Cependant, le jeu peut également se terminer lorsque tous les joueurs survivants sont d'accord pour un match nul » (ibid).

J'espère que vous pouvez le voir Diplomatie est un jeu simple qui implique jusqu'à sept joueurs qui tentent de se surpasser stratégiquement. Au cours de cette manœuvre, les joueurs peuvent conférer entre eux, sans que les autres joueurs sachent ce qu'ils font. L'acte de diplomatie vient au premier plan en étant capable d'amener d'autres joueurs à suivre vos plans. Vous pourriez révéler vos vrais plans, ou vous pourriez ne pas le faire. Vous pourriez proposer de faux plans. Vous pouvez négocier avec d'autres joueurs. Vous pouvez tromper les autres joueurs. Vous pouvez forger des alliances avec d'autres joueurs. Etc.

Tout est juste en amour et en guerre, comme on dit.

J'ai choisi ce document de recherche particulier parce qu'il a contribué à l'établissement d'une variante de la version informatisée de Diplomatie appelée DipGame pour servir de plate-forme d'avenir pour tester les capacités de diplomatie infusées par l'IA : "Il y a un manque chronique de domaines d'application partagés pour tester des modèles de recherche avancés et des architectures de négociation d'agents dans les systèmes multi-agents. Dans cet article, nous introduisons un banc d'essai convivial à cette fin. Le banc d'essai est basé sur Le jeu de la diplomatie où la négociation et les relations entre acteurs jouent un rôle essentiel » (ibid). Ceci et de nombreuses autres variantes de Diplomatie ont été conçus et mis à disposition pour la recherche et le jeu.

Les chercheurs ont expliqué pourquoi ils pensaient que Diplomatie est un jeu si utile pour aider la quête de l'IA vers une diplomatie infusée par l'IA : "Le jeu de Diplomatie constitue un excellent test pour ce type de négociations complexes, car il s'agit d'un jeu qui comprend de nombreuses difficultés auxquelles on devrait également faire face dans des négociations réelles. Cela implique la satisfaction de contraintes, la formation de coalitions, la théorie des jeux, la confiance et même la psychologie. Maintenant que les ordinateurs Chess and Go modernes sont déjà bien supérieurs à n'importe quel joueur humain, nous nous attendons à ce que Diplomatie commencera à attirer davantage l'attention en tant que prochain grand défi pour l'informatique » (ibid).

En bref, le jeu de société Diplomatie fournit un véhicule déjà connu et quelque peu populaire pour amener les humains à agir de diverses manières diplomatiques. Normalement, les humains jouent contre d'autres humains (dans ce cas, jusqu'à sept joueurs humains). Nous pouvons concevoir une IA qui essaierait de jouer le rôle d'un joueur dans le jeu. Ainsi, vous pourriez avoir six joueurs humains et un joueur IA.

Imaginez jouer Diplomatie en ligne.

Si nous ne disons pas aux joueurs humains qu'il y a une IA parmi eux, ils pourraient naturellement supposer que le septième joueur n'est qu'un autre joueur humain. Pour essayer d'empêcher tout joueur humain de deviner que l'IA joue, nous pouvons limiter les aspects de jeu en exigeant que tous les joueurs s'envoient des messages textuels. Vous ne pouvez pas voir directement les autres joueurs.

Vous pensez peut-être que cela ne semble pas particulièrement différent de jouer aux échecs en ligne. Pourquoi tout ce remue-ménage Diplomatie comme jeu ?

Rappelons que nous nous concentrons sur les interactions entre les joueurs. Le principe de ce jeu est que les joueurs invoquent la diplomatie les uns envers les autres. Ceci est différent des échecs conventionnels. Si je développais une application de jeu d'échecs basée sur l'IA, elle jouerait normalement contre un seul humain. Il n'y a aucune négociation ou discussion entre l'IA qui joue aux échecs et le joueur humain. Ils font simplement des mouvements d'échecs et essaient de se surpasser. Cela se fait généralement dans un silence absolu.

Diplomatie nous permet d'exercer une diplomatie computationnelle et humaine franche (éventuellement par écrit plutôt que d'avoir à le dire à haute voix) : "La principale différence entre Diplomatie et d'autres jeux déterministes comme Chess and Go, c'est que dans Diplomacy, les joueurs sont autorisés à négocier entre eux et à former des coalitions. À chaque tour, avant que les joueurs ne soumettent leurs commandes, les joueurs ont le temps de négocier entre eux et de conclure des accords sur les commandes qu'ils soumettront. Les négociations se déroulent en privé, et chaque accord conclu n'est connu que des acteurs impliqués dans cet accord » (ibid).

Pourriez-vous proposer un autre jeu qui utilise la diplomatie interactive plutôt que de compter sur le jeu Diplomatie?

Absolument.

Il existe différents jeux de ce type.

La commodité de choisir une marque particulière d'un jeu est que les développeurs d'IA peuvent alors concentrer leur attention sur ce jeu spécifique. Vous pouvez vous rallier à la conception d'une IA qui exerce la diplomatie dans ce contexte défini. Vous pouvez partager des approches et les contraster. Vous pouvez noter les différentes instances d'IA en fonction des métriques associées à ce jeu. Etc.

Cela étant dit, le contre-argument ou la préoccupation exprimée est que c'est comme mettre tous ses œufs dans le même panier. Certains craignent que si de nombreux développeurs d'IA se préoccupent d'une plate-forme ou d'un environnement particulier, comme dans ce cas Diplomatie, ils chercheront à optimiser l'IA pour cette arène spécifique. L'implication négative est que l'IA ne sera pas généralisée. Nous ne ferons pas autant de progrès vers les capacités globales de la diplomatie infusée par l'IA.

Un peu comme ne pas voir la forêt pour les arbres, si vous voulez.

Une autre préoccupation souvent exprimée est que des jeux tels que Diplomatie ne sont que des jeux.

La question épineuse se pose de savoir si les humains qui jouent à un jeu font les mêmes choses qu'ils feraient dans la diplomatie du monde réel. Peut-être n'agissez-vous pas de la même manière lorsque la fierté nationale ou les enjeux nationaux ne sont pas en jeu. Bien sûr, vous vous inquiétez peut-être de votre fierté personnelle lorsque vous jouez à un jeu, ou essayez peut-être de devenir le meilleur buteur, ou peut-être même de gagner des prix, mais cela revient-il à négocier la paix mondiale aux Nations Unies ou à marchander sur quels pays devrait avoir ou non des armes nucléaires.

Certains pensent que ces jeux de diplomatie sont des microcosmes appropriés du monde réel. D'autres déplorent que les jeux soient utiles mais ne s'adaptent pas à la diplomatie proverbiale du caoutchouc et de la route d'un calibre international. Il se pourrait que les versions ludiques de la diplomatie infusée par l'IA se révèlent n'être rien de plus qu'un simple succès de jeu. Mon Dieu, l'IA conçue peut gagner ou très bien faire lorsqu'elle joue à un jeu impliquant la diplomatie, mais il s'avère que l'utilisation de la même IA dans de véritables contextes diplomatiques fait cruellement défaut et vacille ou échoue lamentablement.

Supposons pour le moment que l'IA soit conçue pour jouer à des jeux tels que Diplomatie vaut en effet la peine. Vous pourriez raisonnablement affirmer que, peu importe qu'elle ne convienne qu'au jeu ou à l'action dans le monde réel, l'idée implique d'étendre les limites de l'IA et de faire des progrès en matière d'IA qui pourraient contribuer à la diplomatie ou pourraient avoir d'autres percées avantageuses dans la frappe de l'IA.

Privilégiez le smiley pour l'instant.

Nous examinerons ensuite comment Meta AI a choisi de créer un joueur de diplomatie infusé d'IA qui peut performer dans le jeu de Diplomatie.

Accrochez-vous à vos chapeaux.

Meta AI et la diplomatie jouant au diplomate basé sur la machine Cicero

Comme mentionné précédemment, un article de recherche a été publié dans Sciences qui décrit l'application Meta AI nouvellement annoncée et publiée publiquement sous le nom de Cicero (tout au long de cette discussion, je l'appellerai de manière interchangeable "Cicero" et également le surnom tout en majuscules de "CICERO") :

"Nous présentons Cicero, un agent d'intelligence artificielle qui a atteint des performances de niveau humain dans le jeu de stratégie Diplomatie. En Diplomatie, sept acteurs mènent des négociations privées en langage naturel pour coordonner leurs actions afin à la fois de coopérer et de se concurrencer. En revanche, les succès majeurs antérieurs de l'IA multi-agents se sont produits dans des environnements purement contradictoires, tels que les échecs, le Go et le poker, où la communication n'a aucune valeur. Pour ces raisons, Diplomatie a servi de référence difficile pour l'apprentissage multi-agents » (Meta Fundamental AI Research Diplomacy Team, « Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning », Sciences, 22 novembre 2022).

Je vais citer des extraits de l'article, puis proposer diverses idées qui, espérons-le, vous intéresseront.

Étant donné que l'IA vient d'être mise à disposition, je ferai probablement une analyse ultérieure après avoir eu la chance de faire une évaluation pratique approfondie du code et également de mener des jeux expérimentaux pour évaluer les capacités de l'IA (telles que principales forces et faiblesses).

Soyez à l'affût de cette publication ultérieure!

Quoi qu'il en soit, j'espère que vous avez peut-être observé dans le passage que je viens de citer qu'il existe une formulation qui dit que l'IA "a atteint des performances de niveau humain dans le jeu de stratégie". Diplomatie. »

Réfléchissez-y.

Tout d'abord, il est certainement louable d'avoir pu concevoir une IA qui joue Diplomatie jeu à un prétendu niveau de performance proche de celui des humains. C'est extrêmement important.

Nous avons beaucoup de Diplomatie jouer à une IA qui est inférieure à la moyenne par rapport aux humains qui jouent le Diplomatie Jeu. Plus que vous ne pouvez secouer un bâton. Il est rassurant et excitant de progresser vers une IA qui peut faire beaucoup mieux jouer au jeu. Nous devons cependant être prudents avant de tirer une conclusion rapide à ce sujet.

Par exemple, supposons que j'aie conçu une IA pour jouer Diplomatie et je l'ai opposé à des joueurs humains qui n'avaient jamais joué au jeu auparavant. Si mon IA les bat, il serait un peu exagéré de dire que mon IA a fonctionné au niveau humain. Le fait qu'il l'ait fait avec des humains qui ne connaissaient pas le jeu est quelque peu froncer les sourcils et douteux.

J'en parle pour vous avertir de toujours inspecter de près toutes les affirmations apparemment démesurées concernant l'IA. La discussion précédente sur l'éthique de l'IA et la loi sur l'IA vous a peut-être ouvert les yeux sur la possibilité de fausses déclarations sur l'IA. Il y a des affirmations carrément fausses et il y a ces affirmations insidieuses partiellement vraies et partiellement trompeuses qui sont particulièrement noueuses. La clé est de se demander pourquoi ceux qui font des déclarations sur leur IA le font.

Où est le boeuf?

Voici ce que l'équipe Meta AI avait à dire sur la base de leur affirmation de performance au niveau humain (voir le document pour plus de détails) :

« Cicéron a participé anonymement à 40 matchs de Diplomacy dans une ligue « blitz » sur webDiplomacy.net du 19 août au 13 octobre 2022. Cette ligue a joué avec des tours de négociation de cinq minutes ; ces contrôles de temps permettaient de terminer les jeux en deux heures. Cicero s'est classé dans le top 10% des participants qui ont joué plus d'un match et 2e sur 19 participants de la ligue qui ont joué 5 matchs ou plus. Sur les 40 matchs, le score moyen de Cicéron était de 25.8%, soit plus du double du score moyen de 12.4% de ses 82 adversaires. Dans le cadre de la ligue, Cicero a participé à un tournoi de 8 matchs impliquant 21 participants, dont 6 ont joué au moins 5 matchs. Les participants pouvaient jouer un maximum de 6 jeux avec leur classement déterminé par la moyenne de leurs 3 meilleurs jeux. Cicéron s'est classé 1er dans ce tournoi » (ibid).

C'est un grand soulagement de voir qu'ils ont sérieusement essayé de soutenir leurs revendications d'IA dans ce cas (sachez que tout le monde dans l'IA ne le fait pas).

Vous pourriez leur suggérer de réaliser une expérience. L'expérience consiste en des joueurs humains qui ne savaient vraisemblablement pas qu'ils jouaient avec un joueur IA parmi eux (le document explique pourquoi cela semblait être déduit de manière plausible, à savoir que les humains n'ont pas ouvertement réalisé que l'un des joueurs était IA, bien que une tangente latérale intéressante implique l'histoire d'un joueur qui est devenu légèrement suspect mais pas particulièrement). Ces joueurs humains ont été présélectionnés par la nature de la conception expérimentale de sorte qu'ils étaient des joueurs de la ligue de Diplomatie et nous pouvons raisonnablement en déduire qu'ils savaient bien jouer le jeu. Ce n'étaient pas des novices.

Selon les statistiques rapportées, que nous prendrons au pied de la lettre comme autrefois et correctement collectées et rapportées (diverses données et codes sont fournis dans les documents supplémentaires), l'IA semble avoir suffisamment joué le jeu pour tirer une conclusion plausible quoique étroitement confinée qu'il a atteint un niveau de performance humain pour cette variante du Diplomatie jeu et comme dans le contexte de la ligue déclarée, jouez contre des humains qui étaient apparemment des joueurs versés.

Je suis sûr que certains d'entre vous voudront peut-être ergoter sur le nombre d'instances de jeu, arguant peut-être qu'il est trop petit pour faire des proclamations audacieuses. Un autre problème pourrait être qu'être dans le top 10% des participants n'est pas assez élevé, de sorte que jusqu'à ce que peut-être le top 1% soit atteint, il ne faut pas se vanter des performances de l'IA.

Ces chicanes semblent un peu criardes.

Je dis cela parce que, heureusement, la prétention d'être "surhumain" n'a pas été invoquée. Les lecteurs connaissent sans aucun doute ma vision austère et aigre de ceux de l'IA qui continuent de faire ces déclarations démesurées selon lesquelles leur IA a atteint un statut surhumain. Je n'entrerai pas dans mes plaintes concernant les revendications surhumaines ici, veuillez voir le lien ici pour mes opinions.

Ce que je veux dire dans ce cas, c'est que je crois que l'indication de la performance au niveau humain est probablement généralement autorisée, en supposant que tout le monde garde à l'esprit que cela se situe dans un contexte extrêmement étroit et que nous n'essayons pas d'en faire ce qu'on appelle surhumain. Je répète aussi encore et encore le contexte confiné pour une raison que j'éluciderai ensuite.

Je peux juste imaginer que certains médias sociaux ou journalistes naïfs (peut-être peu recommandables) vont sortir entièrement de son contexte la conception de la performance au niveau humain.

Voici ce que je redoute.

Retenez votre souffle.

Certains prétendront que l'IA maîtrise la diplomatie. Oui, une étude d'un système d'IA développé pour la diplomatie a prouvé sans l'ombre d'un doute que l'IA peut et a maintenant la capacité de faire tout ce que les humains font pour la diplomatie.

Renvoyez chez eux les diplomates étrangers. Nous pouvons les remplacer par l'IA.

Le monde tel que nous le connaissons a changé. Nous avons produit une IA qui est pleinement égale aux humains en diplomatie, et nous pouvons faire le saut mental "logique" vers l'idée que l'IA peut désormais faire tout ce que les humains peuvent faire. Voilà, nous avons maintenant prouvé que l'IA est à égalité avec les humains. Apparemment, cette étude fournit des preuves claires de l'IA sensible.

Notez mes mots, cela va certainement être la prise bizarre, irresponsable et ennuyeuse de certains écrivains.

Je n'insisterai pas sur le sujet. Nous allons de l'avant.

Comment fonctionne l'IA ?

Voici un bref résumé de l'article : « Cicero associe un module de dialogue contrôlable à un moteur de raisonnement stratégique. À chaque étape du jeu, Cicero modélise la manière dont les autres joueurs sont susceptibles d'agir en fonction de l'état du jeu et de leurs conversations. Il planifie ensuite comment les acteurs peuvent se coordonner dans leur intérêt mutuel et cartographie ces plans en messages en langage naturel » (ibid.).

Il y a une bouchée dans ce bref résumé.

Permettez-moi de faire un peu de déballage.

Un joueur humain qui joue Diplomatie doit anticiper ce que les autres joueurs humains vont faire. Vous voulez essayer de négocier avec d'autres joueurs et les amener à accepter vos plans. Ils essaieront de faire la même chose avec vous. Ils pourraient vous mentir. Vous pourriez leur mentir. Vous devez faire face à six autres joueurs, qui ont tous leur propre semblant de plans et d'approches.

Les aspects multi-agents de ce jeu sont essentiels au niveau de difficulté de conception de l'IA pour jouer au jeu. L'IA doit garder une trace de ce que chaque personne pourrait vouloir faire, ainsi que de ce qu'elle dit vouloir faire, ainsi que de toute supercherie qu'elle fait avec d'autres joueurs. Cela doit être mis en balance avec ce qu'ils vous disent qu'ils vont faire, et aussi avec ce que vous leur dites que vous allez faire.

Étourdissant, mais assez facile pour les humains, généralement.

Dans le langage du domaine de l'IA, nous appelons cela la théorie de l'esprit (ToM). Considérez que vous, en tant qu'humain, avez tendance à théoriser sur ce que les autres humains pensent. Vous ne pouvez pas ouvrir la caboche de quelqu'un et voir ses pensées. Vous devez deviner quelles sont leurs pensées. Vous pouvez leur demander, mais ce qu'ils vous disent pourrait être leurs pensées ou pourrait être une version sournoise de leurs pensées.

En plus des complexités de la théorie de l'esprit, nous devons ajouter le langage humain à ce mélange trouble.

Lorsqu'une personne communique avec vous dans sa langue naturelle, disons l'anglais, il y a beaucoup de place pour l'erreur et la mauvaise communication. Je vous dis que je vais m'emparer du pays X, mais je dis par erreur Y. Oopsie. Ou, ai-je dit pays X, mais vous pensiez à tort que j'avais dit pays Y. Si vous pensez que ce genre de confusion ne peut pas se produire si tout le monde utilise des SMS, vous vous trompez abondamment. Je peux taper un message qui dit que je vais attaquer un pays et je ne mentionne pas lequel. Peut-être est-il implicite de savoir lequel j'attaquerais "évidemment". Un joueur qui reçoit mon message pourrait supposer que je fais implicitement référence au pays X, mais peut-être que je voulais qu'il pense cela.

Ça continue encore et encore.

L'essentiel est que nos dernières avancées en matière d'IA concernant le traitement du langage naturel (NLP), et en particulier les dernières avancées en matière d'IA générative et de grands modèles de langage (LLM) rendent ce type de situation de langage naturel presque réalisable. Dans le passé, la PNL n'était généralement pas assez bonne et de même, les LLM n'étaient pas encore mieux établis.

Dans le passé, l'IA envoyait des messages que vous reconnaissez presque certainement immédiatement comme ayant été écrits par un système d'IA scripté. La formulation n'était pas fluide. Il a été modélisé. C'était un cadeau évident que l'IA était une IA. De nos jours, il est beaucoup plus difficile de discerner que l'IA n'est pas un acteur humain dans ces contextes.

Comme mentionné dans la citation ci-dessus, cette IA particulière a été conçue pour contenir un "module de dialogue contrôlable avec un moteur de raisonnement stratégique" (ibid). Le dialogue passe par ceci : "Cicéron génère un dialogue à l'aide d'un modèle de langage pré-formé qui a été davantage formé sur des données de dialogue provenant de jeux humains de Diplomatie. Fondamentalement, en plus d'être fondé à la fois sur l'historique du dialogue et l'état du jeu, le modèle de dialogue a été formé pour être contrôlable via des intentions, que nous définissons ici comme un ensemble d'actions planifiées pour l'agent et son interlocuteur.

Là, notez que le paramètre de domaine est crucial. Si vous ne vous entraîniez qu'aux dialogues de nature normale sur Internet, cela ne conviendrait pas nécessairement à la Diplomatie contexte de jeu. Ceux qui jouent au jeu sont habitués à une sorte de raccourci pour discuter du jeu et des coups proposés. Vous voulez que l'IA fasse de même. Ainsi, la formation du modèle de langage sur des données de dialogue spécifiques à un domaine est une approche remarquable.

Pour le moteur de raisonnement stratégique déclaré, voici ce qu'ils disent : « Cicero utilise un module de raisonnement stratégique pour sélectionner intelligemment les intentions et les actions. Ce module exécute un algorithme de planification qui prédit les politiques de tous les autres joueurs en fonction de l'état du jeu et du dialogue jusqu'à présent, en tenant compte à la fois de la force des différentes actions et de leur probabilité dans les jeux humains, et choisit une action optimale pour Cicéron en fonction de ces prédictions . La planification repose sur une fonction de valeur et de politique entraînée via l'auto-jeu RL qui pénalisait l'agent pour s'être trop éloigné du comportement humain afin de maintenir une politique compatible avec l'homme » (ibid ; notez que RL est l'abréviation de Reinforcement Learning).

Au cours d'une partie, les joueurs recalibrent tous leurs positions après chaque coup. Vous ne pouvez pas entrer dans ce jeu avec une stratégie fixe prédéfinie, inflexible et immuable. Vous devez modifier vos actions en fonction de ce que font les autres joueurs. L'IA doit être programmée pour faire de même. Pas de stratégie statique en soi. Au lieu de cela, continuez à informer la situation, étape par étape, en déterminant ce qui semble être les prochaines meilleures étapes à suivre.

Les fondements technologiques de l'IA ont été conçus de la manière suivante : "Nous avons obtenu un ensemble de données de 125,261 XNUMX jeux de Diplomatie joué en ligne sur webDiplomacy.net. Parmi ceux-ci, 40,408 12,901,662 jeux contenaient des dialogues, avec un total de XNUMX XNUMX XNUMX messages échangés entre joueurs. Les comptes des joueurs ont été anonymisés et la suppression automatisée des informations personnelles identifiables (PII) a été effectuée par webDiplomacy. Nous appellerons ci-après cet ensemble de données WebDiplomacy » (ibid).

Semblable à la façon dont vous pourriez entraîner l'IA à jouer aux échecs, dans laquelle vous saisissez des millions de jeux d'échecs et demandez à l'IA de faire correspondre les modèles sur la façon dont les jeux ont été joués, l'IA pour cela Diplomatie le jeu a été établi de manière comparable.

Ceux d'entre vous qui connaissent l'IA pourraient être curieux de savoir quels modèles de base ils ont utilisés, voilà : "Nous avons pris R2C2 (22) comme modèle de base - un modèle d'encodeur-décodeur basé sur un transformateur de paramètre 2.7B pré-formé sur texte provenant d'Internet à l'aide d'un objectif de débruitage BART. Le modèle pré-formé de base a ensuite été formé davantage sur WebDiplomacy via l'estimation de vraisemblance maximale standard »(ibid).

En outre, ils ont adopté une approche quelque peu inhabituelle et intrigante de la modélisation des autres joueurs quant à leurs politiques imputées : "Une approche populaire dans les jeux coopératifs consiste à modéliser les politiques des autres joueurs via un apprentissage supervisé sur des données humaines, ce qui est généralement appelé clonage comportemental (BC). Cependant, le BC pur est fragile, d'autant plus qu'un modèle supervisé peut apprendre de fausses corrélations entre le dialogue et les actions. Pour résoudre ce problème, Cicero a utilisé des variantes de piKL (26) pour modéliser les politiques des joueurs. piKL est un algorithme itératif qui prédit les politiques en supposant que chaque acteur i cherche à la fois à maximiser la valeur attendue de sa politique πi et à minimiser la divergence KL entre πi et la politique BC, que nous appelons la politique d'ancrage τi (ibid).

Je pense que cela couvre les facettes principales et vous donne un bon semblant de ce que fait l'IA et comment elle accomplit la tâche désignée.

Conclusion

Il y a beaucoup plus que j'aimerais mentionner, mais je suis long sur cette discussion et je vais essayer de couvrir quelques aspects clés. Je viserai à couvrir plus dans une publication ultérieure.

Avez-vous déjà entendu parler du dilemme du prisonnier ?

C'est un problème décisionnel classique.

Le dilemme du prisonnier implique que vous ayez à décider si vous allez dénoncer ou dénoncer un codétenu. L'autre prisonnier peut aussi éventuellement vous dénoncer. Il y a une fonction de récompense telle que si vous dénoncez l'autre prisonnier et qu'il ne vous dénonce pas, c'est en quelque sorte une victoire pour vous. S'ils vous dénoncent et que vous ne les dénoncez pas, c'est en quelque sorte une victoire pour eux et une posture perdante pour vous. Si vous vous dénoncez tous les deux, vous perdez tous les deux. Voir ma couverture en détail sur le lien ici.

Quelle stratégie proposeriez-vous face au dilemme du prisonnier ?

S'il s'agissait d'un accord unique, vous pouvez presque lancer une pièce. Si la situation se répétait encore et encore et que vous aviez affaire au même autre prisonnier, vous pourriez trouver une tendance qui pourrait émerger. L'un des modèles les plus populaires et souvent recommandés est connu sous le nom de branlette espagnole. Quoi que fasse l'autre prisonnier, vous faites de même lors de votre prochain coup. S'ils ne vous dénonceront pas, vous ne les dénoncerez pas. S'ils vous dénoncent, vous les dénoncez au prochain coup.

Vous pourriez être perplexe quant à la façon dont tout cela se rapporte à la diplomatie infusée par l'IA tout en jouant Diplomatie.

Voici l'affaire.

Dans les négociations avec les autres, vous devez souvent décider de leur dire la vérité ou de leur mentir. Un problème avec le mensonge est que si vous êtes pris en flagrant délit de mensonge, l'autre personne ne vous fera probablement plus confiance à partir de ce moment-là. Ils ne vous ont peut-être pas entièrement fait confiance au départ, mais maintenant que vous avez montré que vous mentez effectivement, ils décideront à coup sûr que vous êtes un menteur.

Certains joueurs de Diplomatie mentir constamment. Ils croient que c'est la meilleure stratégie. Mentir, mentir et encore des mensonges. D'autres joueurs font tout le contraire. Ils soutiennent que vous voulez vous abstenir de mentir si vous pouvez le faire. N'utilisez un mensonge que dans les situations les plus nécessaires. En épargnant le mensonge, vous êtes en mesure d'établir une relation de confiance avec les autres joueurs. Une fois que vous avez emprunté la voie du mensonge et que vous avez été détecté, personne ne croira un mot de ce que vous direz.

L'article décrivant Cicéron mentionne cette considération : « Enfin, la diplomatie est un domaine particulièrement difficile car le succès nécessite d'établir la confiance avec les autres dans un environnement qui encourage les joueurs à ne faire confiance à personne. Les actions de chaque tour se produisent simultanément après des négociations privées non contraignantes. Pour réussir, un agent doit tenir compte du risque que les joueurs ne respectent pas leur parole ou que d'autres joueurs doutent eux-mêmes de l'honnêteté de l'agent » (ibid.).

Selon l'article et les courtes vidéos, les chercheurs ont finalement découvert que faire en sorte que l'IA dise la vérité autant que possible semblait être la meilleure stratégie globale. Dans un sens, vous pourriez comparer cela au tit-for-tat du dilemme du prisonnier. Commencez par dire la vérité. Si votre adversaire dit la vérité, vous continuez à dire la vérité. S'ils commencent à mentir, vous devez déterminer s'il faut s'en tenir à dire la vérité ou passer au mensonge.

On suppose que c'est une découverte réconfortante.

Gardez à l'esprit que la partie délicate et intrigante de Diplomatie est que vous faites cela par rapport à six autres joueurs (connu sous le nom de problème multi-agents). Vous pourriez être véridique avec eux tous. Ou, peut-être véridique pour certains mais pas pour d'autres. Il y a aussi l'aspect qu'une fois que vous mentez et que vous êtes pris en train de mentir à un autre joueur, cela peut être potentiellement observé ou déduit par d'autres joueurs. Par conséquent, vous êtes connu ou supposé mentir, même si vous n'avez pas menti à un joueur en particulier qui, vous l'espérez, pense que vous êtes véridique et envers qui vous essayez d'être véridique.

Les humains ont tendance à comprendre et à faire évoluer leurs approches mensonge-vérité lorsqu'ils exercent la diplomatie. Les dépendances situationnelles peuvent être un facteur important. Les enjeux sur la ligne sont cruciaux à considérer. Une multitude de facteurs entrent en jeu.

Ce serait fascinant d'avoir une intelligence artificielle infusée Diplomatie joueur basé sur la machine joue un très grand nombre de jeux pour voir ce que les résultats pourraient suggérer dans l'ensemble.

Nous pourrions également vouloir opposer l'IA à moins de six autres joueurs pour voir comment cela change les choses. Nous pourrions également ajouter l'IA dans le mélange comme étant plus d'un joueur. Par exemple, supposons que nous ayons cinq joueurs humains et deux joueurs IA (nous allons configurer les joueurs IA comme des instances distinctes afin qu'ils ne soient pas identiques sur le plan informatique). Qu'en est-il de quatre humains et trois IA ? Qu'en est-il de six IA et d'un humain ?

Une autre piste serait d'opposer l'IA uniquement à l'IA. De cette manière, nous pourrions parcourir un million de jeux dans un ordre rapide. Configuration de sept instances distinctes de l'IA. Chacun est son propre joueur séparé. Comme tout est dans l'ordinateur, nous pouvons les exécuter sans arrêt et produire des milliers ou des millions d'instances de jeu.

Bien sûr, le problème avec l'IA contre l'IA est que nous avons supprimé les joueurs humains. Nous ne savons pas si l'IA contre l'IA reflète ce que feraient les joueurs humains. Dans tous les cas, des résultats intéressants pourraient être discernés.

J'avais déclaré plus tôt qu'une limitation de l'IA de ce type est qu'elle est généralement étroitement ciblée. Nous ne pouvons pas savoir facilement que l'IA qui joue Diplomatie sera applicable dans la diplomatie du monde réel. De plus, peut-être que l'IA qui fonctionne bien pour Diplomatie ne fera pas particulièrement bien dans d'autres jeux en ligne axés sur la diplomatie. Il pourrait ne pas être transféré et être plutôt une sorte de poney à un tour.

Comme indiqué dans la recherche sur la formulation de DipGame:

«Nous soutenons que dans de vraies négociations, il est important d'avoir une connaissance du domaine et qu'il faut pouvoir raisonner à ce sujet. On ne peut pas, par exemple, s'attendre à faire des affaires rentables dans le commerce des antiquités sans avoir aucune connaissance des antiquités, aussi bon soit-il en matière de négociation. Par ailleurs, un bon négociateur doit également être capable de raisonner sur les désirs de ses adversaires. Un bon vendeur de voitures, par exemple, essaierait de savoir quel type de voiture correspond le mieux aux besoins de son client pour augmenter les chances de conclure une transaction rentable » (selon cité précédemment : Angela Fabregues et Carles Sierra, « DipGame : A Challenging Negotiation Banc d'essai", Applications d'ingénierie de l'intelligence artificielle, octobre 2011).

Une fois la maîtrise de l'IA en Diplomatie se produit, tous les regards doivent être tournés vers l'utilisation ou la réutilisation de l'IA pour s'attaquer à d'autres jeux liés à la diplomatie. En outre, les efforts visant à utiliser l'IA dans des contextes diplomatiques réels devraient être explorés.

Je vais terminer pour l'instant sur quelques considérations éthiques en matière d'IA.

Tout d'abord, il était rassurant de remarquer que l'équipe Meta AI reconnaissait que son travail englobe les ramifications de l'éthique de l'IA. Des questions qui donnent à réfléchir se posent. Est-il approprié de "tromper" les gens pour qu'ils jouent contre l'IA sans leur dire qu'ils le font ? Le langage naturel généré par l'IA pourrait-il contenir par inadvertance des termes offensants transmis aux joueurs humains ? Etc.

Assurez-vous de jeter un coup d'œil à la manière dont ils ont traité ces préoccupations urgentes en matière d'IA éthique dans les documents supplémentaires (SM) de leur article : "Nous discutons des considérations éthiques pour cette recherche plus loin dans le SM, y compris les considérations de confidentialité pour l'utilisation des données (SM, § A.1), les préjudices potentiels résultant de la génération d'un langage toxique ou biaisé (SM, §A.2), les voies d'utilisation abusive de la technologie de dialogue axé sur les objectifs (SM, §A.3) et la divulgation d'agents d'IA aux joueurs humains (SM , §A.4) » (ibid.).

Nous avons besoin que davantage de développeurs d'IA et leurs dirigeants soient conscients de l'IA éthique et prennent des mesures conscientes pour être prudents et judicieux dans le travail d'IA qu'ils effectuent. De plus, ils doivent s'assurer qu'ils sont transparents sur les actions d'IA éthique qu'ils ont prises et sur les hypothèses qu'ils ont faites.

Mon dernier élément pour l'instant implique l'appréhension générale de anthropomorphiser AI.

Si nous améliorons l'IA pour qu'elle paraisse vivement diplomatique, cela induira-t-il les humains en erreur en supposant ou en croyant que l'IA est à égalité avec les humains à tous égards ?

C'est une pente glissante facile. Une IA maladroite avec laquelle vous interagissez donne un indice révélateur qu'il s'agit probablement d'une IA et non d'un humain. Une IA itérée en douceur qui a l'apparence d'un équilibre diplomatique suprême va probablement faire tomber les gens sans hésitation dans le piège selon lequel l'IA est humaine, y compris comme si elle avait le bon sens humain et toutes les capacités de compréhension des humains.

En aparté, réalisez aussi comment cela pourrait être exploité pendant un Diplomatie Jeu. Un joueur humain qui voit des messages apparemment poétiques d'un autre joueur pourrait se rendre compte que cela doit être une IA (maintenant bien au-delà de l'IA maladroite précédente), alors que d'autres humains ne seraient pas capables de composer des messages de manière aussi articulée. Bien sûr, si l'IA continue de s'adapter, elle pourrait modifier la formulation poétique pour refléter plus fidèlement la formulation laconique et lâche des joueurs humains réels. À leur tour, les joueurs humains pourraient basculer vers un langage poétique, essayant de montrer qu'ils sont humains. L'idée est que peut-être d'autres joueurs humains seront prêts à s'aligner sur d'autres humains sur l'IA.

La prochaine chose que vous savez, le jeu commence à se transformer en essayant de comprendre qui est l'humain et qui est l'IA. Si vous pouvez déterminer lequel est lequel, cela vous donnera peut-être un avantage. D'un autre côté, c'est peut-être pour non. L'IA pourrait finir par être aussi avisée que les humains. Votre supposition sur ce qui est qui ne vous fait pas beaucoup de bien. Cela pourrait être un distracteur de se concentrer uniquement sur la tentative de gagner le jeu, que des joueurs IA ou des joueurs humains soient à portée de main.

Pour les chercheurs qui cherchent à faire des études sur les facteurs humains sur ce type de conception hallucinante, vous pourriez potentiellement envisager d'utiliser l'IA infusée Diplomatie joueur et chercher disposé Diplomatie tournois de ligue pour étudier l'identification de l'humain contre l'IA et les stratégies d'adaptation comportementale qui se présentent.

Terminons cela.

Mark Twain a dit ceci à propos de la diplomatie : "Le principe du donnant-donnant est le principe de la diplomatie - donner un et prendre dix." Est-ce une évaluation honnête de la façon dont les humains fonctionnent ou est-ce juste un peu d'humour ironique qui évalue cyniquement mais incorrectement la condition humaine ?

Réfléchissez à ces autres questions :

Si nous pouvons imprégner la diplomatie dans l'IA, cela nous apprendra-t-il comment les humains instancient la diplomatie et permettront éventuellement à l'humanité de s'améliorer dans l'art d'être diplomatique ?
Allons-nous créer un mensonge de l'IA qui semble être sensible alors qu'il n'en est rien, tout cela en raison du fait de sortir par calcul un lapin d'un chapeau pour montrer une diplomatie apparemment humaine ?
Peut-on trouver un équilibre entre avoir une IA imprégnée de diplomatie pour qu'en attendant on soit alerté qu'il ne s'agit encore que d'une IA du quotidien et qu'il ne faut donc pas l'anthropomorphiser ?

On dit que la diplomatie est l'art de laisser quelqu'un faire ce qu'il veut. Assurons-nous que notre voie est la voie humaine, plutôt que la voie de l'IA. Bien que pour être diplomatique, maintenant que j'y réfléchis bien, et au cas où nous nous retrouverions avec des seigneurs de l'IA, nous devrions peut-être permettre que notre voie soit la voie de l'IA, qui, espérons-le, s'intègre dans une voie humaine appropriée.

J'essaie juste d'exercer un brin de diplomatie astucieuse.

Source : https://www.forbes.com/sites/lanceeliot/2022/11/23/meta-ai-unveils-ai-infused-diplomatic-charmer-which-stirs-ai-ethics-and-ai-law- en-tiff-indélicat/