L'éthique de l'IA et le match de lutte géopolitique pour savoir qui gagnera la course pour atteindre la véritable IA

Le monde est dans une course effrénée.

Les puissances géopolitiques affirment que le vainqueur remportera tout le bacon, pour ainsi dire.

Quelle course est férocement menée et poursuivie avec acharnement ?

C'est la course à l'IA.

Vous pourriez peut-être plus justement parler de la course pour atteindre oui Intelligence Artificielle (IA), actuellement appelée plus complètement Intelligence Artificielle Générale (AGI). Nous voulons en quelque sorte arriver à une IA apparemment extrême ou connue sous le nom d'AGI qui soit comparable à l'intelligence humaine. Nous n'en sommes pas encore là. En effet, malgré toutes sortes de gros titres sauvages et effrontés, nous ne savons pas quand ni si nous atteindrons cette barre haute. L'IA d'aujourd'hui a beaucoup moins de capacités que l'intelligence humaine globale, bien qu'il existe certainement de nombreuses façons plus étroites dans lesquelles l'IA a fait des incursions impressionnantes, comme la capacité de jouer aux échecs de classe mondiale ou d'effectuer d'autres tâches relativement limitées.

L'anneau d'or est cependant l'avènement de l'IA qui présente une intelligence humaine d'une nature dévote et d'une profondeur semblable à celle de l'humanité. C'est le Saint Graal des chercheurs et des praticiens de l'IA. De temps en temps, il y a eu des affirmations spécieuses selon lesquelles avoir déjà franchi la ligne d'arrivée de la course à l'IA, ce que j'ai démystifié dans ma chronique à le lien ici. Ceux qui essaient de faire des affirmations sur le franchissement de la ligne d'arrivée confondent le grand public et le font parfois par une innocence zélée tandis qu'à d'autres moments, ils ont des motifs sérieusement discutables en main. Dans l'ensemble, cela soulève des considérations assez importantes et vitales pour l'éthique de l'IA. Pour ma couverture continue et étendue de l'éthique de l'IA et de l'IA éthique, voir le lien ici ainsi que le lien ici, Juste pour en nommer quelques-uns.

Quoi qu'il en soit, il ne fait aucun doute qu'une course de sprint à l'échelle mondiale est en cours. Vous auriez du mal à prétendre le contraire.

Pense-y de cette façon. Si nous avions déjà réussi à obtenir une véritable IA ou AGI, il y a de fortes chances que la course à pied de l'IA aurait été officiellement et globalement déclarée conclue avec succès. Je vous assure que l'attention du monde entier serait rivée sur une percée aussi retentissante et bouleversante. Vous le sauriez. Nous le ferions tous. Le tableau de bord fou de l'IA n'existerait donc plus, bien qu'une version secondaire puisse peut-être se produire impliquant ceux qui n'avaient pas atteint la véritable IA travaillant fébrilement pour rattraper leur retard. Il y a aussi la question troublante de savoir comment nous finirons par contrôler ou gérer AGI si ou quand nous y arriverons.

Aucune personne, entité ou nation ne peut encore prétendre à la couronne de la production d'une véritable IA ou AGI.

Pendant ce temps, une quantité énorme et incessante de torsions a lieu pour savoir quelle nation (ou nations) est en tête du peloton et qui est à la traîne. L'hypothèse est que si vous n'êtes pas le premier, vous serez laissé dans la boue. Vous mangerez les restes des gagnants de l'IA. Vous allez potentiellement être à jamais soumis à la nation ou aux nations qui font le saut annoncé vers une véritable IA ou AGI.

En aparté rapide et pour faciliter la formulation de cette discussion, je vais désormais utiliser ici "AGI" chaque fois que je veux invoquer l'aura de la véritable IA. L'utilisation de l'expression un peu plus récente "AGI" est parfois choquante pour ceux qui ne sont pas habitués à la voir utilisée. Nous connaissons tous "AI" et vous pourriez être dérangé de voir l'acronyme "AGI" être utilisé à la place. Permettez-moi d'expliquer pourquoi cela émerge progressivement comme une tendance verbiage.

Une partie de la raison pour laquelle l'AGI s'est hissée dans l'arène de la langue vernaculaire de l'IA est que le simple fait d'énoncer "AI" est maintenant devenu une formulation malheureusement édulcorée. Personne ne sait si l'IA que vous mentionnez est la variante à peine IA ou une infusion d'IA quasi-meilleure, ou pourrait faire allusion à l'IA un jour futuriste entièrement assimilée à l'humain. Pour faire face à la surcharge de "IA" en tant que slogan, le surnom d'AGI a gagné la préférence des initiés du domaine de l'IA qui veulent faire spécifiquement et particulièrement allusion à la véritable IA.

Donc, en bref, considérez que ma mention de l'AGI revient à dire "une véritable IA" d'un calibre robuste semblable à l'intelligence humaine, merci.

Prenons une profonde respiration prudente et examinons attentivement certaines facettes de la course pour atteindre l'AGI. Il y a même un méta-aspect qui doit d'abord être énoncé. Sachez qu'il y a un peu de brûlures d'estomac à utiliser l'allégorie d'une course à pied supposée ou d'un autre type d'activité de course comme métaphore de la course AGI. Pourquoi donc? Je vais vous faire part momentanément des complications et des complexités de la raison pour laquelle (certains disent) une course à pied ou son équivalent est entièrement trompeuse et un point de vue simplet insidieux.

Voici les points clés que je vais aborder avec vous dans ce discours :

• S'il s'agit d'une course, la ligne d'arrivée AGI semble assez mal définie
• La course AGI peut aller à une personne, une entité ou une nation
• Métriques et comparaison des nations dans la course AGI
• Manœuvres géopolitiques et alignement pour la course AGI
• Les lois internationales sur l'IA et l'éthique de l'IA comme arbitres dans la course AGI

Vous voudrez peut-être attacher votre ceinture de sécurité pendant que j'examine la course à pied AGI qui se déroule de toute urgence (oui, j'ose l'appeler une course à pied) qui fait que presque tout le monde se déplace à une vitesse vertigineuse et semble monter en flèche dans cette quête brûlante. Certains pourraient dire qu'il s'agit d'une course pour l'amélioration de l'humanité, tandis que d'autres préviennent que la course pourrait être une catastrophe pour nous tous.

Le temps nous dira.

S'il s'agit d'une course, la ligne d'arrivée AGI semble assez mal définie

Une ligne d'arrivée est généralement une démarcation plutôt définitive. Soit vous avez atteint la ligne d'arrivée, soit vous ne l'avez pas fait. Être court ne semble pas vous faire beaucoup de bien. Imaginez un sprint olympique de 400 mètres et si vous vous en souviendriez particulièrement ou si vous feriez l'éloge des coureurs qui n'ont pas du tout terminé la course (n'ayant jamais franchi la ligne d'arrivée). Peu probable.

Saurons-nous quand nous aurons atteint l'AGI de sorte qu'il soit raisonnablement tous convenu que la ligne d'arrivée a été franchie ?

Il y a des désaccords passionnés sur la démarcation de l'AGI.

Par exemple, supposons que nous concevions une Intelligence Artificielle qui semble entièrement capable de montrer l'intelligence humaine, mais qu'il n'y a pas un semblant de sensibilité en soi (voir ma couverture des arguments sur la sensibilité de l'IA à le lien ici). L'IA est informatiquement capable d'imiter ou de fonctionner autrement comme le fait l'intelligence humaine. Il n'y a cependant pas une étincelle de vitalité ou de sensibilité que nous associons aux humains et aux autres créatures vivantes. Cet AGI compte-t-il comme atteignant l'objectif que nous pensions avoir ?

Certains répliqueraient que cela n'aurait pas d'importance si la sensibilité en soi semblait être enveloppée dans cet AGI. Tant qu'elle pourrait faire preuve d'intelligence humaine, l'incorporation de la sensibilité est quelque chose d'une variété différente que nous pourrions ou non souhaiter voir apparaître. La sensibilité dans ce sens des choses est un ajout.

D'autres soutiennent avec véhémence que le seul moyen d'atteindre l'intelligence humaine dans l'IAG sera d'incarner intégralement la sensibilité. L'AGI et la sentience sont soit considérées comme identiques, soit elles sont un mélange d'une double incarnation irréductible et inséparable. Pour obtenir AGI, vous devez avoir la sensibilité, diraient-ils.

Mis à part cet angle du débat, une autre perspective est que nous pourrions utiliser le fameux test de Turing pour évaluer si l'AGI a été atteint. J'ai couvert en profondeur le test de Turing à le lien ici. En bref, la notion consiste à ce qu'un humain pose des questions à l'AGI et si l'humain ne peut pas distinguer les réponses générées par l'AGI de celles de l'humanité, nous déclarerions alors l'AGI comme étant capable de faire preuve d'intelligence humaine.

Il y a beaucoup de problèmes ou de lacunes souvent associés au test de Turing.

Supposons que l'humain qui effectue les enquêtes fasse un travail moche et ne pose pas de questions approfondies. L'une des préoccupations est que bon nombre des grands modèles de langage (LLM) apparemment puissants d'aujourd'hui peuvent restituer à un humain le contenu sur lequel le LLM a été formé (c'est-à-dire le texte et les médias numériques souvent obtenus via le raclage à grande échelle d'Internet). En tant que tel, un humain particulièrement sélectionné posant des questions de type ordinaire auxquelles on a déjà répondu et qui existent en ligne peut potentiellement être facilement "répondu" par le LLM, mais cela n'est sans doute pas dû à une incarnation de l'intelligence humaine d'un calibre AGI.

Beaucoup d'autres scrupules surgissent. Supposons que l'humain est incapable de comprendre les réponses. Ou supposons que l'humain se leurre en croyant que les réponses sont toutes révélatrices de l'intelligence humaine. J'ai même couvert l'idée usée par certains que tout ce que nous devons faire est de demander à l'IA si elle est AGI ou est sensible, ce que je précise n'est pas une forme très convaincante de preuve AGI, voir le lien ici.

Enfin, comme une réflexion supplémentaire, faut-il atteindre complètement la ligne d'arrivée pour considérer que l'AGI a été atteint ?

J'ai mentionné plus tôt que nous oublions généralement ceux qui n'atteignent pas la ligne d'arrivée. Cela pourrait ne pas être sensiblement analogue à la course AGI. Je crois qu'un argument convaincant peut être avancé que si nous sommes capables d'atteindre un chemin substantiel vers l'AGI, nous allons déjà nous retrouver dans un état d'étonnement et soit de grands avantages, soit de grands problèmes. Vous voyez, de nombreux résultats importants et très utiles pourraient découler d'un AGI presque là. Être court ne sera pas aussi problématique que de ne pas terminer une course à pied de 400 mètres, d'autant plus que cela pourrait être une base vitale pour se diriger vers la version plus complète d'AGI (peut-être un marathon en comparaison).

La métaphore selon laquelle la réalisation de l'AGI est un type de course à pied ou son équivalent est parfois insatisfaisante et inadéquate.

La course AGI peut aller à une personne, une entité ou une nation

Certains nourrissent l'idée rêveuse que l'AGI va être atteint par un bricoleur travaillant dans le garage en pyjama et être un affleurement d'expériences d'informatisation follement inventives sur lesquelles ils travaillent depuis des années et des années. C'est le trope high-tech classique du loup solitaire.

Désolé de signaler qu'il s'agit d'une proposition de cotes extrêmement faible.

La plus grande probabilité serait qu'une entité telle qu'une entreprise ou une équipe de recherche soit les fonceurs de l'AGI. Une croyance forte et dominante est qu'il faudra un village pour arriver à AGI. Le loup solitaire n'aura pas les ressources ni les idées par lui-même pour atteindre AGI. Ils pourraient contribuer à la quête. Ils pourraient fournir les pièces nécessaires au puzzle. Ils ne seront pas capables de rassembler tout le kit et le caboodle.

En parlant de villages, un autre point de vue fermement ancré est que ce seront les nations qui ne pourront atteindre l'AGI. Via une combinaison de personnes, d'entreprises, d'universitaires et de toutes autres manières d'entités au sein d'un État-nation, l'AGI arrivera à la suite du travail combiné de la totalité nationale. Le niveau unitaire d'attention pour le vainqueur dans cette course est sur la base de l'État-nation, plutôt que sur quelque chose de plus dispersé, de forme libre ou individualiste.

En bref, s'il faut un village, le village sera à l'échelle nationale, donc l'État-nation sera le coureur désigné qui franchira la ligne d'arrivée de la course AGI.

Métriques et comment les nations sont comparées dans la course AGI

Tenez pour acquis que la réalisation de l'AGI sera basée au niveau de l'État-nation.

Pour réitérer, nous ne le savons pas avec certitude, mais cela semble une hypothèse raisonnée.

Considérez les ramifications de la base de l'État-nation. Supposons qu'un loup solitaire réussisse à atteindre l'AGI en premier et pense que son travail dépasse celui de l'État-nation dont il est membre. Cette personne proclame qu'elle n'appartient à aucun État-nation en termes d'AGI conçu. Donnerions-nous encore du crédit à cet État-nation et l'AGI serait-elle sous le contrôle et la compétence de cette nation ?

Imaginez une autre alternative qu'un grand conglomérat multinational arrive d'abord à AGI. Quelle nation peut dire que l'AGI est leur "chose" à utiliser et à déployer (sera-t-elle interprétée comme une propriété ou glanera-t-elle plutôt une variante de la personnalité juridique) ? Peut-être que toutes les nations dans lesquelles l'entreprise existe doivent obtenir un crédit égal. Ou peut-être seulement là où le siège social officiel est géographiquement situé. Il pourrait s'agir d'un fractionnement complexe d'un véritable pot d'or.

Dans tous les cas, l'opinion populaire générale est qu'un État-nation va être le déterminant crucial de l'atteinte de l'AGI. Un pays qui encourage la recherche et le développement de l'IA dans le cadre de ses efforts nationaux arrivera probablement à l'IAG plus tôt que les autres pays qui ne font pas de même.

Il existe une opinion prédominante selon laquelle la course à l'IA est une course nationale.

Une question qui gratte la tête est de savoir comment déterminer si une nation est en avance ou en retard sur une autre nation dans la course AGI.

Dans une course à pied conventionnelle, nous pourrions facilement identifier les mesures qui peuvent être utilisées pour déterminer quels coureurs vont bien et lesquels ne le font pas. La vitesse du coureur peut être facilement calculée. Cela ne garantit pas qu'ils finiront premiers, mais cela semble au moins prometteur. La distance physique entre les coureurs et la distance restant à parcourir jusqu'à la ligne d'arrivée sont évidemment des critères essentiels que l'on peut facilement mesurer.

La course AGI n'a pas ce genre de formes assurées de métriques ou de mesures.

Nous utilisons toutes sortes de mesures de substitution car il n'existe aucun moyen définitif de calculer où se trouve la ligne de fin et ni à quelle distance nous en sommes.

Jetons un coup d'œil aux types de métriques traditionnellement considérés. Une source particulièrement pratique de mesures mondiales liées à l'IA est collectée et publiée chaque année par le Stanford Institute for Human-Centered AI (HAI) de l'Université de Stanford. Le rapport est disponible en ligne gratuitement et la dernière version est intitulée Rapport annuel 2022 de l'indice AI (sur la base des données collectées pour 2020-2021). Je partagerai avec vous dans un instant quelques faits saillants des comparaisons nationales mentionnées dans leur dernière compilation.

Les mesures utilisées pour évaluer les progrès nationaux et internationaux en matière d'IA ont tendance à inclure un peu de tout, parfois à la limite de l'inclusion du véritable évier de cuisine.

Les types de mesures généralement examinés comprennent :

• Nombre d'articles de recherche sur l'IA attribués à une nation particulière
• Nombre de références citées à des articles sur l'IA d'un pays particulier
• Nombre de revues d'IA basées dans un pays particulier
• Nombre de conférences sur l'IA organisées dans un pays donné
• Nombre de conférences sur l'IA parrainées par un pays en particulier
• Nombre de brevets liés à l'IA délivrés dans un pays donné
• Nombre de startups d'entreprises d'IA dans un pays donné
• Nombre d'emplois en IA dans un pays donné
• Nombre de nouveaux emplois ou embauches en IA dans un pays particulier
• Nombre de lois ou de projets de loi sur l'IA introduits dans un pays particulier
• Nombre de lois sur l'IA adoptées ou promulguées dans un pays donné
• Autre

Considérez ces indications contemporaines du HAI AI Index 2022 :

• Citations des publications sur l'IA : "En ce qui concerne les citations des publications du référentiel d'IA, les États-Unis arrivent en tête de liste avec 38.6 % des citations globales en 2021, établissant une avance dominante sur l'Union européenne plus le Royaume-Uni (20.1 %) et la Chine (16.4 %). »
• Revues/conférences sur l'IA : « En 2021, la Chine a continué de dominer le monde pour le nombre de publications dans les revues, les conférences et les référentiels d'IA, soit 63.2 % de plus que les États-Unis avec les trois types de publication combinés. Dans l'intervalle, les États-Unis détenaient une avance dominante parmi les principales puissances de l'IA dans le nombre de citations de conférences et de référentiels.
• Brevets IA : « La Chine dépose désormais plus de la moitié des brevets mondiaux sur l'IA et en obtient environ 6 %, soit à peu près la même chose que l'Union européenne plus le Royaume-Uni. Les États-Unis, qui déposent presque tous les brevets en Amérique du Nord, le font au tiers du taux de la Chine. Par rapport au nombre croissant de brevets d'IA déposés et accordés, la Chine compte un nombre bien plus élevé de demandes de brevet (87,343 2021 en 1,407) que de demandes accordées (2021 XNUMX en XNUMX).
• Entreprises d'IA nouvellement financées : « Données d'investissement par nombre d'entreprises d'IA nouvellement financées dans chaque région. Pour 2021, les États-Unis étaient en tête avec 299 entreprises, suivis de la Chine avec 119, du Royaume-Uni avec 49 et d'Israël avec 28. Les écarts entre chacun sont importants.
• Rythme de recrutement de l'IA : "La Nouvelle-Zélande, Hong Kong, l'Irlande, le Luxembourg et la Suède sont les pays ou régions qui ont enregistré la plus forte croissance de l'embauche en IA de 2016 à 2021. »
• Offres d'emploi IA : «En 2021, la Californie, le Texas, New York et la Virginie étaient les États avec le plus grand nombre d'offres d'emploi en IA aux États-Unis, la Californie ayant plus de 2.35 fois plus d'offres d'emploi que le Texas, le deuxième plus grand. Washington, DC, avait le plus grand taux d'offres d'emploi en IA par rapport à son nombre total d'offres d'emploi
• Action législative sur l'IA : "Une analyse AI Index des dossiers législatifs sur l'IA dans 25 pays montre que le nombre de projets de loi contenant" l'intelligence artificielle "qui ont été adoptés dans la loi est passé de seulement 1 en 2016 à 18 en 2021. L'Espagne, le Royaume-Uni et les États-Unis adopté le plus grand nombre de projets de loi liés à l'IA en 2021, chacun en adoptant trois.

Nous pouvons abondamment admirer et apprécier le travail acharné impliqué dans la compilation de ces statistiques de coureurs d'États-nations pour la course AGI.

Les sceptiques ergotent cependant un peu sur l'utilisation de tout type de métrique dans l'engagement de course AGI.

La question épineuse est de savoir si vous pouvez tracer une sorte de ligne droite entre le nombre d'articles ou de conférences sur l'IA dans un pays particulier et la réalisation ultime de l'IAG. Il en va de même pour le nombre d'emplois en IA, le nombre d'entreprises d'IA et la multitude d'autres mesures. Il se pourrait que ces chiffres aient peu à voir avec l'atteinte de l'AGI. L'argument est que ces mesures sont plus de chaleur que de lumière.

Le contre-argument est que nous devons essayer de mesurer où nous en sommes et où nous allons. Mettre la tête dans le sable ne semble pas être un moyen viable d'évaluer si nous nous dirigeons vers l'AGI ou peut-être plus loin de l'AGI. On espère et on suppose généralement que plus d'énergie et d'attention seront accordées aux progrès de l'IA, plus nous nous rapprocherons de l'IAG. Ces mesures sont les meilleures que nous puissions faire pour glaner la quantité d'énergie et d'attention allouée et consommée dans la course AGI.

Rond et rond qui va.

Chacune des métriques peut à elle seule être battue sur la tête.

Par exemple, considérez le nombre de lois législatives ou de projets de loi sur l'IA.

Vous pouvez affirmer que si les législateurs se concentrent sur les lois liées à l'IA, c'est un bon signe que la nation prend assez sobrement l'importance de l'IA et les ramifications sociétales de la direction que prend l'IA. On peut faire valoir que cela montre que de nombreux efforts de promotion de l'IA sont en cours dans ce pays particulier. Pourquoi vous donneriez-vous la peine de promulguer des lois sur l'IA à moins que l'IA ne soit particulièrement en plein essor et bouillonne en tant qu'élément démonstratif de votre nation ?

De cette manière, les pays qui promulguent de nouvelles lois sur l'IA sont interprétés comme un signe révélateur ou un signal indiquant que les progrès de l'IAG sont bien avancés dans ce pays.

Certains critiques affirment que les nouvelles lois proposées sur l'IA vont étouffer les efforts d'IA au sein de chaque pays en particulier. Les législateurs et les dirigeants politiques vont se tirer une balle dans la tête. Les lois vont prématurément jeter une ombre sombre sur les efforts d'IA en cours dans ce pays spécifique. Le robinet d'avancement de l'IA va se bloquer avec l'obstruction légale des cheveux et le rythme des progrès de l'AGI ralentira jusqu'à un filet dans cette nation proclamant la loi sur l'IA. En attendant, d'autres pays qui n'adoptent pas ce genre de lois sur l'IA continueront sans relâche. C'est comme si vous décidiez de mettre des poids de plomb sur un coureur qui est déjà sur la piste de 400 mètres. Si vous vouliez les aider et les accélérer, vous avez fait exactement le contraire.

Whoa, la réplique va, la promulgation de lois sur l'IA s'apparente davantage à s'assurer qu'il n'y a pas de barrages routiers inutiles devant le coureur. Les lois fournissent des conseils de la même manière que les lignes sur l'hippodrome sont là pour maintenir le coureur en douceur dans la bonne direction. Sans ces lignes peintes, les coureurs pourraient devenir fous. Les nouvelles lois sur l'IA les maintiendront à l'unisson vers un résultat souhaitable. Les pays qui ne font pas de même en termes de nouvelles lois sur l'IA verront leurs coureurs aller dans toutes les directions folles, y compris éventuellement sortir complètement de la piste et blesser ceux qui sont innocents au-delà de la course AGI elle-même.

Il existe également des lois «cachées» liées à l'IA que certains comptent et pendant ce temps, d'autres ne comptent pas dans le cadre de ces mesures (ce qui crée un méli-mélo lorsque vous essayez de comparer les décomptes).

Par exemple, si un pays promulgue une loi concernant les véhicules autonomes tels que les voitures autonomes, comptez-vous cela comme une loi sur l'IA ? Pour clarifier, un véhicule autonome tel qu'une voiture autonome entièrement autonome disposera d'un système de conduite IA qui est au cœur des capacités sans conducteur (voir ma couverture sur le lien ici). En raison de l'IA impliquée, toute loi sur les véhicules autonomes pourrait être judicieusement considérée comme essentiellement des lois sur l'IA. D'un autre côté, vous pourriez affirmer de manière convaincante que la loi concerne le véhicule autonome et non l'IA en soi, donc cela ne compte pas dans le comptage des lois spécifiques à l'IA.

C'est désordonné.

Toute cette consternation à propos des métriques pourrait vous amener à hausser les épaules au milieu des points de vue opposés polaires sur ces considérations importantes. Comme cela peut être évident, les mesures sont presque toujours sujettes à des interprétations disparates sur ce qu'elles signifient et sur la manière dont le statut d'une nation concernant l'AGI est correctement analysé.

Manœuvres géopolitiques et alignement pour la course AGI

Quelles nations sont en tête dans la course AGI ?

Quelles nations sont à la traîne ?

Les mesures susmentionnées tentent de montrer où se trouve actuellement chacun des coureurs. Une hypothèse de base est que si les mesures dépeignent une indication appropriée du positionnement de recherche d'AGI, ces différentes positions de pôle pourraient rester les mêmes au fil du temps. Bien sûr, la réalité est que l'intérêt et l'attention nationaux peuvent augmenter ou diminuer pendant le chemin cahoteux vers l'IAG. Vous pourriez être plus sage de vous attendre à des changements de positionnement.

Une considération importante est que les nations ne sont pas vraiment seules dans cette course.

Les nations sont susceptibles de se passer le relais entre elles. La course AGI a parfois une ou plusieurs nations qui travaillent volontiers main dans la main. Parfois, cela se fait avec prudence plutôt qu'avec une joie amicale. Dans d'autres cas, les nations pourraient se retenir les unes les autres. À tout instant, la posture de course peut être assez différente de ce qu'elle était quelques pas en arrière, et peut être assez différente quelques pas dans le futur.

Considérez ce point soulevé par le rapport HAI AI Index 2022 sur les collaborations entre pays : « Malgré la montée des tensions géopolitiques, les États-Unis et la Chine ont eu le plus grand nombre de collaborations entre pays dans les publications sur l'IA de 2010 à 2021, cinq fois plus depuis 2010. La collaboration entre les deux pays a produit 2.7 fois plus de publications qu'entre le Royaume-Uni et la Chine, le deuxième plus élevé de la liste.

Les cyniques diraient que l'utilisation de collaborations croisées est peut-être parfois une ruse. Une nation pourrait ouvertement prétendre qu'elle collabore de manière croisée, semblant le faire en surface, alors qu'au fond, elle garde ses meilleurs progrès AGI un secret national caché. Peut-être que cela est fait pour freiner les progrès de la nation de la collaboration croisée. Peut-être que cela est fait pour s'assurer que la sauce secrète n'est pas distribuée par inadvertance. Toutes sortes de raisons sont possibles.

Dans le monde en ligne moderne de l'Internet numérique d'aujourd'hui, essayer de garder secrètes les informations AGI peut être une corvée difficile. Le désir intense de découvrir ou d'inventer l'AGI est un attrait convaincant qui peut inciter les développeurs et les chercheurs AGI individuels à partager ouvertement leurs derniers travaux. Les nations peuvent trouver qu'essayer de limiter un tel partage est beaucoup plus difficile qu'il n'y paraît, et probablement beaucoup plus difficile qu'à l'époque où tout était sur papier et nécessitait de déplacer physiquement des documents dans le monde entier.

Le mouvement vers l'open source a certainement été un accent contemporain pour une grande partie des dernières recherches sur l'IA et l'IAG, comme mentionné dans le rapport HAI AI Index 2022 : "Chaque année, des milliers et des milliers de publications sur l'IA sont publiées en open source, que ce soit à conférences ou sur des sites de partage de fichiers. Les chercheurs partageront ouvertement leurs découvertes lors de conférences; les agences gouvernementales financeront la recherche sur l'IA qui aboutira à l'open-source ; et les développeurs utilisent des bibliothèques de logiciels ouvertes, librement accessibles au public, pour produire des applications d'IA de pointe. Cette ouverture contribue également à la nature mondialement interdépendante et interconnectée de la R&D moderne en IA. »

Dans l'ensemble, les nations partagent généralement et pourtant ne montrent peut-être qu'une partie de leur part. D'autres nations pourraient ne pas partager ou faire semblant de le faire. Certaines nations luttent puissamment pour essayer d'évaluer ce que ceux au sein de leur nation donnent plutôt que de s'accrocher. Etc.

J'ai caractérisé la nature de ces mouvements nationaux de ces manières :

• Nation autonome de l'IA (essaie de continuer tout seul)
• Nation IA à sens unique (prend, ne donne pas)
• Nation restante de l'IA (obtient ce qu'il peut des autres)
• Nation de partage ouvert de l'IA (se targue de partager)
• AI Hollow-partage Nation (faux dans le partage)
• Nation Alliances IA (en essayant de faire autant d'alliances que possible)
• IA Pas dans le jeu Nation (la recherche d'AGI n'est pas une priorité nationale)
• Nation tricheuse de l'IA (ingénierie inverse ou vol sournois d'autres nations)
• Autre

Une nation peut être dans plus d'un de ces seaux à la fois.

Une nation peut être dans l'un de ces seaux pendant un certain temps, sortir du seau et éventuellement y revenir plus tard.

Les désirs et l'attention de l'État-nation concernant la recherche d'AGI sont un flux et reflux dynamique qui continuera assurément et sera une cible mouvante quant à savoir quelle nation se trouve où dans la course, et un œil constant sera nécessaire pour comprendre où tous les acteurs sont positionnés à un instant donné.

Les lois internationales sur l'IA et l'éthique de l'IA en tant qu'arbitres dans la course AGI

Dans les colonnes précédentes, j'ai couvert les divers efforts nationaux et internationaux pour élaborer et promulguer des lois réglementant l'IA, voir le lien ici ainsi que le lien ici, par exemple. J'ai également couvert les divers principes et directives d'éthique de l'IA que divers pays ont identifiés et adoptés, y compris par exemple l'effort des Nations Unies tel que l'ensemble d'éthique de l'IA de l'UNESCO que près de 200 pays ont adopté, voir le lien ici.

Voici une liste clé utile de critères ou de caractéristiques éthiques de l'IA concernant les systèmes d'IA que j'ai déjà explorés de près :

• Transparence
• Justice et équité
• Non-malfaisance
• Responsabilité
• Confidentialité
• Bienfaisance
• Liberté & Autonomie
• La confiance
• Durabilité
• Dignité
• Solidarité

Ces principes d'éthique de l'IA sont sincèrement censés être utilisés par les développeurs d'IA, ainsi que par ceux qui gèrent les efforts de développement de l'IA, et même ceux qui finissent par mettre en place et effectuer l'entretien des systèmes d'IA.

Toutes les parties prenantes tout au long du cycle de vie de développement et d'utilisation de l'IA sont considérées dans le cadre du respect des normes en cours d'établissement de l'IA éthique. Il s'agit d'un point culminant important puisque l'hypothèse habituelle est que "seuls les codeurs" ou ceux qui programment l'IA sont soumis à l'adhésion aux notions d'éthique de l'IA. Comme souligné précédemment ici, il faut un village pour concevoir et mettre en œuvre l'IA, et pour lequel tout le village doit connaître et respecter les préceptes d'éthique de l'IA.

Considérons l'impact et la nature vitale des lois internationales sur l'IA et des proclamations internationales des préceptes d'éthique de l'IA sur la course AGI.

Les nations qui s'efforcent d'atteindre l'AGI pourraient le faire avec abandon et se retrouver à se diriger vers certains des risques existentiels souvent popularisés de l'AGI. L'espoir est qu'en mettant en place des lois internationales sur l'IA et des préceptes internationaux d'éthique de l'IA, les nations seront guidées vers AI pour de bon et évitez AI pour le mal.

Selon notre analogie avec les hippodromes, ces lois sur l'IA et ces considérations d'éthique de l'IA reviennent à essayer d'empêcher les coureurs de sortir de la piste. Il y a d'immenses tentations de prendre des raccourcis dans la course AGI. Ces raccourcis pourraient mener une nation vers le chemin de la ligne d'arrivée apparemment plus tôt, tout en mettant simultanément cette nation et d'autres nations en danger indu. Un exemple subtil mais révélateur consiste en l'IA à double usage, que j'ai examinée à le lien ici, par lequel une avancée de l'IA est facilement commutée avec peu d'efforts pour passer de la bonté à la production d'une méchanceté cataclysmique.

Vous pourriez affirmer que les lois internationales sur l'IA et l'éthique internationale sur l'IA sont comme des arbitres ou des arbitres.

Une hypothèse est que ces mécanismes juridiques et éthiques conçus au niveau international maintiendront la course AGI sur une quille plus régulière. Le fait est que certaines nations choisissent de tenir compte des arbitres ou des arbitres est une autre affaire. De même, il y a une question épineuse de savoir comment ces autorités peuvent prévoir des pénalités ou des incitations pour maintenir les coureurs sur la bonne voie. Il y a de fortes chances que les nations fassent ce qu'elles souhaitent faire, pour lesquelles d'autres nations pourraient avoir besoin de déplacer leur poids pour renforcer le soutien à la violation des règles hors du chemin que certaines nations sont tenues d'entreprendre.

Conclusion

Louis Pasteur, le légendaire chimiste et microbiologiste, a dit ceci : « La science ne connaît pas de pays, car la connaissance appartient à l'humanité et est la torche qui illumine le monde. La science est la plus haute personnification de la nation parce que cette nation restera la première qui portera le plus loin les travaux de la pensée et de l'intelligence.

Pouvons-nous dire que la réalisation de l'AGI ne connaît aucun pays et que l'AGI appartiendra à toute l'humanité ?

Ou la nation qui arrive la première à l'AGI en sera-t-elle possessive, s'enivrera-t-elle d'un pouvoir abject et deviendra-t-elle folle de pouvoir ?

Pour ceux d'entre vous qui aiment un peu une tournure sur cette énigme particulière, considérez que l'AGI pourrait en soi être le type de réalisation qui est le serpent proverbial dans l'herbe. Le découvreur du serpent pourrait être le premier à se faire mordre. Être le premier a ses risques.

Franchir la ligne d'arrivée sur AGI ne sera pas nécessairement aussi festif et insouciant que certains pourraient le penser. L'exploitation de l'AGI ne sera pas non plus nécessairement facile. Certains pourraient soutenir que faire face à l'AGI pourrait être presque impossible puisque l'AGI aura apparemment la sournoiserie et l'ingéniosité comparables à celles de l'humanité. Les nations doivent être conscientes de ce qu'elles essaient d'atteindre et du résultat, le faire à l'avance et ne pas se faire prendre par surprise. Ils pourraient avoir un nid de frelons dans leur coffre au trésor national.

Comme le disait Pasteur : « La fortune sourit aux esprits préparés.