Creuser dans le buzz et la fanfare sur l'IA générative ChatGPT, y compris les considérations imminentes sur l'éthique de l'IA et la loi sur l'IA

Je suppose que vous avez déjà entendu parler ou peut-être vu des gros titres ou des publications sur les réseaux sociaux vantant l'utilisation la plus récente et la plus récente de l'IA qui génère des récits apparemment écrits par des humains via une application d'IA connue sous le nom de ChatGPT.

Si vous n'avez pas entendu parler ou lu à propos de cette nouvelle application AI, ne vous inquiétez pas, je vais vous mettre au courant.

Pour ceux d'entre vous qui connaissent déjà ChatGPT, vous trouverez peut-être un vif intérêt pour certains de mes scoops d'initiés sur ce qu'il fait, comment il fonctionne et ce qu'il faut surveiller. Dans l'ensemble, presque tous ceux qui se soucient de l'avenir voudront inévitablement découvrir pourquoi tout le monde est agité par cette application d'IA.

Pour clarifier, les prédictions rampantes sont que ce type d'IA va changer des vies, y compris la vie de ceux qui ne connaissent pas encore ChatGPT ou toute autre capacité d'IA de ce type. Comme je vais l'expliquer momentanément, ces applications d'IA vont avoir des répercussions assez étendues d'une manière que nous commençons seulement à anticiper.

Préparez-vous pour les montagnes russes connues sous le nom de IA générative.

Je commencerai par quelques informations clés sur l'IA générative et utiliserai le scénario le plus simple qui implique une IA qui génère de l'art. Après vous avoir expliqué cette fondation, nous passerons à l'IA générative qui génère des récits orientés texte.

Pour ma couverture continue et étendue de l'IA dans son ensemble, y compris l'éthique de l'IA et le droit de l'IA, voir le lien ici ainsi que le lien ici, Juste pour en nommer quelques-uns.

L'IA générative qui produit de l'art généré

Je me réfère à ce type ou style d'IA comme étant génératif qui est la terminologie des aficionados de l'IA utilisée pour décrire l'IA qui génère des sorties telles que du texte, des images, des vidéos, etc.

Vous avez peut-être remarqué plus tôt cette année qu'il y avait une grande vague de pouvoir générer des images artistiques en entrant une ligne ou deux de texte. l'idée est plutôt simple. Vous utilisez une application AI qui vous permet de saisir le texte de votre choix. Par exemple, vous pourriez taper que vous voulez voir à quoi ressemblerait une grenouille avec un chapeau au sommet d'une cheminée. L'application AI analyse ensuite vos mots et essaie de générer une image qui correspond généralement aux mots que vous avez spécifiés. Les gens ont beaucoup aimé générer toutes sortes d'images. Les médias sociaux en sont devenus obstrués pendant un certain temps.

Comment l'IA générative traite-t-elle les aspects de génération ?

Dans le cas du style text-to-art de l'IA générative, une multitude d'œuvres d'art en ligne ont été pré-scannées via des algorithmes informatiques et les éléments de l'art numérisé ont été analysés par ordinateur pour les composants impliqués. Imaginez une image en ligne qui contient une grenouille. Imaginez une autre image séparée contenant une cheminée. Pourtant, une autre image contient un chapeau. Ces composants sont identifiés par calcul, parfois sans assistance humaine et parfois via des conseils humains, puis une sorte de réseau mathématique est formulé.

Lorsque vous venez plus tard et que vous demandez à générer une œuvre d'art avec une grenouille avec un chapeau sur une cheminée, l'application AI utilise le réseau mathématique pour trouver et assembler ces éléments. L'image d'art qui en résulte peut ou non sortir comme vous l'espériez. Peut-être que la grenouille est laide. Le chapeau pourrait être un grand chapeau de tuyau de poêle, mais vous souhaitiez un chapeau de style derby plus mince. Pendant ce temps, l'image de la grenouille se tient sur la cheminée alors que vous cherchiez à faire asseoir la grenouille à la place.

L'avantage de ces types d'applications d'IA est qu'elles vous permettent généralement de répéter votre demande et d'ajouter des spécifications supplémentaires si vous le souhaitez. Ainsi, vous pourriez répéter votre demande et indiquer que vous voulez une belle grenouille avec un chapeau melon qui est assis sur une cheminée. Voila, l'image nouvellement générée pourrait être plus proche de ce que vous vouliez.

Certains se sont demandé si l'IA ne fait que régurgiter précisément ce sur quoi elle a été entraînée. La réponse est non (généralement). L'image d'une grenouille que l'IA présente pour votre demande n'est pas nécessairement une copie exacte d'une image similaire qui se trouvait dans l'ensemble d'apprentissage. La plupart de ces applications d'IA génératives sont configurées pour généraliser toutes les images qu'elles trouvent à l'origine. Pense-y de cette façon. Supposons que vous ayez collecté un millier d'images de grenouilles. Vous pouvez choisir de comprendre progressivement à quoi ressemble une grenouille, en rassemblant un millier d'images que vous avez trouvées. En tant que tel, la grenouille que vous finissez par dessiner n'est pas nécessairement exactement comme celles que vous avez utilisées à des fins d'entraînement.

Cela étant dit, il est possible que l'algorithme d'IA ne fasse pas autant de généralisation qu'on pourrait le supposer. S'il existe des images d'entraînement uniques et aucune autre du même type, il se peut que l'IA « généralise » assez près de la seule instance spécifique qu'elle a reçue. Dans ce cas, la tentative de l'algorithme de produire ultérieurement une image demandée de cette nature pourrait ressembler considérablement à tout ce qui se trouvait dans l'ensemble d'apprentissage.

Je vais m'arrêter un instant pour présenter quelques réflexions liées à l'éthique de l'IA et à la loi sur l'IA.

Comme mentionné, si l'IA générative est formée sur Internet, cela signifie que tout ce qui a été publié publiquement sur Internet sera peut-être utilisé par l'algorithme d'IA. Supposons alors que vous ayez une œuvre d'art astucieuse sur laquelle vous avez travaillé et croyez que vous possédez les droits sur l'œuvre d'art. Vous publiez une photo de celui-ci en ligne. Toute personne souhaitant utiliser votre œuvre d'art est censée venir vous voir et vous payer une redevance pour cette utilisation.

Vous sentez peut-être déjà où cela se dirige.

Accrochez-vous pour les mauvaises nouvelles.

Ainsi, une application d'IA générative qui se forme en examinant largement le contenu sur Internet détecte votre merveilleuse œuvre d'art. L'image de votre œuvre est absorbée par l'application AI. Les caractéristiques de votre talent artistique sont maintenant mathématiquement combinées avec d'autres œuvres d'art numérisées. Lorsqu'on lui demande de générer une œuvre d'art, l'IA peut tirer parti de votre pièce lors de la composition d'une image d'art nouvellement générée. Les personnes qui recueillent l'art pourraient ne pas se rendre compte que, dans un sens, l'art a vos empreintes digitales particulières partout, car l'algorithme d'IA s'est quelque peu imprimé sur votre chef-d'œuvre.

Il est également possible que si votre œuvre d'art était extraordinairement unique, elle puisse être réutilisée par l'application AI dans un plus grand semblant de mettre en valeur le talent artistique. En tant que tel, parfois, votre illustration peut être à peine reconnaissable dans certaines illustrations d'IA nouvellement générées, tandis que dans d'autres cas, il se peut que l'illustration générée soit presque une image crachée de ce que vous avez deviné.

Il est donc temps d'intégrer l'éthique de l'IA dans ce scénario.

Est-il éthiquement approprié ou approprié que l'IA générative ait généré des œuvres d'art qui présentent des similitudes avec votre art ?

Certains disent oui, et d'autres disent non.

Le camp du oui, estimant que c'est parfaitement acceptable d'un point de vue éthique, dira peut-être que puisque vous avez mis votre œuvre en ligne, elle est ouverte à quiconque veut la copier. En outre, ils pourraient prétendre que le nouvel art n'est pas une copie exacte de votre travail. Ainsi, vous ne pouvez pas vous plaindre. Si nous arrêtions d'une manière ou d'une autre toute réutilisation de l'art existant, nous n'aurions jamais de nouvel art à regarder. De plus, nous pourrions vraisemblablement entrer dans un débat houleux sur la question de savoir si votre œuvre d'art particulière était copiée ou exploitée - il pourrait s'agir d'une autre œuvre d'art dont vous ne saviez même pas qu'elle existait et qui était en fait la source sous-jacente.

Le camp du non insisterait fortement sur le fait que cela est tout à fait contraire à l'éthique. Il n'y a pas deux façons de faire. Ils diraient que vous vous faites arnaquer. Ce n'est pas parce que votre œuvre est publiée en ligne que n'importe qui peut venir la copier librement. Peut-être avez-vous posté l'art avec un avertissement sévère de ne pas le copier. Pendant ce temps, l'IA est arrivée et a supprimé l'art et a complètement ignoré les avertissements. Scandaleux! Et l'excuse selon laquelle l'algorithme d'IA s'est généralisé et ne fait pas le fond de la copie précise semble être l'une de ces fausses excuses. Il a compris comment exploiter votre talent artistique et c'est une imposture et une honte.

Qu'en est-il des aspects juridiques de cette IA générative ?

Il y a beaucoup de réflexions sur les détails juridiques de l'IA générative. Consultez-vous les lois fédérales sur les droits de propriété intellectuelle (PI) ? Sont-ils suffisamment stridents pour postuler? Qu'en est-il lorsque l'IA générative traverse les frontières internationales pour collecter l'ensemble de formation ? L'œuvre d'art générée par l'IA entre-t-elle dans les différentes catégories d'exclusion associées aux droits de propriété intellectuelle ? Etc.

Certains pensent que nous avons besoin de nouvelles lois liées à l'IA pour lutter spécifiquement contre ce type de situations d'IA générative. Plutôt que d'essayer de chausser les lois existantes, il pourrait être plus propre et plus facile d'élaborer de nouvelles lois. De plus, même si les lois existantes s'appliquent, les coûts et les retards pour tenter d'intenter une action en justice peuvent être énormes et entraver votre capacité à aller de l'avant lorsque vous pensez avoir été injustement et illégalement lésé. Pour ma couverture de ces sujets, voir le lien ici.

J'ajouterai une tournure supplémentaire à ces considérations sur l'éthique de l'IA et la loi sur l'IA.

Qui détient les droits sur la sortie générée par l'IA ?

Vous pourriez dire que les humains qui ont développé l'IA devraient posséder ces droits. Tout le monde n'est pas d'accord avec une telle affirmation. Vous pourriez dire que l'IA détient ces droits, mais cela est confondu par le fait que nous ne reconnaissons généralement pas l'IA comme étant en mesure de posséder de tels droits. Jusqu'à ce que nous sachions si l'IA va avoir une personnalité juridique, les choses sont incertaines sur ce front, voir mon analyse sur le lien ici.

J'espère que vous avez maintenant un semblant de ce que fait l'IA générative. Nous pouvons ensuite examiner le cas d'utilisation impliquant la génération de récits textuels.

IA générative qui génère des récits textuels

Maintenant que nous avons discuté de l'utilisation de l'IA générative pour produire de l'art ou des images, nous pouvons facilement examiner les mêmes formulations générales pour produire des récits textuels.

Commençons par quelque chose que nous connaissons tous et que nous utilisons tous les jours. Lorsque vous saisissez du texte dans un logiciel de traitement de texte ou dans votre application de messagerie, il y a de fortes chances qu'il existe une fonction de correction automatique qui tente de détecter vos fautes d'orthographe.

Une fois que ce type de fonction d'assistance automatique est devenu courant, la facette suivante plus avancée consistait en une capacité de saisie semi-automatique. Pour une saisie semi-automatique, la conception est que lorsque vous commencez à écrire une phrase, l'application de traitement de texte ou de messagerie tente de prédire les mots que vous êtes susceptible de taper ensuite. Il pourrait prédire juste un ou deux mots à l'avance. Si la capacité est particulièrement renforcée, elle pourrait prédire le reste de votre phrase entière.

Nous pouvons passer à la vitesse supérieure. Supposons que vous commenciez à écrire une phrase et que la saisie semi-automatique génère le reste du paragraphe entier. Voila, vous n'aviez pas à écrire le paragraphe directement. Au lieu de cela, l'application l'a fait pour vous.

Bon, ça a l'air chouette. Poussez cela plus loin. Vous commencez une phrase et la saisie semi-automatique compose le reste de votre message entier. Celui-ci peut être composé de plusieurs paragraphes. Tout cela est généré via votre entrée juste une partie d'une phrase ou peut-être une phrase complète ou deux.

Comment la saisie semi-automatique détermine-t-elle ce que vous êtes susceptible de taper ensuite ?

Il s'avère que les humains ont tendance à écrire les mêmes choses, encore et encore. Peut-être que non, mais le fait est que ce que vous écrivez est probablement quelque chose que quelqu'un d'autre a déjà écrit. Ce n'est peut-être pas exactement ce que vous avez l'intention d'écrire. Au lieu de cela, cela pourrait ressembler un peu à ce que vous alliez écrire.

Utilisons la même logique que celle employée pour générer de l'art ou des images.

Une application d'IA générative est préparée en allant sur Internet et en examinant toutes sortes de textes qui existent dans le monde en ligne. L'algorithme tente d'identifier par calcul comment les mots sont liés à d'autres mots, comment les phrases sont liées à d'autres phrases et comment les paragraphes sont liés à d'autres paragraphes. Tout cela est modélisé mathématiquement et un réseau informatique est établi.

Voici alors ce qui se passe ensuite.

Vous décidez d'utiliser une application d'IA générative qui se concentre sur la génération de récits textuels. Au lancement de l'application, vous saisissez une phrase. L'application AI examine votre phrase par calcul. Les différentes relations mathématiques entre les mots que vous avez entrés sont utilisées dans le réseau mathématique pour essayer de déterminer quel texte viendrait ensuite. À partir d'une seule ligne que vous écrivez, il se peut qu'une histoire ou un récit entier puisse être généré.

Maintenant, vous pensez peut-être qu'il s'agit d'un singe-voir-singe-faire et que le texte résultant produit par l'IA générative va être absurde. Eh bien, vous seriez surpris de voir à quel point ce type d'IA est en train de devenir bien réglé. Avec un ensemble de données suffisamment volumineux pour la formation et suffisamment de traitement informatique pour le parcourir de manière approfondie, le résultat produit par une IA générative peut être incroyablement impressionnant.

Vous regarderiez la sortie et jureriez probablement que le récit généré a été écrit directement par un humain. C'est comme si votre peine était confiée à un humain, caché dans les coulisses, et ils vous ont rapidement écrit un récit entier qui correspondait presque entièrement à ce que vous alliez dire autrement. C'est à quel point les mathématiques et les fondements informatiques sont devenus bons.

Habituellement, lorsque vous utilisez une IA générative qui produit des récits textuels, vous avez tendance à fournir une question de départ ou une affirmation quelconque. Par exemple, vous pouvez taper "Parlez-moi des oiseaux en Amérique du Nord" et l'IA générative considérera qu'il s'agit d'une affirmation ou d'une question par laquelle l'application cherchera ensuite à identifier les "oiseaux" et "l'Amérique du Nord" avec n'importe quel ensemble de données formé il a. Je suis sûr que vous pouvez imaginer qu'il existe une vaste gamme de textes sur Internet décrivant les oiseaux d'Amérique du Nord, à partir desquels l'IA pendant la pré-formation a extrait et modélisé les réserves de texte.

La sortie produite pour vous ne sera probablement pas le texte précis d'un site en ligne particulier. Rappelez-vous que la même chose a été mentionnée précédemment à propos des œuvres d'art générées. Le texte sera un composite de sortes, de morceaux et de morceaux qui sont liés mathématiquement et informatiquement. Un récit textuel généré semblerait, pour toutes les apparences générales, unique, comme si ce texte spécifique n'avait jamais été composé auparavant par qui que ce soit.

Bien sûr, il peut y avoir des indices révélateurs. Si vous demandez ou demandez à l'IA générative d'aborder des sujets extrêmement obscurs, il y a plus de chances que vous voyiez une sortie de texte qui ressemble aux sources utilisées. Dans le cas du texte, les chances sont cependant généralement plus faibles qu'elles ne le seraient pour l'art. Le texte va être une combinaison des spécificités du sujet et pourtant aussi flou et fusionné avec les types généraux de texte qui sont utilisés dans le discours global.

Les techniques et technologies mathématiques et informatiques utilisées pour ces capacités d'IA génératives sont souvent désignées par les initiés de l'IA sous le nom de Large Language Models (LLM). En termes simples, il s'agit d'une modélisation du langage humain à grande échelle. Avant Internet, vous auriez eu du mal à trouver un ensemble de données de texte extrêmement volumineux disponible en ligne et à moindre coût. Vous auriez probablement dû acheter l'accès au texte et celui-ci n'aurait pas nécessairement déjà été disponible en format électronique ou numérique.

Vous voyez, Internet est bon pour quelque chose, à savoir être une source prête pour la formation à l'IA générative.

Penser astucieusement à l'IA générative qui produit du texte

Nous devrions prendre un moment pour réfléchir aux ramifications de l'éthique de l'IA et des lois sur l'IA de l'IA générative qui produit des récits textuels.

Rappelez-vous que dans le cas de l'art généré, nous étions inquiets de l'éthique de l'algorithme d'IA qui produit de l'art à partir d'autres œuvres d'art produites par l'homme. La même préoccupation se pose dans l'instance textuelle. Même si le texte généré ne ressemble pas exactement aux sources originales, vous pouvez néanmoins affirmer que l'IA exploite le texte et que le producteur d'origine se fait arnaquer. Le revers de la médaille est que le texte sur Internet, s'il est librement disponible, peut être utilisé par n'importe quel humain pour faire de même, alors pourquoi ne pas permettre à l'IA de faire de même ?

Les complications associées aux aspects juridiques des droits de propriété intellectuelle sont également mises en évidence dans le cas de l'IA générative basée sur du texte. En supposant que le texte faisant l'objet de la formation est protégé par le droit d'auteur, diriez-vous que le texte généré viole ces droits légaux ? Une réponse est que c'est le cas, et une autre réponse est que ce n'est pas le cas. Sachez que le texte généré est susceptible d'être assez éloigné du texte d'origine, vous pourriez donc avoir du mal à prétendre que le texte d'origine a été arraché.

Une autre préoccupation déjà mentionnée concerne les droits de propriété sur les récits textuels produits par l'IA générative. Supposons que vous tapiez dans l'IA "Écrivez une histoire amusante sur les gens qui font la queue pour prendre un café" et que l'IA générative produit des pages sur des pages d'une histoire hilarante qui parle d'un groupe de personnes qui se rencontrent en attendant une tasse de Java.

A qui appartient cette histoire ?

Vous pourriez dire que puisque vous avez tapé dans l'invite, vous devriez légitimement "posséder" l'histoire générée. Whoa, certains diraient, l'IA était la façon dont l'histoire a été générée, ergo l'IA "possède" le conte délicieux. Yikes, d'autres exhorteraient, si l'IA prenait des morceaux de toutes sortes d'autres histoires similaires sur Internet, tous ces écrivains humains devraient partager la propriété.

La question n'est pas résolue et nous entrons tout juste maintenant dans un bourbier juridique qui va se jouer au cours des prochaines années.

Il y a d'autres soucis liés à l'éthique de l'IA et aux lois sur l'IA qui entrent en jeu.

Certaines personnes qui utilisent des applications d'IA génératives commencent à croire que l'application d'IA est sensible. Ça doit être, s'exclament-ils. Sinon, comment pouvez-vous expliquer les réponses et les histoires étonnantes que l'IA est capable de produire ? Nous avons enfin atteint l'IA sensible.

Ils ont absolument tort.

Ce n'est pas une IA sensible.

Quand je dis cela, certains initiés de l'IA s'énervent et agissent comme si quiconque nie que l'IA soit sensible disait simultanément que l'IA ne vaut rien. C'est un argument fallacieux et erroné. Je suis ouvertement d'accord que cette IA générative est assez impressionnante. Nous pouvons l'utiliser à toutes sortes de fins, comme je le mentionnerai plus tard. Néanmoins, il n'est pas sensible. Pour mon explication des raisons pour lesquelles ces types de percées de l'IA ne sont pas sensibles, voir le lien ici.

Une autre affirmation démesurée et tout à fait fausse de certains est que l'IA générative a remporté avec succès le test de Turing.

Il a très certainement ne sauraient fait.

Le test de Turing est une sorte de test pour déterminer si une application d'IA est capable d'être à égalité avec les humains. Conçu à l'origine comme le jeu d'imitation par Alan Turing, le grand mathématicien et pionnier de l'informatique, le test en soi est simple. Si vous deviez mettre un humain derrière un rideau et mettre une application d'IA derrière un autre rideau, et que vous leur posiez les deux questions, à partir desquelles vous ne pouviez pas déterminer quelle était la machine et quel était l'humain, l'IA passerait avec succès le Essai de Turing. Pour mon explication et mon analyse approfondies du test de Turing, voir le lien ici.

Ceux qui n'arrêtent pas de clamer que l'IA générative a réussi le test de Turing ne savent pas de quoi ils parlent. Soit ils ignorent ce qu'est le test de Turing, soit ils font tristement la promotion de l'IA d'une manière erronée et totalement trompeuse. Quoi qu'il en soit, l'une des considérations essentielles du test de Turing consiste à savoir quelles questions doivent être posées, avec qui pose la question et également à évaluer si les réponses sont de qualité humaine.

Ce que je veux dire, c'est que les gens tapent une douzaine de questions à l'IA générative, et lorsque les réponses semblent plausibles, ces gens proclament imprudemment que le test de Turing a été réussi. Encore une fois, c'est faux. Entrer dans une série de questions fragiles et faire quelques recherches ici et là n'est ni l'intention ni l'esprit du test de Turing. Arrêtez de faire ces déclarations déshonorantes.

Voici un reproche légitime dont vous n'entendez pas beaucoup parler, même si je pense qu'il en vaut énormément la peine.

Les développeurs d'IA ont généralement configuré l'IA générative de manière à ce qu'elle réponde comme si un humain répondait, notamment en utilisant la formulation « je » ou « moi » lorsqu'elle compose la sortie. Par exemple, lorsqu'on lui demande de raconter l'histoire d'un chien perdu dans les bois, l'IA générative peut fournir un texte qui dit : « Je vais tout vous dire sur un chien nommé Sam qui s'est perdu dans les bois. C'est l'une de mes histoires préférées. »

Notez que le libellé dit "Je vais vous dire…" et que l'histoire est "l'une de mes préférées…" de sorte que toute personne lisant cette sortie tombera subtilement dans un piège mental consistant à anthropomorphiser l'IA. L'anthropomorphisation consiste en des humains essayant d'attribuer des traits humains et des sentiments humains à des non-humains. Vous êtes bercé en pensant que cette IA est humaine ou semblable à l'humain parce que le libellé de la sortie est délibérément conçu de cette façon.

Cela n'a pas à être conçu de cette manière. La sortie pourrait dire "Voici l'histoire d'un chien nommé Sam qui s'est perdu dans les bois. C'est une histoire préférée. Vous seriez un peu moins susceptible de supposer immédiatement que l'IA est humaine ou de type humain. Je me rends compte que vous pourriez encore tomber dans ce piège, mais au moins les pièges, tels qu'ils étaient, ne sont pas aussi prononcés.

En bref, vous avez une IA générative qui produit des récits textuels basés sur la façon dont les humains écrivent, et la sortie qui en résulte semble être écrite comme un humain écrirait quelque chose. Cela a beaucoup de sens car l'IA se base mathématiquement et informatiquement sur ce que les humains ont écrit. Maintenant, ajoutez à cela l'utilisation d'un libellé anthropomorphisant, et vous obtenez une tempête parfaite qui convainc les gens que l'IA est sensible ou a réussi le test de Turing.

De nombreux problèmes d'éthique et de droit de l'IA se posent.

Je vais vous parler des ramifications plutôt dangereuses de cette IA générative.

Asseyez-vous pour cela.

Les récits textuels qui sont produits ne respectent pas nécessairement la véracité ou l'exactitude. Il est important de réaliser que l'IA générative ne "comprend" pas ce qui est généré (pas de manière humaine, pourrait-on dire). Si le texte utilisé dans la formation contenait des mensonges, il y a de fortes chances que ces mêmes mensonges soient intégrés au réseau mathématique et informatique de l'IA générative.

De plus, l'IA générative ne dispose généralement d'aucun moyen mathématique ou informatique pour discerner que le texte produit contient des mensonges. Lorsque vous regardez le récit de sortie généré, le récit aura généralement l'air complètement "véridique" à première vue. Vous n'avez peut-être aucun moyen viable de détecter que des mensonges sont intégrés dans le récit.

Supposons que vous posiez une question médicale à une IA générative. L'application AI produit un long récit. Imaginez que la majeure partie du récit ait un sens et semble raisonnable. Mais si vous n'êtes pas un médecin spécialiste, vous ne réalisez peut-être pas que le récit contient des mensonges cruciaux. Peut-être que le texte vous dit de prendre cinquante pilules en deux heures, alors qu'en réalité, la vraie recommandation médicale est de prendre deux pilules en deux heures. Vous pourriez croire le conseil revendiqué sur les cinquante pilules, simplement parce que le reste du récit semblait raisonnable et sensé.

Avoir le modèle de l'IA sur les faussetés dans les données sources d'origine n'est qu'un moyen de faire en sorte que l'IA devienne de travers dans ces récits. Selon le réseau mathématique et informatique utilisé, l'IA tentera de « inventer » des choses. Dans le langage de l'IA, cela s'appelle l'IA halluciner, qui est une terminologie terrible avec laquelle je suis sincèrement en désaccord et je soutiens qu'il ne faut pas continuer comme slogan, voir mon analyse sur le lien ici.

Supposons que vous ayez demandé à l'IA générative de raconter une histoire à propos d'un chien. L'IA pourrait finir par permettre au chien de voler. Si l'histoire que vous vouliez était censée être basée sur la réalité, un chien volant semble peu probable. Vous et moi savons que les chiens ne peuvent pas voler nativement. Pas grave, me direz-vous, puisque tout le monde le sait.

Imaginez un enfant à l'école qui essaie d'en apprendre davantage sur les chiens. Ils utilisent l'IA générative. Il produit une sortie indiquant que les chiens peuvent voler. L'enfant ne sait pas si cela est vrai ou non et suppose que cela doit être vrai. Dans un sens, c'est comme si l'enfant consultait une encyclopédie en ligne et qu'elle disait que les chiens peuvent voler. L'enfant insistera peut-être désormais sur le fait que les chiens peuvent effectivement voler.

Pour en revenir à l'énigme de l'éthique de l'IA et des lois sur l'IA, nous sommes maintenant sur le point de pouvoir produire une quantité presque infinie de contenu textuel, réalisé via l'utilisation de l'IA générative, et nous nous inonderons de zillions de récits qui sont sans aucun doute rempli de mensonges et d'autres torrents connexes de désinformation et de mésinformation.

Oui, en appuyant sur un bouton et en saisissant quelques mots dans une IA générative, vous pouvez générer des tonnes de récits textuels qui semblent tout à fait plausibles et véridiques. Vous pouvez ensuite le publier en ligne. D'autres personnes liront le matériel et supposeront qu'il est vrai. En plus de cela, d'autres IA génératives qui tentent de se former au texte rencontreront potentiellement ce matériel et l'intégreront dans l'IA générative qu'elle est en train de concevoir.

C'est comme si nous ajoutions maintenant des stéroïdes pour générer de la désinformation et de la mésinformation. Nous nous dirigeons vers la désinformation et la mésinformation à une échelle mondiale galactique massive.

Peu de travail humain est nécessaire pour tout produire.

IA générative et ChatGPT

Passons à la tête d'affiche de cette discussion sur l'IA générative. Nous avons maintenant couvert la nature de l'IA générative qui produit globalement des récits textuels. Il existe de nombreuses applications d'IA génératives de ce type.

L'une des applications d'IA qui a particulièrement gagné en notoriété est connue sous le nom de ChatGPT.

Un coup de relations publiques a éclaboussé les médias sociaux et les nouvelles - ChatGPT obtient toute la gloire en ce moment. La lumière brille de mille feux sur ChatGPT. Il obtient ses cinq minutes de gloire stupéfiantes.

ChatGPT est le nom d'une application d'IA générative qui a été développée par une entité connue sous le nom d'OpenAI. OpenAI est assez connu dans le domaine de l'IA et peut être considéré comme un laboratoire de recherche en IA. Ils ont la réputation de repousser les limites en matière d'IA pour le traitement du langage naturel (NLP), ainsi que d'autres avancées de l'IA. Ils se sont lancés dans une série d'applications d'IA qu'ils ont inventées comme étant GPT (Generative Pre-Trained Transformers). Chaque version reçoit un numéro. J'ai déjà écrit sur leur GPT-3 (version 3 de leur série GPT), voir le lien ici.

GPT-3 a suscité beaucoup d'attention lors de sa première sortie (il a fait l'objet de tests bêta à grande échelle il y a environ deux ans et a été plus largement diffusé en 2022). Il s'agit d'une application d'IA générative qui, lors de la saisie d'une invite, produira ou générera des récits textuels. Tout ce que j'ai mentionné plus tôt sur le cas général des applications d'IA générative est fondamentalement applicable à GPT-3.

Il y a longtemps que GPT-4 est en cours de scuttlebut et ceux dans le domaine de l'IA attendent avec impatience de voir quelles améliorations ou améliorations sont dans GPT-4 par rapport à GPT-3. Dans cette série vient le dernier intermédiaire, connu sous le nom de GPT-3.5. Oui, vous avez bien compris, il se situe entre le GPT-3 publié et le GPT 4.0 non encore publié.

OpenAI a utilisé leur GPT-3.5 pour créer une ramification qu'ils ont nommée ChatGPT. On dit qu'ils ont fait quelques améliorations spéciales pour créer ChatGPT. Par exemple, la notion flottante est que ChatGPT a été conçu pour pouvoir fonctionner de manière chatbot. Cela inclut la «conversation» que vous avez avec l'application AI est suivie par l'IA et utilisée pour produire les récits demandés par la suite.

De nombreuses applications d'IA génératives ont eu tendance à être une conception unique. Vous avez entré une invite, l'IA a généré un récit, et c'est tout. Votre prochaine invite n'a aucune incidence sur ce qui se passe ensuite. C'est comme si vous recommenciez à zéro chaque fois que vous entrez une invite.

Ce n'est pas le cas dans le cas de ChatGPT. D'une manière encore non révélée, l'application AI essaie de détecter des modèles dans vos invites et peut donc sembler plus réactive à vos demandes (cette application AI est considérée ouvertement accessible en raison de permettre à quiconque de s'inscrire pour l'utiliser, mais il est toujours propriétaire et décidément ne sauraient une application d'IA open source qui divulgue son fonctionnement interne). Par exemple, souvenez-vous de ma précédente indication selon laquelle vous vouliez voir une grenouille avec un chapeau sur une cheminée. Une méthode est qu'à chaque fois que vous faites une telle demande, tout recommence. Une autre méthode consisterait à poursuivre ce que vous avez dit précédemment. Ainsi, vous pourriez peut-être dire à l'IA que vous voulez que la grenouille soit assise, ce qui en soi n'a aucun sens, alors que dans le contexte de votre invite précédente demandant une grenouille avec un chapeau sur une cheminée, la demande peut apparemment avoir un sens.

Vous vous demandez peut-être pourquoi il semble que tout à coup, il semble y avoir un apogée et prospérer à propos de ChatGPT.

C'est en partie parce que le ChatGPT a été mis à la disposition de tous ceux qui souhaitaient s'inscrire pour l'utiliser. Dans le passé, il y avait souvent des critères sélectifs pour déterminer qui pouvait utiliser une application d'IA générative nouvellement disponible. Le fournisseur exigerait que vous soyez un initié de l'IA ou que vous ayez peut-être d'autres stipulations. Ce n'est pas le cas avec ChatGPT.

La nouvelle s'est rapidement répandue que ChatGPT était extrêmement facile à utiliser, gratuit et pouvait être utilisé par une simple inscription qui vous obligeait simplement à fournir une adresse e-mail. Comme un tir rapide, tout à coup et alimenté ou stimulé par des publications virales sur les réseaux sociaux, l'application ChatGPT aurait dépassé plus d'un million d'utilisateurs. Les médias ont souligné le fait qu'un million de personnes se sont inscrites à ChatGPT.

Bien que cela soit certainement remarquable et digne de mention, gardez à l'esprit le contexte de ces inscriptions. Il est gratuit et facile de s'inscrire. Le chatbot est super facile à utiliser et ne nécessite aucune formation ou expérience préalable. Vous entrez simplement des invites de votre choix et de votre formulation, et shazam l'application AI fournit un récit généré. Un enfant pourrait le faire, ce qui est en fait une préoccupation inquiétante pour certains, à savoir que si les enfants utilisent ChatGPT, vont-ils apprendre du matériel douteux (conformément à mon point précédent sur ces questions) ?

En outre, il est peut-être intéressant d'indiquer que certains (beaucoup ?) de ces millions d'inscriptions sont des personnes qui voulaient probablement botter les pneus et ne rien faire de plus. Ils ont rapidement créé un compte, joué avec l'application AI pendant un petit moment, trouvé cela amusant et surprenant, puis ont peut-être publié des publications sur les réseaux sociaux pour montrer ce qu'ils avaient trouvé. Après cela, il se peut qu'ils ne se reconnectent plus jamais, ou du moins n'utilisent l'application AI que si un besoin particulier semble se faire sentir.

D'autres ont également souligné que le moment où ChatGPT est devenu disponible a coïncidé avec une période de l'année qui a suscité un grand intérêt pour l'application AI. Peut-être que pendant les vacances, nous avons plus de temps pour jouer avec des objets amusants. L'avènement des médias sociaux a également propulsé cela dans une sorte de phénomène. Le classique FOMO (fear of missing out) a sans doute ajouté au pêle-mêle. Bien sûr, si vous comparez un million à certains influenceurs YouTube populaires, vous pourriez suggérer qu'un million est un nombre dérisoire par rapport à ces vlogs qui obtiennent des centaines de millions d'inscriptions ou de vues lorsqu'ils sont déposés ou publiés pour la première fois.

Eh bien, ne nous égarons pas et notons simplement que, pour une application d'IA de nature expérimentale, le million d'inscriptions est certainement digne de vantardise.

Tout de suite, les gens ont utilisé ChatGPT pour créer des histoires. Ils ont ensuite posté les histoires et ont jailli du miracle de celui-ci. Des reporters et des journalistes ont même fait des "interviews" avec ChatGPT, ce qui est un peu déconcertant car ils tombent dans le même piège anthropomorphisant (soit par méconnaissance réelle, soit en espérant récolter des vues démesurées pour leurs articles). La tendance immédiate était également de déclarer que l'IA avait maintenant atteint la sensibilité ou réussi le test de Turing, que j'ai manifestement commenté plus tôt ici.

Les préoccupations sociétales soulevées par ChatGPT sont vraiment celles qui percolaient déjà à la suite des versions antérieures de GPT et aussi de la multitude de LLM et d'IA générative déjà disponibles. La différence est que maintenant le monde entier a choisi de participer. C'est pratique. Nous devons nous assurer que l'éthique de l'IA et la loi sur l'IA reçoivent l'attention et l'attention nécessaires. S'il faut un ChatGPT pour nous y rendre, qu'il en soit ainsi.

Quels types de préoccupations sont exprimées ?

Prenons le cas d'utilisation d'étudiants invités à rédiger des essais pour leurs cours. Un étudiant est généralement censé écrire un essai entièrement basé sur ses propres capacités d'écriture et de composition. Bien sûr, ils peuvent consulter d'autres documents écrits pour obtenir des idées et des citations, mais l'étudiant est par ailleurs supposé concocter son essai à partir de sa propre caboche. Copier de la prose à partir d'autres sources est mal vu, ce qui conduit généralement à une note F ou éventuellement à une expulsion pour avoir plagié d'autres documents.

De nos jours, voici ce qui peut arriver. Un étudiant s'inscrit à ChatGPT (ou à toute autre application d'IA générative apparentée). Ils saisissent l'invite que l'enseignant leur a donnée dans le but d'en tirer une dissertation. Le ChatGPT produit un essai complet basé sur l'invite. C'est une composition « originale » en ce sens qu'on ne la trouve pas forcément ailleurs. Vous n'êtes pas en mesure de prouver que la composition a été plagiée puisque, en quelque sorte, elle n'a pas été plagiée.

L'élève rend la dissertation. Ils affirment qu'il s'agit de leur propre travail écrit. L'enseignant n'a pas les moyens de penser autrement. Cela étant dit, vous pouvez évoquer l'idée que si le travail écrit dépasse apparemment la capacité existante de l'étudiant, vous pourriez devenir suspect. Mais ce n'est pas beaucoup pour continuer si vous allez accuser un étudiant de tricherie.

Comment les enseignants vont-ils gérer cela ?

Certains mettent une règle dans leur matériel pédagogique selon laquelle toute utilisation d'un ChatGPT ou équivalent sera considérée comme une forme de tricherie. De plus, ne pas avouer utiliser ChatGPT ou équivalent est une forme de tricherie. Cela limitera-t-il cette nouvelle opportunité ? On dit qu'il est douteux car les chances de se faire prendre sont faibles, tandis que les chances d'obtenir une bonne note sur un article bien rédigé sont élevées. Vous pouvez probablement imaginer des étudiants confrontés à une date limite pour rédiger un essai qui, la nuit précédente, seront tentés d'utiliser une IA générative pour les sortir apparemment d'un bourrage.

En changeant de vitesse, tout type d'écriture va potentiellement être perturbé par IA générative.

Vous demande-t-on d'écrire un mémo au travail à propos de telle ou telle chose ? Ne perdez pas votre temps en le faisant à partir de zéro. Utilisez une IA générative. Vous pouvez ensuite couper et coller le texte généré dans votre composition, affiner le texte selon vos besoins et terminer facilement la corvée d'écriture ardue.

Cela vous semble-t-il convenable de le faire ?

Je parierais que la plupart des gens diraient oui. C'est encore mieux que de copier quelque chose sur Internet, ce qui pourrait vous mettre dans l'eau chaude pour plagiat. Il est extrêmement logique d'utiliser une IA générative pour que vos efforts d'écriture soient partiellement ou peut-être même entièrement réalisés pour vous. C'est pour ça que les outils sont faits.

Soit dit en passant, dans l'une de mes prochaines colonnes, le cas d'utilisation de l'IA générative à des fins juridiques dans le sens de faire du travail d'avocat et de produire des documents juridiques sera examiné de près. Quiconque est avocat ou professionnel du droit voudra se demander comment l'IA générative va potentiellement déraciner ou bouleverser les pratiques juridiques. Considérons par exemple un avocat qui rédige un dossier juridique pour une affaire judiciaire. Ils pourraient potentiellement utiliser une IA générative pour écrire la composition. Bien sûr, il pourrait avoir quelques défauts, donc l'avocat doit le peaufiner ici ou là. La quantité réduite de travail et de temps pour produire le dossier pourrait rendre le peaufinage bien utile.

Certains craignent cependant que le document juridique ne contienne des mensonges ou des hallucinations d'IA que l'avocat n'a pas compris. Le point de vue dans cette torsion est que c'est sur les épaules de l'avocat. Ils représentaient vraisemblablement que le dossier avait été rédigé par eux, donc, qu'un associé junior l'ait écrit ou qu'une application d'IA l'ait fait, ils ont toujours la responsabilité finale du contenu final.

Là où cela devient plus difficile, c'est si des non-avocats commencent à utiliser l'IA générative pour faire des démarches juridiques à leur place. Ils pourraient croire que l'IA générative peut produire toutes sortes de documents juridiques. Le problème, bien sûr, est que les documents pourraient ne pas être légalement valides. J'en dirai plus à ce sujet dans ma prochaine chronique.

Une règle empirique cruciale se dégage de la société et de l'acte d'écriture humaine.

C'est un peu capital :

• Chaque fois que vous êtes chargé d'écrire quelque chose, devez-vous écrire l'article à partir de zéro ou devez-vous utiliser un outil d'IA générative pour vous mettre sur la bonne voie ?

La sortie peut être à moitié cuite et vous devrez faire beaucoup de réécriture. Ou la sortie peut être juste et vous n'aurez qu'à faire des retouches mineures. Au total, si l'utilisation est gratuite et facile, la tentation d'utiliser une IA générative va être immense.

Un bonus est que vous pouvez potentiellement utiliser l'IA générative pour faire certaines de vos réécritures. Semblable aux invites sur la grenouille avec le chapeau et la cheminée, lors de la production d'art, vous pouvez faire de même lors de la génération de récits textuels. L'IA peut produire votre histoire sur un chien, et vous avez décidé à la place que vous vouliez que le personnage principal soit un chat. Après avoir obtenu l'histoire du chien, vous entrez une autre invite et demandez à l'application AI de passer à l'utilisation d'un chat dans l'histoire. Cela est susceptible de faire plus que simplement se retrouver avec le mot «chat» remplaçant le mot «chien» dans le récit. L'application AI pourrait facilement changer l'histoire pour faire référence à ce que font les chats par rapport à ce que font les chiens. Toute l'histoire pourrait être révisée comme si vous aviez demandé à un humain de faire de telles révisions.

Puissant, impressionnant, maniable.

Quelques mises en garde à méditer :

• Allons-nous perdre collectivement notre capacité à écrire, devenant totalement dépendants de l'IA générative pour écrire à notre place ?
• Les gens qui font de l'écriture pour gagner leur vie seront-ils mis au chômage (on pose la même question aux artistes) ?
• Internet va-t-il croître à pas de géant alors que les récits générés sont inondés en ligne et que nous ne pouvons plus séparer la vérité des faussetés ?
• Les gens croiront-ils fermement ces récits générés et agiront-ils comme si une personnalité faisant autorité leur avait donné des informations véridiques sur lesquelles ils peuvent compter, y compris éventuellement du contenu lié à la vie ou à la mort ?
• Autre

Pensez-y.

Notez que l'un de ces points à puces traite de s'appuyer sur du matériel généré par une IA générative sur une base de vie ou de mort.

Voici un crève-cœur pour vous (avertissement de déclenchement, vous voudrez peut-être sauter ce paragraphe). Imaginez qu'un adolescent demande à une IA générative s'il doit ou non se supprimer. Que va générer une application d'IA générative ? Vous espéreriez naturellement que l'application AI produirait un récit disant de ne pas le faire et exhorterait avec véhémence le demandeur à rechercher des spécialistes de la santé mentale.

Il est possible que l'IA ne mentionne pas ces facettes. Pire encore, l'application AI pourrait avoir capturé plus tôt du texte sur Internet qui encourage peut-être à prendre de telles mesures, et l'application AI (puisqu'elle n'a aucune capacité de compréhension humaine), crache un récit qui insinue ou déclare carrément que l'adolescent devrait continuer découragé. L'adolescent pense qu'il s'agit d'un guide véridique d'un système en ligne "Intelligent Artificiel" faisant autorité.

Mauvaises choses.

Vraiment, vraiment de mauvaises choses.

Certains des développeurs de l'IA générative essaient de mettre des freins et contrepoids dans l'IA pour essayer d'empêcher ce genre de situations de se produire. Le fait est que la manière dont l'invite est formulée peut potentiellement passer à travers les garde-fous programmés. De même, la même chose peut être dite pour la sortie produite. Il n'existe aucun type de filtrage à toute épreuve garanti qui puisse encore garantir que cela ne se produira jamais.

Il y a un autre aspect de cette production textuelle que vous n'auriez peut-être pas prévu.

C'est ici.

Lorsque les programmeurs ou les développeurs de logiciels créent le code de leur logiciel, ils écrivent essentiellement du texte. Le texte est quelque peu mystérieux dans la mesure où il est basé sur le langage défini pour un langage de programmation particulier, tel que Python, C++, Java, etc. En fin de compte, c'est du texte.

Le code source est ensuite compilé ou exécuté sur un ordinateur. Le développeur examine son code pour voir s'il fait ce qu'il était censé faire. Ils pourraient apporter des corrections ou déboguer le code. Comme vous le savez, les programmeurs ou les ingénieurs en logiciel sont très demandés et demandent souvent des prix élevés pour leurs efforts de travail.

Pour l'IA générative, le texte du code source est du texte. La capacité de trouver des modèles dans les zillions de lignes de code qui sont sur Internet et disponibles dans divers référentiels constitue un moyen juteux de déterminer mathématiquement et informatiquement quel code semble faire quoi.

Le hic, c'est ça.

Avec une invite, vous pouvez potentiellement demander à l'IA générative de produire un programme informatique complet pour vous. Pas besoin de s'acharner à éjecter du code. Vous avez peut-être entendu dire qu'il existe des soi-disant code bas outils disponibles de nos jours pour réduire l'effort des programmeurs lors de l'écriture de code. L'IA générative peut être interprétée comme un code bas ou encore pas de code option car il écrit le code pour vous.

Avant que ceux d'entre vous qui écrivent du code pour vivre ne tombent par terre et ne s'évanouissent, gardez à l'esprit que le code n'est pas « compris » de la manière dont vous, en tant qu'humain, le comprenez vraisemblablement. De plus, le code peut contenir des mensonges et des hallucinations de l'IA. S'appuyer sur un tel code sans procéder à des révisions approfondies du code semblerait risqué et discutable.

On revient un peu aux mêmes considérations à propos de l'écriture d'histoires et de mémos. Peut-être que l'approche consiste à utiliser l'IA générative pour vous aider à vous y retrouver dans un effort de codage. Il y a cependant un compromis considérable. Êtes-vous plus sûr d'écrire le code directement ou de traiter du code généré par l'IA qui pourrait avoir des problèmes intégrés insidieux et difficiles à détecter ?

Le temps nous dira.

Une brève plongée dans ChatGPT

Lorsque vous commencez à utiliser ChatGPT, une série d'avertissements et de commentaires informatifs s'affichent.

Découvrons-les rapidement :

• "Peut parfois générer des informations incorrectes."
• "Peut produire occasionnellement des instructions nuisibles ou un contenu biaisé."
• "Formé pour refuser les demandes inappropriées."
• "Notre objectif est d'obtenir des commentaires externes afin d'améliorer nos systèmes et de les rendre plus sûrs."
• «Bien que nous ayons mis en place des mesures de protection, le système peut parfois générer des informations incorrectes ou trompeuses et produire un contenu offensant ou biaisé. Il ne s'agit pas de donner des conseils. »
• "Les conversations peuvent être examinées par nos formateurs en IA pour améliorer nos systèmes."
• "Veuillez ne pas partager d'informations sensibles dans vos conversations."
• « Ce système est optimisé pour le dialogue. Faites-nous savoir si une réponse particulière était bonne ou inutile.
• "Connaissance limitée du monde et des événements après 2021."

En raison du manque d'espace, je ne peux pas les couvrir en détail ici, mais faisons au moins une analyse rapide.

J'ai déjà mentionné que les récits textuels générés pourraient contenir des mensonges et de la désinformation.

Il y a autre chose que vous devez surveiller. Méfiez-vous des récits qui pourraient contenir diverses remarques incendiaires qui présentent des préjugés fâcheux.

Pour essayer d'éviter que cela ne se produise, il a été signalé qu'OpenAI avait utilisé des double-vérificateurs humains lors de la formation de ChatGPT. Les double-vérificateurs saisiraient des invites qui inciteraient probablement l'IA à produire un contenu incendiaire. Lorsqu'un tel contenu a été vu par les double-vérificateurs, ils ont indiqué à l'IA que cela était inapproprié et, dans un sens, ont marqué une pénalité numérique pour la sortie qui a été produite. Mathématiquement, l'algorithme d'IA chercherait à maintenir les scores de pénalité au minimum et viserait par calcul à ne plus utiliser ces phrases ou formulations à l'avenir.

De même, lorsque vous entrez une invite, l'IA tente de déterminer si votre invite est incendiaire ou peut conduire à une sortie incendiaire, pour laquelle l'invite peut être refusée par l'IA. Poliment, l'idée est de refuser les invites ou les demandes inappropriées. Par exemple, demander à obtenir une blague qui implique des insultes raciales sera probablement refusé par l'IA.

Je suis sûr que vous ne serez pas surpris d'apprendre que les utilisateurs de ChatGPT ont essayé de contourner les précautions. Ces utilisateurs «entreprenants» ont soit trompé l'IA, soit trouvé des moyens astucieux de contourner les formulations mathématiques. Certains de ces efforts sont faits pour la joie apparente de battre ou de dépasser le système, tandis que d'autres prétendent qu'ils essaient de montrer que ChatGPT va toujours produire des résultats fâcheux.

Ils ont raison sur une chose; les précautions ne sont pas infaillibles. Nous revenons à une autre considération sur l'éthique de l'IA et la loi sur l'IA. L'IA générative devrait-elle être autorisée à continuer même si elle peut produire des résultats fâcheux ?

Les avertissements lorsque vous utilisez ChatGPT préviendraient apparemment quiconque de ce que l'application AI pourrait faire ou dire. Il y a des chances qu'inévitablement, une sorte de poursuite soit intentée lorsqu'une personne, peut-être mineure, obtient une sortie fâcheuse de nature offensante (ou, lorsqu'elle reçoit des récits textuels faisant autorité qu'elle croit malheureusement être vrai et agit sur les sorties à leur propre danger).

Quelques autres nuances rapides sur les invites méritent d'être connues.

Chaque fois que vous saisissez une invite, le résultat peut différer considérablement, même si vous saisissez exactement la même invite. Par exemple, si vous saisissez « Raconte-moi une histoire sur un chien », vous obtiendrez un récit textuel, indiquant peut-être une histoire sur un chien de berger, tandis que la prochaine fois que vous saisirez « Raconte-moi une histoire sur un chien », il pourrait s'agir d'une histoire entièrement histoire différente et impliquent un caniche. C'est ainsi que la plupart des IA génératives sont arrangées mathématiquement et informatiquement. Elle est dite non déterministe. Certaines personnes trouvent cela énervant car elles sont habituées au concept selon lequel votre entrée dans un ordinateur produira toujours la même sortie précise.

La réorganisation des mots aura également un impact notable sur la sortie générée. Si vous entrez "Racontez-moi une histoire de chien" et plus tard entrez "Raconte-moi une histoire de chien", il est probable que les récits produits seront sensiblement différents. La sensibilité peut être forte. Demander une histoire sur un chien versus demander une histoire sur un gros chien produirait sans aucun doute des récits radicalement différents.

Enfin, notez que les éléments à puces ci-dessus contiennent une indication que le ChatGPT a "une connaissance limitée du monde et des événements après l'année 2021". C'est parce que les développeurs d'IA ont décidé d'arrêter le moment où l'application AI collecterait et entraînerait les données Internet. J'ai remarqué que les utilisateurs ne semblent souvent pas se rendre compte que ChatGPT n'est pas directement connecté à Internet d'aujourd'hui dans le but de récupérer des données et de produire des sorties générées. Nous sommes tellement habitués à ce que tout fonctionne en temps réel et à être connecté à Internet que nous attendons cela également des applications d'IA. Pas dans ce cas particulier (et, pour clarifier, ChatGPT est en effet disponible sur Internet, mais lorsqu'il compose la sortie textuelle, il n'élimine pas Internet en soi pour le faire, mais il est généralement figé dans le temps pour autour de la date limite).

Vous pourriez être perplexe quant à la raison pour laquelle ChatGPT n'alimente pas en temps réel les données d'Internet. Quelques bonnes raisons. Premièrement, il serait coûteux en calcul d'essayer de faire la formation en temps réel, et l'application AI serait retardée ou moins réactive aux invites (actuellement, elle est très rapide, répondant généralement avec un récit textuel de sortie en quelques secondes ). Deuxièmement, les trucs dégoûtants sur Internet qu'ils ont essayé de former l'application AI pour éviter se glisseraient probablement dans les formulations mathématiques et informatiques (et, comme indiqué, c'est déjà un peu là-dedans d'avant, bien qu'ils aient essayé de le détecter par en utilisant ces doubles vérificateurs humains).

Vous êtes obligé d'entendre certaines personnes annoncer effrontément que ChatGPT et une IA générative similaire sont le glas de la recherche Google et d'autres moteurs de recherche. Pourquoi faire une recherche Google qui ramène beaucoup d'éléments de référence quand vous pouvez demander à l'IA d'écrire quelque chose pour vous ? Ah, ces gens déclarent, Google devrait fermer ses portes et rentrer chez lui.

Bien sûr, c'est un pur non-sens.

Les gens veulent toujours faire des recherches. Ils veulent pouvoir consulter des documents de référence et comprendre les choses par eux-mêmes. Ce n'est pas un choix binaire dans un sens ou dans un autre (c'est une fausse dichotomie).

L'IA générative est un autre type d'outil. Vous ne lancez pas des marteaux simplement parce que vous avez inventé un tournevis.

Une façon plus sensée de penser à cela est que les deux types d'outils peuvent être compatibles pour être utilisés par des personnes qui veulent faire des choses liées à Internet. Certains ont déjà joué avec l'association de l'IA générative avec les moteurs de recherche Internet conventionnels.

Une préoccupation pour quiconque fournit déjà un moteur de recherche est que l'outil d'IA générative "gratuit" peut potentiellement saper la réputation du moteur de recherche. Si vous faites une recherche sur Internet et obtenez du matériel incendiaire, vous savez que ce n'est que la voie d'Internet. Si vous utilisez l'IA générative et qu'elle produit un récit textuel répugnant et ignoble, cela vous dérangera probablement. Il se peut que si une IA générative est étroitement liée à un moteur de recherche particulier, votre mécontentement et votre dégoût à propos de l'IA générative se répercutent sur tout ce que vous ressentez à propos du moteur de recherche.

Quoi qu'il en soit, nous verrons presque sûrement des alliances entre divers outils d'IA générative et des moteurs de recherche Internet, s'engageant prudemment et consciemment dans ces eaux troubles.

Conclusion

Voici une question pour vous.

Comment quelqu'un peut-il gagner de l'argent en fournissant une IA générative qui produit des récits textuels ?

OpenAI a déjà déclaré que les coûts internes par transaction de ChatGPT sont apparemment quelque peu élevés. Ils ne monétisent pas encore ChatGPT.

Les gens seraient-ils prêts à payer des frais de transaction ou peut-être à payer des frais d'abonnement pour accéder aux outils d'IA générative ?

Les publicités pourraient-elles être un moyen d'essayer de gagner de l'argent via des outils d'IA générative ?

Personne n'est encore tout à fait sûr de la manière dont cela va rapporter de l'argent. Nous en sommes encore au stade de grande expérimentation de ce type d'IA. Mettez l'application AI là-bas et voyez quelle réaction vous obtenez. Ajustez l'IA. Utilisez les informations issues de l'utilisation pour indiquer où l'IA doit viser ensuite.

Faire mousser, rincer, répéter.

En guise de conclusion, pour l'instant, certains pensent qu'il s'agit d'un type d'IA que nous ne devrions pas avoir du tout. Retourner l'horloge. Remettez ce génie dans la bouteille. Nous y avons goûté et avons réalisé qu'il présentait des inconvénients notables, et collectivement, en tant que société, nous pourrions convenir que nous devrions ramener ce cheval jusqu'à l'écurie.

Croyez-vous que la promesse de l'IA générative est meilleure ou pire que les inconvénients ?

D'un point de vue réel, cela n'a pas particulièrement d'importance car la réalité de la suppression de l'IA générative est généralement peu pratique. L'IA générative est en cours de développement et vous n'allez pas l'arrêter de froid, que ce soit ici ou dans n'importe quel autre pays (c'est le cas). Comment feriez-vous cela ? Adoptez des lois pour interdire complètement l'IA générative. Pas particulièrement viable (vous avez probablement une meilleure chance d'établir des lois qui façonnent l'IA générative et cherchent à gouverner légalement ceux qui la conçoivent). Peut-être plutôt amener la culture à éviter l'IA générative ? Vous pourriez amener certaines personnes à être d'accord avec la honte, mais d'autres seraient en désaccord et continueraient quand même avec l'IA générative.

C'est une énigme de l'éthique de l'IA et de la loi sur l'IA, comme je l'ai noté plus tôt.

Votre dernière grande question est de savoir si l'IA générative nous emmène sur la voie de l'IA sensible. Certains insistent sur le fait que oui. L'argument est que si nous continuons à dimensionner les modèles mathématiques et à alimenter les serveurs informatiques informatiques et à alimenter chaque morceau d'Internet et plus encore dans cette bête, l'IA algorithmique transformera le coin en sensibilité.

Et, si tel est le cas, nous craignons que l'IA ne représente un risque existentiel. Vous avez entendu maintes et maintes fois qu'une fois que nous aurons une IA sensible, il se peut que l'IA décide que les humains ne sont pas très utiles. La prochaine chose que vous savez, l'IA nous a asservis ou nous a anéantis, voyez mon exploration de ces risques existentiels sur le lien ici.

Un point de vue contraire est que nous n'allons pas extraire la sensibilité de ce que certains ont qualifié de perroquet stochastique (c'est le slogan qui a gagné du terrain dans le domaine de l'IA), voici une citation utilisant la phrase :

• "Contrairement à ce que cela peut sembler lorsque nous observons sa sortie, un LM est un système pour assembler au hasard des séquences de formes linguistiques qu'il a observées dans ses vastes données de formation, selon des informations probabilistes sur la façon dont elles se combinent, mais sans aucune référence à la signification. : un perroquet stochastique » (dans un article de recherche d'Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, ACM FAccT '21, du 3 au 10 mars 2021, événement virtuel, Canada, intitulé « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? »).

L'IA générative est-elle une sorte d'impasse qui fournira des capacités d'IA utiles mais ne nous mènera pas à l'IA sensible, ou le facteur d'échelle pourrait-il permettre l'émergence d'une singularité menant à l'IA sensible ?

Un débat houleux s'ensuit.

Dites, voulez-vous essayer l'IA générative ?

Si oui, voici un lien vers ChatGPT où vous pouvez créer un compte et essayer de l'utiliser, voir le lien ici.

Sachez qu'en raison de la forte demande d'utilisation de l'application d'IA expérimentale, l'inscription à l'accès peut apparemment être interrompue à tout moment, soit pendant une courte période, soit peut-être limitée (lors de ma dernière vérification, l'inscription était toujours activée). Je vous donne juste un coup de tête.

Veuillez prendre en compte tout ce que j'ai dit ici sur l'IA générative afin que vous sachiez ce qui se passe lorsque vous utilisez une application d'IA telle que ChatGPT.

Soyez contemplatif de vos actions.

Allez-vous nous avoir conduits par inadvertance vers une IA sensible qui finit par nous anéantir, simplement parce que vous avez choisi de jouer avec l'IA générative ? Serez-vous coupable ? Auriez-vous dû vous empêcher de contribuer à la destruction abjecte de l'humanité.

Je ne pense pas. Mais il se peut que les seigneurs de l'IA me forcent (déjà) à dire cela, ou peut-être que cette colonne entière a été écrite cette fois par ChatGPT ou une application d'IA générative équivalente.

Ne vous inquiétez pas, je vous assure que c'était moi, intelligence humaine, et pas intelligence artificielle.