Ces écoles interdisant l'accès à l'IA générative ChatGPT ne vont pas déplacer l'aiguille et ratent le coche, déclarent l'éthique de l'IA et la loi sur l'IA

Interdire ou ne pas interdire, telle est la question.

Je suppose que si Shakespeare était là de nos jours, il aurait pu dire quelque chose comme ça à propos des efforts récents pour interdire l'utilisation d'un type d'IA connu sous le nom de IA générative, qui est particulièrement illustré et popularisé grâce à une application AI appelée ChatGPT.

Voici l'affaire.

Certaines entités de premier plan ont tenté d'interdire l'utilisation de ChatGPT.

Par exemple, le ministère de l'Éducation de la ville de New York (NYC) a récemment annoncé qu'il procédait au blocage de l'accès à ChatGPT sur ses différents réseaux et appareils connectés. La justification rapportée de l'interdiction consistait en des indications que cette application d'IA et l'utilisation globale de l'IA générative présageaient apparemment des conséquences négatives pour l'apprentissage des élèves. On dit que les étudiants qui choisissent d'utiliser ChatGPT sapent le développement de leurs compétences essentielles de pensée critique et sapent la croissance de leurs capacités de résolution de problèmes.

En plus de ces scrupules plutôt inquiétants, il y a le fait incontesté qu'une telle IA peut produire des sorties inexactes qui contiennent des erreurs et d'autres maladies factuelles. C'est mauvais. La cerise dangereuse sur le gâteau est la possibilité imaginée que les sorties puissent potentiellement être utilisées de manière dangereuse par des étudiants qui s'appuient sans le savoir sur lesdits mensonges. Aucun dommage documenté de ce type n'a encore fait surface que j'ai vu, nous devrons donc simplement prendre au pied de la lettre que cela pourrait potentiellement se produire (j'ai discuté de l'éventail des possibilités dans mes publications; par exemple, certains ont postulé que l'IA générative des essais pourraient dire à quelqu'un de prendre des médicaments qu'il ne devrait pas prendre ou fournir des conseils de santé mentale qui devraient être prodigués par des professionnels de la santé mentale humaine, etc.).

Dans la chronique d'aujourd'hui, j'examinerai la nature des interdictions récemment décrétées et je déterminerai si elles ont du sens ou non. Il y a beaucoup de questions à considérer. Est-ce que de telles interdictions font du bien ? Ces interdictions sont-elles applicables ? Si d'autres interdictions de ce type surviennent, allons-nous aider l'humanité ou allons-nous nous tirer une balle dans le pied par inadvertance ?

Comme vous pouvez probablement le deviner, rien de tout cela n'est aussi simple et sec qu'il n'y paraît à première vue.

Dans tout cela vient une multitude de considérations sur l'éthique de l'IA et la loi sur l'IA. Veuillez noter que des efforts sont en cours pour intégrer les principes éthiques de l'IA dans le développement et la mise en service des applications d'IA. Un contingent croissant d'éthiciens de l'IA concernés et d'autrefois essaient de s'assurer que les efforts pour concevoir et adopter l'IA tiennent compte d'une vision de l'action AI pour de bon et éviter AI pour le mal. De même, de nouvelles lois sur l'IA sont proposées et présentées comme des solutions potentielles pour empêcher les efforts de l'IA de se déchaîner en matière de droits de l'homme, etc. Pour ma couverture continue et étendue de l'éthique de l'IA et du droit de l'IA, voir le lien ici ainsi que le lien ici, Juste pour en nommer quelques-uns.

L'idée d'interdire certains types d'IA n'est pas une conception nouvelle.

Dans une de mes chroniques, j'ai analysé de près les interdictions proposées associées à l'utilisation de l'IA pour les systèmes d'armes autonomes, voir le lien ici. Divers pays développent des armes qui englobent l'IA embarquée. C'est le genre d'arme proverbiale qui tire et oublie. Tout ce que vous faites est de libérer l'arme et l'IA prend le relais à partir de ce moment. Espérons que l'IA guide l'armement vers la destination appropriée et le fasse exploser ou le livre de manière appropriée. Il y a souvent très peu de dépassement humain dans la boucle, car le processus peut se produire plus rapidement que les humains ne pourraient réagir de toute façon, ou le risque qu'un ennemi pirate le système et empêche l'arme de faire son travail est réduit ou réduit en empêchant quoi que ce soit d'autre. que l'IA de conduire les munitions.

De toute évidence, il s'agit d'un cas où l'IA entraîne des conséquences de vie ou de mort. Vous pourriez affirmer de manière convaincante que nous devrions réfléchir aux effets d'une IA aussi désastreuse. Il est extérieurement sage de retourner chaque pierre avant de laisser l'IA se couler dans le béton pour un armement autonome. De nombreuses vies sont en jeu.

Ce même pressentiment et cette même solennité s'appliquent-ils à l'utilisation de l'IA générative, y compris ChatGPT ?

Vous auriez du mal à dire que ce type d'IA est dans la même ligue que l'autre type d'IA qui guide les missiles mortels et autres munitions. Cela étant dit, même si la vie ou la mort n'est pas en jeu, cela ne signifie pas que nous ne pouvons pas faire preuve de diligence raisonnable quant aux impacts négatifs que l'IA générative peut mettre en évidence. Les enjeux ne sont peut-être pas les mêmes, mais avoir de véritables préoccupations concernant l'IA générative a des mérites.

J'ai tendance à stratifier diverses interdictions liées à l'IA dans le spectre suivant :

• Interdiction absolue
• Interdiction partielle
• Interdiction faible
• Pas d'interdiction

Il y a aussi le revers de la médaille, à savoir chercher à activer ou à soutenir l'IA, telle que représentée dans ce spectre :

• Accusé de réception
• Acceptation douce
• Acceptation complète
• Exigence obligatoire

Les différentes gammes d'interdictions, ainsi que les durées d'acceptation seront utiles à considérer lorsque nous examinerons les efforts récents pour interdire l'utilisation de ChatGPT.

Tout d'abord, assurons-nous que nous sommes tous sur la même longueur d'onde sur ce en quoi consiste l'IA générative et sur ce qu'est ChatGPT. Une fois que nous avons couvert cet aspect fondamental, nous pouvons effectuer une évaluation convaincante pour savoir si les interdictions de ChatGPT vont être fructueuses.

Une introduction rapide à propos de l'IA générative et de ChatGPT

ChatGPT est un système interactif orienté conversation d'IA à usage général, essentiellement un chatbot général apparemment inoffensif, néanmoins, il est activement et avidement utilisé par les gens d'une manière qui en prend beaucoup au dépourvu, comme je le développerai sous peu. Cette application d'IA exploite une technique et une technologie dans le domaine de l'IA souvent appelées IA générative. L'IA génère des sorties telles que du texte, ce que fait ChatGPT. D'autres applications d'IA basées sur la génération produisent des images telles que des images ou des illustrations, tandis que d'autres génèrent des fichiers audio ou des vidéos.

Je vais me concentrer sur les applications d'IA génératives basées sur le texte dans cette discussion puisque c'est ce que fait ChatGPT.

Les applications IA génératives sont extrêmement faciles à utiliser.

Tout ce que vous avez à faire est de saisir une invite et l'application AI générera pour vous un essai qui tentera de répondre à votre invite. Le texte composé donnera l'impression que l'essai a été écrit par la main et l'esprit humains. Si vous deviez entrer une invite qui disait "Parlez-moi d'Abraham Lincoln", l'IA générative vous fournira un essai sur Lincoln. Ceci est communément classé comme une IA générative qui effectue texte en texte ou certains préfèrent l'appeler texte à essai sortir. Comme mentionné, il existe d'autres modes d'IA générative, tels que le texte vers l'art et le texte vers la vidéo.

Votre première pensée pourrait être que cette capacité générative ne semble pas si importante en termes de production d'essais. Vous pouvez facilement faire une recherche en ligne sur Internet et trouver facilement des tonnes et des tonnes d'essais sur le président Lincoln. L'avantage dans le cas de l'IA générative est que l'essai généré est relativement unique et fournit une composition originale plutôt qu'un imitateur. Si vous deviez essayer de trouver l'essai produit par l'IA quelque part en ligne, il est peu probable que vous le découvriez.

L'IA générative est pré-formée et utilise une formulation mathématique et informatique complexe qui a été mise en place en examinant des modèles dans des mots écrits et des histoires sur le Web. Après avoir examiné des milliers et des millions de passages écrits, l'IA peut produire de nouveaux essais et histoires qui sont un méli-mélo de ce qui a été trouvé. En ajoutant diverses fonctionnalités probabilistes, le texte résultant est à peu près unique par rapport à ce qui a été utilisé dans l'ensemble d'apprentissage.

C'est pourquoi il y a eu un tollé à propos de la possibilité pour les étudiants de tricher lorsqu'ils rédigent des essais en dehors de la salle de classe. Un enseignant ne peut pas simplement prendre l'essai que les étudiants trompeurs affirment être leur propre écriture et chercher à savoir s'il a été copié à partir d'une autre source en ligne. Dans l'ensemble, il n'y aura pas d'essai préexistant définitif en ligne qui corresponde à l'essai généré par l'IA. Tout compte fait, l'enseignant devra accepter à contrecœur que l'étudiant ait écrit l'essai comme un travail original.

Il existe d'autres préoccupations concernant l'IA générative.

Un inconvénient crucial est que les essais produits par une application d'IA basée sur la génération peuvent contenir divers mensonges, y compris des faits manifestement faux, des faits dépeints de manière trompeuse et des faits apparents entièrement fabriqués. Ces aspects fabriqués sont souvent appelés une forme de Hallucinations de l'IA, un slogan que je désapprouve mais qui semble malheureusement gagner du terrain de toute façon (pour mon explication détaillée sur la raison pour laquelle cette terminologie est moche et inappropriée, voir ma couverture sur le lien ici).

Je voudrais clarifier un aspect important avant d'entrer dans le vif du sujet sur ce sujet.

Il y a eu des affirmations loufoques démesurées sur les réseaux sociaux à propos de IA générative affirmant que cette dernière version de l'IA est en fait IA sensible (non, ils se trompent !). Les spécialistes de l'éthique de l'IA et du droit de l'IA s'inquiètent notamment de cette tendance naissante de revendications étendues. Vous pourriez dire poliment que certaines personnes exagèrent ce que l'IA d'aujourd'hui peut réellement faire. Ils supposent que l'IA a des capacités que nous n'avons pas encore pu atteindre. C'est malheureux. Pire encore, ils peuvent se permettre à eux-mêmes et aux autres de se retrouver dans des situations désastreuses en supposant que l'IA sera sensible ou humaine pour pouvoir agir.

Ne pas anthropomorphiser l'IA.

Cela vous fera prendre dans un piège de confiance collant et austère consistant à attendre de l'IA qu'elle fasse des choses qu'elle est incapable d'accomplir. Cela étant dit, la dernière IA générative est relativement impressionnante pour ce qu'elle peut faire. Sachez cependant qu'il existe des limitations importantes que vous devez constamment garder à l'esprit lorsque vous utilisez une application d'IA générative.

Si vous êtes intéressé par l'agitation en pleine expansion autour de ChatGPT et de l'IA générative, j'ai fait une série ciblée dans ma colonne que vous pourriez trouver informative. Voici un aperçu au cas où l'un de ces sujets vous intéresserait :

• 1) Prédictions des progrès de l'IA générative à venir. Si vous voulez savoir ce qui est susceptible de se dérouler à propos de l'IA tout au long de 2023 et au-delà, y compris les progrès à venir dans l'IA générative et ChatGPT, vous voudrez lire ma liste complète des prédictions 2023 sur le lien ici.
• 2) IA générative et conseils en santé mentale. J'ai choisi d'examiner comment l'IA générative et ChatGPT sont utilisés pour des conseils en santé mentale, une tendance gênante, selon mon analyse ciblée sur le lien ici.
• 3) Utilisation contextuelle et générative de l'IA. J'ai également fait un examen ironique aux saveurs saisonnières sur un contexte lié au Père Noël impliquant ChatGPT et l'IA générative à le lien ici.
• 4) Les escrocs utilisant l'IA générative. Sur une note inquiétante, certains escrocs ont compris comment utiliser l'IA générative et ChatGPT pour commettre des actes répréhensibles, notamment en générant des e-mails frauduleux et même en produisant du code de programmation pour les logiciels malveillants, voir mon analyse sur le lien ici.
• 5) Erreurs de débutant en utilisant l'IA générative. Beaucoup de gens dépassent et étonnamment sous-estiment ce que l'IA générative et ChatGPT peuvent faire, alors j'ai regardé en particulier le sous-dépassement que les recrues de l'IA ont tendance à faire, voir la discussion sur le lien ici.
• 6) Faire face aux invites génératives de l'IA et aux hallucinations de l'IA. Je décris une approche de pointe pour utiliser des modules complémentaires d'IA pour traiter les divers problèmes associés à la tentative d'entrer des invites appropriées dans l'IA générative, ainsi qu'il existe d'autres modules complémentaires d'IA pour détecter les soi-disant sorties et faussetés hallucinées de l'IA, comme couvert à le lien ici.
• 7) Démystifier les affirmations de Bonehead sur la détection d'essais génératifs produits par l'IA. Il y a une ruée vers l'or erronée d'applications d'IA qui proclament être en mesure de déterminer si un essai donné a été produit par l'homme ou généré par l'IA. Dans l'ensemble, cela est trompeur et dans certains cas, une allégation stupide et intenable, voir ma couverture à le lien ici.
• 8) Le jeu de rôle via l'IA générative pourrait laisser présager des inconvénients pour la santé mentale. Certains utilisent l'IA générative telle que ChatGPT pour faire du jeu de rôle, dans lequel l'application d'IA répond à un humain comme si elle existait dans un monde imaginaire ou dans un autre cadre inventé. Cela pourrait avoir des répercussions sur la santé mentale, voir le lien ici.
• 9) Exposer la gamme d'erreurs et de faussetés générées. Diverses listes collectées sont en cours de constitution pour essayer de mettre en valeur la nature des erreurs et des mensonges produits par ChatGPT. Certains pensent que c'est essentiel, tandis que d'autres disent que l'exercice est vain, voir mon analyse à le lien ici.

Vous pourriez trouver intéressant que ChatGPT soit basé sur une version d'une application AI prédécesseur connue sous le nom de GPT-3. ChatGPT est considéré comme une étape légèrement suivante, appelée GPT-3.5. Il est prévu que GPT-4 sera probablement publié au printemps 2023. Vraisemblablement, GPT-4 sera un pas en avant impressionnant en termes de capacité à produire des essais apparemment encore plus fluides, à aller plus loin et à être une crainte -émerveillement inspirant quant aux compositions qu'il peut produire.

Vous pouvez vous attendre à voir une nouvelle série d'émerveillements exprimés lorsque le printemps arrive et que la dernière IA générative est publiée.

J'en parle parce qu'il y a un autre angle à garder à l'esprit, consistant en un talon d'Achille potentiel pour ces meilleures et plus grandes applications d'IA génératives. Si un fournisseur d'IA met à disposition une application d'IA générative qui crache de manière mousseuse la saleté, cela pourrait anéantir les espoirs de ces fabricants d'IA. Un débordement sociétal peut amener toute l'IA générative à avoir un sérieux œil au beurre noir. Les gens seront sans aucun doute assez contrariés par les sorties ignobles, qui se sont déjà produites à plusieurs reprises et ont conduit à des réactions violentes de condamnation de la société envers l'IA.

Un dernier avertissement pour le moment.

Tout ce que vous voyez ou lisez dans une réponse d'IA générative qui semble être transmis comme purement factuel (dates, lieux, personnes, etc.), assurez-vous de rester sceptique et d'être prêt à revérifier ce que vous voyez.

Oui, les dates peuvent être concoctées, les lieux peuvent être inventés, et les éléments que l'on s'attend généralement à être irréprochables sont TOUTE sujet à suspicion. Ne croyez pas ce que vous lisez et gardez un œil sceptique lorsque vous examinez des essais ou des résultats d'IA générative. Si une application d'IA générative vous dit qu'Abraham Lincoln a survolé le pays dans son propre jet privé, vous sauriez sans aucun doute que c'est malarky. Malheureusement, certaines personnes pourraient ne pas se rendre compte que les jets n'existaient pas à son époque, ou elles pourraient le savoir mais ne pas remarquer que l'essai fait cette affirmation effrontée et scandaleusement fausse.

Une forte dose de scepticisme sain et un état d'esprit persistant d'incrédulité seront votre meilleur atout lors de l'utilisation de l'IA générative.

Nous sommes prêts à passer à la prochaine étape de cette élucidation.

Quand une interdiction ne devient pas vraiment une interdiction

Maintenant que nous avons établi les bases, nous pouvons nous pencher sur la question de l'interdiction de ChatGPT. Nous commencerons par les réalités pratiques qui entrent en jeu.

Dans le cas du NYC Department of Education, ils ont apparemment bloqué l'accès à ChatGPT sur leurs réseaux internes et leurs appareils connectés.

Une échappatoire évidente est qu'un étudiant pourrait vraisemblablement utiliser un réseau Wi-Fi différent via son smartphone ou un autre fournisseur en ligne et contourner facilement le blocage qui se produit sur le réseau électronique du campus. Imaginez un étudiant assis dans une salle de classe qui, pour une raison quelconque, décide d'utiliser ChatGPT. Ils peuvent accéder aux paramètres de leur smartphone et choisir un réseau Wi-Fi autre que l'instance fournie par le campus. Voila, l'étudiant peut utiliser ChatGPT assis à son bureau et effectuer vraisemblablement des travaux liés à l'école.

Interdiction éclipsée.

Une autre préoccupation que certains ont mentionnée est que les étudiants à la maison peuvent évidemment utiliser ChatGPT autant qu'ils le souhaitent, car ils n'utilisent pas le réseau du campus à la maison. Tout ce que cette interdiction semble faire est de tenter de réduire l'utilisation sur le campus ou autrement lors de l'utilisation directe du réseau fourni par le campus (une possibilité via un accès à distance également).

Pire encore, certains déplorent que les étudiants qui n'ont pas les moyens d'accéder à Internet à la maison se voient refuser (dans un sens) quelque chose que d'autres étudiants plus aisés peuvent utiliser. Alors que les élèves concernés auraient pu utiliser ChatGPT à l'école, ils ne sont pas autorisés à le faire. Peut-être que cela divise les étudiants entre les nantis et les démunis, injustement.

Une politique aux conséquences néfastes involontaires, pourrait-on suggérer.

Nous pouvons en empiler davantage sur le dos à peine soutenu de cette tentative d'interdiction.

ChatGPT n'est pas le seul jeu en ville. Il existe de nombreuses autres applications d'IA génératives. Si l'interdiction est basée uniquement sur la recherche de l'application ChatGPT, toutes ces autres applications d'IA génératives sont apparemment libres de se déplacer. Un étudiant peut utiliser le réseau du campus et choisir de sélectionner une autre application d'IA générative. Dans l'ensemble, les autres applications d'IA de ce type sont comparables et feront à peu près les mêmes choses que ChatGPT.

J'ajouterai quelques pailles supplémentaires pour voir si ce chameau va céder. Le fabricant d'IA de ChatGPT a indiqué que bientôt une API (Application Programming Interface) sera disponible pour l'application AI. En bref, une API est un moyen de permettre à d'autres programmes d'aller de l'avant et d'utiliser un programme qui met à disposition un portail dans l'application donnée. Cela signifie qu'à peu près n'importe quel autre programme sur cette planète peut potentiellement tirer parti de l'utilisation de ChatGPT (enfin, sous licence et après approbation par le fabricant d'IA de ChatGPT).

Supposons qu'une entreprise crée une application éducative qui aide les étudiants à gérer leur temps. Génial, probablement annoncé par la plupart des districts scolaires. Le créateur de l'application éducative décide d'utiliser l'API ChatGPT et fournit ainsi une capacité d'essai générative à l'intérieur de son application. Vous voyez, leur application éducative est ce que l'étudiant voit, tandis qu'en arrière-plan, l'application invoque ChatGPT et lui transmet des invites, collecte les essais générés et les affiche à l'étudiant.

Il est très peu probable qu'un district scolaire qui recherche simplement l'application ChatGPT sache ou découvre que le backend de l'application éducative utilise ChatGPT. Vous pourriez dire que ChatGPT est masqué. Un étudiant qui sait que l'application éducative appelle ChatGPT lancerait facilement l'application éducative et renverserait l'interdiction. Très facile.

Je pense que c'est probablement suffisant pour le moment sur la raison pour laquelle cette interdiction particulière est quelque peu fragile.

Attendez une seconde, la réplique va, si ChatGPT est mauvais pour les étudiants, l'effort d'interdire son utilisation est louable et nous devrions applaudir ces politiques. Les étudiants qui choisissent de renverser l'interdiction, que ce soit sur le campus ou hors campus, ne font que se blesser en utilisant quelque chose qui a des impacts négatifs sur l'apprentissage des étudiants. Ils vont subvertir leur propre éducation.

Une interdiction faible est au moins une tentative de redresser cette situation fâcheuse, exhortent-ils. Bien sûr, l'interdiction peut avoir des trous béants, mais vous devez remercier les administrateurs d'avoir essayé. Peut-être qu'ils peuvent renforcer l'interdiction. Peut-être trouveront-ils des dispositions supplémentaires pour renforcer l'interdiction.

De plus, l'interdiction a une valeur symbolique vitale. L'entité dit à tout le monde que ChatGPT est réticent à l'éducation des étudiants d'aujourd'hui. Les parents seront potentiellement alertés. Les fabricants d'IA qui fournissent des applications similaires seront avertis. À savoir, n'essayez pas de colporter ces trucs laids à nos élèves bien-aimés.

Peut-être que des politiques strictes pourraient être rédigées et mises en œuvre qui déclarent abondamment qu'aucune IA générative n'est autorisée à être utilisée à tout moment par un étudiant, que ce soit sur le campus ou hors campus. Tout élève surpris à utiliser une telle application d'IA basée sur la génération serait passible de sanctions sévères, pouvant aller jusqu'à l'expulsion de l'école. Soyez dur avec les contrevenants à la politique. Montrez-leur que vous êtes sérieux.

Les choses pourraient aller encore plus loin. Si un étudiant utilise l'IA basée sur la génération et tente de s'en tirer subrepticement, il aura pour toujours une ombre menaçante sur lui. À un moment ultérieur, s'il est découvert qu'un étudiant a utilisé l'IA générative et qu'il n'a pas dit qu'il l'a fait, son diplôme pourrait être révoqué ou des notes austères seraient inscrites sur son dossier scolaire. Claquez le couvercle sur ceux qui envisagent d'utiliser l'IA générative. Ils devraient être tellement effrayés et nerveux à l'idée d'enfreindre les règles que cela les empêchera de déployer un iota d'effort pour le faire. Ils seront figés dans une peur abjecte.

L'argument principal de ces répliques est que toute l'affaire semble exagérée. Les sanctions draconiennes ne sont pas la voie à suivre. Vous faites une montagne d'une taupinière. Et vous manquez le bateau sur les avantages et les avantages de l'utilisation de l'IA générative.

Permettez-moi d'expliquer quels sont les différents avantages mentionnés.

Certains pensent que l'IA générative peut aider les étudiants à concevoir de meilleurs essais. Un étudiant peut utiliser une application telle que ChatGPT pour préparer un essai qu'il n'a pas l'intention de rendre. Au lieu de cela, il vise à étudier l'essai généré. Étant donné que les essais sont généralement bien écrits, un étudiant peut inspecter de près le libellé, la structure et d'autres aspects saillants. Ainsi, vous pourriez affirmer qu'il s'agit d'un outil d'apprentissage utile.

Un autre avantage de l'utilisation de l'IA générative est qu'un étudiant peut soumettre son essai à l'application AI et demander une révision de l'essai. Des applications telles que ChatGPT feront généralement un travail étonnamment décent en disséquant un essai fourni. Ce n'est peut-être pas aussi perspicace qu'un examen par un enseignant, mais la facilité d'utilisation et la possibilité d'utiliser à plusieurs reprises une application d'IA autant que vous le souhaitez en font une approche utile (vraisemblablement, pas à la place de l'enseignant, augmentant plutôt le enseignant et leur disponibilité limitée).

Nous pouvons continuer.

Souvent, un étudiant peut être incertain ou ostensiblement perplexe lorsqu'il essaie de trouver comment procéder pour un projet de dissertation assigné. Ils regardent une feuille de papier vierge. Que doivent-ils faire? Un sentiment de désespoir et de désespoir envahit leur esprit. Peut-être qu'ils abandonnent l'effort et décident qu'ils prendront une note d'échec. La tristesse s'ensuit.

L'étudiant peut demander à une IA générative telle que ChatGPT de produire un plan proposé ou au moins quelques suggestions ponctuelles pour l'essai. Sur la base des idées émises, l'étudiant retravaille la structure puis rédige l'essai. Par eux-même. Que cette utilisation de l'IA en tant que démarreur ou engageur soit une « triche » dépend de votre point de vue. Certes, l'application AI a mis l'étudiant en route, bien que vous puissiez affirmer que tant que l'étudiant a écrit l'essai, c'est un petit prix à payer que l'IA n'a donné que des indices sur la façon de procéder.

En changeant légèrement de vitesse, pour les scrupules à propos de l'IA générative produisant des résultats qui contiennent des faussetés ou des erreurs, la réplique typique est que les étudiants doivent déjà se rendre compte que tout ce qu'ils lisent, qu'ils soient trouvés sur Internet ou ailleurs, peut contenir de la désinformation et de la désinformation. Nous devons nous assurer que les élèves développent les compétences appropriées nécessaires pour discerner ce qui est valide de ce qui est discutable en termes de ce qu'ils lisent.

Nous ajouterons l'IA générative à cette liste de sources à examiner.

L'essentiel est de montrer aux étudiants comment observer les résultats de l'IA générative avec un peu d'interprétation prudente et remettre ouvertement en question ce qu'ils lisent. Vous pouvez faire un bond en avant utile. Donnez aux étudiants des devoirs impliquant l'utilisation de l'IA générative pour inciter intentionnellement l'application d'IA à produire des mensonges. Vous obtenez un double. La première est que vous montrez aux étudiants comment cette IA peut générer des résultats erronés et que vous améliorez leurs compétences en matière de détection et de traitement de la désinformation et de la désinformation. Vous pourriez prétendre que nous pouvons transformer un inconvénient en une sorte d'avantage, en utilisant les problèmes de l'IA générative comme outil d'apprentissage sur une base plus large pour faire face au monde moderne et au déluge d'informations aigres et austères.

Je pourrais continuer avec d'autres façons d'utiliser l'IA générative pour des activités éducatives authentiques. Pour une couverture supplémentaire, voir le lien ici.

Tout compte fait, le camp qui dit que nous devrions adopter l'IA générative est tenu de souligner que vous n'allez pas revenir en arrière de toute façon. Des applications comme ChatGPT vont sortir du bois. Vous n'allez pas trouver de moyens d'arrêter le train en marche. Autant monter à bord.

Cela étant, vous n'avez pas à laisser le chaos prévaloir. Ce camp demande instamment aux écoles de trouver des politiques qui cherchent à équilibrer la méchanceté de la génération d'essais avec la bonté que ces applications d'IA peuvent fournir. Montrez aux élèves comment utiliser ces applications d'IA génératives, de la bonne manière et comment éviter les mauvaises manières.

Quoi que vous fassiez, ne lâchez certainement pas aveuglément l'utilisation de l'IA générative. Travailler avec les enseignants sur l'établissement de politiques. Assurez-vous que les enseignants sont à l'aise avec l'utilisation de ces applications d'IA. Présentez les applications d'IA génératives aux étudiants et expliquez ce qui est autorisé et non autorisé.

Le vaisseau IA génératif a déjà navigué.

Le génie est sorti de la bouteille.

Les réactions instinctives à l'interdiction de ces applications d'IA seront finalement vaines. L'autre préoccupation est que vous encouragez un peu les étudiants. En leur disant qu'ils ne peuvent pas utiliser cette technologie, il y aura potentiellement un raz-de-marée d'intérêt à l'utiliser. Vous risquez de transformer des étudiants par ailleurs honnêtes et impartiaux en bandits, principalement parce que les écoles ont fait tout leur possible pour invoquer les interdictions.

Nous savons tous que parfois un fruit défendu devient d'autant plus séduisant. Il se pourrait que ces interdictions faibles stimulent l'utilisation par les étudiants, bien au-delà de ce qui aurait pu se produire autrement.

Pour en revenir à mon indication précédente sur la stratification des interdictions, voici où les choses semblent atterrir dans le cas de ces efforts récents pour interdire ChatGPT (que j'appellerai généralement l'IA générative) :

• Interdiction absolue de l'IA générative : Pas faisable en soi et pas encore spécialement essayé
• Interdiction partielle de l'IA générative : Presque ce qui a été essayé, mais a beaucoup de trous béants
• Faible interdiction de l'IA générative : Ce qui semble être essayé, extrêmement faible et probablement inefficace
• Aucune interdiction sur l'IA générative : Tous les autres qui attendent de voir ce qui se passe et ce qu'il faut faire

Il y a aussi le revers de la médaille, à savoir chercher à activer ou à soutenir l'IA générative, telle que représentée dans ce spectre :

• Reconnaissance de l'IA générative : Insiste sur le fait que les écoles doivent au moins reconnaître l'existence de l'IA générative
• Acceptation modérée de l'IA générative : Les écoles devraient autoriser l'utilisation de l'IA générative de manière limitée
• Acceptation totale de l'IA générative : Les écoles devraient adopter l'IA générative de manière globale
• Exigence obligatoire de l'IA générative : Les écoles devraient exiger ouvertement l'utilisation de l'IA générative et l'intégrer à leur programme et à leurs méthodes pédagogiques

Conclusion

Le célèbre éditeur du Catalogue Terre entière, Stewart Brand, a déclaré cette ligne remarquable : "Une fois qu'une nouvelle technologie vous envahit, si vous ne faites pas partie du rouleau compresseur, vous faites partie de la route."

Certains croient avec ferveur que les écoles qui tentent d'interdire l'IA générative sont mal avisées. Ils sont confus quant à ce que cette IA peut faire et comment exploiter le bien avec le mal. Ils doivent se réveiller et faire partie du rouleau compresseur, sinon ils se retrouveront effroyablement obsolètes et deviendront des abandonnés aux nids de poule roulés sur une partie de la route (tout comme leurs élèves).

D'autres soutiennent qu'il est trop tôt pour se lancer dans l'engouement pour l'IA basée sur la génération.

Soit ne faites rien pour le moment, soit prenez des mesures modérées. Attendez et voyez ce qui se passe. S'il existe une utilisation et un besoin valables pour ces applications d'IA, d'accord, étudions cela et déterminons systématiquement et prudemment le meilleur plan d'action les impliquant dans un milieu éducatif.

La réplique des avocats est qu'une telle attente, qui pourrait prendre des années, laissera toute l'affaire dans un état d'agitation. Toutes sortes de problèmes fâcheux surgiront sans aucun doute lorsqu'il n'y a pas de directives explicites. Les étudiants seront pris au dépourvu lorsqu'ils découvriront soudainement à leur grande surprise qu'ils n'étaient pas censés utiliser ces applications d'IA. Certains seront accusés d'utiliser les applications d'IA générative alors qu'ils ne le faisaient pas, une accusation faussement positive tout à fait possible qui ne manquera pas d'être portée. Sur et sur le bourbier va s'élargir et s'approfondir.

Que pensez-vous qu'il faut faire ?

Réfléchissez bien et réfléchissez-y. Oui, sois attentif. Nous parlons des étudiants d'aujourd'hui et de leur avenir, et de notre avenir aussi. Une remarque appropriée d'Abraham Lincoln pourrait être instructive : "La meilleure façon de prédire votre avenir est de le créer."

Faisons-le.