Les inquiétudes furieuses que l'IA générative ChatGPT incite les étudiants à tricher énormément lors de la rédaction d'essais, engendre une attention captivante pour l'éthique de l'IA et la loi sur l'IA

L'essai écrit par les étudiants d'aujourd'hui est-il un jamais plus ?

Est-ce que la dissertation remplie d'angoisse de l'étudiant part fiévreusement par la fenêtre ?

C'est le brouhaha qui a éclaté dans un tollé général récemment. Vous voyez, l'apparition d'une application d'IA connue sous le nom de ChatGPT a attiré beaucoup d'attention et a également suscité beaucoup de colère. Pour ma couverture complète de ChatGPT, voir le lien ici. Pour ma couverture continue et étendue de l'éthique de l'IA et du droit de l'IA, voir le lien ici ainsi que le lien ici, Juste pour en nommer quelques-uns.

L'essentiel des cris et des beuglements est que ce type d'IA, généralement appelé IA générative, sera le glas pour demander aux étudiants de faire des devoirs de type dissertation.

Pourquoi

Parce que l'IA générative la plus récente est capable de produire des essais apparemment fluides par la simple saisie d'une simple invite. Si vous entrez une ligne telle que "Parlez-moi d'Abraham Lincoln", l'IA générera un essai sur la vie et l'époque de Lincoln qui est souvent assez bon pour être confondu avec le fait d'avoir été entièrement et exclusivement écrit par des mains humaines. De plus, et c'est là le véritable atout, l'essai ne sera pas un doublon ou une copie visible de quelque chose d'autre déjà écrit sur le même sujet. L'essai produit sera essentiellement un "original" pour autant que toute inspection occasionnelle le confirmerait.

Un étudiant confronté à un devoir d'écriture peut simplement invoquer l'une de ces applications d'IA génératives, entrer une invite, et le tour est joué, tout son essai a été écrit pour lui. Ils n'ont qu'à couper et coller le texte généré automatiquement dans un document vide, y inscrire subrepticement leur nom et leurs informations de classe, et avec un peu de bravade plutôt audacieuse, aller de l'avant et le transformer en leur propre travail.

Les chances qu'un enseignant puisse découvrir que l'essai a été écrit par l'IA et non par l'élève sont presque nulles.

Scandaleux!

Les gros titres ont proclamé à la hâte que nous avons atteint la fin amère de faire écrire des essais ou de faire essentiellement n'importe quel type de devoirs d'écriture en dehors de la classe. Le seul moyen de faire face à la situation semblerait être de recourir à la rédaction de dissertations en classe. Lorsque les élèves se trouvent dans un environnement contrôlé tel qu'une salle de classe et supposent qu'ils n'ont pas accès à des ordinateurs portables ou à leurs smartphones, ils se retrouveront confinés à rédiger des dissertations à l'ancienne.

Pour clarifier, la méthode à l'ancienne signifie qu'ils devront écrire uniquement via l'utilisation de leurs propres noggins.

Tout type d'essai fait en dehors de la salle de classe sera immédiatement suspecté. L'élève a-t-il écrit l'essai ou une application d'IA l'a-t-elle fait ? Comme mentionné, l'essai sera si bien écrit que vous ne pourrez pas facilement détecter qu'il a été écrit par une machine. L'orthographe sera impeccable. La syntaxe sera formidable. La ligne de discours et les arguments coachés potentiels seront convaincants.

Heck, d'une manière de parler, vous pourriez suggérer que l'IA générative penchera sa main proverbiale en faisant un essai qui dépasse les capacités de l'étudiant qui choisit de prendre cette voie néfaste. Un enseignant peut avoir des soupçons simplement parce que l'essai est un peu trop bon. Un enseignant avisé serait tenté de deviner que l'élève n'aurait pas pu écrire une prose aussi élégante et hermétique. Les sonnettes d'alarme internes commencent à sonner.

Bien sûr, défier un étudiant à propos de sa dissertation sera moche et peut avoir des conséquences néfastes.

Supposons que l'étudiant ait soigneusement écrit l'essai, tout seul. Ils l'ont peut-être vérifié deux fois et trois fois. Il y a aussi une chance qu'ils aient demandé à un ami ou à une connaissance de jeter un coup d'œil pour repérer tout ce qui nécessite un polissage supplémentaire. Dans l'ensemble, c'est toujours leur essai tel qu'il a été écrit par eux. Imaginez un enseignant posant à cet élève sérieux et studieux des questions pointues sur la dissertation. L'embarras et le chagrin d'être essentiellement accusé de tricherie sont palpables, même si l'enseignant ne fait pas une telle affirmation à voix haute. La simple confrontation en elle-même suffit à saper l'estime de l'étudiant et à le faire se sentir faussement calomnié.

Certains insistent sur le fait que tout enseignant soupçonnant la paternité d'un essai devrait demander à l'élève d'expliquer ce qu'il a écrit. Vraisemblablement, si l'essai a été écrit par l'étudiant, l'étudiant particulier peut l'expliquer de manière adéquate. Les enseignants ont fait ce genre d'enquête pendant des éternités. Un élève peut avoir amené un autre élève à rédiger sa dissertation à sa place. L'élève a peut-être demandé à un parent d'écrire sa dissertation. Dans le monde d'aujourd'hui, l'étudiant peut payer quelqu'un sur Internet pour écrire secrètement son essai en son nom.

Ainsi, demander à un étudiant de vérifier la paternité via une enquête en classe est habituel et pas un gros problème.

Je suis content que vous ayez soulevé cela.

Tenter de faire griller un étudiant légèrement ou manifestement n'est pas aussi simple qu'on pourrait le penser. L'étudiant aurait pu étudier de près l'essai produit par l'IA et se préparer à un éventuel interrogatoire.

Pense-y de cette façon. L'étudiant génère d'abord l'essai en appuyant simplement sur un bouton. L'étudiant passe alors des quantités de temps qu'il aurait consacré à la rédaction de l'essai au lieu d'examiner et d'étudier méticuleusement l'essai. Au bout d'un moment, les mots sont presque totalement gravés dans la mémoire. L'étudiant s'illusionne presque en croyant qu'il a effectivement écrit l'essai. Ce semblant de confiance et de prise de conscience pourrait facilement les faire passer à travers l'examen minutieux dirigé par l'enseignant.

Aha, disent certains avec un peu de contrepoint aux craintes des applications d'IA génératives, notez que l'étudiant a en fait "appris" quelque chose en ayant généré l'essai. Bien sûr, l'étudiant n'a pas fait les démarches pour rechercher le sujet, et il n'a pas non plus rédigé l'essai, mais néanmoins, s'il a étudié attentivement l'essai, cela semble montrer qu'il a appris le sujet assigné. L'étudiant qui s'engage à apprendre par cœur l'essai sur Lincoln a probablement appris quelque chose de substantiel sur Lincoln.

L'apprentissage a eu lieu.

Whoa, la réplique va, la mission était probablement un processus en deux volets. En savoir plus sur Lincoln aurait pu être relativement secondaire. Le but réel était d'amener l'étudiant à apprendre à écrire. Cette partie essentielle de la mission a été complètement sapée. Les enseignants attribuent souvent des sujets ouverts et visent simplement à ce que l'élève expérimente l'écriture. Vous devez mettre en page ce que vous voulez écrire, vous devez trouver les mots que vous utiliserez, vous devez mettre les mots dans un ensemble raisonnable de phrases et de paragraphes, et ainsi de suite. La simple lecture d'un essai produit par l'IA ne correspond pas du tout à cet aspect fondamental d'un devoir d'essai.

Le contrepoint à cela est l'affirmation selon laquelle l'élève apprend potentiellement l'écriture en examinant de près l'écriture produite par l'IA. N'étudions-nous pas tous les grands maîtres de l'écriture pour voir comment ils écrivent ? Notre écriture est une tentative d'atteindre les goûts de Shakespeare et d'autres grands écrivains. L'étude de l'écrit est un moyen valable d'apprendre à écrire.

Comme un match de tennis acharné, la balle passe de l'autre côté du filet. Bien qu'étudier une bonne écriture soit une bonne chose, vous devez finalement écrire si vous voulez être capable d'écrire. Vous ne pouvez pas simplement lire sans fin et ensuite supposer sans comprendre que l'élève sait maintenant écrire. Ils doivent écrire, écrire et continuer à écrire jusqu'à ce qu'ils soient capables de mettre en valeur et d'améliorer concrètement leurs capacités d'écriture.

Voyez-vous à quel point tout cela est une énigme?

Sachez qu'il y a environ un million de rebondissements ou plus dans tout cela.

Je couvrirai certains des rebondissements les plus ingénieux et les plus intéressants.

Réglage de l'essai via l'invite de l'IA

Après avoir mentionné Shakespeare, voici un aspect de l'IA générative qui pourrait vous surprendre. Dans de nombreuses applications d'IA génératives, vous pouvez dire quelque chose comme ceci : "Écrivez un essai sur Lincoln comme si Shakespeare avait écrit l'essai." L'IA tentera de générer un essai qui semble être écrit dans la langue habituellement utilisée par Shakespeare dans ses écrits. C'est un exploit assez amusant et engageant à voir et beaucoup en profitent.

Comment cela se rapporte-t-il à l'étudiant qui « triche » en utilisant l'IA générative pour rédiger ses dissertations ?

Dans de nombreuses applications d'IA génératives, vous pouvez dire à l'IA d'écrire d'une manière moins que stellaire. L'IA cherchera à produire un essai quelque peu approximatif sur les bords. Il y a des problèmes de syntaxe ici ou là. La logique de l'essai peut être nerveuse ou légèrement décousue.

Ce serait une ruse astucieuse. L'étudiant prend l'essai qui en résulte et le remet. L'essai est assez bon pour obtenir une note supérieure, mais en attendant pas si parfait qu'il suscite la colère de l'enseignant. Une fois de plus, l'IA a fait toutes les démarches pour l'étudiant, y compris en rendant l'essai quelque peu imparfait.

En plus de cela, la plupart des applications d'IA génératives vous permettent d'utiliser l'application autant que vous le souhaitez. Voici comment cela se passe. Un étudiant saisit que l'application AI doit faire un essai quelque peu imparfait sur Lincoln. L'essai est produit. L'étudiant regarde l'essai et se rend compte qu'il est encore trop parfait. L'étudiant entre dans une autre invite qui demande à l'IA de rendre les imperfections plus prononcées.

Faire mousser, rincer, répéter.

L'étudiant continue d'entrer des invites et d'inspecter les essais produits. Cela se produit encore et encore. Finalement, l'étudiant obtient l'IA juste au bon niveau d'imperfection dans l'essai. La version boucle d'or a été atteinte. Il est juste assez parfait pour obtenir une bonne note, et juste assez imparfait pour ne pas éveiller les soupçons.

Je suis sûr que certains d'entre vous disent gentiment que si l'étudiant avait simplement choisi d'écrire le satané essai en premier lieu, il aurait peut-être passé moins de temps ou au moins le même temps à écrire l'essai lui-même. Toute cette utilisation énergivore de l'application d'intelligence artificielle aurait pu être dirigée simplement vers la rédaction de l'essai.

Eh bien, rappelez-vous, l'étudiant n'a pas cela en tête. La facilité d'entrer des invites et de réviser et sélectionner de manière itérative l'essai souhaité est forcément beaucoup plus facile à faire pour l'étudiant. Une heure à faire cela est beaucoup moins ardue que d'écrire l'essai directement. L'intelligence dans ce cas doit être mise en balance avec la réalité.

Que se passe-t-il si d'autres étudiants font de même

Je parierais que vous aviez cette idée intelligente en tête lorsque vous lisiez l'analyse précédente sur les essais et les applications d'IA générative, à savoir que l'étudiant se fera sans aucun doute prendre si beaucoup d'autres étudiants font de même.

Permettez-moi d'expliquer.

Un enseignant charge toute sa classe d'écrire un essai sur Lincoln. Supposons que 90 % des étudiants décident d'utiliser une application d'IA générative pour ce devoir. Si 90 % semble trop déprimant, allez-y et utilisez 10 % à la place. Gardez simplement à l'esprit qu'à mesure que les étudiants découvrent l'utilité des applications d'IA génératives, la tentation de les utiliser va se multiplier.

D'accord, donc un pourcentage notable de la classe utilise une application d'IA générative. Vous supposeriez que les étudiants vont tous rendre à peu près le même essai de Lincoln. L'enseignant remarquera au moment où il notera le troisième ou le quatrième essai que les essais sont tous à peu près les mêmes. Ce sera un énorme indice que quelque chose ne va pas.

Désolé, mais il est peu probable que vous soyez aussi chanceux.

La plupart des applications d'IA génératives sont très sensibles à la composition particulière d'une invite. Si j'écris "Parlez-moi de Lincoln" par rapport à si j'écris "Parlez-moi de la vie de Lincoln", il y a de fortes chances que les essais soient sensiblement différents. Dans le premier cas, peut-être que l'essai produit par l'IA se concentre sur le président Lincoln pendant son mandat à la Maison Blanche et omet tout ce qui concerne son enfance. L'autre invite pourrait produire un essai couvrant sa naissance à sa mort.

Les étudiants n'entreront probablement pas exactement ce que l'enseignant leur a donné comme invite pour l'essai. Il semblerait judicieux, en tant que tricheur, d'essayer des variantes. Mais même si tous les étudiants saisissent exactement la même invite, il y a de fortes chances que chaque essai soit quelque peu différent des autres.

Ces applications d'intelligence artificielle utilisent un vaste réseau mathématique et informatique conçu en interne qui correspond essentiellement à des modèles de texte trouvés sur Internet. Inclus dans le processus de génération d'un essai est un facteur probabiliste. Il est peu probable que les mots choisis soient dans le même ordre et de la même formulation exacte. Chaque essai généré sera généralement différent.

Il y a cependant un hic à cela. Si le sujet choisi est assez obscur, il est possible que certains des essais produits se ressemblent. Ce serait en partie parce que le motif à la racine du texte était mince au départ. Cela étant dit, la manière dont l'essai est composé pourrait encore être très différente. Tout ce que je dis, c'est que l'essence du contenu en soi pourrait potentiellement être à peu près la même.

Ne voulant pas paraître maussade, mais vous pourriez potentiellement faire la même affirmation sur un sujet commun comme la vie de Lincoln. De combien de manières différentes pouvez-vous élaborer sur les aspects généraux de sa vie ? Si vous sécurisez d'une manière ou d'une autre des étudiants dans une salle de classe verrouillée pour écrire sur Lincoln et leur donnez un accès en ligne à des recherches sur sa vie, j'ose dire que les chances que les essais soient quelque peu similaires pourraient se produire de toute façon.

Le facteur gratuit et facile est substantiel

Si un étudiant veut aujourd'hui tricher en payant quelqu'un sur Internet pour rédiger sa dissertation, c'est très simple à faire (j'espère que cela ne vous choquera pas, j'aurais peut-être dû donner un avertissement déclencheur au préalable).

Le problème est que vous devez payer pour l'essai. De plus, il y a une petite chance que vous puissiez, plus tard, vous faire prendre, peut-être. Avez-vous utilisé une carte de crédit pour payer l'essai ? Peut-être vaut-il mieux utiliser une forme de traitement de paiement souterrain pour essayer de garder vos traces claires.

La beauté ou peut-être le facteur exaspérant de l'IA générative est qu'à l'heure actuelle, la plupart d'entre eux sont disponibles gratuitement. Aucun paiement n'est requis. Aucun historique particulier de votre utilisation (enfin, pour être clair, l'application AI peut suivre votre utilisation, d'autant plus que de nombreuses applications AI exigent que vous vous inscriviez avec une adresse e-mail, mais bien sûr, vous pouvez aussi simuler cela ).

Certaines personnes supposent naturellement que vous devez être un assistant d'IA pour utiliser une application d'IA générative.

Pas du tout.

Dans l'ensemble, les applications d'IA génératives sont étonnamment simples à utiliser. Vous appelez l'application AI. Il vous présente une zone de texte ouverte pour que vous puissiez saisir votre invite. Vous entrez une invite et appuyez sur Soumettre. L'application AI génère le texte.

C'est à peu près ça.

Aucun langage informatique spécialisé n'est nécessaire. Aucune connaissance des bases de données ou de la science des données. Je vous assure que presque tous les enfants scolarisés peuvent facilement utiliser une application d'IA générative. Si un enfant peut taper, il peut utiliser ces applications.

Certains soutiennent que les entreprises qui fournissent les applications d'IA génératives devraient d'abord vérifier l'âge de l'utilisateur, probablement pour empêcher les non-adultes d'utiliser l'IA à des fins de triche lors de la rédaction d'essais. Si l'utilisateur indique qu'il n'est pas un adulte, ne le laissez pas utiliser l'application AI. Franchement, c'est un scénario de prévention improbable, à moins que des lois liées à l'IA n'aient été promulguées pour tenter d'établir ce type de restrictions. Même si de telles lois sont adoptées, vous pouvez probablement contourner cela en utilisant une application d'IA générative hébergée dans un autre pays, etc.

Un autre angle prohibitif serait si les applications d'IA générative coûtaient de l'argent à utiliser. Supposons qu'il y ait des frais par transaction ou des frais d'abonnement. Cela mettrait l'application d'IA générative sur un pied d'égalité avec ces humains sur Internet qui écriront un essai pour vous qui vous facturera de le faire. Le travail irait en tête-à-tête avec l'IA (en aparté, tout cela suggère que les humains qui écrivent des essais pour les étudiants vont être remplacés par l'IA qui fait la même chose ; la question est de savoir si nous devons être attristés ou satisfaits que ces humains qui gagnent ainsi leur vie ne pourront plus le faire de cette manière).

Les entreprises qui créent des applications d'IA génératives souhaitent certainement gagner de l'argent avec ces applications, bien que la manière de le faire soit encore en suspens. Facturer des frais de transaction, des frais d'abonnement ou peut-être facturer par mot généré sont tous sur la table. Plutôt que de faire payer les gens, la monétisation peut se faire via l'utilisation d'annonces. Peut-être que chaque fois que vous utilisez une application d'IA générative particulière, vous devez d'abord voir une publicité. Cela pourrait être un faiseur d'argent.

Je déteste renverser du lait là-dessus, mais comme moyen de surmonter la tricherie des étudiants, ce ne sera pas une solution miracle. Même pas proche.

Il existe des versions open source de l'IA générative. Les gens les publient et d'autres sont susceptibles de rendre l'application disponible gratuitement. D'une manière ou d'une autre, même si certaines entreprises facturent des frais, vous pourrez trouver des variantes gratuites, même si vous devrez peut-être voir des publicités ou peut-être vous inscrire et donner des informations sur vous-même à des fins de marketing.

Est-ce que le multi-étape aide cela

Un étudiant choisit d'utiliser une application d'IA générative pour produire son essai.

Plutôt que de rendre immédiatement l'essai, l'étudiant décide d'éditer l'essai. Ils retirent judicieusement quelques mots ici. Mettez-y quelques mots. Déplacez une phrase vers le haut. Déplacez une phrase plus bas. Après un peu d'édition et de peaufinage, ils ont maintenant un essai qu'ils sont prêts à rendre.

Cette dissertation est-elle le travail de l'élève ou non ?

Je vous ai amené à la question non résolue à un million de dollars.

Faisons quelques rappels rapides sur les droits légaux et la violation. C'est un sujet que j'ai pas mal abordé, comme le lien ici ainsi que le lien ici, Par exemple.

Vous savez probablement déjà quelque chose sur les droits d'auteur et ce qu'on appelle la propriété intellectuelle (PI). Quelqu'un qui a une histoire protégée par le droit d'auteur est censé conserver divers droits légaux associés à cette histoire. Ils n'ont pas un semblant de droits légaux complètement à toute épreuve. Il y a des exclusions et des exceptions.

L'un des problèmes les plus difficiles concernant la violation du matériel protégé par le droit d'auteur de quelqu'un est la proximité de ce que vous pourriez avoir par rapport à la source d'origine. Peut-être avez-vous lu ou vu des reportages sur des chanteurs célèbres et leurs paroles, dans lesquels quelqu'un d'autre a écrit une chanson avec des paroles apparemment similaires et si cela était légalement approprié ou non.

J'avais mentionné plus tôt qu'en général, l'application d'IA générative ne produit pas d'essai qui soit une copie conforme d'autres matériaux sur lesquels elle a été précédemment formée via l'examen de contenu sur Internet. Il y a de fortes chances que le matériel soit généralisé et fusionné de sorte qu'il ne ressemble plus étroitement à la composition du contenu source.

Nous devrons attendre et voir comment le processus judiciaire traitera de cela. Si une application d'IA générative produit une œuvre qui ressemble visuellement à une œuvre d'art sourcée, nous aurions probablement tendance à accuser l'IA et les créateurs de l'IA d'avoir violé le droit d'auteur associé à l'œuvre originale. Nous pouvons le voir de nos propres yeux.

En ce qui concerne les essais, cela peut être plus délicat. Les cas évidents sont lorsque des phrases entières et des paragraphes sont identiques mot à mot. Nous pouvons tous le voir. Mais lorsque le libellé diffère avec un minimum de différences, nous entrons dans des zones grises.

À quelle distance du matériau d'origine le matériau nouvellement créé doit-il être pour déclarer qu'il s'agit d'un original de bonne foi sur ses propres mérites ?

C'est une question de poids.

Relions cela à l'étudiant qui utilise l'application d'IA générative pour son essai.

Imaginez pour le moment qu'un essai particulier généré par l'application AI va être interprété comme un essai "original". Je dis supposer qu'il ne viole d'aucune manière apparente tout autre essai ou récit de texte préexistant n'importe où sur terre.

L'étudiant commence alors avec une source originale du matériel. Comme déjà indiqué, l'étudiant édite et affine ce matériel. Les choses atteignent un point où l'original tel que produit par l'application AI diffère désormais de la version raffinée que l'étudiant a conçue.

Est-ce de la triche?

Peut-être que oui, peut-être que non.

Vous pouvez soutenir que c'est le cas. L'étudiant a commencé avec l'IA en écrivant son essai pour eux. Tout ce que l'étudiant a fait est mécaniquement joué avec l'essai. Nous attendons de l'étudiant qu'il rédige l'essai à l'improviste et qu'il utilise sa propre tête pour le faire. C'est clairement tricher d'utiliser l'application AI pour générer leur ligne de base. Attribuez une note « F » à l'étudiant.

Pas si vite. Vous pouvez dire que ce n'est pas de la triche. L'élève a recréé le matériel source. Si une comparaison entre l'essai produit par l'application AI et la version raffinée par l'étudiant est une différence suffisamment importante, nous dirions que l'étudiant a écrit l'essai. Certes, ils ont utilisé d'autres matériaux pour le faire, mais ne pouvez-vous pas dire la même chose s'ils ont utilisé une encyclopédie ou une autre source ? Cet étudiant mérite une note « A » pour avoir composé un essai par son propre esprit (même s'il a fait référence à d'autres documents pour le faire).

Les enseignants vont être pris au milieu de cette question déjà épineuse.

Une approche consiste à ce qu'un enseignant déclare catégoriquement que les élèves doivent répertorier tous les documents référencés, y compris si une application d'IA générative a été utilisée ou non. Si un étudiant ne parvient pas à répertorier franchement l'IA générative comme référence, et si l'enseignant découvre qu'il ne l'a pas répertoriée, l'étudiant obtient sommairement une note «F» pour le devoir. Ou peut-être que certaines écoles considéreront cela comme un acte de tricherie qui amène l'élève à se faire automatiquement rater. Ou peut-être expulsé. Nous devrons voir jusqu'où les écoles vont sur ces questions.

En général, nous nous dirigeons vers un monde à l'envers de la propriété intellectuelle et de la propriété légale d'œuvres telles que des essais (texte), de l'art (images) et de la vidéo, notamment :

• Certains chercheront une réparation légale auprès des fabricants d'IA générative quant aux sources de contenu qui ont été utilisées par l'IA pour générer la sortie produite.
• Certains prendront le résultat de l'IA générative et considéreront le résultat comme leurs propres œuvres, puis essaieront de demander réparation à quiconque viole leur travail « original ».
• Cela pourrait tourner autour, de sorte que quelqu'un produit une sortie à partir de l'IA générative, qui est publiée sur Internet, puis une autre IA générative arrive et l'utilise dans sa formation à la production d'œuvres similaires.

Transformer un négatif en positif

Tous ces discours sur la méchanceté de l'IA générative en ce qui concerne la triche des étudiants obscurcissent peut-être nos esprits, exhortent certains.

Prenez cela dans une direction différente.

Êtes-vous assis?

Peut-être que les enseignants devraient envisager de demander délibérément aux élèves d'utiliser l'IA générative dans le cadre du processus d'apprentissage sur la rédaction d'essais.

J'ai déjà écrit sur le soi-disant double usage de l'IA, voir le lien ici. L'idée est que parfois un système d'IA peut être utilisé pour le mal et parfois il peut être inversé et utilisé pour le bien. L'aspect inquiétant, c'est quand quelqu'un écrit l'IA pour de bon et ignore parfaitement à quel point son IA peut facilement être transformée en spectre de la méchanceté. Partie de IA éthique est la prise de conscience que l'IA doit être conçue de manière à ne pas être transformée du jour au lendemain en malédiction. C'est une préoccupation constante.

Retour à l'IA générative pour produire des essais.

Plus tôt, j'ai évoqué le concept selon lequel un étudiant pourrait être en mesure d'apprendre l'écriture en regardant des œuvres écrites qui existent déjà. Cela a beaucoup de sens. Fondamentalement, plus vous lisez, plus il y a de chances que vous élargissiez votre apparence mentale pour pouvoir écrire. Comme indiqué précédemment, vous devez toujours écrire, car toutes les lectures du monde ne vous permettront pas nécessairement d'être un bon écrivain si vous ne pratiquez pas l'acte d'écrire.

Nous pourrions utiliser l'IA générative pour favoriser ce couplage lecture-écriture. Demandez à un élève d'utiliser intentionnellement l'IA générative. L'IA produit un essai. L'étudiant est chargé de critiquer l'essai produit par l'IA. Ensuite, l'étudiant est chargé d'écrire un nouvel essai, peut-être sur un sujet différent, mais peut utiliser la structure et d'autres éléments généraux de l'essai précédent généré par l'IA.

Cela pourrait être encore plus productif, selon certains, pour les étudiants que de simplement lire des livres ou d'autres textes d'écrivains avec lesquels l'étudiant n'a pas accès pour «interagir». Avec l'application AI, l'étudiant peut essayer de réexécuter et de produire l'essai initial en utilisant une multitude d'invites, l'une après l'autre. L'étudiant pourrait dire à l'IA d'écrire un essai sur Lincoln. Ensuite, l'étudiant demande un long essai sur Lincoln qui est écrit d'une voix informelle. Après avoir examiné cela, l'étudiant indique à l'application AI de produire une version hautement formalisée de l'essai de Lincoln. Etc.

L'affirmation faite est que cela pourrait aider matériellement un étudiant à apprendre l'écriture et comment l'écriture peut avoir lieu.

Un article de recherche récent propose ce point précis : "Les auteurs de cet article pensent que l'IA peut être utilisée pour surmonter trois obstacles à l'apprentissage en classe : améliorer le transfert, briser l'illusion de la profondeur explicative et former les étudiants à évaluer de manière critique les explications" ( dans un article intitulé "New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments", Dr. Ethan Mollick et Dr. Lilach Mollick, Wharton School de l'Université de Pennsylvanie et Wharton Interactive, 12 décembre 2022)

Par exemple, ils soulignent que l'amélioration du transfert d'apprentissage pourrait se faire de cette façon : « L'IA est un moyen bon marché de fournir aux étudiants de nombreux exemples, dont certains peuvent être inexacts, ou nécessiter des explications supplémentaires, ou peuvent simplement être inventés. Pour les étudiants ayant des connaissances de base sur un sujet, vous pouvez utiliser l'IA pour les aider à tester leur compréhension et les pousser explicitement à nommer et à expliquer les inexactitudes, les lacunes et les aspects manquants d'un sujet. L'IA peut fournir une série interminable d'exemples de concepts et d'applications de ces concepts et vous pouvez pousser les étudiants à : comparer des exemples dans différents contextes, expliquer le cœur d'un concept et signaler les incohérences et les informations manquantes dans la manière dont l'IA applique les concepts. à de nouvelles situations » (ibid.).

Cela ressemble au vieux refrain, si vous ne pouvez pas les battre, rejoignez-les.

Transformez l'IA générative en outil pédagogique.

Aïe, vient la réponse rapide.

Vous mettez le renard dans le poulailler. Les étudiants qui n'avaient aucune idée de ce qu'est l'IA générative vont maintenant le voir, ouvertement, par les actions manifestes d'un enseignant et de leurs écoles. Si les étudiants n'avaient aucune idée des possibilités de tricherie, vous le mettez directement dans leurs visages et leurs mains.

Il semble tout à fait répugnant que les autorités initient les étudiants à un moyen de tricherie. Vous placerez donc à jamais les étudiants les plus honnêtes dans le royaume des tentations de tricherie. Tout le monde aura accès à la machine à tricher. On leur dit de le faire. Pas besoin de le cacher. Inutile de prétendre que vous n'utilisez pas l'IA générative. L'école et le professeur vous l'ont fait utiliser.

La réplique à cela est qu'il faut avoir la tête dans le sable aveuglément et par ignorance pour penser que les étudiants ne vont pas se familiariser avec l'IA générative. Pendant que vous prétendez bêtement qu'ils ne le savent pas, ils se précipitent hors de l'école pour l'utiliser. Votre meilleur choix est de leur présenter la chose, de discuter de ce à quoi elle peut et ne peut pas être utilisée, et d'apporter une lumière brillante et brillante à toute l'énigme.

C'est assez doozy.

Pour ceux d'entre vous qui font des recherches sur les innovations pédagogiques de la technologie, vous voudrez peut-être jeter un coup d'œil à l'IA générative et à la façon dont elle pourrait changer la nature des approches pédagogiques et avoir un impact sur l'apprentissage des élèves. Il arrive bien assez tôt.

Utiliser la détection pour nous sauver de la ruine

Changez de chapeau et considérons un instant les illustrations numériques.

Si vous créez une œuvre d'art numérique, vous voudrez peut-être la marquer d'une manière ou d'une autre afin de pouvoir, plus tard, discerner si quelqu'un a choisi d'utiliser ou de réutiliser votre talent artistique. Pour ce faire, une méthode simple consiste à modifier certains pixels ou points de votre illustration numérique. Si vous en faites quelques-unes ici ou là, l'apparence de l'œuvre semblera toujours la même aux yeux des humains. Ils ne remarqueront pas ces pixels qui sont minuscules et qui ont été réglés sur une couleur spéciale qui ne peut être vue qu'après une inspection minutieuse via des outils numériques.

Vous connaissez peut-être ces techniques comme étant une forme de filigrane. Tout comme autrefois, il y avait des tentatives de filigrane sur des documents papier et d'autres contenus non numérisés, nous avons progressivement assisté à l'essor des filigranes numériques.

Un filigrane numérique peut être caché dans l'image d'une œuvre d'art numérique. Si cela peut sembler intrusif pour l'image, vous pouvez essayer d'intégrer le filigrane dans le fichier contenant l'œuvre numérique (les soi-disant « métadonnées » de l'œuvre numérique).

Il y a un jeu du chat et de la souris qui peut survenir.

Un malfaiteur arrive et découvre votre filigrane numérique. Ils l'enlèvent. Maintenant, ils peuvent apparemment utiliser librement votre illustration numérique sans craindre que vous puissiez, plus tard, y pénétrer et montrer qu'il s'agit clairement d'une arnaque de vos efforts. Ces canailles !

Nous devons augmenter le filigrane numérique, ce que nous pouvons faire grâce à l'utilisation de techniques et de technologies cryptographiques. Pensez aux messages secrets et à l'encodage.

L'idée est que nous encodons le filigrane numérique afin qu'il soit difficile à trouver. Il est également potentiellement difficile à supprimer. Nous pourrions même essayer de garantir que le logiciel qui affichera ou permettra l'utilisation de l'œuvre numérique doit d'abord vérifier et voir qu'un filigrane numérique codé valide existe dans l'œuvre, sinon il est considéré comme une copie incorrecte. Pris en flagrant délit.

Pouvons-nous faire de même pour l'IA générative qui produit du texte ?

Un gant a été posé. Le problème peut cependant être plus difficile dans une certaine mesure que lorsque l'on considère les filigranes numériques pour les illustrations.

Voici pourquoi.

Supposons que le seul endroit où vous pouvez placer le filigrane est directement dans le texte lui-même. Je dis cela parce que le texte généré ne va pas nécessairement dans un fichier. Le texte n'est que du texte. Vous pouvez le couper et le coller à partir de l'outil d'IA générative. En ce sens, il n'y a généralement pas de métadonnées ou de fichier dans lequel le filigrane peut être intégré.

Il faut se concentrer uniquement sur le texte. Texte pur.

Une avenue serait de faire en sorte que l'IA générative produise le texte d'une manière qui puisse être tracée. À titre d'exemple grossier mais peu pratique, imaginez que nous décidions de commencer chaque troisième phrase par le mot "Et" au début de la phrase. Nous générerions toujours un essai apparemment entièrement fluide. La seule astuce est que chaque troisième phrase commence par le mot magique que nous avons choisi. Personne d'autre ne sait ce que nous faisons.

Un étudiant utilise l'IA générative pour produire l'essai assigné sur Lincoln. L'élève le prend directement depuis l'application AI et l'envoie par e-mail à l'enseignant. Il s'avère que l'étudiant a attendu jusqu'au dernier moment et s'est heurté à la date limite publiée. Pas le temps de revoir la dissertation. Envoyez-le simplement et espérez le meilleur.

Le professeur regarde la dissertation. Supposons que nous lui ayons dit que notre filigrane est constitué du mot magique utilisé au début de chaque troisième phrase. L'enseignant détecte que c'est le cas dans cet essai soumis. Bien qu'il y ait peut-être une chance incroyablement mince que l'étudiant ait écrit l'essai et aime peut-être utiliser ce mot particulier au début de chaque troisième phrase, je pense que nous pouvons raisonnablement convenir que c'est très peu probable et à la place l'étudiant a probablement utilisé l'IA générative pour produire la dissertation.

Voyez-vous comment cela fonctionne?

J'espère que vous le faites.

Le problème est maintenant de savoir comment créer un filigrane qui n'est pas si évident. Un élève peut remarquer que les phrases semblent étrangement utiliser un mot particulier. Ils pourraient deviner ce qui se passe. À son tour, l'élève peut se déplacer dans les phrases et faire quelques reformulations. Cela coule alors à peu près ce filigrane particulier puisque l'essai n'est plus facilement repéré comme étant écrit par l'IA générative.

Le jeu du chat et de la souris reprend son cours.

Nous devons produire un texte fluide qui contient d'une manière ou d'une autre un "filigrane" d'une manière qui ne peut pas être facilement discernée. De plus, si possible, le filigrane doit continuer à persister même si l'essai est légèrement révisé. Une révision complète ne permettra probablement pas au filigrane de survivre. Mais nous voulons une certaine redondance et résilience afin que le filigrane soit de préférence détectable même si un certain nombre de modifications sont apportées à la zone de texte.

Un chercheur qui travaille pour l'entreprise qui fabrique ChatGPT (l'application AI d'OpenAI) explore des efforts cryptographiques intéressants dans le cadre de ces considérations de filigrane. Scott Aaronson est professeur d'informatique à l'Université du Texas à Austin et il a récemment donné une conférence sur certains des travaux en cours (une transcription est publiée sur son blog).

Considérez cet extrait dans lequel il explique brièvement l'approche existante : « Comment ça marche ? Pour GPT, chaque entrée et sortie est une chaîne de jetons, qui peuvent être des mots, mais aussi des signes de ponctuation, des parties de mots ou plus. Il y a environ 100,000 XNUMX jetons au total. À la base, GPT génère constamment une distribution de probabilité sur le prochain jeton à générer, en fonction de la chaîne de jetons précédents. Une fois que le réseau neuronal a généré la distribution, le serveur OpenAI échantillonne alors un jeton en fonction de cette distribution ou d'une version modifiée de la distribution, en fonction d'un paramètre appelé "température". Tant que la température est différente de zéro, cependant, il y aura généralement un certain caractère aléatoire dans le choix du jeton suivant : vous pouvez exécuter encore et encore avec la même invite et obtenir un achèvement différent (c'est-à-dire une chaîne de jetons de sortie) à chaque fois. .”

Comme indiqué, il existe une quantité désignée de hasard quant aux mots qui seront placés ensuite dans l'essai qui est dérivé par l'application ChatGPT. Cela explique également le point soulevé précédemment selon lequel chaque essai est susceptible d'être quelque peu différent, même s'il porte sur le même sujet. Une utilisation délibérée d'une approche de sélection aléatoire qui se situe dans des limites particulières se déroule sous le capot lors de la génération de l'essai.

Passons maintenant à la partie juteuse, le brassage cryptographique : "Alors pour filigraner, au lieu de sélectionner aléatoirement le jeton suivant, l'idée sera de le sélectionner pseudo-aléatoirement, à l'aide d'une fonction cryptographique pseudo-aléatoire, dont la clé n'est connue que d'OpenAI . Cela ne fera aucune différence détectable pour l'utilisateur final, en supposant que l'utilisateur final ne puisse pas distinguer les nombres pseudo-aléatoires des nombres vraiment aléatoires. Mais maintenant, vous pouvez choisir une fonction pseudo-aléatoire qui biaise secrètement un certain score - une somme sur une certaine fonction g évaluée à chaque n-gramme (séquence de n jetons consécutifs), pour un petit n - quel score vous pouvez également calculer si vous savez la clé de cette fonction pseudo-aléatoire.

Je me rends compte que cela peut sembler un peu coincé sur le plan technologique.

L'essentiel est que l'essai produit semblera fluide et vous ne pourrez pas facilement discerner en lisant l'essai qu'il contient un filigrane numérique. Pour déterminer si un essai donné contient un filigrane, vous devez introduire l'essai dans un détecteur spécialement conçu. Le programme qui effectue la détection calculera une valeur basée sur le texte et pourra la comparer à une clé stockée. Dans l'approche décrite, les clés seraient détenues par le fournisseur et ne seraient pas disponibles autrement, ainsi, en supposant que les clés soient gardées secrètes, seul le programme de détection oint pourrait calculer si l'essai était probablement dérivé de ChatGPT dans ce cas.

Il poursuit en reconnaissant que ce n'est pas infaillible : « Maintenant, tout cela peut être vaincu avec suffisamment d'efforts. Par exemple, si vous avez utilisé une autre IA pour paraphraser la sortie de GPT, eh bien, nous ne pourrons pas le détecter. En revanche, si vous vous contentez d'insérer ou de supprimer quelques mots ici et là, ou de réorganiser l'ordre de certaines phrases, le signal de filigrane sera toujours là. Parce qu'il ne dépend que d'une somme sur n-grammes, il est robuste contre ce genre d'interventions.

Un enseignant pourrait avoir accès à un programme de détection qui vérifierait les essais des étudiants. Supposons que la question soit relativement simple dans la mesure où l'enseignant demande aux étudiants d'envoyer leurs essais par courrier électronique à l'enseignant et au détecteur automatisé. L'application de détection informe ensuite l'enseignant de la probabilité que l'essai soit rédigé par ChatGPT dans ce cas.

Maintenant, si le détecteur est ouvertement accessible à n'importe qui, vous auriez des étudiants tricheurs "surperformants" qui exécuteraient simplement leurs essais dans le détecteur et apporteraient une série de modifications jusqu'à ce que le détecteur indique une faible probabilité que l'essai ait été dérivé par le génératif. IA. Plus du chat et de la souris. Vraisemblablement, le détecteur doit être étroitement protégé par l'utilisation d'un mot de passe, ou d'autres moyens ou méthodes de traitement des approches cryptographiques sont nécessaires (il existe une variété de méthodes à base de clé et sans clé qui peuvent être utilisées).

Un enseignant peut être confronté à la possibilité de dizaines ou de centaines d'applications d'IA génératives disponibles pour une utilisation sur Internet. Dans ce cas, essayer d'amener tous ceux-ci à utiliser un filigrane numérique et devoir leur fournir un essai à tous, eh bien, cela devient simplement plus séduisant et compliqué sur le plan logistique.

Plus d'essais en dehors de la salle de classe

Une perspective pessimiste est que les enseignants devront peut-être abandonner l'utilisation de la rédaction d'essais à l'extérieur. Tous les essais doivent être rédigés uniquement dans l'environnement contrôlé d'une salle de classe.

Cela a beaucoup, beaucoup de problèmes.

Supposons qu'un étudiant ait normalement besoin de dix heures pour rédiger un essai complet particulier qui est un projet de classe. Comment cela se ferait-il dans une salle de classe ? Allez-vous le diviser et demander à l'étudiant d'écrire un petit morceau de l'essai sur une série de jours ? Pensez aux difficultés que cela présente.

Certains prétendent que la question est peut-être exagérée.

Les enseignants devraient faire comme ils l'ont toujours fait à propos du plagiat des élèves. D'emblée, l'enseignant déclare que le plagiat est un grave problème de tricherie. Insistez sur le fait que l'utilisation de l'IA générative, de quelque manière que ce soit, sera considérée comme une action de triche.

Imposez des sanctions qui ont un poids significatif, comme une mauvaise note, une classe ratée ou l'expulsion d'une école si cela va aussi loin. Exiger que les étudiants attestent par écrit pour chaque devoir de dissertation externe que ce qu'ils ont rendu est leur travail (sans aides telles que l'IA générative, la copie à partir d'Internet, l'utilisation d'autres étudiants, l'utilisation d'un parent, le paiement pour le faire, et bientôt). Exigez également que les étudiants répertorient tous les outils en ligne utilisés dans la préparation du travail, notamment en notant en particulier toute utilisation générative de l'IA.

L'enseignant peut ou non utiliser une application de détection pour essayer de déterminer si l'essai soumis est susceptible d'être produit par une application d'IA générative. Il s'agit d'une étape potentiellement lourde, selon la facilité d'utilisation et d'accès des détecteurs.

Les enseignants devraient probablement déjà prendre des mesures pour déterminer si les essais écrits extérieurs semblent légitimes. En rédigeant des essais en classe, il est possible de comparer et de contraster, en réalisant cependant que le temps nécessaire pour écrire dans une salle de classe est moindre et peut également être entravé par la restriction de ne pas autoriser l'accès aux documents de référence en ligne.

L'essentiel est que nous ne devrions pas prendre la voie d'abandonner brusquement l'utilisation de la rédaction d'essais à l'extérieur. Certains déploreraient cela comme un acte téméraire et qui semble rappeler de jeter le bébé avec l'eau du bain (un vieux dicton, qui vaut peut-être la peine de se retirer).

Si l'écriture à l'extérieur est entièrement abandonnée en tant qu'activité d'apprentissage, il y a probablement des inconvénients graves et prolongés à supprimer cette activité éducative apparemment quotidienne du programme. Il y a un compromis en cause. Combien d'étudiants tricheront, malgré tous les freins et contrepoids mentionnés ci-dessus ? Combien d'étudiants ne tricheront pas et continueront donc à utiliser une approche pédagogique bénéfique pour faire progresser leurs prouesses en écriture ?

En théorie, espérons-le, le pourcentage de tricheurs sera suffisamment faible pour que l'écriture extérieure soit toujours méritoire pour la prépondérance des étudiants.

Conclusion

L'IA peut être un vrai casse-tête.

Pour les enseignants, l'IA peut être à la fois une bénédiction et une malédiction. Quoi qu'il en soit, cela signifie que les enseignants doivent connaître l'IA, ainsi que la façon de faire face aux rebondissements de l'IA associés à leurs activités d'enseignement, ce qui est encore un autre poids supplémentaire sur leur dos et leurs épaules déjà surchargés. Bravo aux enseignants du monde entier.

Peut-être pouvons-nous souhaiter que l'IA s'en aille.

Nope.

Vous voyez, nous n'allons pas revenir en arrière et supprimer l'IA générative. Quiconque appelle cela est un rêveur. Et, en aparté, j'utilise le mot "Et" comme premier mot de la troisième phrase de ce paragraphe (oups, donner la clé !), L'IA générative est là pour rester.

Voici un prompteur pour lancer vos discussions animées : L'IA générative va devenir plus omniprésente et avoir des capacités encore plus étonnantes et déconcertantes.

Mic drop.

Pensée finale pour le moment.

Shakespeare a écrit : « Être ou ne pas être : telle est la question ».

Je vous assure que l'IA générative va l'être. C'est déjà le cas.

Nous devons comprendre comment nous voulons que l'IA générative entre dans nos vies et comment la société choisira de façonner et de guider cette utilisation. Si vous avez déjà eu besoin d'une raison de penser à l'éthique de l'IA et à la loi sur l'IA, peut-être que l'IA générative vous incitera à chercher à savoir ce que nous sommes, même si nous ne savons pas ce que nous sommes (référence cachée de Shakespeare).