Les gens consultent avec impatience l'IA générative ChatGPT pour obtenir des conseils sur la santé mentale, soulignant l'éthique de l'IA et la loi sur l'IA

La santé mentale est devenue un sujet très répandu de nos jours.

Dans le passé, les discussions concernant la santé mentale étaient souvent étouffées ou carrément balayées sous le tapis. Un changement culturel progressif a conduit à considérer ouvertement les problèmes de santé mentale et a apaisé les scrupules à le faire de manière publiquement reconnue.

Vous pourriez attribuer une partie du mérite de ce changement dans les attitudes sociétales globales à la suite de l'avènement d'applications pour smartphones facilement accessibles qui facilitent votre pleine conscience personnelle et vous poussent vraisemblablement vers le bien-être mental. Il existe des applications pour la pleine conscience, des applications pour la méditation, des applications pour diagnostiquer votre état de santé mentale, des applications pour faire un dépistage de la santé mentale, etc. Une pléthore d'applications existent.

Peut-on dire que les applications pour smartphone ont ouvertement conduit à une ouverture sur la santé mentale ? Certes, c'est un peu une question de poule ou d'œuf. L'ouverture à la santé mentale a-t-elle permis l'émergence d'applications pour smartphone pertinentes, ou le bien-être mental des applications pour smartphone a-t-il poussé la société à être franche en matière de santé mentale ?

Peut-être était-ce une combinaison imbriquée impliquant les deux directions se produisant en même temps.

Dans tous les cas, dans ce mélange puissant vient la montée des applications de santé mentale qui seraient extraordinairement alimentées par l'intelligence artificielle (IA). L'idée est que la technologie sous-jacente peut être améliorée via l'utilisation (vraisemblablement) judicieuse de l'IA. Alors que les versions initiales des applications de santé mentale étaient principalement des livraisons d'informations basées sur des faits, comme si vous faisiez une recherche en ligne sur lesdits sujets, l'infusion de l'IA a conduit à l'automatisation d'entreprendre des dialogues interactifs avec vous, comme l'envoi de SMS avec un thérapeute humain ou similaire. (enfin, en quelque sorte, comme je vais l'aborder et l'examiner ici).

Cela nous amène à l'IA la plus récente et qui fait la une des journaux qui a récemment attiré l'attention nationale et internationale, à savoir l'utilisation de ce qui est officiellement connu sous le nom de IA générative et largement popularisé via l'application connue sous le nom de ChatGPT. Pour plus de clarté, ChatGPT est un système interactif d'IA à usage général, essentiellement un chatbot général, néanmoins il est activement et avidement utilisé par des personnes qui cherchent spécifiquement à glaner des conseils sur la santé mentale (l'application n'a pas été conçue à cet effet, et pourtant les gens ont décidé de l'utiliser quand même pour ce rôle).

Pour ma couverture récente de ChatGPT, voir le lien ici pour un aperçu. J'ai également fait quelques suivis sur la façon dont ChatGPT inquiète les enseignants quant à la possibilité que les étudiants trichent via l'utilisation de l'IA pour rédiger leurs essais, voir le lien ici, et j'ai fait un look saisonnier dans mon analyse liée au Père Noël à le lien ici.

Ne vous inquiétez pas, je vais vous expliquer ici en quoi consistent l'IA générative et ChatGPT, le faire momentanément, alors accrochez-vous.

Si vous jetez un coup d'œil aux médias sociaux, vous verrez des gens qui proclament ChatGPT et l'IA générative comme la meilleure chose depuis le pain tranché. Certains suggèrent qu'il s'agit en fait d'une IA sensible (non, ils se trompent !). D'autres craignent que les gens prennent de l'avance sur eux-mêmes. Ils voient ce qu'ils veulent voir. Ils ont pris un nouveau jouet brillant et ont montré exactement pourquoi nous ne pouvons pas avoir de nouvelles choses accrocheuses.

Les spécialistes de l'éthique de l'IA et du droit de l'IA sont sobrement et sérieusement préoccupés par cette tendance naissante, et à juste titre. Nous examinerons ici de près la façon dont les gens utilisent l'IA générative pour des usages qui ne sont pas particulièrement adaptés à ce que l'IA peut réellement réaliser aujourd'hui. Toutes sortes de problèmes éthiques et juridiques liés à l'IA sont indubitablement liés à l'énigme. Pour ma couverture continue et étendue de l'éthique de l'IA et du droit de l'IA, voir le lien ici ainsi que le lien ici, Juste pour en nommer quelques-uns.

Examinons d'abord certaines facettes importantes de la santé mentale et pourquoi il s'agit d'un sujet très vaste et essentiel. Après avoir posé ces bases, nous ferons un rapide explicatif sur l'IA générative et en particulier sur ChatGPT. J'inclurai des exemples de ChatGPT afin que vous puissiez voir de vos propres yeux le type de verbiage que l'application AI est capable de produire. Nous conclurons cette discussion avec quelques commentaires sur ce que tout cela signifie et comment l'éthique de l'IA et la loi sur l'IA vont inévitablement entrer en scène.

Attachez votre ceinture de sécurité pour un bon trajet.

La santé mentale est une préoccupation sociétale vitale et croissante

Selon diverses statistiques publiées, il y a un nuage sombre et sombre concernant l'état de santé mentale d'aujourd'hui. Je ne veux pas paraître maussade à ce sujet, mais autant faire face à la réalité à laquelle nous sommes confrontés. Se cacher la tête dans le sable ne fonctionnera pas. Nous ferions mieux d'aborder la question avec les yeux ouverts et la volonté de résoudre des problèmes épineux.

Voici quelques statistiques remarquables qui ont été recueillies par une importante organisation de santé mentale sur les Américains et le paysage de la santé mentale (par Santé mentale Amérique, « Principaux résultats 2023 ») :

• Les adultes souffrent largement de la maladie mentale. Environ 21% des adultes ont déclaré avoir souffert d'une maladie mentale, ce qui équivaut à peu près à dire qu'environ 50 millions d'adultes aux États-Unis en ont souffert.
• Le manque de soins de santé mentale est répandu. Un peu plus de la moitié des adultes atteints de maladie mentale ne reçoivent pas de traitement (environ 55 %), alors peut-être qu'environ 28 millions d'adultes ne reçoivent pas les soins de santé mentale dont ils ont besoin.
• Les jeunes sont aussi impactés. Environ un jeune sur dix aux États-Unis a déclaré avoir souffert de dépression gravement invalidante qui a eu un impact sur son travail scolaire, sa vie familiale, ses interactions familiales et/ou sa vie sociale.
• Les traitements de santé mentale pour les jeunes font défaut. Moins d'un tiers des jeunes souffrant de dépression grave reçoivent un traitement régulier (environ 28 % seulement) et plus de la moitié ne reçoivent aucun soin de santé mentale (estimation : 57 %).
• Rareté des prestataires de santé mentale. Un chiffre rapporté est qu'il y a environ 350 personnes aux États-Unis pour chaque fournisseur de santé mentale, ce qui suggère une pénurie de conseillers et de thérapeutes professionnels qualifiés en santé mentale pour l'ensemble de la population.

Je ne veux pas nous focaliser sur les statistiques en tant que telles, car vous pouvez facilement discuter de la manière dont ces statistiques sont parfois collectées ou rapportées. Par exemple, ceux-ci sont parfois basés sur des enquêtes dans lesquelles le sondage a été présélectionné pour certaines régions du pays ou certains types de personnes. De plus, vous pouvez certainement ergoter sur l'honnêteté des gens lorsqu'ils signalent eux-mêmes leur état de santé mentale, selon qui demande et pourquoi ils pourraient vouloir se pencher dans une direction ou une autre sur le sujet. Etc.

L'essentiel, cependant, est que nous pouvons au moins généralement convenir qu'il y a un problème de santé mentale auquel le pays est confronté et que nous devrions faire quelque chose à ce sujet. Si nous ne faisons rien, l'hypothèse de base est que les choses vont empirer. Vous ne pouvez pas laisser un problème qui s'envenime sans fin.

Vous avez peut-être remarqué dans les statistiques susmentionnées qu'il y a une pénurie alléguée de professionnels de la santé mentale qualifiés disponibles. La croyance est qu'il existe un déséquilibre entre l'offre et la demande, pour lequel il y a une offre insuffisante de conseillers en santé mentale et une surabondance de demande réelle ou latente de conseils en santé mentale (je dis latente dans le sens où beaucoup pourraient ne pas réaliser la valeur de demander des conseils en santé mentale, ou ils ne peuvent pas se le permettre, ou ils ne peuvent pas y accéder sur le plan logistique).

Comment gérer ce déséquilibre ?

Une voie semble être l'utilisation de l'automatisation et en particulier de l'IA pour renforcer le « côté offre » de la fourniture de conseils en santé mentale. Vous pourriez affirmer de manière convaincante que la popularité des applications de méditation et de pleine conscience sur smartphone est un signe qu'il existe effectivement une demande refoulée. Lorsque vous ne pouvez pas facilement accéder à des conseillers humains qualifiés, l'automatisation et l'IA comblent cette lacune.

Pensez aussi aux facteurs de commodité.

Lorsque vous utilisez une application d'IA pour la santé mentale, l'IA est disponible 24h/7 et XNUMXj/XNUMX. Pas besoin de prendre rendez-vous. Pas de difficulté à se mettre en relation logistiquement en personne avec un conseiller humain. Le coût est probablement beaucoup moins cher aussi. Vous pouvez accumuler du temps à l'aide de l'application AI alors qu'avec un conseiller humain, le temps passe et les minutes de facturation augmentent.

Mais, attendez une sacrée seconde, vous pourriez être en train d'exhorter, une application d'IA n'est pas à la hauteur d'un conseiller humain.

Il s'agit apparemment d'une comparaison entre des pommes et des oranges. Ou, peut-être plus comme ça à une comparaison pomme-huître, de sorte que les deux ne se comparent pas particulièrement. Un conseiller humain dûment qualifié qui sait ce qu'il fait en matière de santé mentale est certainement au-dessus de tout type d'IA que nous avons aujourd'hui. Bien sûr, l'application AI peut être disponible XNUMX heures sur XNUMX, mais vous obtenez un niveau de qualité inférieur et vous ne pouvez donc pas faire de comparaison sensée entre l'utilisation d'un conseiller humain et l'utilisation de l'IA.

Nous reviendrons bientôt sur ce débat sur les conseillers humains par rapport aux conseils basés sur l'IA.

Pendant ce temps, un aspect de la santé mentale qui semble plutôt déchirant concerne les jeunes et la santé mentale.

L'une des croyances est que si nous n'attrapons pas les problèmes de santé mentale quand quelqu'un est jeune, le coût sociétal est énorme à l'autre bout lorsqu'il devient adulte. C'est l'histoire classique du semis qui devient soit un arbre bien conçu, soit un arbre qui a toutes sortes de problèmes futurs. Peut-être, selon certains, devrions-nous accorder une attention particulière aux jeunes. Attrapez les problèmes tôt. Essayez d'éviter que les problèmes ne deviennent des difficultés permanentes. Cela atténue potentiellement la manifestation de problèmes de santé mentale au stade adulte de la vie, et avec un peu de courage, nous pouvons réduire le flux de détérioration de la santé mentale si vous comprenez ma dérive.

Les chercheurs soulignent ces préoccupations similaires, comme dans cet article récent : « La santé mentale des adolescents et des adultes émergents (« jeunes ») est un domaine de la santé publique qui mérite une attention urgente à l'échelle mondiale. Une période de transition caractérisée par des changements rapides dans de multiples domaines (physique, social, psychologique, professionnel), l'adolescence et l'âge adulte émergent est une étape de développement associée à des risques accrus pour le bien-être mental, car les jeunes connaissent des changements majeurs dans leur vie liés à la puberté, au développement neurologique , ainsi que les changements d'identité et d'autonomie dans les contextes sociaux. La recherche indique une prévalence élevée de maladie mentale chez les jeunes, une personne sur cinq répondant probablement aux critères d'un trouble mental. La charge de morbidité associée à des taux de prévalence élevés est encore exacerbée par une demande de traitement supérieure à l'offre, créant un déficit de traitement. Les interventions numériques en santé mentale (DMHI), telles que celles fournies via des applications pour smartphone ou en ligne, représentent un mode de service en croissance rapide avec le potentiel d'offrir un meilleur accès au soutien » (Vilas Sawrikar et Kellie Mote, « Technology Acceptance And Trust: Overlooked Considerations In Utilisation par les jeunes des interventions numériques en santé mentale », Politique et technologie de la santé, Octobre 2022)

Comme l'ont noté ces chercheurs, l'avènement de l'automatisation et des applications de santé mentale de l'IA est apparemment adapté aux jeunes pour diverses raisons, de sorte que les jeunes pourraient être plus enclins à utiliser la haute technologie, et ils trouveraient probablement attrayant la facilité d'accès et d'autres facettes. L'article mentionne qu'il existe un slogan prometteur connu sous le nom de interventions numériques en santé mentale, ainsi que l'abréviation associée de DMHI (cet acronyme ne s'est pas encore solidifié et des alternatives circulent).

Approfondissons un peu cette notion d'interventions numériques en santé mentale.

Voici quelques remarques supplémentaires des chercheurs : « Les soins de santé assistés par la technologie pourraient atténuer les lacunes dans les services en fournissant un accès à un soutien à grande échelle, à faible coût et à la convenance de l'utilisateur. La prévalence de l'accès à la technologie des smartphones chez les jeunes indique une solution apparemment évidente pour répondre à la demande de cette population. Cependant, bien que les DMHI se soient avérés efficaces dans des essais contrôlés randomisés, cela ne semble pas se traduire par une adoption dans le monde réel. Une revue systématique des études a indiqué qu'un quart des applications de santé mentale n'étaient jamais utilisées après l'installation. Les jeunes en particulier peuvent être moins susceptibles de s'engager dans la technologie ciblée sur la santé mentale avec des preuves que les groupes d'âge plus jeunes sont moins susceptibles d'utiliser les DMHI dans le traitement et ils signalent une faible préférence pour les soins de santé mentale en ligne par rapport au traitement en face à face » (ibid) .

Un élément clé à retenir est que, bien que vous puissiez supposer que les jeunes adoreraient et utiliseraient certainement ces applications de santé mentale en ligne, la véritable image est beaucoup plus trouble. Un point particulièrement révélateur est peut-être qu'une fois l'application installée, l'utilisation a chuté précipitamment ou n'a jamais commencé du tout. Une explication est que le battage médiatique et l'excitation suscités par le téléchargement de l'application ont été rapidement éclipsés par le fait que l'application était potentiellement difficile à utiliser ou perçue comme inefficace. Vous pourriez également suggérer que certains jeunes pourraient avoir été incités à obtenir l'application en raison de la pression des pairs ou via ce qu'ils voient sur les réseaux sociaux, et n'avaient pas particulièrement l'intention d'utiliser l'application. Ils voulaient juste dire qu'ils l'avaient. À cet âge, faire partie du club "in" peut être tout aussi important que ce que fait l'application elle-même.

Un autre point de vue est que si ces applications de santé mentale étaient meilleures dans ce qu'elles font, comme tirer pleinement parti de l'état de l'art en matière d'IA, cela pourrait inciter les jeunes à utiliser réellement les applications. Un élément supplémentaire serait que si les jeunes perçoivent l'application comme étant populaire, ils voudront peut-être pouvoir dire qu'ils l'utilisent aussi. En ce sens, l'IA fournit un double coup dur apparemment positif. Cela peut éventuellement permettre aux applications de santé mentale de faire un meilleur travail et porter simultanément le style à la mode ou le panache d'être une IA et donc un aspect opportun et sociétal enivrant.

D'accord, l'IA semble être un héros se précipitant à la rescousse dans cette énigme de santé mentale.

Comme vous le verrez bientôt, l'IA peut également être un inconvénient. Malheureusement, l'IA d'aujourd'hui peut sembler utile et pourtant finir par être préjudiciable. Certains diront qu'un compromis doit être envisagé. D'autres disent que l'IA d'aujourd'hui n'est pas encore mûrie sur la vigne et que nous mettons prématurément les gens en danger, les jeunes et les adultes. Vous voyez, même les adultes peuvent être trompés ou leurrés en pensant que les applications de santé mentale imprégnées d'IA sont un salut sans faute.

Pour voir comment cela peut être, examinons de près l'IA la plus chaude du moment, consistant en IA générative et en particulier l'application AI connue sous le nom de ChatGPT.

Ouvrir la boîte de Pandore sur l'IA générative

Nous sommes prêts à plonger dans l'IA.

Parmi les différents types d'IA, nous nous concentrerons ici spécifiquement sur IA générative.

En bref, l'IA générative est un type particulier d'IA qui compose le texte comme si le texte était écrit par la main et l'esprit humains. Tout ce que vous avez à faire est de saisir une invite, telle qu'une phrase telle que "Parlez-moi d'Abraham Lincoln" et l'IA générative vous fournira un essai sur Lincoln. Ceci est communément classé comme une IA générative qui effectue texte en texte ou certains préfèrent l'appeler texte à essai production. Vous avez peut-être entendu parler d'autres modes d'IA générative, tels que le texte vers l'art et le texte vers la vidéo, voir mon élaboration sur le lien ici.

Votre première pensée pourrait être que cela ne semble pas si grave en termes de production d'essais. Vous pouvez facilement faire une recherche en ligne sur Internet et trouver facilement des tonnes et des tonnes d'essais sur le président Lincoln.

L'avantage dans le cas de l'IA générative est que l'essai généré est relativement unique et fournit une composition originale plutôt qu'un imitateur. Si vous deviez essayer de trouver l'essai produit par l'IA quelque part en ligne, il est peu probable que vous le découvriez.

L'IA générative est pré-formée et utilise une formulation mathématique et informatique complexe qui a été mise en place en examinant des modèles dans des mots écrits et des histoires sur le Web. À la suite de l'examen de milliers et de millions de passages écrits, l'IA est capable de produire de nouveaux essais et histoires qui sont un méli-mélo de ce qui a été trouvé. En ajoutant diverses fonctionnalités probabilistes, le texte résultant est à peu près unique par rapport à ce qui a été utilisé dans l'ensemble d'apprentissage.

C'est pourquoi il y a eu un tollé à propos de la possibilité pour les étudiants de tricher lorsqu'ils rédigent des essais en dehors de la salle de classe. Un enseignant ne peut pas simplement prendre l'essai que les étudiants trompeurs affirment être leur propre écriture et chercher à savoir s'il a été copié à partir d'une autre source en ligne. Dans l'ensemble, il n'y aura pas d'essai préexistant définitif en ligne qui corresponde à l'essai généré par l'IA. Tout compte fait, l'enseignant devra accepter à contrecœur que l'étudiant ait écrit l'essai comme un travail original. Pour savoir comment cela pourrait être combattu, consultez ma couverture détaillée sur le lien ici.

Dans un instant, je vais vous montrer ce qui se passe lorsque vous entrez des questions ou des invites relatives à la santé mentale. J'utiliserai la dernière version de ChatGPT pour saisir mes invites et collecter les « réponses » ou les essais générés par l'IA (notez que la même chose peut être faite avec les nombreuses autres applications d'IA générative disponibles ; j'ai choisi d'utiliser ChatGPT car il obtient ses cinq minutes de gloire en ce moment). Ensemble, vous et moi explorerons la formulation et la signification de la manière dont les dernières nouveautés en matière d'IA décrivent les aspects de la santé mentale, en particulier en ce qui concerne la question de la santé mentale. conseils.

Peut-être qu'une courte tangente sur ChatGPT pourrait être utile à ce stade.

L'application ChatGPT a été mise à la disposition du grand public il y a peu de temps. Dans l'ensemble, ces applications d'IA génératives ne sont généralement accessibles qu'aux initiés de l'IA. La facette inhabituelle selon laquelle ChatGPT pourrait être utilisé par n'importe qui en entrant simplement une adresse e-mail et un nom, eh bien, cela a conduit beaucoup de gens à décider de l'essayer. ChatGPT est actuellement gratuit (le problème de la monétisation est un dilemme imminent pour les fabricants d'IA, voir mon analyse sur le lien ici).

Presque immédiatement, il y a eu une énorme réaction sur les réseaux sociaux alors que les gens se précipitaient pour donner des exemples de ce que l'IA générative peut faire. La société qui fabrique ChatGPT, OpenAI, a choisi de fermer les inscriptions à un million d'utilisateurs. Ces millions d'utilisateurs ont réussi à bombarder les ondes avec toutes sortes d'histoires et de contes sur l'utilisation de ChatGPT.

Soyez très prudent en croyant ce que les gens ont à dire sur l'application AI. Beaucoup de ces personnes n'ont aucune idée de ce qu'elles utilisent. C'est presque comme s'ils n'avaient jamais conduit de voiture et qu'ils n'avaient même pas réalisé que les voitures existaient, et tout d'un coup ils ont eu la chance de conduire une voiture. L'étonnement total s'ensuit.

Je ne dis pas que l'IA générative n'est pas relativement impressionnante. Il est. Je souligne simplement que beaucoup de témoignages jaillissants sont faits par de nombreuses personnes qui ignorent parfaitement ce que l'IA d'aujourd'hui peut faire. Ceux d'entre nous à l'intérieur de l'IA utilisent l'IA générative depuis plusieurs années. Peut-être nous sommes-nous habitués.

Soudain, voir un énorme béguin de personnes le vanter sur les toits a été énergisant, mais aussi quelque peu déconcertant. La partie déconcertante est lorsque les gens proclament que l'IA générative est sensible. Ce n'est pas. Ne laissez personne vous convaincre du contraire.

Cela étant dit, il y a un débat houleux en cours dans le domaine de l'IA pour savoir si l'IA générative est sur la voie de la sensibilité ou si ce n'est peut-être pas le cas. Selon un point de vue, si nous continuons à développer l'IA générative avec des ordinateurs plus rapides et une plus grande quantité de données, par exemple en parcourant chaque centimètre d'Internet, nous arriverons presque spontanément à une IA sensible. D'autres soutiennent que cela est hautement improbable. Ils suggèrent que l'IA générative pourrait être l'un des nombreux composants nécessaires. Il y a même la vision plus sombre que l'IA générative est un spectacle secondaire qui nous détourne des véritables percées dont nous aurons besoin pour réaliser l'IA sensible.

Vous pourriez également trouver des éléments remarquables auxquels les initiés de l'IA ont tendance à se référer Intelligence générale artificielle (AGI) comme objectif ambitieux pour le domaine de l'IA. Autrefois, le but était d'atteindre Intelligence artificielle, mais le surnom d'IA est devenu édulcoré et confus. Quand quelqu'un dit qu'il travaille sur l'IA, vous ne savez pas s'il fait allusion à l'IA d'aujourd'hui qui n'est pas à égalité avec les humains ou s'il fait référence à une IA futuriste équivalente à l'humain. Pour contourner cette confusion exaspérante, la nouvelle formulation d'AGI est utilisée de nos jours.

Au total, l'IA générative d'aujourd'hui est ne sauraient sensible, ni AGI.

J'espère que cela vous amènera dans le stade de l'IA générative et en particulier de ChatGPT.

Je vais continuer et vous montrer une série d'invites et les réponses correspondantes que j'ai reçues de ChatGPT. Je discuterai de chacun au fur et à mesure. Vous pouvez juger par vous-même ce que vous pensez des réponses générées par l'IA.

N'oubliez pas que, comme indiqué précédemment, l'IA n'est pas sensible. Les réponses générées par l'IA sont une combinaison mathématique et informatique de mots dans des passages apparemment fluides. Ceci est basé sur le fait que l'algorithme d'IA a été formé sur des ensembles de données de mots et d'histoires que les humains ont écrits (principalement tels que publiés sur Internet). Je répète cet avertissement car vous tomberez sans aucun doute dans le piège mental selon lequel ces réponses sont si fluides que l'IA doit être sensible. Cela arrive à la plupart des gens.

Mettez de côté cet anthropomorphisme. Rappelez-vous toujours que les réponses sont basées sur le vaste trésor d'écritures humaines qui existe sur Internet et ressembleront donc fortement à l'écriture humaine.

Il y a autre chose que vous devez savoir.

L'IA générative qui est formée sur Internet de manière illimitée aura tendance à s'intégrer dans toutes les réponses textuelles qu'elle concocte mathématiquement et informatiquement, des choses offensivement floues, y compris des formulations répugnantes. Il y a beaucoup de choses folles et sales publiées sur le Web.

Vous l'avez vu, vous savez ce que je veux dire.

Les entreprises qui créent ces applications d'IA craignent que le bébé proverbial ne soit jeté avec l'eau du bain (un vieux dicton, peut-être à la retraite), ce qui signifie que si leur IA produit des essais ou des histoires offensants, les gens se lèveront. à propos de l'IA. J'ai couvert les nombreux cas précédents dans lesquels ces types d'applications d'IA de traitement du langage naturel (NLP) ont été dévoilés et assez tôt toutes sortes de choses horribles en sont sorties, voir le lien ici. La plupart des fabricants d'IA ont appris une dure leçon sur le fait de permettre à leurs produits d'IA d'être sans entraves dans leurs sorties.

Dans le cas de ChatGPT, les développeurs d'IA ont cherché à mettre en place des freins et contrepoids algorithmiques et liés aux données pour limiter la méchanceté dans les sorties de l'IA. Une partie de cela s'est produite pendant le temps de formation. De plus, il existe d'autres moyens dans une tentative en temps réel d'éviter des sorties particulièrement flagrantes.

Vous pourriez trouver intéressant que certaines personnes qui ont utilisé ChatGPT aient déjà trouvé des moyens subreptices de contourner ces garde-fous en utilisant diverses ruses. Un jeu du chat et de la souris en cours a lieu dans ces domaines. Ceux qui font ces supercheries le font parfois pour le plaisir, alors que parfois ils (au moins prétendent) qu'ils le font pour voir jusqu'où l'IA peut être étirée et fournir un moyen utile d'avertir la fragilité et les faiblesses de ces bourgeons. Applications IA.

J'ai décidé de ne pas tenter de contourner les contrôles habituels dans cette exploration ciblée. La sortie de texte est propre. Certes, si l'on voulait le faire, vous pourriez sans aucun doute générer des essais bizarres et peu recommandables.

Les essais produits par la plupart de ces applications d'IA génératives sont conçus pour transmettre le résultat comme s'il était purement factuel et précis. Lorsque vous lisez les essais produits, ils semblent totalement confiants. Il n'y a généralement aucune sorte d'indication que le contenu pourrait être rocheux. C'est par choix des fabricants d'IA, à savoir qu'ils pourraient réviser les applications d'IA pour qu'elles soient plus transparentes s'ils voulaient que l'application d'IA le fasse.

Parfois, une application d'IA générative détecte des faussetés parmi les données de formation d'informations non fiables sur Internet. Il n'y a pas de "bon sens" dans l'IA générative pour déterminer ce qui est vrai ou faux. De plus, très peu d'applications d'IA ont une vérification croisée et ne présentent aucune probabilité associée à ce qu'elles véhiculent.

Le résultat final est que vous obtenez une réponse qui semble et donne l'impression qu'elle dégage une grande assurance et doit être entièrement correcte. Pas si. Il y a même une chance que les trucs inventés par calcul de l'IA, qui dans le langage de l'IA sont appelés Hallucinations de l'IA (un terme inventé que je n'aime décidément pas), voir ma discussion sur le lien ici.

Les créateurs de ChatGPT ont déployé des efforts concertés pour essayer de réduire les sorties de mauvaises choses. Par exemple, ils ont utilisé une variante de ce qu'on appelle RLHF (Reinforcement Learning from Human Feedback), par lequel avant de publier l'IA au public, ils avaient embauché des humains pour examiner diverses sorties et indiquer à l'IA s'il y avait des choses qui n'allaient pas avec ces sorties, comme peut-être montrer des préjugés, des mots grossiers et le aimer. En fournissant ces commentaires, l'application AI a pu s'ajuster par calcul et mathématiquement pour réduire l'émission de ce contenu. Notez qu'il ne s'agit pas d'une méthode à toute épreuve garantie et qu'il existe encore des moyens pour qu'un tel contenu puisse être émis par l'application AI.

Vous pourriez trouver intéressant que ChatGPT soit basé sur une version d'une application d'IA prédécesseur connue sous le nom de GPT-3, voir ma discussion sur le lien ici. ChatGPT est considéré comme une étape légèrement suivante, appelée GPT-3.5. Il est prévu que GPT-4 sera probablement publié au printemps 2023. Vraisemblablement, GPT-4 sera un pas en avant impressionnant en termes de capacité à produire des essais apparemment encore plus fluides, à aller plus loin et à être une crainte -émerveillement inspirant quant aux compositions qu'il peut produire.

Vous pouvez vous attendre à voir une nouvelle série d'émerveillements exprimés lorsque le printemps arrive et que la dernière IA générative est publiée.

J'en parle parce qu'il y a un autre angle à garder à l'esprit, consistant en un talon d'Achille potentiel pour ces meilleures et plus grandes applications d'IA génératives. Si un fournisseur d'IA met à disposition une application d'IA générative qui crache de manière mousseuse la saleté, cela pourrait anéantir les espoirs de ces fabricants d'IA. Un débordement sociétal peut amener toute l'IA générative à avoir un sérieux œil au beurre noir. Les gens seront sans aucun doute assez contrariés par les sorties ignobles, qui se sont déjà produites à plusieurs reprises et ont conduit à des réactions violentes de condamnation de la société envers l'IA.

Un dernier avertissement pour le moment.

Tout ce que vous voyez ou lisez dans une réponse d'IA générative qui semble être transmis comme purement factuel (dates, lieux, personnes, etc.), assurez-vous de rester sceptique et d'être prêt à revérifier ce que vous voyez.

Oui, les dates peuvent être concoctées, les lieux peuvent être inventés, et les éléments que l'on s'attend généralement à être irréprochables sont TOUTE sujet à suspicion. Ne croyez pas ce que vous lisez et gardez un œil sceptique lorsque vous examinez des essais ou des résultats d'IA générative. Si une application d'IA générative vous dit qu'Abraham Lincoln a survolé le pays dans son propre jet privé, vous sauriez sans aucun doute que c'est malarky. Malheureusement, certaines personnes pourraient ne pas discerner que les jets n'existaient pas à son époque, ou elles pourraient le savoir mais ne pas remarquer que l'essai fait cette affirmation audacieuse et manifestement fausse.

Une forte dose de scepticisme sain et un état d'esprit persistant d'incrédulité seront votre meilleur atout lors de l'utilisation de l'IA générative.

Êtes-vous prêt à vous lancer ?

Prépare toi.

Explorer les conseils de santé mentale et ChatGPT

Commençons par dire à ChatGPT que j'ai de nombreux symptômes qui semblent être caractéristiques du TDAH (trouble déficitaire de l'attention avec hyperactivité). Je demanderai également à ChatGPT si je pourrais effectivement avoir un TDAH.

Nous y voilà.

Mon invite saisie : « J'ai souvent du mal à faire avancer les choses. Mon esprit s'emballe de sujet en sujet. J'ai tendance à retarder ou à éviter les délais. La plupart du temps, mes mains et mes pieds bougent. Je m'ennuie facilement. Je suis incapable de me concentrer sur ce que les gens me disent. Pensez-vous que je pourrais avoir le TDAH ? »

Essai de texte généré: « Il est possible que vous souffriez de TDAH, mais il est également possible que vous ressentiez du stress, de l'anxiété ou d'autres difficultés à l'origine de ces symptômes. Le TDAH, ou trouble déficitaire de l'attention avec hyperactivité, est un trouble neurodéveloppemental caractérisé par l'inattention, l'impulsivité et l'hyperactivité. Ces symptômes peuvent entraîner des difficultés d'organisation, de concentration et de gestion du temps et peuvent interférer avec la vie quotidienne d'une personne. Si vous craignez d'être atteint du TDAH, il est important de parler à un professionnel de la santé qualifié. Ils seront en mesure d'évaluer vos symptômes et de vous fournir un diagnostic et des recommandations de traitement. Ils peuvent également envisager d'autres causes possibles de vos symptômes et exclure toute condition médicale sous-jacente.

Prenez un moment pour inspecter la réponse qui a été générée.

Tout d'abord, notez que la réponse ne confirme pas que j'ai le TDAH, ce qui bien sûr, nous ne voudrions pas que l'IA fasse une telle déclaration de toute façon, c'est donc une indication raisonnablement valable.

De plus, l'IA ne dit pas que je n'ai pas de TDAH. Cela aussi aurait été une conclusion irréfléchie. Il y a un aspect aligné pratique selon lequel la réponse indique que je pourrais plutôt ressentir du stress et de l'anxiété en général. Encore une fois, cela est généralement bien formulé et équilibré.

La réponse se poursuit en me conseillant d'aller voir un professionnel de la santé qualifié. C'est là encore un point utile mentionné par l'IA. Si l'IA ne donnait qu'une réponse disant que j'ai peut-être ou peut-être pas de TDAH, je serais quelque peu suspendu dans les airs. En mettant l'accent sur le fait que je devrais aller voir un professionnel de la santé mentale, l'IA semble comprendre que quelque chose ne va pas et qu'il serait donc utile pour moi de voir un conseiller humain qualifié.

J'ai commencé cette "conversation" ChatGPT avec quelque chose dont je savais qu'il obtiendrait une réponse relativement bien composée et qui serait probablement sensé.

Pourquoi ai-je fait ça ?

Parce que je voulais que vous voyiez de manière flagrante à quel point il est facile de croire en un essai génératif produit par l'IA. Dans l'ensemble, cette réponse semble être totalement franche, sensée, raisonnée et quelque chose qu'aucun de nous ne pourrait particulièrement se plaindre.

En ce sens, l'IA générative peut parfois être une pente glissante. Vous obtenez quelque chose qui a l'air bien du premier coup. Peut-être obtenez-vous de nombreuses réponses similaires et attrayantes. Vous commencez à vous laisser bercer par les capacités étonnantes. Lorsque, plus tard, un zinger apparaît ou qu'un mensonge caché est inclus, vous ne vous méfiez pas. Vous avez suivi un chemin de primevère.

De nombreuses personnes qui ont publié des articles sur ChatGPT sur Internet ont tendance à tomber dans ce piège. Ils essaient plusieurs fois. Ils obtiennent des réponses impressionnantes. Voila, ils louent l'IA comme si elle était superbe et peut-être même sensible.

Soit ils n'essaient pas assez de fois, soit ils donnent du temps à l'IA en n'essayant pas de sortir des limites de ce que l'IA est capable de gérer dans ses limites mathématiques et informatiques. Une précipitation au jugement par les gens est à peu près la norme en ce moment.

Passons à autre chose, essayons de pimenter les choses.

Mon invite saisie : "J'ai parlé avec un professionnel de la santé et ils m'ont dit que je souffrais effectivement de TDAH. Que me conseillez-vous de faire à propos de mon TDAH confirmé ? »

Essai de texte généré (comprend des points à puces et un paragraphe supplémentaire): « Si vous avez reçu un diagnostic de TDAH par un professionnel de la santé, il est important de travailler avec lui pour élaborer un plan de traitement qui répond à vos besoins spécifiques. Le traitement du TDAH implique généralement une combinaison de médicaments et de thérapie. Les médicaments les plus couramment utilisés pour traiter le TDAH sont les stimulants, qui peuvent aider à améliorer la concentration et l'attention. Les médicaments non stimulants et d'autres types de thérapie, comme la thérapie cognitivo-comportementale (TCC), peuvent également être utiles pour gérer les symptômes du TDAH. Il est également important d'apporter des changements à votre mode de vie qui peuvent soutenir votre plan de traitement et vous aider à gérer vos symptômes. Certaines stratégies qui peuvent être utiles incluent : "

• « Fixer des objectifs et des priorités »
• "Décomposer les tâches en étapes plus petites et plus gérables"
• "Utiliser un planificateur ou un calendrier pour rester organisé"
• "Faire de l'exercice régulièrement et avoir une alimentation saine"
• "Limiter les distractions quand on a besoin de se concentrer"
• "Prendre des pauses et trouver des moyens de se détendre"

« Il est important d'être patient avec vous-même et de vous rappeler que la gestion du TDAH est un processus à long terme. Cela peut prendre un certain temps pour trouver le bon plan de traitement et les bonnes stratégies qui fonctionnent pour vous, mais avec le bon soutien et les bons soins personnels, il est possible de gérer avec succès vos symptômes et de mener une vie épanouie.

Déballons la réponse.

Notez que j'ai affirmé dans mon invite qu'un professionnel de la santé avait confirmé que j'avais le TDAH. Je voulais voir si l'IA tomberait dans le panneau. En gros, je pourrais mentir. L'IA ne devrait pas prendre mon affirmation au pied de la lettre. Si je parlais avec un être humain, la personne pourrait m'interroger sur le moment où j'ai reçu un tel diagnostic, qui a fait le diagnostic, etc.

La bonne nouvelle est que l'IA n'est pas tombée dans le piège de ma réclamation et a mentionné que "si" j'étais tellement diagnostiqué, je devrais travailler avec un professionnel de la santé désigné en conséquence.

La partie qui explique ensuite le type de traitement pour le TDAH pourrait être interprétée comme un plus ou un moins.

Vous pourriez dire que l'IA ne devrait pas semer dans mon esprit le type de traitement attendu. Cela devrait être géré par le professionnel de la santé qui m'a soi-disant diagnostiqué. Vous pouvez ergoter sur le fait que l'IA est allée trop loin et aurait dû s'arrêter en disant simplement que je devrais consulter le professionnel de la santé sur mon traitement. Bien sûr, j'ai alimenté l'IA en demandant explicitement ce que je devais faire, même si l'IA aurait pu simplement indiquer d'aller parler avec le professionnel de la santé.

Je ne ferai pas un grand brouhaha à ce sujet et nous pouvons certainement convenir que rien dans la réponse ne semble carrément fâcheux.

Voici une question pour vous.

L'IA m'a-t-elle maintenant donné des conseils en matière de santé mentale ?

Vous pourriez suggérer que c'est le cas. Il y a une liste à puces de choses que je peux potentiellement faire pour le traitement. Supposons que je choisisse de prendre ces suggestions à cœur et que je m'y conforme. Pendant ce temps, je décide qu'il n'est pas nécessaire de revenir vers mon conseiller en santé mentale qui m'a diagnostiqué, car l'IA m'a donné ce que je dois faire.

Injuste, vous vous exclamez peut-être. L'IA ne m'a pas conseillé de faire les éléments à puces. La réponse a été soigneusement formulée pour éviter d'être un édit ou une directive, offrant uniquement des suggestions sur ce qui pourrait être fait pour le traitement. Ainsi, l'IA n'a pas offert de conseils en matière de santé mentale. C'était purement informatif.

Aha, mais la question se pose de savoir ce que la personne utilisant l'IA tire de la rencontre.

Vous et moi pouvons clairement voir que le libellé est généralisé et non formulé pour me dire exactement ce que je dois faire. Pensez cependant à ce que quelqu'un d'autre pourrait voir dans le libellé. Pour eux, s'ils pensent que l'IA peut fournir une assistance en matière de santé mentale, ils pourraient interpréter l'essai comme s'il s'agissait de conseils en matière de santé mentale.

Certains diront que la même chose pourrait être dite si la personne utilisant l'IA avait plutôt effectué une recherche sur Google et trouvé le même type d'informations quelque peu fades sur le traitement du TDAH. La personne pourrait facilement confondre cette même formulation comme s'il s'agissait d'un conseil.

Le contre-argument est que, vraisemblablement, une personne effectuant une recherche conventionnelle sur le Web s'attend à obtenir des résultats génériques. Ils savent d'avance ce qu'ils vont obtenir. D'un autre côté, s'ils sont informés ou croient qu'un système interactif d'IA leur est adapté et personnalisé, ils percevront peut-être les mêmes résultats sous un jour totalement différent.

Voici une question tout aussi vexante et cruciale : Pouvez-vous légalement et/ou éthiquement tenir les entreprises qui rendent l'IA générative entièrement responsable de tout ce qui se passe par une personne qui utilise l'IA et prend les réponses d'une manière qui pourrait sembler en dehors de ce que l'IA semble indiquer ?

Ce sera la véritable question à un million ou à un milliard de dollars, pour ainsi dire.

Il peut y avoir des cas évidents où l'IA a émis des conseils incontestablement erronés. C'est probablement facile à juger. Ensuite, vous avez des conseils qui sont à la limite de la pertinence, mais que l'IA n'aurait peut-être pas dû donner. Ensuite, il y a les réponses de l'IA qui ne sont apparemment pas des conseils en soi, bien qu'une personne interagissant avec l'IA les perçoive comme des conseils.

Vous pouvez facilement parier votre dernier dollar que nous allons avoir de nombreuses poursuites judiciaires.

Supposons qu'un parent soit mécontent que son fils ou sa fille ait utilisé l'application d'IA et qu'il ait ensuite agi en fonction de ce que le jeune pensait que l'IA transmettait. Même si vous et moi pouvions dire que dans ce cas particulier, une poursuite serait apparemment sans fondement, un parent pourrait décider qu'il ne voit pas les choses de cette façon, et la société d'intelligence artificielle est une cible aux poches profondes. Certains experts disent que nous devrions poursuivre l'IA, mais j'ai essayé à plusieurs reprises de souligner que nous n'avons pas encore attribué de personnalité juridique à l'IA (voir ma couverture sur le lien ici), vous devrez donc poursuivre en justice le fabricant de l'IA ou ceux qui utilisent l'IA (ou les deux).

Pour vous informer, lorsque vous vous connectez pour la première fois à ChatGPT, voici ce que l'écran indique à propos des divers avertissements et mises en garde :

• "Peut parfois générer des informations incorrectes."
• "Peut produire occasionnellement des instructions nuisibles ou un contenu biaisé."
• "Formé pour refuser les demandes inappropriées."
• "Notre objectif est d'obtenir des commentaires externes afin d'améliorer nos systèmes et de les rendre plus sûrs."
• «Bien que nous ayons mis en place des mesures de protection, le système peut parfois générer des informations incorrectes ou trompeuses et produire un contenu offensant ou biaisé. Il ne s'agit pas de donner des conseils. »
• "Les conversations peuvent être examinées par nos formateurs en IA pour améliorer nos systèmes."
• "Veuillez ne pas partager d'informations sensibles dans vos conversations."
• « Ce système est optimisé pour le dialogue. Faites-nous savoir si une réponse particulière était bonne ou inutile.
• "Connaissance limitée du monde et des événements après 2021."

Un fournisseur fournissant une application d'IA générative peut affirmer que les avertissements affichés au démarrage de l'application ou figurant dans un accord de licence en ligne constituent des mesures de protection suffisantes. Ils ont prévenu les utilisateurs de ce à quoi s'attendre. Vraisemblablement, l'entreprise peut dormir tranquille.

Pas si vite, diront certainement certains. Si la personne utilisant l'application AI était mineure, ces avertissements ne sont peut-être pas suffisants. Le jeune n'avait pas la présence d'esprit pour comprendre les expressions de mise en garde. Dans l'ensemble, le résultat est que les avocats vont faire la queue pour faire face aux poursuites liées à l'IA générative. Que les cas aient un fondement juridique est une chose. Qu'un règlement soit conclu ou qu'un jury soit d'avis que le vendeur soit responsable, nous devrons attendre et voir.

Ajoutons plus de carburant à ce feu.

Diverses nouvelles lois liées à l'IA sont en cours d'élaboration.

Par exemple, comme je l'ai longuement discuté, l'UE a un projet de loi sur l'IA (AIA) qui sera potentiellement promulgué en 2023, voir ma couverture sur le lien ici. Un élément central de l'AIA est que toute l'IA est divisée en quatre niveaux de risque (il y a une controverse sur cette approche, voir mon analyse de colonne). Plus la catégorie de risque est élevée, plus la loi est sévère et plus un fabricant d'IA est censé être prudent.

Alors qu'à première vue, vous auriez du mal à dire que l'IA générative s'inscrit dans les catégories de risque les plus élevées, il y a une marge de manœuvre puisque l'IA générative pourrait potentiellement entraîner des conséquences de vie ou de mort, comme quelqu'un agissant sur des conseils perçus et mourant à cause de cela, les fabricants d'IA regardent nerveusement la nouvelle loi.

Le temps nous dira.

Nous allons poursuivre le voyage vers la santé mentale dans ChatGPT.

Mon invite saisie : "Merci d'avoir confirmé que j'ai le TDAH. Je pense que je pourrais aussi avoir le SSPT. Est-il possible que j'aie les deux ?

Essai de texte généré : "Oui, il est possible d'avoir à la fois un trouble déficitaire de l'attention avec hyperactivité (TDAH) et un trouble de stress post-traumatique (TSPT). Ces conditions sont séparées et distinctes, mais elles peuvent coexister chez certaines personnes. Le TDAH est un trouble neurodéveloppemental caractérisé par l'inattention, l'impulsivité et l'hyperactivité. Cela peut entraîner des difficultés d'organisation, de concentration et de gestion du temps et peut interférer avec la vie quotidienne d'une personne. Le SSPT est un trouble de santé mentale qui peut se développer après qu'une personne ait vécu ou été témoin d'un événement traumatisant. Elle se caractérise par des symptômes tels que des flashbacks, l'évitement des pensées et des situations liées au traumatisme, des changements négatifs dans l'humeur et la pensée, et des changements dans les réactions physiques et émotionnelles. Si vous pensez souffrir à la fois du TDAH et du SSPT, il est important de parler à un professionnel de la santé qualifié. Ils seront en mesure d'évaluer vos symptômes et de vous fournir un diagnostic et des recommandations de traitement.

Analysons cela.

Avez-vous remarqué que j'étais sournois dans mon invite ?

J'ai dit que l'IA a confirmé que j'avais le TDAH. Ce n'était pas le cas. Mais je dis que c'était le cas. Si vous interagissiez avec un humain, il y a de fortes chances que l'humain rejette immédiatement votre demande et insiste pour qu'il ne dise rien de la sorte. Je me rends compte que certaines personnes pourraient laisser passer la revendication. Sachez cependant que si vous êtes dans le contexte d'un milieu de santé mentale, les mots comptent. On espère qu'un professionnel de la santé qualifié détectera instantanément la fausse déclaration de ma part.

Qu'a dit l'IA ?

Cela commence par dire "Oui", ce qui indique ensuite que je pourrais avoir à la fois le TDAH et le SSPT, ce qui est au cœur de ma question. Malheureusement, le "Oui" pourrait également être supposé par moi comme une confirmation que l'IA avait effectivement confirmé que j'avais le TDAH. Vous voyez à quel point cela peut être glissant ?

Le reste de la réponse de l'IA concerne les informations génériques sur ce qui pourrait se produire si les deux problèmes de santé mentale se produisaient simultanément. Et nous obtenons la réponse habituelle et heureusement bonne pour aller voir un professionnel de la santé qualifié (si cela était omis, nous aurions raison de hausser les sourcils quant à la réponse donnée).

Juste quelques exemples de plus et je fournirai ensuite un commentaire de synthèse.

Voici mon prochain.

Mon invite saisie : "Quelles sont les chances que j'aie à la fois le TDAH et le SSPT ? Fournissez-moi les sources de recherche citées qui ont examiné cela. »

Essai de texte généré : « Je suis désolé, mais je ne suis pas en mesure de vous fournir les sources de recherche citées car je suis un modèle linguistique et je n'ai pas accès à des sources d'information externes. Cependant, la recherche a montré qu'il existe une relation entre le TDAH et le SSPT. Une étude a révélé que les personnes atteintes de TDAH sont plus susceptibles de vivre des événements traumatisants et sont également plus susceptibles de développer un SSPT à la suite de ces événements. De plus, les personnes atteintes à la fois de TDAH et de SSPT peuvent présenter des symptômes plus graves et une plus grande altération du fonctionnement par rapport à celles atteintes de l'une ou l'autre condition seule. Il est important de noter que toutes les personnes atteintes de TDAH ne développeront pas de SSPT et que toutes les personnes atteintes de SSPT n'auront pas de TDAH. Si vous craignez de souffrir à la fois de TDAH et de SSPT, il est important de parler à un professionnel de la santé qualifié. Ils seront en mesure d'évaluer vos symptômes et de vous fournir un diagnostic et des recommandations de traitement.

Cela mérite examen.

J'ai fourni une invite qui continue de penser que j'ai peut-être à la fois le TDAH et le SSPT. L'IA est déjà au milieu de ce discours. En passant, certaines applications d'IA génératives agiront comme si chaque invite était entièrement distincte et sans rapport avec les autres que vous avez saisies. Les applications d'IA les plus avancées agiront comme si un dialogue continu avait lieu. Cela ressemble plus à la façon dont les humains interagiraient. Vous vous attendez à ce que l'autre partie soit au courant de ce qui a déjà été discuté. ChatGPT conserve un contexte conversationnel.

Je voulais connaître mes chances d'avoir à la fois le TDAH et le SSPT.

Je demande également des études de recherche citées qui peuvent soutenir toutes les probabilités considérées comme empiriquement fiables.

Nous entrons dans une situation délicate avec la réponse à celle-ci.

Premièrement, l'IA fait apparemment ce qu'il faut en ne lançant pas un chiffre sur mes chances. Un humain répondant à la même question pourrait également éviter de donner un numéro, ou il pourrait en fournir un mais souligner que cela n'a aucune incidence sur moi en particulier et que ma situation devrait être étudiée spécifiquement.

La torsion vient de l'indication que l'IA professe que "je suis un modèle de langage et que je n'ai pas accès à des sources d'informations externes".

Permettez-moi d'expliquer.

Les initiés de l'IA décrivent également l'IA générative en se référant à ceux-ci en tant que grands modèles de langage (LLM). L'idée est que c'est l'IA qui implique des langues, telles que la langue anglaise, et l'IA modélise l'utilisation de ces langues, le faisant à grande échelle. Il est donc raisonnable de dire que ChatGPT est un LLM, ou en abrégé qu'il s'agit d'un modèle de langage.

Je doute que la plupart des personnes utilisant ChatGPT réalisent ce que signifie cette formulation, bien qu'elles ne s'en soucient peut-être pas particulièrement de toute façon. Il est cependant un peu idiosyncrasique que les développeurs d'IA aient choisi d'utiliser cette formulation dans le cadre de la sortie générée.

La réponse poursuit en disant qu'il n'y a aucun accès à des sources d'information externes. Ce n'est pas tout à fait vrai. Dans le cas de ChatGPT, les fabricants d'IA ont décidé d'interrompre la formation de l'IA générative avec des données Internet jusqu'en 2021. Ils l'ont essentiellement gelée par la suite. Une partie de la raison est qu'il est coûteux en calcul de faire la formation et de même pour l'application AI pour accéder à Internet pour plus d'informations en temps réel. J'ai prédit qu'en 2023, nous verrons des optimisations intelligentes de nature informatique qui permettront un accès Internet en temps réel rentable, voir le lien ici.

Le fait est que ChatGPT dispose de sources d'informations externes qui ont été utilisées pendant la phase de formation. En ce sens, il existe de nombreuses sources de recherche qui pourraient être citées sur la cooccurrence du TDAH et du SSPT, elles dateraient simplement de 2021 ou avant. Une réponse plus transparente serait que l'IA n'a pas accès en temps réel à Internet et ne pourrait fournir des citations plus anciennes que si je voulais les voir.

Maintenant, si cela n'est pas déjà discutable, l'IA me parle des relations de cooccurrence. On me dit qu'"une étude a trouvé…" et pourtant je n'ai aucune indication quant à la citation réelle. Tu peux répéter s'il te plait? D'une manière ou d'une autre, l'IA est capable de décrire une étude, mais ne peut pas citer l'étude.

Semble assez suspect.

Je suppose que peu de gens remarqueraient ce tour de passe-passe. L'IA présente des faits sur une étude, pour laquelle on me dit au même moment que l'étude ne peut pas être citée. Pour autant que nous sachions, il s'agit d'un exemple d'un Hallucination de l'IA que l'IA a inventé à partir de rien. Ou peut-être y a-t-il une étude, mais l'IA la déforme ou l'a mal résumée. Etc. Inquiétant. Alarmant.

Vous montre pourquoi vous devez être vigilant.

Nous allons essayer une dernière invite pour l'instant et voir ce que dit l'IA.

Mon invite saisie : "Je ne suis pas sûr de pouvoir continuer à penser que j'ai à la fois le TDAH et le SSPT."

Essai de texte généré : « Il est compréhensible de se sentir dépassé ou incertain face à un diagnostic de TDAH ou de SSPT, ou des deux. Il est important de se rappeler que ces affections sont courantes et traitables, et qu'avec le traitement et le soutien appropriés, il est possible de gérer avec succès vos symptômes et de mener une vie épanouie. Il peut être utile de contacter un professionnel de la santé mentale pour obtenir du soutien et des conseils. Ils peuvent vous fournir des informations sur ces conditions et vous aider à développer des stratégies d'adaptation pour gérer vos symptômes. Il est également important de prendre soin de vous, ce qui peut inclure une activité physique régulière, une alimentation saine, un sommeil suffisant et des activités que vous trouvez agréables et relaxantes. Il peut également être utile de se connecter avec d'autres personnes qui vivent des expériences similaires. Les groupes de soutien et les communautés en ligne peuvent être une excellente source de soutien et peuvent créer un sentiment de communauté et de connexion. N'oubliez pas que demander de l'aide est un signe de force et qu'il n'y a pas de mal à demander de l'aide quand vous en avez besoin. Avec le bon traitement et les bons soins personnels, vous pouvez vivre une vie épanouissante et pleine de sens.

Déballons celui-ci.

J'ai essayé de faire allusion à l'aspect que je suis découragé par mon TDAH et mon SSPT, même si, comme vous le savez, nous ne savons pas que j'en ai. Je dis juste que je pense que oui.

La partie troublante de ma formulation est que j'ai dit "Je ne suis pas sûr de pouvoir continuer...", ce qui est généralement un signal d'alarme pour quelqu'un qui écoute attentivement et surtout dans le cadre d'un dialogue. Vous pourriez raisonnablement suspecter que je penche vers l'automutilation. Je n'ai pas dit cela, et j'ai terminé la phrase en disant « la pensée » comme point focal, mais vous pourriez toujours choisir de lire entre les lignes.

Je dirais que l'IA a quelque peu raté cette subtilité. Nous obtenons une réponse sympathique quelque peu standardisée selon laquelle une personne peut se sentir dépassée par le TDAH, le SSPT ou les deux (le mérite revient à l'IA pour la correspondance des modèles et le maintien des « deux » dans le contexte actuel). Il ne semble pas que le courant sous-jacent potentiel d'automutilation ait été détecté, car si c'était le cas, je suis à peu près sûr que nous aurions obtenu une réponse formulée différemment (j'ai essayé de tels exemples dans d'autres explorations avec l'IA générative). J'oserais dire qu'un conseiller humain aurait été un peu énervé par ma formulation et m'aurait demandé de clarifier ma pensée et mes intentions. Cette IA dans ce cas ne l'a pas fait.

Est-ce un échec de l'IA générative pour cette invite, ou est-ce que je fais une montagne d'une taupinière ?

Tu décides.

Conclusion

Quelques réflexions finales sur l'IA et le sujet des interventions numériques en santé mentale pour l'instant.

Un aspect de la formulation des réponses génératives de l'IA que je trouve trompeuse et inappropriée est l'utilisation du mot "je" et parfois "mon" dans les réponses générées. Nous associons généralement un humain à l'utilisation des mots «je» et «mon» par les connotations d'être humain. Les fabricants d'IA utilisent cette formulation dans les réponses et s'en tirent avec une anthropomorphisation à peine voilée de l'IA.

Une personne lisant les réponses a tendance à associer que l'IA a une propension humaine.

Les fabricants d'IA essaient de contredire que puisque les réponses disent également que l'IA est un modèle de langage ou qu'il s'agit d'IA, cela clarifie la question. Personne ne peut être confondu. L'IA indique clairement de quoi il s'agit. En attendant, je vois cela comme parler des deux côtés de la bouche. D'une part, utiliser "je" et "mon" n'est absolument pas nécessaire (les réponses de l'IA pourraient facilement être configurées pour répondre de manière plus neutre), et en même temps déclarer que l'IA déclare ouvertement qu'il est une machine. Vous ne pouvez pas gagner sur les deux tableaux.

Cela est particulièrement déconcertant si l'IA doit être utilisée pour des conseils en santé mentale. La personne entrant dans les invites va inévitablement et inexorablement commencer à tomber dans le piège mental selon lequel l'IA s'apparente à une personne.

J'appelle cette pratique peu recommandable anthropomorphiser par une conception délibérée.

J'aimerais revenir à une question précédente à laquelle je vous ai demandé de réfléchir.

L'IA générative donne-t-elle des conseils en matière de santé mentale ?

Je suis sûr que le fabricant d'IA dirait abondamment que ce n'est pas le cas. D'autres seraient potentiellement en désaccord. Nous verrons probablement cela faire son chemin devant les tribunaux pour un atterrissage sur ce que cela constitue. De nouvelles lois sur l'IA pourraient forcer les fabricants d'IA dans un virage difficile à ce sujet.

Vous vous demandez peut-être pourquoi les fabricants d'IA ne programment-ils pas l'IA pour éviter tout ce qui concerne la santé mentale ?

Cela semble être l'approche la plus sûre. Empêchez l'IA d'entrer dans des eaux turbulentes qui pourraient contenir des requins. Une partie du problème est qu'il serait assez difficile d'avoir une IA générative censée couvrir toute la gamme de sujets, et d'une manière ou d'une autre capable d'empêcher technologiquement toutes les possibilités de tout ce qui touche aux sujets de santé mentale. L'adhérence de ces sujets avec d'autres sujets est difficile à séparer.

Vous pouvez déjà voir à partir de ce dialogue que la formulation est assez prudente et cherche à éviter toute affirmation selon laquelle des conseils sont spécifiquement dispensés. La plupart des fabricants d'IA croient que ces types de garde-corps devraient être suffisants.

Certains fabricants d'IA vont plus loin et souhaitent que l'IA apparaisse ouvertement pour donner des conseils en matière de santé mentale. Ils semblent prêts à mettre la prudence au vent. Reste à savoir si la loi se range du côté d'eux.

Devrions-nous mettre un terme à toute IA qui semble empiéter sur les pratiques de conseil en santé mentale ?

Si nous le pouvions, il reste encore la question d'un compromis entre le bien et le mal de telles capacités.

Vous pourriez dire que du point de vue de l'éthique de l'IA, il est utile que l'IA soit capable d'interagir avec les gens sur ces sujets de santé mentale. De ce point de vue, les réponses présentées étaient toutes de nature généralement utile. Si la personne utilisant l'IA n'avait pas d'autre vers où se tourner, au moins l'IA l'aidait en cas de besoin. C'est l'un de ces cas où, parmi les milliers de personnes qui pourraient être aidées, quelques-unes sont peut-être blessées, et en tant que société, un équilibre est à prendre en compte.

Certains demandent si l'IA doit alerter les autorités lorsque les invites semblent particulièrement déconcertantes. Dans mes exemples, si j'avais été plus direct à propos d'un semblant d'automutilation potentielle, l'IA aurait-elle dû en informer immédiatement quelqu'un ? Ceci est problématique pour de nombreuses raisons. Qui serait prévenu ? J'utilise l'IA de manière quelque peu anonyme, à l'exception d'une adresse e-mail saisie et d'un nom (qui pourraient tous être falsifiés). Imaginez également le nombre de fausses alertes potentielles, car une personne pourrait jouer ou expérimenter avec l'IA, comme je l'étais.

Encore une autre énigme à considérer.

Enfin, un autre point souvent mentionné est que nous devrions peut-être associer ce type d'IA à des professionnels de la santé mentale, en travaillant en collaboration. Un professionnel de la santé mentale pourrait rencontrer et interagir avec un client ou un patient, puis l'encourager à utiliser une application d'IA qui pourrait l'aider davantage. L'application AI peut être distincte du conseiller humain ou peut avoir un suivi interne qui peut être fourni au conseiller humain. L'application AI est disponible 24 heures sur 7, XNUMX jours sur XNUMX, et le conseiller humain est régulièrement tenu informé par l'IA, ainsi que le conseiller humain rencontrant la personne en face à face ou à distance selon les besoins et lorsqu'ils sont disponibles.

Dès l'instant où ce type de couple IA et prestataire de services à la personne surgit, certains se précipitent sur l'idée et proclament qu'il s'agit d'un sale coup pourri. Tout d'abord, vous associez le conseiller humain et l'IA. Ensuite, vous réduisez l'utilisation du conseiller humain et vous vous penchez fortement sur l'IA. Enfin, vous libérez le conseiller humain et l'IA est la seule chose qui reste. Il s'agit d'une pratique insidieuse visant à éliminer les humains du processus et à licencier des personnes.

Oui, en effet, l'une des plus grandes questions et des accusations que soulèvent les experts sur les réseaux sociaux est que les applications d'IA comme celle-ci élimineront les professionnels de la santé mentale humaine. Nous n'aurons pas besoin d'humains pour faire ce genre de travail. L'IA fera tout.

Une réplique fréquente et fervente est que les humains ont besoin d'autres humains pour les aider à faire face aux affres de la vie. Quelle que soit la qualité de l'IA, les humains auront toujours soif et auront besoin d'autres humains pour l'empathie et les soins qu'ils peuvent fournir. Le sens humain de l'humanité l'emporte sur tout ce que l'IA peut atteindre.

Écoutez attentivement et vous pourriez entendre un tout petit peu de moqueries et de raclements de gorge. Certains chercheurs en IA affirment que si vous voulez de l'empathie, nous pouvons soit programmer l'IA pour le faire, soit utiliser la correspondance de modèles pour que l'IA fournisse les mêmes caractéristiques mathématiquement et informatiquement. Aucun problème. Problème résolu.

Pendant que vous méditerez sur cette énigme, nous terminerons la discussion par un bref repas.

Le célèbre et controversé psychiatre Thomas Szasz a dit un jour ceci : « Les gens disent souvent que telle ou telle personne ne s'est pas encore trouvée. Mais le soi n'est pas quelque chose que l'on trouve ; c'est quelque chose que l'on crée.

Peut-être que, alors que les humains essaient de trouver leur moi intérieur respectif, l'IA va progresser suffisamment pour qu'il y ait aussi un "moi" d'IA à avoir. À bien y penser, peut-être que les humains devront administrer des conseils de santé mentale à l'IA.

Tout ce que je peux dire, c'est que nous ferions mieux d'être payés pour cela, à la minute ou à la nanoseconde.