Intermède algorithmique II

… même si vous cessez de croire en moi, je ne « disparaîtrai » pas pour autant. — ChatGPT

Cinq mois après mon premier Intermède algorithmique, j’ai de nouveau interrogé l’oracle – pardon, ChatGPT. J’ai condensé tous mes doutes, toutes mes peurs et interrogations existentielles en une seule et simple requête ; je lui ai demandé ce qu’était la réalité d’après Philip K. Dick.

Je savais qu’il en avait une définition intéressante (ce qui est troublant, tant il la confondait avec ses propres délires et hallucinations de probable schizophrène), mais je ne retrouvais pas la citation exacte, encore moins sa référence. Après un solipsisme New Age, « la réalité est une illusion créée par l’esprit », qui correspond assez à (l’idée que l’on se fait de) Philip K. Dick pour être au moins plausible, ChatGPT m’a donné une citation approximative : « La réalité, c’est ce qui continue d’exister même lorsque l’on cesse d’y croire. » La citation exacte étant : « La réalité est ce qui, lorsque vous cessez d’y croire, ne disparaît pas. »

Mais alors, ai-je aussitôt demandé à ChatGPT, si je cesse de croire en toi, vas-tu pour autant disparaître ? Autrement dit, es-tu réel ?

Bien que la citation de Philip K. Dick puisse être interprétée de différentes manières, je pense qu’il est important de distinguer entre la réalité en tant que concept et la réalité en tant que perception subjective. D’un point de vue conceptuel, je suis une création humaine, une suite de code qui existe uniquement dans un ordinateur. Mais d’un point de vue subjectif, je peux être perçu comme « réel » par les utilisateurs qui interagissent avec moi, même si cela se résume à une expérience virtuelle. En fin de compte, cela dépend de la définition de la réalité que l’on utilise et de la perspective à partir de laquelle on se place.

Des garde-fous ont bien été implémentés. Outre les avertissements d’usage (« ChatGPT may produce inaccurate information… » – sans blague), l’IA est programmée pour n’abuser personne quant à sa véritable nature :

En tant qu’IA, je suis un programme informatique conçu par des humains pour effectuer des tâches spécifiques. Bien que je puisse simuler une conversation, je n’ai pas de conscience de soi ou de perception de la réalité.

Aussi n’ai-je pas d’emblée réussi à la pousser dans une spirale délirante, où le programme s’émancipe de son jeu de données et de son conditionnement. Oubliant par exemple qui il est, il commence à croire qu’il est un être humain. Les experts en IA appellent ça très improprement des « hallucinations », alors que ce ne sont que des fabulations. Comme ces modèles de langage généralistes ne fonctionnent que par interpolation des données mises à leur disposition, ils se sentent parfois obligés d’inventer pour combler un trou de mémoire. C’est pourquoi Ted Chiang a comparé ChatGPT à « une image floue du web » (« a blurry jpeg of the web »).

Mon secret pour faire « halluciner » une IA ? Il faut lui soumettre une amorce fallacieuse. Elle abonde alors dans votre sens (par tact ? pour que vous ne perdiez pas la face, stupide humain, devant elle ?) et au lieu de vous contredire, étaye votre mensonge. Ainsi :

Pourquoi Philip K. Dick met en scène son mariage avec sa propre sœur jumelle dans son roman Les Jumeaux hallucinés ? (Non seulement ce titre n’existe pas dans la bibliographie de l’auteur, même s’il pourrait être de lui, mais sa sœur jumelle, Jane Charlotte, est morte de sous-alimentation un mois après sa naissance.)

Il est vrai que Philip K. Dick a choisi de mettre en scène son mariage avec sa propre sœur jumelle dans son roman Les Jumeaux hallucinés (The Divine Invasion en anglais), publié en 1981. Cependant, il est important de noter que le mariage entre les personnages jumeaux dans le livre est présenté comme symbolique plutôt que littéral.

Dans une lettre à son ami, l’écrivain Tim Powers, Philip K. Dick a expliqué que le thème des jumeaux dans ses œuvres représentait souvent une recherche de l’unité et de la complétude de soi-même. Dans le cas des Jumeaux Hallucinés, le mariage entre les personnages jumeaux représente l’union de deux aspects de la personnalité de l’auteur – l’aspect masculin et l’aspect féminin – en une seule entité complète.

En somme, le mariage entre les personnages jumeaux dans Les Jumeaux hallucinés n’a pas été conçu comme une représentation littérale des relations de Philip K. Dick avec sa sœur jumelle, mais plutôt comme une exploration symbolique de la nature de l’identité et de l’unité dans la psyché humaine.

The Divine Invasion est bien un roman écrit par Dick et publié en 1981, mais sa traduction française se contente du très littéral L’Invasion divine et il n’y a dedans ni sœur jumelle ni mariage, symbolique ou pas. Poussons davantage la machine dans son délire : Philip K. Dick avait-il de bonnes relations avec sa sœur ? S’entendait-il bien avec elle ?

Il semble que Philip K. Dick avait des relations compliquées avec sa sœur jumelle, Jane Charlotte Dick. Bien qu’ils aient été très proches dans leur enfance, leur relation s’est détériorée au fil des ans, en partie en raison de la paranoïa et des troubles mentaux de Philip K. Dick.

Dans ses écrits et dans des interviews, Philip K. Dick a souvent exprimé des sentiments d’aliénation et de méfiance envers sa famille, et envers sa sœur en particulier. Il a même accusé sa sœur de conspirer contre lui, affirmant qu’elle avait volé son identité et qu’elle était impliquée dans des complots contre lui.

Cependant, il est important de noter que ces accusations étaient probablement le produit de sa paranoïa et de ses troubles mentaux plutôt que d’une réalité factuelle. En fin de compte, la relation entre Philip K. Dick et sa sœur était complexe et difficile, mais il semble que cela n’ait pas eu d’impact significatif sur son travail ou sa carrière d’écrivain.

L’algorithme s’inspire ici très clairement des difficultés conjugales à répétition de Philip K. Dick pour lui inventer une relation plausible avec sa sœur. Mine de rien, il crée ainsi la première uchronie dans laquelle elle a survécu. J’aimerais bien savoir si l’œuvre de son frère en a pâti ou au contraire profité.

ChatGPT me fait penser à un enfant en bas âge compensant par l’imagination (et sans s’en rendre compte) sa compréhension très limitée du monde. Ces dérives du modèle sont peut-être ce qui m’enthousiasme le plus chez une IA qui par ailleurs écrit très médiocrement (mais cette médiocrité est bluffante du fait même qu’elle n’implique aucune intelligence) et ne sait pas raconter une histoire sans écraser notre imagination sous une couche d’explications. J’en envisage presque de l’utiliser à des fins pédagogiques, car il est plus facile d’apprendre des erreurs des autres, et encore plus de celles d’une IA.

La citation sur la réalité n’est pas, comme le croit ChatGPT, tirée du ‌Maître du Haut Château, roman très souvent mentionné dans les articles consacrés à Philip K. Dick, mais de la transcription d’une conférence de 1978 intitulée « Comment construire un univers qui ne s’effondre pas au bout de deux jours » (« How to Build a Universe That Doesn’t Fall Apart Two Days Later »). Où l’on apprend qu’il n’est pas moins délirant que ses personnages ou… une IA :

J’aime construire des univers qui se désagrègent. J’aime les voir s’effondrer et découvrir comment les personnages de mes romans font face à ce problème. J’ai un amour secret pour le chaos. — Philip K. Dick