Analyse - décryptage

Langage de machines et parole humaine

Le monde humain se trouve face à des créatures d’un type nouveau : purement techniques, produites par les technologies, elles simulent la parole humaine, une parole humainement intelligible, en développant un langage compréhensible par un esprit humain.

Pour autant, ces créatures techniquement douées de langage ne sont douées de « parole » - au sens strict de logos – puisqu’elles ne pensent pas.

« Un système d’IA ne pense pas. (…) il acquiert des connaissances par la manipulation du langage, et non par l’exploration empirique du monde tridimensionnel » écrit Alexei Grinbaum dans « Paroles de machines [1]. « A travers une analyse mathématique de corrélations, ces réseaux de neurones trouvent et apprennent les régularités les plus saillantes dans de vastes corpus linguistiques. (…) les réseaux de neurones très puissants fabriquent des textes que l’on ne parvient plus à distinguer d’une œuvre humaine. Leurs applications industrielles, culturelles, éducatives ou ludiques sont de plus en plus omniprésentes. » « Le nombre s’est fait verbe » écrit-il, ajoutant que « comme le changement climatique sur notre planète, un changement linguistique s’annonce dans nos sociétés. Les technologies dont nous sommes les concepteurs sont en train de supprimer notre monopole de l’expression linguistique » [2]. Ainsi « l’homme a perdu l’exclusivité de la parole qui héberge et véhicule le débat social. Il n’a plus la maîtrise du contrat que l’écriture permet d’établir. Les machines aussi génèrent du langage » [3].

Les IA n’ont ni conscience, ni aptitude à la projection de soi, donc aucune forme de responsabilité à l’égard de soi, donc aucune inquiétude existentielle. Notre « logos », ce verbe intérieur, qui spécifie la créature humaine est précisément là pour donner du sens et vaincre l’angoisse de l’inconnu et de la mort. Les chatbots, ou agents conversationnels, peuvent simuler une discussion et même apprendre de cette discussion sans que cela ne change en rien leur être : ils restent des machines. L’être humain, lui, est beaucoup plus sensible aux paroles, en ce sens qu’elles ne cessent de former en lui, une représentation du monde. Ainsi nous ne sommes jamais complètement les mêmes personnes au terme d’une rencontre ou d’une discussion ; notre nature humaine n’a certes pas changé, mais notre âme peut être devenue plus heureuse, lumineuse, ou inquiète et triste. Ces états d’âme sont inconnus de la machine parlante ; ils ne sont que simulés, pour donner à croire que la machine est elle aussi sensible.

Nous allons apprendre à vivre avec des systèmes qui réagissent à nos paroles. C’est déjà le cas depuis des années avec des opérateurs téléphoniques artificiels. Ces entités non-humaines parlent notre langue, s’adressent à nous et vont progressivement investir davantage nos espaces de vies : voiture, maison, école… et notre quotidien.

Pour apprendre à vivre avec des intelligences artificielles, il sera nécessaire de comprendre que les objets, les choses et les personnes qui apparaissaient dans notre champ de vision, sont habituellement aussitôt et inconsciemment interprétés en signification. Notre vision du monde « métabolise » ce qui est vu en « paroles », en compréhension. De la même manière, nous allons apprendre à interpréter la « voix machine », fut-elle parfaitement semblable à une voix humaine ; « ce qui parle » doit encore nous parler, au sens d’être interprété. C’est en ce sens de « réflexion critique » que l’esprit humain conserve une incomparable supériorité face à de fabuleuses machines ultra savantes. Ainsi, ce qui nous parle « vraiment » est ce que nous interprétons en donnant du sens. C’est à ce niveau de réception que se place le défi de l’irruption des agents parlants non-humains, dans nos cadres de vie.

Indéniablement, nous sommes en train de déléguer de « la parole » à des machines ; elles sont ennoblies comme jamais, car le langage était jusqu’alors le propre de l’être humain, mais en même temps, nous savons que seules des « paroles essentielles » comptent pour nous. Nous apprendrons donc à les filtrer et à les concevoir dans notre esprit. Ce travail accru de l’esprit sera notre réponse à la diffusion des paroles de machines. Comme l’œil s’aiguise pour discerner parmi des petits grains, ceux qui sont authentiquement des grains de blé, nous allons devenir beaucoup plus sensibles aux paroles essentielles , aux rencontres essentielles qui ne seront pas médiatisées par des machines.

Il demeure qu’un problème d’explicabilité des résultats de ces systèmes d’intelligence artificielle est réel. Les machines semblent inventer des réponses dont nous ignorons l’origine. La complétion des phrases est imprédictible. « Le texte généré par les machines ne peut être retracé jusqu’à une source identifiable » écrit Alexeï Grinbaum. « Les intelligences artificielles produisent des phrases originales qui ressemblent de près à celles de personnes réelles, mais leurs textes ont un contenu différent et original. Ceux qui les lisent sont saisis d’un frisson, voire d’une panique [4]. » Après une période transitoire d’adaptation de nos normes juridiques, cette nouvelle réalité technologique complètement inédite, restera une innovation seulement phénoménale laissant intact, l’ontologie du « vivant », qui est quant à lui un « être en devenir ».

Ce que nous sommes ne change pas : des êtres de chairs qui avons besoin d’interactions libres avec des personnes libres pour nous construire dans le jeu des libertés. Notre culture scientifique et philosophique est parfaitement apte à recevoir ce phénomène technologique complètement inédit. Passé le temps du choc de cette révolution épistémologique, passé le temps de la sidération que nous sommes en train de vivre, nous allons comprendre de quelle manière utiliser et contrôler ces outils.