Derrière l'apparente révolution Chat GPT et le côté spectaculaire de l'outil, on peut s'interroger sur sa véritable fonction et la portée de son utilisation. Comprendre le fonctionnement de cette intelligence artificielle va nous aider à la démythifier.

IA : Chat GPT ne répond pas

L'IA Chat GPT a des aspects spectaculaires, mais beaucoup moins novatrice, si l'on creuse la question

Derrière l’apparente révolution Chat GPT et le côté spectaculaire de l’outil, on peut s’interroger sur sa véritable fonction et la portée de son utilisation. Comprendre le fonctionnement de cette intelligence artificielle va nous aider à la démythifier.

Avoir une photo exhaustive de toutes les formes que peuvent revêtir les IA semble complexe. A tout le moins y perdrait-on en précision. Nous allons nous concentrer sur une IA : Chat GPT, qui a marqué le début d’année 2023. Si ce n’est pas, nous allons le voir, l’IA la plus révolutionnaire, c’est peut-être la plus spectaculaire.

La plupart des IA qui génèrent du texte s’appuient sur ce qu’on appelle des gros modèles de langage. Des modèles qui n’ont qu’un but : prédire le prochain mot d’un texte. Comme dans votre téléphone, lorsque votre smartphone vous suggère le mot suivant d’un sms. Le principe est tout à fait similaire.

Prédire le mot suivant

Ces IA ont le même modèle mais ne fonctionnent pas exactement de la même façon puisque pour prédire le mot d’après, elles ont été entrainées sur une énorme quantité de données. Ces IA ont repéré tous les schémas possibles, les associations de termes, les liens, les récurrences (patterns en anglais, motifs en français) en se basant sur des centaines de millions de documents. C’est ce qu’on appelle le machine learning, phase essentielle puisqu’elle consiste en une préparation intensive de l’IA.

Et pour que le modèle améliore ses prédictions en phase d’entrainement, il peut jouer sur des milliards de paramètres pour mieux gérer cette data. Attention, ici on parle de la phase de préparation. Chat GPT ne s’en sert pas quand il vous répond (du moins pas à l’heure où ces lignes sont écrites mais on peut tout à fait l’imaginer à terme). Chat GPT a juste utilisé ces données pour régler ses 175 milliards de paramètres et ensuite pouvoir prédire des suites de mots crédibles. Donc quand je pose une question comme « quand a eu lieu Marignan ? », GPT répond « 1515 » non pas parce qu’il sait mais parce que selon ses milliards de paramètres c’est la réponse qui semble le mieux coller à cette question. C’est le terme le plus crédible pour convenir au contexte que je lui ai posé.

Ce qui est donc important à noter, c’est que Chat GPT a un schéma de fonctionnement relativement similaire à votre téléphone qui prédit les mots de vos sms. Et si le résultat est aussi radicalement différent c’est surtout parce que Chat GPT est surentrainé.

Et pour améliorer encore les réponses de l’IA, on va affiner l’outil et le corriger via des interventions humaines. Exemple, les programmeurs de GPT se rendent compte que lorsqu’on écrit 2+2= ?, il liste les réponses probables comme étant 4,5 ou 3 ; les humains, les techniciens, vont alors récompenser l’IA pour qu’elle apprenne que « 4 » est la réponse la plus satisfaisante.

Autre exemple : quand on affirme à Chat GPT une fake news. Ex : le 11/09 n’a jamais eu lieu. Dans la masse de données utilisées pour s’entrainer, l’IA a dû remarquer qu’une part conséquente de textes et contenus divers établissaient la non existence du 11/09. Pourtant, l’IA va vous corriger en précisant que le 11/09 a bien existé. Ici, on voit c’est la correction apportée par l’humain qui a entrainé Chat GPT.

Chat GPT ne vous répond pas

Rappelons ce principe essentiel : le but de Chat GPT est de prédire avec le plus de crédibilité possible le mot suivant. Raison pour laquelle si vous posez une question absurde à l’IA, elle va répondre. Parce que, de fait, elle ne répond pas vraiment. Elle ne fait que prédire une suite de mots crédible. Voilà pourquoi, aussi, à une même question posée deux fois, vous aurez potentiellement deux textes différents.

Autre conséquence, et celle-ci beaucoup plus puissante en termes d’implications : l’IA comme Chat GPT n’a pas pour fonction de dire le vrai, de dire ce qui est, d’informer. Mais juste de prédire une suite de mots. L’aspect chatbot, le coté questions/réponse n’est qu’une mise en scène. C’est sans doute ce qui a contribué au grand succès de Chat GPT. Une IA qui ne vous répond pas mais qu’on a déguisé en robot conversationnel.

Chat GPT ne répond pas, il s’adapte

Ce qui est vrai en revanche, c’est que l’IA s’adapte. Et si vous lui parlez comme vous parlez à quelqu’un d’humain, l’IA répondra sur ce même mode. Si vous dites « tu » à l’IA, instantanément vous introduisez une modalité de relation intime qu’elle va utiliser pour répondre. Ce qui va contribuer à vous tromper et à renforcer le côté « vivant » ou « conscient » de l’outil.

Retenons donc que d’une certaine manière, Chat GPT n’a qu’une limite : c’est nous ! Nous qui produisons les données dont Chat GPT se nourrit pour s’entrainer. Et quand on y pense, c’est une sacrée limite qui fait que l’IA (une IA de ce genre) n’est pas encore prête à dépasser l’humain.

On comprend, une fois ce contexte posé, qu’une nouvelle question apparaît : qui sont les humains derrière l’IA ? Car les humains ne sont pas uniquement l’origine mais bien le sol, le ciel et l’horizon de l’IA. Ce sont eux qui guident et enseignent l’IA. Cela pose donc une question éthique. Quelles valeurs, quelle morale insuffler ou non à l’outil ?

Pour aller plus loin sur ce sujet :