ChatGPT est l’application d’IA générative lancée en novembre 2022 par OpenAI et dont tout le monde parle. Elle a atteint plus d’un milliard d’utilisateurs en 11 mois. Statistiquement, 75% des salariés de votre entreprise l’utilise déjà. Depuis, quelques 300 applications basées sur la même technologie font leur apparition tous les mois. Mais débordé par la soudaineté du phénomène, très peu de monde sait comment l’IA générative fonctionne. Et la dénomination trompeuse « d’intelligence » pour des applications qui n’ont rien d’intelligent entretient la confusion.
L’ignorance du fonctionnement de l’IA générative est à l’origine de nombreuses confusions, risques et mauvaises utilisations de l’IA. Quelques exemples :
Certains s’opposent farouchement à l’IA, craignant qu’elle rende nos adolescents incapables de réfléchir. Cette idée vient d’une surestimation de l’IA, alimentée par son appellation trompeuse « intelligence artificielle ». En réalité, l’IA générative n’a rien d’intelligent : elle calcule simplement, mot après mot, le suivant le plus probable. Pour un utilisateur lambda, elle produit donc la plupart du temps des réponses banales, incomplètes, et parfois fausses. Pour obtenir des résultats pertinents, il faut formuler des questions précises et décrire clairement le raisonnement qu’on suivrait soi‑même. Bien utilisée, cette « machine à probabilité » pousse l’utilisateur à clarifier ses propres réflexions afin de mieux guider l’IA.
Et bien non. L’IA ne comprend strictement rien à ce qu’on lui dit ! Dès que l’utilisateur formule une question, l’IA la décompose dans un langage compris d’elle seule : les tokens. Genre de syllabes de 1 à 4 lettres communes à toutes les langues. Toute langue de 2 millions de mots est composé d’environ 50 000 tokens. Il est donc plus efficace d’apprendre à ces applications à parler le token, que le français ou n’importe quelle autre langue.
Et bien non. L’IA, une fois qu’elle a décomposé la question posée en tokens, ne « réfléchit » absolument pas comme un humain. Elle va simplement calculer, pour chaque étape, le token le plus probable en fonction de la masse colossale de textes auxquels elle a été soumise au préalable. Ensuite, elle réassemble ce token avec les précédents et poursuit le même processus, token après token. L’IA générative fonctionne donc par probabilité statistique, sans aucune compréhension réelle, ce qui explique ses limites actuelles.
Et bien ça n’améliorera pas ses réponses. Comme les IA génératives ne font qu’évaluer des probabilités de mots en fonction de la question, ajouter des formules de politesse dans votre requête ne les rendra pas plus pertinentes ou plus complètes. Cela augmentera simplement la probabilité statistique que la réponse produite contienne elle-même des expressions de politesse, sans impact réel sur la qualité du fond. Les IA génératives ne « comprennent » pas la courtoisie, elles se contentent d’imiter des modèles linguistiques observés.
Et bien non, cela n’améliorera pas la qualité des réponses. Appeler l’IA « expert ressources humaines » ne lui permettra pas de relire instantanément l’ensemble des connaissances du domaine qu’elle a mis des mois à absorber. D’ailleurs, pour des raisons de droits d’auteur, les IA génératives n’ont jamais été entraînées sur des ouvrages complets, seulement sur des résumés ou des débuts de chapitres. L’ajout de termes comme « ressources humaines » augmentera uniquement la probabilité de voir ces mots ou leur champ lexical apparaître dans la réponse, sans impact sur la profondeur.
Etc. les exemples abondent : beaucoup de ces mauvaises utilisations viennent d’une méconnaissance du fonctionnement de l’IA générative. Une des catégories de ce site – Charlatans de ChatGPT : comment les démasquer ? – y est entièrement dédiée.
Au premier niveau, les réponses obtenues d’une IA générative par des utilisateurs qui ignorent son fonctionnement sont souvent incomplètes, banales et parfois fausses. Plus haut dans l’organisation, nombre de managers ou dirigeants, déçus par la qualité de ces résultats, freinent son adoption. L’entreprise se prive alors de gains de productivité et d’une valeur ajoutée potentielle, ce qui l’affaiblit face à la concurrence. Pire encore, des réponses erronées utilisées en interne nuisent à l’efficacité, et diffusées à l’externe, elles sapent la crédibilité et la confiance des clients. Comprendre l’IA générative devient donc crucial, car bien employée, elle peut au contraire renforcer fortement la compétitivité. C’est l’objectif de cette catégorie d’articles.
