Ce que le modèle fait vraiment

Nous avons vu dans les épisodes précédents comment une IA transforme du texte en nombres, calcule des relations entre les mots et prédit le mot suivant le plus probable.

C'est exactement là le problème.

Le modèle ne comprend pas. Il prédit. Il a lu des milliards de phrases et appris que certains mots suivent souvent d'autres mots... ou analysé des milliards d'images de chiens, de chats.... Quand il génère une réponse, il enchaîne des prédictions, chaque mot étant choisi en fonction de tous les précédents.

La plupart du temps, ça donne quelque chose de remarquablement juste. Parfois, ça donne quelque chose de remarquablement faux, asséné avec la même assurance.

L'hallucination : quand le modèle invente

C'est le terme technique pour désigner ce moment où une IA affirme quelque chose de faux avec une totale confiance.

Un exemple concret : demandez à un LLM de citer ses sources. Il va vous donner des titres d'articles, des noms d'auteurs, des numéros de pages qui parfois n'existent pas. Il ne ment pas au sens humain du terme. Il fait ce qu'il a toujours fait : prédire la suite la plus probable. Et dans ses données d'entraînement, une réponse sourcée ressemble à ça. Alors il produit quelque chose qui ressemble à une source.

Le modèle ne sait pas qu'il invente. Il n'a pas de signal interne qui lui dit "attention, tu extrapoles trop loin". Il continue de prédire, même quand il n'a plus rien de solide sur quoi s'appuyer.

C'est structurel, pas un bug qu'on peut corriger avec une mise à jour.

Les biais : une IA apprend ce qu'on lui montre

Imaginez qu'on entraîne un modèle à reconnaître des loups sur des photos. Si dans toutes les photos d'entraînement les loups sont photographiés dans la neige, le modèle apprend que "pelage clair + neige = loup". Montrez-lui un loup dans une forêt verte, il ne le reconnaît pas. Montrez-lui un chien blanc, il dit "loup".

Ce n'est pas de la bêtise. C'est de la fidélité aveugle aux données.

Garbage in, garbage out. Un modèle est aussi bon... et aussi biaisé... que les données sur lesquelles il a été entraîné.

Les limites structurelles

Au-delà des hallucinations et des biais, un LLM a des limites fondamentales qu'aucune amélioration technique ne supprime vraiment :

Pas de mémoire entre conversations. Chaque échange repart de zéro. Le modèle ne se souvient pas de ce que vous lui avez dit hier.

Pas de conscience du temps. Il ne sait pas quelle date on est. Ses connaissances s'arrêtent à la date de fin de son entraînement, après c'est le vide.

Pas de raisonnement causal réel. Il sait que A et B apparaissent souvent ensemble. Il ne sait pas si A cause B, si B cause A, ou si les deux sont liés par une troisième chose.

Pas d'expérience du monde physique. Il n'a jamais tenu un objet, senti une odeur, eu froid. Il sait que "brûlant" et "douleur" apparaissent souvent ensemble. Il ne sait pas ce que ça fait.

Le modèle apprend des corrélations, pas des causes. Il ne sait pas ce qu'est un chat. Il sait que le mot "chat" se comporte d'une certaine façon dans le langage.

Le RAG : contourner les limites

Le RAG — Retrieval Augmented Generation, ou "génération augmentée par recherche" est la réponse pratique à la plupart de ces limites.

L'idée est simple : au lieu de demander au modèle de puiser dans sa mémoire d'entraînement, on lui fournit les documents pertinents à chaque question. Il ne doit plus se souvenir, il doit lire et synthétiser.

Le pipeline, en clair :

Vous posez une question ↓ Le système cherche dans votre base documentaire les passages les plus pertinents ↓ Ces passages sont transmis au modèle avec votre question ↓ Le modèle répond en s'appuyant sur ces passages et cite sa source exacte

Ce que ça change concrètement :

  • Hallucination : le modèle s'appuie sur des documents réels, pas sur ses prédictions. Si la réponse n'est pas dans les documents, il dit "je ne sais pas".
  • Mémoire : on lui fournit le contexte à chaque fois, il n'a pas besoin de s'en souvenir.
  • Données à jour : on peut mettre à jour la base documentaire sans réentraîner le modèle.
  • Traçabilité : chaque réponse peut être sourcée jusqu'à la page exacte du document. Le document peut être montré ouvert au bon endroit de la bonne page.

C'est ce qui permet de construire un chatbot qui répond à "comment régler la machine n°628?" en citant la page 12 du manuel technique, pas en inventant une procédure plausible.

Ce que l'IA est vraiment

Au bout de ces quatre épisodes, voilà ce qu'on peut dire avec précision :

Une IA n'est pas intelligente au sens humain du terme. Elle ne comprend pas, ne ressent pas, ne raisonne pas causalement. Elle prédit, avec une puissance et une cohérence remarquables, à partir de quantités de données que l'humain ne peut pas traiter.

C'est à la fois moins impressionnant qu'on ne le croit: pas de conscience, pas de compréhension réelle ... et plus utile qu'on ne le pense: des tâches répétitives, volumineuses, à fort besoin de cohérence.

La bonne question n'est pas "est-ce que l'IA va tout changer ?"

C'est : "sur quel problème précis, avec quelles données, est-ce que ça peut m'aider ?"

Petit, ciblé, ancré dans le réel. C'est là que ça marche.

Fin de la série. Épisode 1 : l'histoire de l'IA. Épisode 2 : comment une IA lit un texte. Épisode 3 : comment une IA comprend le sens.