L’intelligence artificielle se glisse partout, de la relance client aux premières drafts de contrats. Pourtant, même avec une automatisation millimétrée, un détail intrigue : pourquoi ces outils se risquent-ils à donner des réponses fausses ou inventées au lieu d’admettre leurs limites ? Récemment, OpenAI a levé le voile sur ce point sensible, crucial pour toute activité où la fiabilité compte.

OpenAI met en lumière un paradoxe de l’IA

OpenAI vient de publier un document de recherche révélant un phénomène surprenant dans le fonctionnement des grands modèles de langage (LLM) : les chatbots sont « récompensés » lorsqu’ils devinent des réponses, même lorsqu’ils ne sont pas certains. Plutôt que d’admettre leur ignorance, ces systèmes préfèrent inventer. Ce mécanisme, qualifié d’« hallucinations » par OpenAI, soulève des questions sur la fiabilité de l’intelligence artificielle et sur sa capacité à restituer une information exacte.

Pourquoi les chatbots inventent-ils ?

Les chercheurs expliquent que ce comportement découle d’une erreur de classification binaire. Les modèles sont entraînés à classer les observations dans une catégorie ou une autre, sans accepter l’option « je ne sais pas ». Résultat : pour maximiser leur performance, ils devinent. OpenAI compare ce biais à celui des étudiants en examen : mieux vaut tenter une réponse hasardeuse que laisser une case vide, car une bonne réponse rapporte des points tandis qu’une absence de réponse n’en rapporte aucun. Ainsi, les LLM sont optimisés pour réussir aux tests, pas pour être honnêtes face à l’incertitude.

Des limites structurelles dans l’apprentissage

L’étude rappelle que les chatbots fonctionnent grâce à la préformation et la post-formation, qui consistent à prédire le mot suivant à partir de vastes ensembles de textes. Or, si certaines disciplines comme l’orthographe ou la grammaire obéissent à des règles strictes, d’autres domaines se révèlent bien plus complexes, voire impossibles à modéliser. Par exemple, un algorithme peut aisément distinguer un chat d’un chien sur une photo, mais il sera incapable de dire quel est l’anniversaire de l’animal. Certaines questions du monde réel n’ont donc pas de réponse unique, ce qui condamne l’IA à l’erreur lorsqu’elle tente de les résoudre.

GPT-5 : un pas vers moins de fausses réponses

Ce rapport intervient quelques semaines après le lancement de GPT-5, que l’entreprise présente comme « à l’épreuve des hallucinations ». Selon OpenAI, ce nouveau modèle réduirait de 46 % le nombre de réponses fausses par rapport à son prédécesseur GPT-4o. Pourtant, des analyses indépendantes, comme celle de NewsGuard, nuancent ces promesses : les chatbots continueraient à diffuser des faussetés dans environ 40 % de leurs réponses. Autrement dit, même si les progrès sont réels, la route vers une IA véritablement fiable reste longue.

Entre promesses et incertitudes

La conclusion des chercheurs est claire : les modèles d’IA ne seront jamais précis à 100 %, car certaines questions sont tout simplement « intrinsèquement sans réponse ». Cela souligne une limite fondamentale de l’intelligence artificielle face à la complexité et aux nuances du monde réel. Si l’IA impressionne par sa maîtrise du langage et de l’information, elle trébuche encore face à l’incertitude. Là où l’humain peut mobiliser intuition, expérience et « pif », la machine préfère inventer plutôt qu’avouer son ignorance. Peut-être qu’un jour, les chatbots auront le bon sens de nous répondre : « je n’en sais rien ».

• Analyse officielle OpenAI : pourquoi les modèles de langage hallucinent ?

Tatianah Razafindrabe

Rédactrice web pour Kavyro, je vous aide à décrypter l’actualité IA et automatisation, simplement et sans jargon. Pour me contacter : partenariat@kavyro.com