Read in English

L’IA n’a pas d’avis, elle a un cadrage. Et pourtant on voudrait qu’elle porte la vérité absolue.

J’ouvre cette saison sur ce que je rencontre le plus souvent, les biais des IA en environnement réglementé.

Des collègues utilisent parfois l’IA pour challenger mes analyses réglementaires. L’une d’elles m’a ainsi été contestée parce que l’IA, interrogée, ne concluait pas comme moi. J’ai reposé la question à l’IA, sans orienter la réponse, et obtenu la conclusion inverse.

Deux réponses opposées, un seul modèle, une seule variable : la façon de poser la question.

Aucune ne prouvait quoi que ce soit, aucune ne pouvait départager.

C’est là que l’expertise se joue : non pas à obtenir la bonne réponse de l’IA, mais à savoir qu’il fallait poser la question autrement.

Mon analyse ne reposait pas sur l’IA, mais sur des sources, des précédents, des échanges avec les autorités de santé et les organismes notifiés. La contestation, elle, reposait sur une autorité prêtée à un outil qui n’en a aucune.
Cette fois-là, la question a été reposée. Mais ce n’est pas toujours le cas.

Le visuel classe ces biais selon la seule question qui compte dans notre métier : survivent-ils à une revue ?

Ce qu’on voit ne m’inquiète pas. L’hallucination est le défaut le plus cité, et le plus facile à relever, car une référence inventée se vérifie.

Ce qu’on ne voit pas commence là où plus rien n’est fabriqué.
Cadrage, confirmation, ancrage : des énoncés exacts, correctement sourcés, agencés de manière à mener à la mauvaise conclusion. Il n’y a rien à relever.

Concrètement, ce qui peut se passer si on utilise l’IA pour extrapoler une durée de conservation à partir de données de stabilité : le modèle allonge la durée, néglige la variabilité et l’exigence réglementaire. Le résultat paraît solide.

Une erreur visible coûte une heure. Une erreur plausible part au dossier.

Ce qui me préoccupe le plus va un cran plus loin : les biais qui passent la revue. Les règles non écrites qu’aucun corpus ne contient. Et, sur plus de cent vingt pays d’enregistrements, les spécificités locales absentes des corpus comme de nos propres pratiques.

Avec l’agentique, l’échelle change.
Un biais d’ancrage à la première étape ne se corrige pas plus loin : l’agent sélectionne les données compatibles, construit l’analyse dessus, puis propose une action. Chaque étape est cohérente avec la précédente. C’est cette cohérence qui empêche de remonter à la première.

Le jugement reste le dernier point de contrôle. Dans nos métiers, ce n’est pas la présence d’un humain qui sécurise, mais celle d’un expert capable de challenger et de reconnaître ces biais.

Quelle règle de votre métier ne figure dans aucun corpus ?

Infographie « Les biais de l’IA en environnement réglementé », classés par la seule question qui compte : survivent-ils à une revue ? Détectables à la lecture : hallucination, lecture partielle, complaisance, scepticisme excessif. Détectables seulement si l’on vérifie : cadrage, confirmation, ancrage, absence de reproductibilité. Qui peuvent passer la revue : excès de confiance dans les chiffres, règles implicites ignorées, biais géographique. Conclusion : plus un biais est difficile à détecter, plus il exige un expert du domaine, pas un relecteur générique. Visuel généré avec l’assistance de l’IA.