IA agentique — S2 · 2/10 : L’inflation des signaux
L’IA devait alléger la détection des signaux de sécurité. Dans les faits, elle accélère surtout leur circulation.
La littérature scientifique croît bien plus vite que les connaissances qu’elle apporte. Le nombre de revues systématiques indexées dans PubMed est passé d’environ 1 400 en 2000 à plus de 29 000 en 2019, soit près de 80 par jour cette année-là. Plus récemment, arXiv a vu le volume de prépublications exploser, porté en partie par les outils d’IA, au point d’imposer des limites de soumission aux auteurs. Les méta-analyses augmentent encore plus vite : ×30 entre 2000 et 2024, contre ×3 pour les articles de recherche.
Chaque méta-analyse supplémentaire n’ajoute pas nécessairement un fait nouveau. En revanche, elle ajoute une occurrence supplémentaire dans les bases que les systèmes explorent. La croissance de ce type de publication accroît donc mécaniquement le nombre d’associations détectables.
En pharmacovigilance, une détection automatisée date la publication, pas l’événement. Des signaux anciens peuvent ainsi ressurgir comme émergents. Si l’IA n’est pas la seule cause, elle n’en demeure pas moins un facteur d’accélération.
J’ai vu le mécanisme opérer de façon plus pernicieuse encore.
Le volume de publications autour d’une molécule augmente. Un effet indésirable apparaît alors plus fréquemment associé à cette molécule dans les données. La détection assistée par l’IA absorbe le volume, mais elle lève aussi davantage de signaux. Ici, elle en a levé un.
Sauf que cette molécule était justement prescrite pour traiter le symptôme relevé comme effet indésirable.
Ce qui ressemblait à un signal de sécurité était en réalité une association d’usage, amplifiée par le volume : un biais de confusion par indication.
Après la détection, il faut arbitrer.
Jusqu’où investiguer avant de conclure qu’il s’agit d’une association sans lien causal ? À quel moment décider que la mise à jour de l’information produit n’est pas justifiée ou que la précaution l’emporte ?
Le volume rend l’association plus visible et chaque méta-analyse supplémentaire la rend plus insistante. La décision n’en devient que plus pressante.
Lorsqu’un signal est retenu, la cascade s’enclenche : mise à jour du CCDS, déclinaison vers les RCP, notices, brochure clinique et documents promotionnels sur l’ensemble des marchés. Chaque déclinaison devient une variation à soumettre, traduire, intégrer dans les artworks, puis déployer avec ses conséquences potentielles sur les stocks et la supply chain.
Avec l’assistance de l’IA, le coût marginal de la détection devient presque nul. Le coût du jugement, lui, reste largement humain.
L’IA n’a pas inventé l’inflation des signaux. Elle a déplacé le goulot d’étranglement.
À partir de quand une association devient-elle un signal ?