Prévention et intelligence artificielle : que faut-il démontrer ?

Estimer un risque, proposer un accompagnement et améliorer effectivement la situation d’une personne sont trois opérations différentes. Le rapport décrit une prévention personnalisée qui associe données individuelles, modèles algorithmiques et suivi dans le temps. Cette architecture explique une possibilité d’usage ; elle ne démontre pas que tout outil qui la revendique produit un bénéfice de santé.

Les usages envisagés comprennent l’adaptation des messages, le repérage de certains facteurs de risque et l’orientation vers des dispositifs. Ils peuvent mobiliser des données cliniques, sociales, environnementales ou comportementales. Le rapport présente cette personnalisation comme un complément aux politiques universelles. Une réponse adaptée sur un écran ne remplace pas une politique qui agit sur les conditions de vie ou l’accès aux services.

Un questionnaire sur le sommeil, une localisation ou une conversation avec un assistant peuvent renseigner une vulnérabilité, même si le service se présente comme du coaching ou du bien-être. Le rapport invite à apprécier la sensibilité d’une information à partir de ce qu’elle révèle, plutôt qu’à partir de l’intitulé commercial du service. La qualification reste liée au contenu et à son usage.

Cette observation rejoint les questions générales de gouvernance des données de prévention : quelle finalité justifie la collecte, qui peut accéder aux informations et pour quel usage ? Le cadre public proposé prévoit des accès gradués et exclut notamment la sélection assurantielle ou la tarification individualisée. Il ne faut donc pas déduire de l’intérêt d’un outil une autorisation générale de partager les données qu’il utilise.

La CNIL donne un exemple éclairant : une mesure de poids, croisée avec le nombre de pas ou les apports caloriques, peut permettre de conclure sur la santé ou un risque. L’évaluation ne dépend donc pas seulement du caractère médical du service au départ. Pour comprendre ce qu’un outil recueille, il faut aussi regarder ce que ses rapprochements permettent de déduire ; cette qualification reste à examiner au cas par cas.

Un service peut être techniquement disponible tout en restant difficile à utiliser pour des personnes peu familières du numérique, confrontées à une barrière linguistique ou éloignées des ressources locales. Le rapport identifie ce risque d’aggravation des inégalités. La performance d’un outil auprès de ses utilisateurs ne répond pas encore à la question de ceux qui ne parviennent pas à y accéder.

La littératie en santé aide à poser la question autrement : les informations et les services sont-ils compréhensibles et utilisables ? L’effort ne repose pas seulement sur la personne ; les organisations doivent adapter leur offre. Dans cette perspective, un message personnalisé gagne à être examiné avec les conditions concrètes de compréhension et d’accès à l’accompagnement qu’il propose.

La mission propose d’évaluer les performances, les biais, la sécurité et les effets sur les inégalités des outils algorithmiques. Les assistants conversationnels nécessitent eux aussi des garanties scientifiques. Évaluer une intervention demande ainsi de regarder ce que son usage change, et pour qui. L’existence d’un modèle prédictif ne suffit pas à conclure que le parcours est amélioré ou que des actes inutiles sont évités.

Le rapport envisage un cadre méthodologique et une labellisation élaborés par la Haute Autorité de santé et les agences compétentes. Cette labellisation est proposée par la mission ; elle ne permet pas de considérer un service particulier comme déjà labellisé. Elle exprime le besoin de critères communs pour discuter les promesses, au lieu de prendre une présentation commerciale ou une possibilité technique pour une preuve d’efficacité.

Une réponse convaincante n’est pas nécessairement correcte. L’OMS décrit, pour les modèles génératifs, des risques de réponses inexactes, biaisées ou incomplètes, ainsi qu’une tendance à leur faire confiance automatiquement. Ses considérations réglementaires ajoutent l’importance de définir l’usage attendu, de valider au-delà des données d’entraînement et d’examiner la diversité des populations représentées. Une performance annoncée n’a donc de sens qu’avec la tâche, les utilisateurs et les conditions dans lesquelles elle a été vérifiée.

Le paiement à l’acte pourrait, selon l’analyse de la mission, aider au démarrage d’un modèle économique tout en créant un risque de multiplication des actes. Des forfaits de parcours préventifs sont proposés à l’expérimentation, sous condition d’efficacité démontrée. Aucun de ces mécanismes ne garantit à lui seul l’utilité d’un outil. La décision de le financer doit rester liée aux bénéfices documentés et à l’accès réel des personnes concernées.

La responsabilité continue après la mise en service. Le cadre éthique de l’OMS de 2021 concerne la conception, le déploiement et l’utilisation ; ses recommandations de 2024 sur les modèles génératifs demandent des audits après déploiement à grande échelle. Cela donne un critère supplémentaire pour discuter un financement : qui suivra les erreurs et les effets sur les différents publics une fois l’outil utilisé ? Ces recommandations ne valent pas approbation d’un produit.