L'intelligence artificielle s'immisce de plus en plus dans le domaine de la santé, portée par une demande croissante et l'ambition des géants technologiques. Microsoft, Amazon et OpenAI ont récemment lancé divers outils destinés aux consommateurs, alimentés par l'IA, dans le but d'améliorer l'accès aux informations médicales et d'assister les utilisateurs dans leurs démarches de santé.

Cette prolifération d'outils est en partie motivée par l'utilisation massive des chatbots généralistes pour obtenir des conseils médicaux. Microsoft, par exemple, traite quotidiennement des millions de requêtes liées à la santé via ses plateformes d'IA. Cette popularité souligne le besoin ressenti par le public d'avoir un accès rapide et facile à des informations médicales, même si la fiabilité de ces informations reste une question cruciale.

Cependant, cette expansion rapide suscite des inquiétudes quant à l'évaluation indépendante de ces technologies. Bien que de nombreux experts reconnaissent le potentiel de l'IA pour aider les personnes ayant des difficultés d'accès aux soins, ils soulignent également le risque de commercialiser des produits avant d'avoir suffisamment de preuves de leur sécurité et de leur efficacité réelle. Plusieurs chercheurs universitaires interrogés mettent en garde contre le manque d'évaluation rigoureuse avant la mise à disposition du public.

Le problème réside également dans la nature des tests effectués. Les études de laboratoire, bien que nécessaires, peuvent ne pas refléter la manière dont les utilisateurs réels interagissent avec ces outils. Des études ont montré que les utilisateurs, souvent dépourvus d'expertise médicale, peuvent avoir du mal à formuler leurs questions de manière à obtenir des réponses pertinentes et précises des chatbots. Cette lacune, qui échappe parfois aux évaluations en laboratoire, souligne la nécessité de prendre en compte l'expérience utilisateur dans son ensemble.

La question fondamentale reste donc sans réponse définitive : ces outils d'IA aident-ils réellement plus qu'ils ne nuisent ? Personne n'attend une perfection absolue de l'IA dans le domaine de la santé, mais l'absence d'évaluation indépendante et fiable laisse planer un doute légitime quant à leur impact global. Il est impératif de mettre en place des mécanismes de contrôle et d'évaluation rigoureux pour garantir que ces technologies contribuent réellement à améliorer la santé et le bien-être des individus, plutôt que de les induire en erreur ou de les exposer à des risques inutiles. L'avenir de l'IA dans la santé dépendra de notre capacité à encadrer son développement et à garantir sa sécurité et son efficacité.