Microsoft et Amazon lancent de nouveaux outils d’IA pour le secteur de la santé, répondant à une demande croissante. Cependant, des experts appellent à une évaluation indépendante de ces technologies.
Ce mois-ci, Microsoft a présenté Copilot Health, une fonctionnalité intégrée à son application Copilot, permettant aux utilisateurs de connecter leurs dossiers médicaux et de poser des questions spécifiques sur leur santé. Peu avant, Amazon avait annoncé que son outil Health AI, basé sur un modèle de langage, serait désormais accessible à un public plus large, après avoir été précédemment limité aux membres de son service One Medical. Ces nouvelles solutions s’ajoutent à ChatGPT Health, lancé par OpenAI en janvier, et Claude d’Anthropic, qui peut accéder aux dossiers de santé des utilisateurs avec leur permission. La demande pour des chatbots fournissant des conseils de santé est manifeste, d’autant plus que beaucoup de personnes peinent à accéder à des informations médicales via les systèmes existants. Des recherches suggèrent que les modèles de langage actuels sont capables de fournir des recommandations sûres et utiles, mais les chercheurs insistent sur la nécessité d’une évaluation rigoureuse par des experts indépendants avant leur déploiement généralisé. Dans un domaine aussi critique que la santé, faire confiance aux entreprises pour évaluer leurs propres produits pourrait s’avérer imprudent, surtout si ces évaluations ne sont pas accessibles à un examen externe. Même lorsque certaines entreprises, comme OpenAI, semblent mener des recherches de qualité, des angles morts pourraient subsister, que la communauté de recherche pourrait aider à combler. Andrew Bean, doctorant à l’Oxford Internet Institute, souligne que, bien qu’il existe un besoin croissant de soins de santé, il est essentiel que des preuves solides appuient le déploiement de ces modèles. Les développeurs affirment que ces outils de santé sont lancés car les modèles de langage ont atteint un niveau d’efficacité pour fournir des conseils médicaux. Dominic King, vice-président de Microsoft AI, indique que les progrès de l’IA générative sont une raison fondamentale de la création de l’équipe de santé de l’entreprise et du lancement de Copilot Health. Microsoft a également publié un rapport révélant que l’application reçoit 50 millions de questions liées à la santé chaque jour, faisant de la santé le sujet le plus populaire sur l’application mobile Copilot. D’autres entreprises d’IA, comme OpenAI, ont également constaté cette tendance, avec une augmentation rapide de l’utilisation de ChatGPT pour des questions de santé. Le développement d’outils de santé basés sur l’IA semble donc être en pleine expansion, mais la nécessité d’une évaluation rigoureuse demeure cruciale pour garantir leur efficacité et leur sécurité.