Le Salvador vient de céder la gestion de son système de santé publique à Google.

Le président Bukele l'a annoncé sur la chaîne nationale avec l'euphorie de ceux qui viennent de découvrir le feu:

Une application appelée Dr. SV, hébergée sur Gemini

> Créera des dossiers cliniques

> Attribuera des diagnostics

>Gérera les traitements pour les maladies chroniques et, Bukele promet, que "à un moment donné, nous traiterons le cancer".

Alors qu'il mettait en place "le meilleur système de santé du monde", il a licencié 7 700 professionnels du secteur de la santé.

L'accord avec Google a une durée de sept ans, pour un coût d'au moins 500 millions de dollars et les informations relatives au projet ne sont pas encore publiques.

Google aura accès aux données de santé de l'ensemble de la population salvadorienne : maladies chroniques, habitudes, antécédents médicaux, vulnérabilités physiques et mentales, etc.

S'agissant d'une entreprise dont le modèle économique consiste précisément à monétiser les données personnelles, de nombreuses questions se posent :

➼ Ces données de santé (les plus critiques qui existent) vont-elles alimenter le profil de chaque utilisateur sur Google, permettant à des tiers de les utiliser ?

➼ Seront-elles croisées avec d'autres données dont dispose l'entreprise, telles que la géolocalisation, l'utilisation des applications ou le contenu des e-mails ?

➼ Cela permettra-t-il aux assureurs de les utiliser pour refuser la couverture ou augmenter le coût ?

➼ Ou à des sociétés pharmaceutiques de concevoir des campagnes de marketing destinées aux patients atteints de maladies spécifiques ?

➼ Ou à des employeurs de filtrer les candidats en fonction de leurs antécédents médicaux ?

➼ Ou aux gouvernements de les utiliser pour classer leur population ?

Ce ne sont pas des scénarios de Black Mirror, mais des utilisations qui ont déjà été documentées avec d'autres types de données personnelles.

Et en attendant, l'IA médicale fonctionne-t-elle ?

Cette semaine, une étude publiée dans BMJ Open a évalué les cinq modèles d'IA les plus utilisés (dont Gemini, le même que celui soutenu par le Dr SV) pour répondre à des questions médicales fondées sur des preuves scientifiques.

> 50 % des réponses ont été classées comme "en partie" ou "hautement" problématiques.

Le pire classé était Grok, de xAI : 58% de ses réponses, très problématiques. Aucun n'a été en mesure de fournir une liste de références bibliographiques tout à fait réelle, dans de nombreux cas, les modèles ont inventé des titres d'études et des noms d'auteurs.

"Beaucoup de gens ont tendance à penser que les chatbots sont des IA omniscientes avec un puits de connaissances profond. Mais ils n'ont pas de connaissances au sens humain ; ils n'ont pas de connaissances", explique Nicholas Tiller, chercheur principal de l'étude.

La technologie peut être un outil extraordinaire au service de la santé. Mais un outil entre les mains de ceux qui veillent à l'intérêt public, avec une supervision démocratique, avec transparence sur l'utilisation des données et avec des preuves scientifiques solides pour la soutenir.

Par Rommy Artigas