Getty Images

L'intelligence artificielle (IA) évolue rapidement et deviendra un outil de soutien important dans les soins cliniques. La recherche suggère que les algorithmes d'IA peuvent détecter les mélanomes et prédire les futurs cancers du sein.

Mais avant que l'IA puisse être intégrée à une utilisation clinique de routine, nous devons relever le défi du biais algorithmique. Les algorithmes d'IA peuvent avoir des biais inhérents qui pourraient entraîner des problèmes de discrimination et de confidentialité. Les systèmes d'IA pourraient également prendre des décisions sans la surveillance ou l'intervention humaine requises.

 Un exemple des effets potentiellement nocifs de l'IA provient d'un projet international qui vise à utiliser l'IA pour sauver des vies en développant des traitements médicaux révolutionnaires. Dans une expérience, l'équipe a inversé son « bon » modèle d'IA pour créer des options permettant à un nouveau modèle d'IA de « nuire ».

En moins de six heures de formation, l'algorithme d'IA inversé a généré des dizaines de milliers d'agents de guerre chimiques potentiels, dont beaucoup plus dangereux que les agents de guerre actuels. Il s'agit d'un exemple extrême concernant les composés chimiques, mais il sert de signal d'alarme pour évaluer les conséquences éthiques connues et éventuellement inconnaissables de l'IA.

L'IA dans les soins cliniques

En médecine, nous traitons les données les plus privées des gens et souvent des décisions qui changent la vie. Des cadres éthiques solides en matière d'IA sont impératifs.

La Projet australien sur l'épilepsie vise à améliorer la vie des gens et à rendre les soins cliniques plus largement disponibles. Sur la base de l'imagerie cérébrale avancée, des informations génétiques et cognitives de milliers de personnes atteintes d'épilepsie, nous prévoyons d'utiliser l'IA pour répondre aux questions actuellement sans réponse.

Les crises de cette personne vont-elles continuer ? Quel médicament est le plus efficace ? La chirurgie cérébrale est-elle une option de traitement viable? Ce sont des questions fondamentales auxquelles la médecine moderne peine à répondre.

En tant que responsable IA de ce projet, ma principale préoccupation est que l'IA évolue rapidement et que la surveillance réglementaire est minimale. Ces problèmes sont la raison pour laquelle nous avons récemment créé un cadre éthique pour utiliser l'IA comme outil de soutien clinique. Ce cadre vise à garantir que nos technologies d'IA sont ouvertes, sûres et dignes de confiance, tout en favorisant l'inclusivité et l'équité dans les soins cliniques.

Alors, comment mettre en œuvre l'éthique de l'IA en médecine pour réduire les biais et garder le contrôle sur les algorithmes ? Le principe informatique "garbage in, garbage out" s'applique à l'IA. Supposons que nous collectons des données biaisées à partir de petits échantillons. Nos algorithmes d'IA seront probablement biaisés et non reproductibles dans un autre contexte clinique.

Des exemples de biais ne sont pas difficiles à trouver dans les modèles d'IA contemporains. Les grands modèles de langage populaires (ChatGPT par exemple) et les modèles de diffusion latente (DALL-E et Stable Diffusion) montrent comment biais explicites concernant le sexe, l'origine ethnique et le statut socio-économique peuvent survenir.

Les chercheurs ont découvert que de simples invites utilisateur génèrent des images perpétuant les stéréotypes ethniques, sexués et de classe. Par exemple, une invite pour un médecin génère principalement des hommes médecins, ce qui ne correspond pas à la réalité puisque près de la moitié de tous les médecins des pays de l'OCDE sont des femmes.

Mise en œuvre sécurisée de l'IA médicale

La solution pour prévenir les préjugés et la discrimination n'est pas triviale. Permettre l'égalité en matière de santé et favoriser l'inclusivité dans les études cliniques sont probablement parmi les solutions primaires pour lutter contre les biais dans l'IA médicale.

Fait encourageant, la Food and Drug Administration des États-Unis a récemment proposé rendre la diversité obligatoire dans les essais cliniques. Cette proposition représente un pas vers des études cliniques moins biaisées et basées sur la communauté.

Un autre obstacle au progrès est le financement limité de la recherche. Les algorithmes d'IA nécessitent généralement des quantités importantes de données, ce qui peut être coûteux. Il est crucial d'établir des mécanismes de financement améliorés qui fournissent aux chercheurs les ressources nécessaires pour recueillir des données cliniquement pertinentes adaptées aux applications de l'IA.

Nous soutenons également que nous devrions toujours connaître le fonctionnement interne des algorithmes d'IA et comprendre comment ils parviennent à leurs conclusions et recommandations. Ce concept est souvent appelé « explicabilité » en IA. Il se rapporte à l'idée que les humains et les machines doivent travailler ensemble pour des résultats optimaux.

Nous préférons considérer la mise en œuvre de la prédiction dans les modèles comme une intelligence « augmentée » plutôt qu'« artificielle » - les algorithmes devraient faire partie du processus et les professions médicales doivent garder le contrôle de la prise de décision.

En plus d'encourager l'utilisation d'algorithmes explicables, nous soutenons une science transparente et ouverte. Les scientifiques devraient publier les détails des modèles d'IA et leur méthodologie pour améliorer la transparence et la reproductibilité.

De quoi avons-nous besoin à Aotearoa en Nouvelle-Zélande pour assurer la mise en œuvre sûre de l'IA dans les soins médicaux ? Les préoccupations en matière d'éthique de l'IA sont principalement dirigées par des experts dans le domaine. Cependant, des réglementations ciblées sur l'IA, telles que la réglementation européenne Loi sur l'intelligence artificielle ont été proposées, répondant à ces considérations éthiques.

La loi européenne sur l'IA est la bienvenue et protégera les personnes travaillant au sein de "l'IA sûre". Le gouvernement britannique a récemment publié son approche proactive de la réglementation de l'IA, servant de modèle pour d'autres réponses gouvernementales à la sécurité de l'IA.

À Aotearoa, nous plaidons pour l'adoption d'une position proactive plutôt que réactive vis-à-vis de la sécurité de l'IA. Il établira un cadre éthique pour l'utilisation de l'IA dans les soins cliniques et d'autres domaines, produisant une IA interprétable, sécurisée et impartiale. Par conséquent, notre confiance grandira dans le fait que cette technologie puissante profite à la société tout en la protégeant des dommages.

A propos de l'auteur

Mangor Pedersen, professeur agrégé de psychologie et neurosciences, Université de technologie d'Auckland

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.

Livres connexes:

Le corps garde le score : le cerveau, l'esprit et le corps dans la guérison des traumatismes

par Bessel van der Kolk

Ce livre explore les liens entre les traumatismes et la santé physique et mentale, offrant des idées et des stratégies de guérison et de rétablissement.

Cliquez pour plus d'informations ou pour commander

Souffle: la nouvelle science d'un art perdu

par James Nestor

Ce livre explore la science et la pratique de la respiration, offrant des idées et des techniques pour améliorer la santé physique et mentale.

Cliquez pour plus d'informations ou pour commander

Le paradoxe végétal : les dangers cachés des aliments « sains » qui causent des maladies et une prise de poids

par Steven R. Gundry

Ce livre explore les liens entre l'alimentation, la santé et la maladie, offrant des idées et des stratégies pour améliorer la santé et le bien-être en général.

Cliquez pour plus d'informations ou pour commander

Le code de l'immunité : le nouveau paradigme de la vraie santé et de l'anti-âge radical

par Joel Greene

Ce livre offre une nouvelle perspective sur la santé et l'immunité, s'appuyant sur les principes de l'épigénétique et offrant des idées et des stratégies pour optimiser la santé et le vieillissement.

Cliquez pour plus d'informations ou pour commander

Le guide complet du jeûne : Guérissez votre corps grâce au jeûne intermittent, alterné et prolongé

par le Dr Jason Fung et Jimmy Moore

Ce livre explore la science et la pratique du jeûne en offrant des idées et des stratégies pour améliorer la santé et le bien-être en général.

Cliquez pour plus d'informations ou pour commander