Accueil Santé & Bien-être Les préjugés raciaux et autres dans les algorithmes de l’IA pour les...

Les préjugés raciaux et autres dans les algorithmes de l’IA pour les soins de santé peuvent être combattus avec le soutien du public.

55
0

Les membres du public sont invités à contribuer à la suppression des préjugés fondés sur la race et d’autres groupes défavorisés dans les algorithmes d’intelligence artificielle destinés aux soins de santé.

Des chercheurs dans le domaine de la santé appellent à soutenir la manière dont les groupes « minorisés », qui sont activement désavantagés par des constructions sociales, ne verraient pas les avantages futurs de l’utilisation de l’IA dans les soins de santé. L’équipe, dirigée par l’Université de Birmingham et les Hôpitaux Universitaires de Birmingham, écrit dans Nature Medicine aujourd’hui le lancement d’une consultation sur un ensemble de normes qui, espèrent-ils, réduiront les biais dont on sait qu’ils existent dans les algorithmes d’IA.

Il est de plus en plus évident que certains algorithmes d’IA fonctionnent moins bien pour certains groupes de personnes, en particulier les personnes appartenant à des groupes raciaux/ethniques minoritaires. Cela est dû en partie à des biais dans les ensembles de données utilisés pour développer les algorithmes d’IA. Cela signifie que les patients noirs ou appartenant à des groupes ethniques minoritaires peuvent recevoir des prédictions inexactes, ce qui conduit à des diagnostics erronés et à de mauvais traitements.

STANDING Together est une collaboration internationale qui vise à élaborer des normes de bonnes pratiques pour les ensembles de données sur les soins de santé utilisés dans l’intelligence artificielle, en veillant à ce qu’ils soient diversifiés, inclusifs et ne laissent pas de côté les groupes sous-représentés ou minoritaires. Le projet est financé par le NHS AI Lab et The Health Foundation, et le financement est administré par le National Institute for Health and Care Research, le partenaire de recherche du NHS, de la santé publique et des services sociaux, dans le cadre de l’AI Ethics Initiative du NHS AI Lab.

Lire aussi :  Un défaut dans un gène provoque une obésité massive chez les souris malgré une consommation alimentaire normale

Le Dr Xiaoxuan Liu de l’Institut de l’inflammation et du vieillissement de l’Université de Birmingham et co-directeur du projet STANDING Together a déclaré :

En s’appuyant sur une base de données solide, STANDING Together s’assure que « personne n’est laissé pour compte » alors que nous cherchons à libérer les avantages des technologies basées sur les données comme l’IA. Nous avons ouvert notre étude Delphi au public afin de maximiser notre portée auprès des communautés et des individus. Cela nous aidera à nous assurer que les recommandations faites par STANDING Together représentent vraiment ce qui compte pour notre communauté diversifiée.

Le professeur Alastair Denniston, ophtalmologue consultant aux hôpitaux universitaires de Birmingham et professeur à l’Institut de l’inflammation et du vieillissement de l’Université de Birmingham, est codirecteur du projet. Le professeur Denniston a déclaré :

« En tant que médecin au sein du NHS, je me réjouis de l’arrivée des technologies de l’IA qui peuvent nous aider à améliorer les soins de santé que nous offrons – un diagnostic plus rapide et plus précis, un traitement de plus en plus personnalisé et des interfaces de santé qui donnent un plus grand contrôle au patient. Mais nous devons également veiller à ce que ces technologies soient inclusives. Nous devons nous assurer qu’elles fonctionnent efficacement et en toute sécurité pour tous ceux qui en ont besoin. »

C’est l’un des projets les plus gratifiants sur lequel j’ai travaillé, car il intègre non seulement mon grand intérêt pour l’utilisation de données précises et validées et mon intérêt pour une bonne documentation afin d’aider à la découverte, mais aussi le besoin urgent d’impliquer les groupes minoritaires et mal desservis dans la recherche qui leur est bénéfique. Dans ce dernier groupe, on trouve bien sûr les femmes. »

Jacqui Gath, Patient partenaire, Projet STANDING Together

Le projet STANDING Together est désormais ouvert à la consultation publique, dans le cadre d’une étude de consensus Delphi. Les chercheurs invitent les membres du public, les professionnels de la santé, les chercheurs, les développeurs d’IA, les scientifiques des données, les décideurs et les régulateurs à contribuer à l’examen de ces normes afin de s’assurer qu’elles fonctionnent pour vous et pour toute personne avec laquelle vous collaborez.