S'abonner

Intelligence artificielle et diagnostic médical, quels enjeux éthiques ? Limites et fantasmes, le point de vue du chercheur - 31/10/24

Artificial intelligence and medical diagnosis: What are the ethical issues? Limits and fantasies, the researcher's point of view

Doi : 10.1016/j.jidi.2024.09.004 
I. Bloch
 CNRS, LIP6, Sorbonne université, 4, place Jussieu, 75005 Paris, France 

Sous presse. Épreuves corrigées par l'auteur. Disponible en ligne depuis le Thursday 31 October 2024

Résumé

Alors que les applications de l’intelligence artificielle (IA) en imagerie médicale sont de plus en plus nombreuses, les bénéfices attendus sont accompagnés de défis, et de nombreuses questions restent ouvertes. Cet article, à la suite d’une table ronde lors des JFR 2023, résume les deux principaux paradigmes de l’IA, s’appuyant sur la représentation des connaissances et sur la modélisation du raisonnement pour le premier, et sur l’apprentissage à partir de grandes bases de données pour le second, et montre les avantages de leur combinaison dans des approches hybrides. La question des biais, tant statistiques que cognitifs, est abordée, ainsi que celle de l’explicabilité, centrale pour l’adoption de techniques d’IA. Les liens avec les questions éthiques sont évoqués. Les conditions de développement d’un système ou d’un algorithme, les données qui ont été utilisées pour le faire, la validation sur des bases indépendantes, les conditions d’utilisation (type d’image, type de problème ou de question à résoudre, etc.), les biais et limites sont autant de paramètres qui doivent être clairement définis. La place de l’humain reste primordiale, de la conception des méthodes jusqu’à l’interprétation des résultats, dans une réflexion pluridisciplinaire.

Le texte complet de cet article est disponible en PDF.

Summary

While the applications of artificial intelligence in medical imaging are becoming increasingly numerous, the expected benefits are accompanied by challenges, and many questions remain open. This article, following a round table discussion at JFR 2023, summarizes the two main AI paradigms – based on knowledge representation and reasoning modeling for the former, and learning from large databases for the latter – and shows the advantages of combining them, in hybrid approaches. The question of bias, both statistical and cognitive, is addressed, as is that of explicability, central to the adoption of AI techniques. Links with ethical issues are also discussed. The conditions under which a system or algorithm was developed, the data used for training, the validation on independent bases, the conditions of use (type of image, type of problem or question to be solved…), biases and limits, are all parameters that need to be clearly defined. The role of the human beings remains essential, from the design of the methods to the interpretation of the results, framed in a multi-disciplinary approach.

Le texte complet de cet article est disponible en PDF.

Mots clés : Intelligence artificielle symbolique, Apprentissage statistique, Intelligence artificielle hybride, Connaissances, Données, Biais, Explicabilité, Éthique

Keywords : Symbolic artificial intelligence, Statistical machine learning, Hybrid artificial intelligence, Knowledge, Data, Bias, Explicability, Ethics


Plan


© 2024  The Author(s). Publié par Elsevier Masson SAS. Tous droits réservés.
Ajouter à ma bibliothèque Retirer de ma bibliothèque Imprimer
Export

    Export citations

  • Fichier

  • Contenu

Bienvenue sur EM-consulte, la référence des professionnels de santé.
L’accès au texte intégral de cet article nécessite un abonnement.

Déjà abonné à cette revue ?

Mon compte


Plateformes Elsevier Masson

Déclaration CNIL

EM-CONSULTE.COM est déclaré à la CNIL, déclaration n° 1286925.

En application de la loi nº78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, vous disposez des droits d'opposition (art.26 de la loi), d'accès (art.34 à 38 de la loi), et de rectification (art.36 de la loi) des données vous concernant. Ainsi, vous pouvez exiger que soient rectifiées, complétées, clarifiées, mises à jour ou effacées les informations vous concernant qui sont inexactes, incomplètes, équivoques, périmées ou dont la collecte ou l'utilisation ou la conservation est interdite.
Les informations personnelles concernant les visiteurs de notre site, y compris leur identité, sont confidentielles.
Le responsable du site s'engage sur l'honneur à respecter les conditions légales de confidentialité applicables en France et à ne pas divulguer ces informations à des tiers.


Tout le contenu de ce site: Copyright © 2024 Elsevier, ses concédants de licence et ses contributeurs. Tout les droits sont réservés, y compris ceux relatifs à l'exploration de textes et de données, a la formation en IA et aux technologies similaires. Pour tout contenu en libre accès, les conditions de licence Creative Commons s'appliquent.