Le 2 décembre 2019, le Comité consultatif national d’éthique pour les sciences de la vie et de la santé (CCNE) a constitué le Comité pilote d’éthique du numérique, dont l’objectif est « à la fois de remettre des premières contributions sur l’éthique du numérique et de l’intelligence artificielle et de déterminer les équilibres pertinents pour l’organisation du débat sur l’éthique des sciences et technologies du numérique et de l’intelligence artificielle ».
Cette nouvelle instance s’inscrit dans la continuité des recommandations du rapport Donner un sens à l’intelligence artificiellede Cédric Villani et de l’avis 129 du CCNE, lequel proposait, au mois de septembre 2018, de « jouer un rôle d’aide à la constitution d’un futur comité d’éthique du numérique, spécialiste des enjeux numériques dans leur globalité ».
Présidé par M. Claude Kirchner, directeur de recherche à l’Institut national de recherche en informatique et en automatique (Inria) et membre du CCNE, ce comité pluridisciplinaire est composé d’une trentaine de membres experts des questions d’intelligence artificielle (IA) issus de divers métiers. Il réunit « des spécialistes du numérique, académiques ou issus des entreprises, des philosophes, des médecins, des juristes, des membres de la société civile ainsi que des membres du CCNE et de la Cerna* ».
Le Comité pilote d’éthique du numérique est placé sous l’égide du CCNE et fonctionne sur le modèle de ce dernier.
Ses premiers travaux porteront sur trois sujets phares : la place de l’intelligence artificielle dans le cadre du diagnostic médical, les agents conversationnels (aussi appelés « chatbots ») et les véhicules autonomes.
La place de l’IA dans le cadre du diagnostic médical
Le nouveau comité sera chargé de promouvoir « la transparence et l’explicabilité du fonctionnement des algorithmes »structurant l’IA, aussi bien pour les professionnels de santé que pour les usagers du système de soins, lesquels seront concernés au premier chef par ces évolutions.
Il s’intéressera également à la problématique des risques encourus par les médecins décidant de ne pas suivre le « conseil » d’un algorithme de prédiction.
Les agents conversationnels
Présents aussi bien dans les téléphones, les interfaces de services en ligne que dans les appareils domestiques, les agents conversationnels soulèvent de nombreuses questions, en particulier celle de la « transparence [du] traitement des données récoltées, le respect des individus d’une part et la commodité de l’utilisation de telles applications de l’autre, ou encore la mise en œuvre de stratégies d’influence par de tels agents ».
Les véhicules autonomes
Il s’agira d’étudier « les tensions existantes entre automatisation et maîtrise humaine dans le contrôle du véhicule » ou encore « les responsabilités partagées entre constructeur, assureur et utilisateur ».
Le Comité a tenu sa première réunion plénière le 4 décembre 2019.
Un bilan de ses activités est attendu pour « début 2021 », ce qui laisse aux membres entre un an et un an et demi pour achever leurs premiers travaux.
Se posera ensuite la question de la pérennisation de ce comité, le CCNE devant émettre des recommandations à ce titre courant 2021.
*CERNA : Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene.
L’auteure
Me Noémie Mandin-Lafond
Selarl Yahia Avocats