Il existe plusieurs phénomènes qui rendent les limites juridiques difficilement distinctes à l’égard de l’intelligence artificielle (IA) et son implication croissante dans différents domaines, y compris la robotique. Si on compare du point de vue temporel la vitesse à laquelle se développe l’IA et son intérêt économique en très forte évolution, avec les questions juridiques auxquelles l’IA nous confrontent, ils ne semblent pas se synchroniser. Il est difficile de fixer les limites de ce qui peut constituer une atteinte aux droits des individus ou consommateurs et de possibles risques quels qu’ils soient. Il s’agit donc d’un décalage en matière d’actions et de régulations : la société fait défaut face à l’imprévisible concernant les possibles problèmes posés par l’IA appliquée dans tous les domaines. Nous savons que ses évolutions couvrent une large panoplie d’applications dans le domaine civil, notamment médical, éducationnel (e-learning), soins à la personne, drones, etc.

L’essor de l’IA dans le domaine médical est conçu pour créer une proximité à l’égard des acteurs de la santé et des services attendus, qui n’est pas sans conséquences. L’IA utilisée à des fins de diagnostic médical, quand elle est confrontée à un traitement de variabilité et d’unicité en termes de données médicales complexes, retrouve sa raison première, c’est-à-dire la répétitivité. Elle perd sa capacité à traiter des paramètres variables dans les analyses en diagnostic, notamment devant des cas de maladies difficiles, que seule l’intelligence humaine est capable de traiter avec la complexité de connaissances médicales existantes, afin de décerner une question médicale élaborée. On parle dans ce cas d’un rapprochement Homme/Machine et d’une IA collaborative, mais qui a ses limites (1). Ainsi l’IA est autonome dans un milieu connu, prévu pour exécuter des tâches spécifiques, qui exclut des variabilités inattendues (Ibid. : 33).

La question de l’apport de l’IA en matière économique et d’avancement technologique et ses retombées dans les secteurs concernés prime souvent sur les conséquences imprévisibles au point de vue éthique et juridique. L’IA dans le réel permet de réduire les coûts de nombreuses activités professionnelles. Le développement de l’IA et de la robotisation place le débat sur la place de l’homme au travail et de son remplacement pour des questions de rentabilité et d’efficacité. Mais les contraintes que ce système préfigure dans un contexte de marché et de service piétine sur le droit du travail et de son application afin de garantir un minimum de droits à l’humain (2). Pourtant les règles européennes de droit civique sur la robotique en rapport avec l’IA (textes du parlement européen 2014-2019) stipulent dans ses principes généraux par l’article 3 que le développement de la technologie robotique devrait avant tout viser à compléter les capacités humaines et non les remplacer. Cette évolution technologique, avant tout poussée pour des raisons économiques, ne définit pas suffisamment les limites que l’implication de l’IA et de la robotique peuvent atteindre dans divers secteurs d’activités. Il est aussi question d’emploi qui peut être menacé. L’expansion de l’IA et son intégration dans la robotique est telle que nul ne peut prédire son évolution et ses limites, donc sa légitimité.

Nous savons que des algorithmes très développés dans un système opaque permettent de rentrer dans une interaction machine/homme qui aboutit à une reconnaissance de profil type, traits et tendances cognitives à partir des activités et décisions humaines effectuées à travers une interface gérée par l’IA. Celle-ci collecte des données de l’utilisateur et interagit avec lui. Il s’agit des données socioculturelles et de leurs qualités que cette technologie utilise à l’insu d’un individu dans des cas divers, notamment à travers les sites marchands (e-commerce).

Pour illustrer une pratique courante dans cette logique, nous savons que quand un internaute navigue dans un site marchand quelconque, les cookies font leur apparition pour repérer l’usager au cours de sa recherche, permettant d’enregistrer sur un serveur le comportement de cet usager. Ainsi toutes ces traces pourront être partagées par différentes sociétés, et utilisées à des fins commerciales. Maintenant, l’IA intervient déjà dans les rayons des commerces de détails. Il peut s’agir d’un processus où l’intelligence artificielle est par exemple utilisée par le biais de la reconnaissance faciale pour capturer les comportements d’un client dans un magasin. En somme, si un consommateur s’attarde pendant un certain temps devant un produit – un mixer par exemple – cette information sera stockée pour être utilisée lors de sa prochaine visite.

Bien souvent ce dispositif génère des préjudices qui atteignent les droits et libertés des individus en matière de confidentialité (2). Ainsi l’article 14 des Règles européennes de droit civil sur la robotique au niveau de l’intelligence artificielle préconise qu’une attention particulière devrait être accordée aux systèmes qui représentent une sérieuse menace pour la confidentialité, en raison de leur emplacement dans des espaces traditionnellement protégés et privés, et de leurs capacités d’extraction et de transmission d’informations sur des données personnelles et sensibles (3).

Ce droit de principe est dans l’idéal rassurant, mais sur le terrain est impossible à pratiquer sur le strict plan juridique dans un système opaque tel que celui de l’IA, sauf dans des cas avérés et prouvés mais difficilement atteignables. Ainsi la responsabilité civile pour les dommages causés par les robots/IA est une question cruciale qui doit être examinée, et à laquelle il importe de répondre au niveau de l’Union (Article 49). Toutefois, il sera difficile de mettre en application cette responsabilité dans la pratique quotidienne, tout secteur confondu, si on ne s’appuie pas sur une charte de réglementation pour la maîtrise de chaque entité de l’IA. Le risque est d’arriver à un univers difficilement contrôlable.

On peut constater qu’il n’existe pas suffisamment de règles juridiques claires et spécifiques qui permettent de fixer les limites de l’usage de l’IA dans les secteurs civils et privés, ou même de la recherche. Tout compte fait, la tendance se dirige vers une optimisation de performances et de bénéfices dans un processus industriel ou d’application civile comme militaire, dont les risques nous paraissent à ce jour disproportionnés par rapport aux bénéfices.

Par Abdullah Alqalawi

 

Sources :

(1) Nathanaël Jarrassé, Franck Damour et Nathalie Sarthou-Lajus : La robotique et le mythe de « l’homme augmenté » S.E.R. Études 2018  / 2 Février | pages 31 à 42

(2) Céline Castets-Renard, Quels impacts de l’intelligence artificielle sur les métiers du droit et du journalisme ?, Institut Universitaire de France, 2018.

(3) Règles de droit civil sur la robotique, Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)) UF), 2018. Parlement européen 2014-2019  textes adoptés