IA, éthique et responsabilité
Comme il en est pour n’importe quel outil, fût-il un simple couteau de cuisine, l’utilisation de l’intelligence artificielle n’est jamais neutre. Nous dispenserait-elle donc de la responsabilité, pour chacune et chacun, du respect des lois et d’une certaine morale ? Même si, au-delà d’une vision se voulant universelle, lois et morale peuvent être aussi relatives à un peuple et à une époque déterminée. Tout le monde n’est-il pas d’accord avec la si fameuse sentence de Rabelais : « Science sans conscience n’est que ruine de l’âme » ?…
Pour éviter de théoriser longtemps sur l’intelligence artificielle et l’éthique, il nous est paru plus simple et beaucoup plus abordable d’illustrer le problème au travers d’exemples qui pourront parler à chacune et chacun d’entre nous. Ceci après avoir brièvement cherché à mieux positionner les notions proches d’éthique ou de morale, au regard de la vie quotidienne, des sciences et des lois.
Dans la vie, l’éthique précède de futures lois
La Liberté guidant le peuple. Artiste Eugène Delacroix Date 1830 (Wikipedia.)
On reconnaît en France, et dans la plupart des pays sans doute, la nécessité de débattre régulièrement tous ensemble des problématiques d’éthique, à chaque fois que l’évolution de la vie en société ou de la science pose des problèmes nouveaux de redéfinition nécessaire des normes, autrement dit des lois et règlements.
À travers le monde, d’un côté dans les sociétés de conception à tendance « laïque », ou plus précisément « pluraliste », l’éthique s’efforce d’être séparée des conceptions religieuses et politiques. D’un autre côté, dans les sociétés où le rôle de l’État à tendance à être vu comme défendant une conception religieuse ou politique particulière, l’éthique est étroitement liée au religieux ou au politique. Beaucoup aussi de sociétés se situent entre ces deux tendances.
Concernant la loi, il semble évident à chacun que chaque être humain est réputé respecter celle en vigueur sur un territoire à une époque déterminée, ceci sous peine de sanction, la loi pouvant évoluer. Il peut s’agir de la « lettre » de la loi ou de « l’esprit » de celle-ci. C’est une des raisons pour lesquelles il appartient surtout à des juges, plus qu’à des ordinateurs, d’apprécier et de sanctionner le respect de la loi en vigueur.
Concernant l’éthique, l’encyclopédie universitaire populaire Wikipédia énonce que les principes d’éthique et morale précèdent et anticipent, le plus souvent, les futures lois. On peut le constater, par exemple, en ce qui concerne les notions de souffrance animale et de maltraitance, pour ne prendre que cet exemple, qui conduisent peu à peu à une évolution possible de nos lois, voire aussi de la vie, comme notre conception des meilleures règles de la nutrition quotidienne. Il en va de même de la place des enfants, du patriarcat et du féminisme…
Pour ce qui concerne la notion de morale, que, intuitivement, on peut saisir à travers notre familiarité avec les fables de notre illustre La Fontaine, dont on a commémoré en 2021 les 400 ans, Wikipédia précise que les notions (et étymologies) de morale et d’éthique sont très proches et, selon une première conception, souvent utilisées au quotidien de façon équivalente. Selon la seconde conception, la confusion courante serait un abus familier, la notion d’éthique étant celle de la science ou discipline de raisonnement concernant la morale, plutôt que la morale elle-même. Mais ces notions étant mieux posées, cette distinction dernière sera de moindre importance concernant le sujet traité dans cet article.
Guerre et armes létales autonomes
Le domaine militaire peut-être un de domaine particulièrement parlant pour chacun. Bien sûr, les bombes et les missiles dirigés sur des populations civiles, bien que le plus souvent dénués de toute espèce d’intelligence artificielle, sont déjà un exemple qui peut nous intéresser, tout comme celui des agents chimiques ou des mines anti-personnel, pouvant sévir des années plus tard de façon aveugle contre des non militaires, y compris les enfants.
Des règlements internationaux et des lois sont mis en place concernant de tels phénomènes, mais ne sont pas forcément respectés ni leurs violations sanctionnées.
L’exemple des récents drones volants et robots destinés à tuer va pouvoir aujourd’hui plus particulièrement illustrer notre propos. Si une partie d’entre eux se doivent d’être pilotés à distance par des soldats, de plus récents peuvent techniquement, par le recours à de l’intelligence artificielle, être programmés pour tuer de façon autonome certaines catégories de cibles.
Les technologies existent et progressent toujours, mais sous quelles conditions règlementaires et morales ou non devront-elles et pourront-elles être mises en œuvre ? N’est-ce pas de notre responsabilité citoyenne d’en décider ?
Reconnaissance faciale et surveillance individuelle
L’intelligence artificielle permet à présent de mieux en mieux utiliser la reconnaissance faciale pour identifier un individu. On notera, tout d’abord, que ce n’est pas en soi cette reconnaissance faciale qui peut poser vraiment problème, mais son utilisations eu égard au respect de la vie privée de chacun. Cette question est l’objet de débats intenses dans nos sociétés.
Notons que si la France et l’Europe ont fait ces dernières années de la question du respect de la vie privée, tout du moins avant la survenance de la crise sanitaire, un sujet particulièrement sensible, débattu à l’échelle planétaire et objet de règlements croissants depuis quelques années (applicables théoriquement au minimum au sein de la Communauté européenne), des différences de points de vue peuvent cependant se faire jour à travers la planète à ce sujet. Le souci du respect de la vie privée peut en effet être vu différemment selon les individus, les groupes professionnels, les pays et l’évolution des mœurs. Ainsi la France peut-elle aussi se différencier globalement de la Hongrie, des États-Unis, de la Chine et des deux Corées… Cette question et ces débats concernant les libertés sont devenus particulièrement épineuses et passionnées dans les deux sens dans le contexte, difficile, de crise sanitaire mondiale de Covid-19, frôlant parfois presque des risques de guerre civile…
Dans l’expérimentation et la mise en œuvre de la reconnaissance faciale, objet de plusieurs reportages sur la chaîne de télévision Arte, la Chine a semblé, ces dernières années, prendre beaucoup d’avance, ceci au travers de choix qui peuvent nous sembler abrupts et ébranler nos convictions, au vu de nos habitudes culturelles. Selon beaucoup de ces reportages, les critiques de l’utilisation de l’IA pour la reconnaissance faciale concerneraient le repérage des individus selon leur comportement, telles le respect des passages piétons, pour leur attribuer des notations dites de « crédit social », censé déterminer l’attribution plus ou moins importante de « droits » ou non dans la vie quotidienne. Si les autorités chinoises, tel l’ambassadeur de Chine en France, dénoncent ces affirmations comme étant des légendes et une guerre psychologique destinée à détruire délibérément la réputation de leur pays à des fins de guerre commerciale, au-delà du souci de la situation des peuples de Chine ou des pays d’Asie, la crainte de beaucoup de citoyens occidentaux concernant leur propre vie est celle d’une dérive progressive de leur société vers de tels modèles supposés de société ” technico-policière ” présentés tout à tour comme enviables ou comme d’affreux épouvantails…
Dans l’ardent débat qui nous agite pour ou contre de telles évolutions sociétales, à l’ancien motif de certains toujours actuel de nous protéger des menaces terroristes s’ajoute le motif nouveau de nous protéger des propagations de virus. Face à ce tels motifs, beaucoup de citoyens craignent un risque d’évolution sociétale vers une forme perçue comme « dictature ». Est-ce que l’examen des romans et nouvelles d’anticipation pourrait nous aider ou non à réfléchir à ces sujets de façon plus détendue et souriante ?…
Attribution de crédits financier ou couvertures d’assurance
On a beaucoup parlé également des dérives possibles des règles d’attribution de crédits financiers ou de garanties d’assurances parfois trop opaques sous de fallacieux prétextes d’informatique.
L’exigence de transparence est alors souvent revendiquée, alors que l’informatique peut jouer parfois ou souvent un rôle de paravent pour chercher à dissimuler ou justifier l’inavouable.
Alors que les règlements établissent des règles pour l’attribution de crédits et d’assurances afin de protéger le consommateur, l’intelligence artificielle peut être utilisée telle un écran de fumée pour dissimuler la vérité et pour violer les règlements en utilisant des critères de détermination interdits par les règlements.
Véhicules autonomes
L’utilisation de l’IA pour piloter des véhicules, nommés pour cette raison « autonomes », autrement dit sans conducteur, pose bien naturellement les problèmes éthiques liés à la prévention des accidents et de leurs conséquences possibles. De même, symétriquement et inversement, cet usage de l’IA pour piloter les véhicules est aussi parfois invoqué comme argument éthique pour la diminution des accidents pour défaillances humaines et pour la diminution de leur gravité… Les deux aspects méritent donc études et approfondissement complet.
Profilages sur réseaux commerçants ou numériques
L’utilisation de l’intelligence artificielle sur les moteurs de recherche, sur YouTube et les réseaux sociaux tels Facebook pour nous proposer des contenus commerciaux et publicités sans notre consentement est aussi une dérive possible de l’utilisation de l’IA.
L’IA permet de dresser de façon plus fine notre profil sur bien des réseaux. Chaque chaîne de magasin où nous sommes identifiés à notre nom comme un client, que ce soit les vendeurs par correspondance sur catalogue et internet les plus connus ou bien les chaînes où vous acceptez une carte de fidélité pour bénéficier d’une réduction peut ainsi étudier en détail nos profils de consommation pour ses besoins propres ou éventuellement pour le compte de tiers.
Si les études de profils sont individualisées, elles permettent alors de proposer des produits censés correspondre à ses goûts à chaque client, comme lorsque l’on navigue sur le site d’Amazon, de la Fnac ou de beaucoup de sites commerçants…
Cela sans aborder le sujet plus général des cookies numériques (micro-fichiers) déposés sur nos ordinateurs et autres assistants numériques pour mieux comprendre et tracer nos comportements, cookies soumis en Europe à de nouvelles contraintes d’autorisation.
Piratages (étatiques, industriels, individuels…)
Enfin, l’intelligence artificielle peut être aussi utilisée pour « pirater », autrement dit « voler » des données privées. Cela peut se faire par l’interception de messagerie et l’interprétation de nos messages, par exemple par les services de renseignement d’un pays.
Mais la façon la plus “intelligente” et “douce”, encore, d’utiliser l’IA est d’étudier et croiser des données offertes volontairement au public par les interlocuteurs eux-mêmes, que ceux-ci soient étatiques, institutionnels ou personnels. Comme, par exemple, sur différents annuaires spécialisés, des publications, des pages Facebook ou d’autres réseaux sociaux. Mais peut-on alors dans ce cas parler de violation d’éthique, de morale, ou bien d’une exploitation adroite et licite de ce que nous avons bien voulu laisser voir au public, parfois avec de l’imprudence, de la négligence ?…
Conclusion sur la responsabilité des usages de l’IA
Le robot assistant NAO (Wikipédia)
En conclusion de ce trop petit aperçu, nous dirons que chaque acteur, personne morale ou physique, est entièrement responsable des usages faits de quelque outil que ce soit comme de la permission donnée à d’autres acteurs de procéder à certains usages les concernant, et il ne saurait y avoir de quelconque exception au motif que l’IA serait supposée être un sujet opaque ou “à part”.
Derrière chaque personne morale figurent des personnes physiques. Derrière chaque outil, chaque ordinateur, chaque programme, chaque système expert ou d’Intelligence Artificielle figurent des équipes et des individus nommément responsables et identifiables.
Et, malgré toutes les habitudes contraires, même les plus perverses, il nous paraît qu’aucun parapluie ne saurait pouvoir être ouvert, ni aucun prétexte invoqué, pour s’abriter derrière une supposée intelligence artificielle, un système informatique, voire même règlementaire, pour justifier un usage donné contraire à l’éthique, à la morale (relatif au contexte d’espace et de temps concerné…)
Parmi les règles éthiques et morales, il nous semble qu’il conviendrait de respecter en premier lieu l’esprit de la constitution, des règlements et lois en vigueur, dans leur interprétation la plus protectrice possible du plus faible vis à vis du plus fort…
Éléments bibliographiques
- Un rapport de l’ONU ravive les débats éthiques autour des drones de combat
- Systèmes de reconnaissance automatisée dans les espaces publics : le CEPD et l’EDPB demandent leur interdiction
- La Défenseure des droits alerte sur la banalisation de la reconnaissance faciale
- L’intelligence artificielle sous surveillance
- Dans la Lettre d’ADELI :
- Intelligence artificielle et éthique par Véronique Pelletier
- Intelligence artificielle, enjeux éthiques dans le domaine de la santé par Odile Thiéry
Propositions de normalisation et certification de l’IA
- IEEE
- ISO
- AFNOR : groupe miroir de l’ISO sur l’intelligence artificielle
- CEPEJ: Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires
- Union européenne : Ethics guidelines for trustworthy AI
- Unesco : Avant-projet de recommandation sur l’éthique de l’intelligence artificielle
