Comités d’éthique et forces de sécurité : un bilan en demi-teinte

Soldier in glasses of virtual reality. The concept of the future.

« L’éthique est au fondement même de la raison d’être du militaire. C’est la boussole qui subsiste lorsque le droit disparaît. Le droit est son garde-corps et l’éthique est son garde-cœur. »1 déclarait Florence Parly, ministre des Armées, lors du discours d’inauguration du comité d’éthique de la défense (Comedef) en janvier 2020.

Ce comité, novateur et peu exposé, pourrait ouvrir la voie à la création de comités d’éthique au sein des forces de sécurité régaliennes, qui manquent aujourd’hui à l’appel.

Par Camille Léveillé

Un comité pionnier

Le comité éthique de la défense a été créé afin de pallier le manque d’adaptation du droit aux nouvelles technologies. « Il s’agit de définir quelle doit être la place de l’homme à l’ère des machines autonomes et du machine learning. […] Démunis du droit, nous serons alors armés de l’éthique. Et pour être armés, il faut d’abord penser. »2détaille la ministre des Armées.

La France est le premier Etat à se doter d’une telle structure permanente ayant pour objectif de travailler sur les enjeux liés aux nouvelles technologies et à l’intelligence artificielle (IA). D’autres pays ont depuis pris des initiatives similaires. Le Canada a ainsi créé un “Programme d’éthique de la défense”, l’Australie se fonde sur le rapport “Method for Ethical AI in Defence” édicté par le ministère de la Défense et le DoD américain s’appuie sur le Joint Artificial Intelligence Center.

Quelques Etats, comme l’Allemagne ou les Pays-Bas commencent seulement à prendre conscience de l’importance stratégique à œuvrer sur ces questions.

Composé de 18 membres d’horizons variés, civils et militaires, il cristallise toutefois quelques critiques. Selon Emmanuel Goffi, philosophe et cofondateur du Global AI Ethics Institute « Le comité d’éthique de la défense est un comité créé uniquement pour communiquer. Il n’y a aucun élément de réflexion éthique dans les rapports rendus. Cela peut notamment s’expliquer par le fait qu’il n’y a qu’un seul philosophe au sein de ce comité et que la grande majorité des membres sont rattachés au monde militaire, biaisant de fait les réflexions. » et d’ajouter « 2 ou 3 personnes spécialistes des questions d’éthique et de défense et dont les recommandations seraient basées sur des entretiens, des recherches et des travaux devraient trouver une place au sein de ces comités d’éthique. »

Le soldat augmenté

Des moyens technologiques peuvent être utilisés « pour modifier et améliorer les performances humaines, physiques, intellectuelles ou émotionnelles » du soldat.

Sur ce thème, le comité recommande « d’évaluer l’impact de chaque augmentation sur la santé physique et mentale du soldat » via une analyse bénéfices/risques et de « rechercher une réversibilité lors du recours à une augmentation. »3Le comité d’éthique préconise de rédiger une doctrine pour chaque augmentation envisagée. 6 interdictions sont également énoncées, posant des limites au développement du soldat du futur. Parmi elles, l’interdiction du recours à des pratiques eugéniques ou génétiques. En somme, cette pratique devra « être entourée de garanties pour prévenir toute dérive » 4 selon les mots de Bernard Pêcheur et d’Henri Bentégeat, président et vice-président du Comedef.

L’autonomie dans les systèmes d’armes létaux

Après la publication de ses premiers travaux sur le soldat augmenté, le comité d’éthique de la défense a remis son avis sur l’intégration de l’autonomie dans les systèmes d’armes létaux. Le sujet avait été choisi par le ministère des Armées, conscient de la mesure des enjeux stratégiques, juridiques et éthiques soulevés par le développement des applications militaires de l’IA, en particulier par l’émergence potentielle de Systèmes d’armes létaux pleinement autonomes (SALA). Dans son avis, le Comedef introduit une distinction entre les SALA et les Systèmes d’armes létaux intégrant de l’autonomie (SALIA). Si les premiers sont programmés pour être capable de redéfinir leur mission et faire évoluer leur principe de fonctionnement, ce n’est pas le cas des seconds. Les SALIA ne peuvent ni échapper au contrôle humain ni prendre seuls une initiative létale. Ainsi, le comité émet 25 recommandations sur la méthodologie, la recherche, l’emploi, la conception et la formation du personnel concerné par le développement ou la conception de SALIA. Il se prononce en faveur de leur développement, sous conditions : le respect du principe constitutionnel de nécessaire libre disposition de la force armée, du principe de continuité de la chaîne de commandement et l’interdiction de prise d’initiative létale sans contrôle humain.

Les futurs travaux du comité d’éthique de la défense ne sont pas connus mais les sujets ne manquent pas. Reste à savoir si le ministère des Armées suivra ou non les recommandations édictées par le Comedef.

Vers des comités éthique dans la sécurité

L’équivalent du comité éthique de la défense du ministère des Armées existe pour la police municipale parisienne. En effet, Anne Hidalgo, maire de la ville, a annoncé la mise en place du comité éthique de la police municipale, opérationnel depuis le 4 février dernier. Ce comité, présidé par Jacques Toubon, ancien Défenseur des droits, est composé de 11 membres. Il est destiné à veiller « au respect des principes déontologiques par les agents de la Direction de la police municipale »5. Emmanuel Goffi reste toutefois prudent : « Il faudra attendre de voir les actions de ce comité. Mais, je suis convaincu qu‘il sera seulement un comité de plus qui n’agit pas. Un véritable comité d’éthique se doit d’être externe à toute institution. » 

Rien en revanche pour ce qui concerne les forces de sécurité régaliennes. Une commission nationale de déontologie de la sécurité avait été créée en 2000 mais elle a été supprimée en 2008. Ses prérogatives ont été transférées au Défenseur des droits. Elle avait pour mission de veiller au respect de la déontologie au sein des professionnels de la sécurité publique ou privée. Depuis, les potentielles dérives éthiques liées à l’utilisation des nouvelles technologies sont régies par le législateur, lui-même soumis au Conseil constitutionnel. Ainsi, les lois concernant l’usage de caméras piétons ou encore de drones par les forces de police ont été révisées par les Sages, garants des libertés fondamentales du pays. Au Royaume-Uni, Kit Malthouse, secrétaire d’Etat chargé de la police, a récemment rejeté la suggestion de créer un comité d’éthique indépendant afin d’encadrer l’utilisation des nouvelles technologies par les forces de police. Selon lui, il est nécessaire d’être prudent pour ne pas « étouffer l’innovation ».6 La police de Toronto a soumis à consultation publique un projet de loi visant à encadrer l’utilisation des nouvelles technologies par leurs employés… sans qu’il ne soit question de créer un comité éthique dédié.

La sécurité privée se penche pour sa part sérieusement sur la question : « Nous, donneurs d’ordres, nous appelons à mettre en place, à l’instar des armées, des comités d’éthique dans les entreprises de sécurité privée. Nous appelons également à créer des postes de directeurs d’éthique dans toutes les entreprises de sécurité privée. » déclare Stéphane Volant, Président du Club des directeurs de sécurité des entreprises et vice-président du Conseil national des activités privées de sécurité et d’ajouter : « Que les armées s’attaquent à ces questions je trouve ça formidable. Désormais, il est nécessaire que le personnel des entreprises de sécurité privée puisse être formé à l’éthique. Cela me paraît indispensable à un moment où, comme le dit Gérald Darmanin, la sécurité privée est la troisième force du ministère de l’Intérieur derrière la police nationale et la police municipale ».

Alors que les forces de sécurité régaliennes et privées se dotent de plus en plus d’outils technologiques basés sur des systèmes connectés, de plus en plus intelligents, posant in fine des questions éthiques, il semble essentiel que les gouvernements prennent conscience de l’importance de doter les forces de sécurité de comités d’éthique pluridisciplinaires… Mais la question semble rester encore en suspens…

1 Discours de lancement du comité d’éthique de la défense, Florence Parly, 10 janvier 2020, https://www.defense.gouv.fr/portail/enjeux2/le-comite-d-ethique-de-la-defense

2 Ibid

3 Avis du comité d’éthique de la défense portant sur le soldat augmenté, décembre 2020, https://www.defense.gouv.fr/portail/enjeux2/le-comite-d-ethique-de-la-defense

4 Henri Bentégeat et Bernard Pêcheur, “La pratique du “soldat augmenté” devra être entourée de garanties pour prévenir toute dérive”, 15/032021, Le Monde, https://www.lemonde.fr/idees/article/2021/03/15/la-pratique-du-soldat-augmente-devra-etre-entouree-de-garanties-pour-prevenir-toute-derive_6073133_3232.html

5 “Police municipale : un comité d’éthique pour veiller au respect des règles de déontologie”, 4 février 2022, https://www.paris.fr/pages/un-comite-d-ethique-de-la-police-municipale-pour-veiller-au-respect-des-regles-de-deontologie-20310

6 Claudia Glover, “Policing minister rejects need for ethical guidance on emerging tech”, Tech Monitor, 13 janvier 2022, https://techmonitor.ai/policy/regulating-use-of-technology-in-uk-police