Par Lola Breton
Alors que le dernier bastion de Daesh à Baghouz (Syrie) vient de tomber, les productions du groupe djihadiste sur Internet disparaissent, elles, beaucoup moins vite. L’Union européenne tente donc depuis plusieurs mois de s’accorder sur un « Règlement relatif à la prévention de la diffusion de contenus à caractère terroriste en ligne ». La sensibilité de certains aspects du texte repousse cependant constamment son adoption. Laurence Bindner et Raphael Gluck, co-fondateurs du JOS Project, expertise analysant la dissémination des contenus terroristes en ligne, –– se sont penchés sur les points essentiels et les enjeux de la proposition européenne.1
Contenus terroristes sur Internet : la donne a changé
Premier constat du rapport : « Les schémas de dissémination ont évolué : les djihadistes se sont repliés des grands réseaux sociaux vers le deep web et les applications de messageries chiffrées telles que Telegram, rendant l’offre idéologique des groupes djihadistes moins immédiatement accessible au grand public. » Cette dispersion des contenus les a rendus moins visibles, et donc moins maîtrisables dans la masse d’informations qui circulent sur Internet. S’ils se sont réfugiés vers d’autres plateformes, c’est parce que les terroristes ont dû faire face à une vigilance accrue des grands hébergeurs. En un peu plus d’un an, Facebook a engagé 3 000 modérateurs supplémentaires pour pouvoir réagir plus rapidement et en permanence.
Pour l’Union européenne, il est effectivement temps que les grandes plateformes prennent leur responsabilité sur la propagation des contenus à caractère terroriste. En attendant que le règlement soit voté, la directive e-commerce 2000/31 régit le contrôle des contenus. Comme le rappellent Laurence Bindner et Raphael Gluck, « les hébergeurs et fournisseurs de service sont exemptés de la responsabilité légale d’héberger des contenus illicites à condition d’ignorer leur présence et les supprimer “rapidement” dès qu’ils en prennent connaissance. » Cette directive n’oblige pas non plus les plateformes à surveiller proactivement ce qu’elles hébergent. Le règlement actuellement en discussion au Parlement européen promet d’être bien plus coercitif.
Un règlement plus contraignant pour les plateformes
Le nouveau texte européen s’appliquera à tous les hébergeurs disponibles dans l’Union et concernera « tout contenu faisant l’apologie du terrorisme, le provoquant, l’encourageant, le promouvant, ou fournissant instructions ou incitations à participer aux activités d’un groupe terroriste. » Deux procédures pourront alors avoir lieu. D’une part, l’autorité administrative de l’Etat pourra exiger la suppression dans l’heure d’un contenu identifié comme illicite. D’autre part, les plateformes devront passer en revue les contenus faisant l’objet de signalements et en déterminer la licéité. Le règlement signera aussi l’obligatoire surveillance proactive des contenus hébergés. Pour cela, « le Règlement mentionne la possibilité de faire usage d’outils automatisés afin de prévenir la réémergence de contenus déjà bannis ainsi que l’émergence de nouveaux contenus. »
Eviter les effets pervers
S’aider des machines pour traiter le plus grand nombre de publications est aujourd’hui essentiel. En revanche, cela implique une étroite collaboration entre IA et modérateurs, et un cadre clair de régulation. « Afin d’assurer une surveillance intègre et claire, et d’être en mesure de traiter les signalements avec rigueur, les plateformes devront soit internaliser un suivi intensif et continu, soit être fréquemment alimentées (sur l’écosystème médiatique, l’actualité de la mouvance concernée), par exemple par les autorités compétentes, afin d’obtenir les données nécessaires pour fonder leur décision. » Les outils automatisés ne seront pas forcément en mesure d’identifier la source, la nature, et/ou le contexte des contenus détectés. Pour les experts du JOS Project, « c’est au niveau des autorités régaliennes et de l’UE qu’un cadre précis de consignes et de périmètres devrait être fourni. […] Un tel cadre éviterait ainsi au régalien d’exporter vers le secteur privé la responsabilité d’évaluer un contenu et de se délester ainsi sur les conditions générales d’utilisation des hébergeurs. »
Enfin, il faudra être vigilant quant aux « effets pervers » pour les plateformes. Pour éviter des sanctions pouvant atteindre 4 % de leur chiffre d’affaires global, elles pourraient supprimer beaucoup plus de contenus que nécessaires, en prévention, voire ne plus faire de distinctions entre les différents degrés de « nocivité des contenus. » Les informations utiles pour le renseignement, les démonstrations d’exactions, et les publications moins dangereuses subiraient donc toutes le même sort.
Ces considérations sont d’autant plus importantes à penser en amont que les terroristes ne cessent de réinventer leur stratégie cyber. En se rabattant sur de « nouvelles plateformes, le web décentralisé, ou le dark web », les terroristes – djihadistes, mais aussi d’ultra droite, dans la mouvance de l’auteur présumé de l’attentat de Christchurch (Nouvelle-Zélande) – brouillent davantage les pistes.
Lire la production complète : http://ultimaratio-blog.org/archives/8954http://ultimaratio-blog.org/archives/8954
1
Leur analyse complète, publiée le 29
mars 2019, est à retrouver sur le blog du centre des études de
sécurité de l’IFRI, Ultima Ratio :
http://ultimaratio-blog.org/archives/8954