« La France refuse de confier la décision de vie ou de mort à une machine qui agirait de façon pleinement autonome et échapperait à tout contrôle humain ». Alors que la création d’un comité d’éthique ministériel sur les sujets de défense a été annoncée par Florence Parly le 5 avril, une forme de peur subsiste autour des dangers potentiels de l’intelligence artificielle. L’IA et le machine learning ont aussi des avantages multiples, et d’ores et déjà visibles dans de nombreux domaines. Appliqués dans certains lieux publics, ils permettent, par exemple, de lutter contre la fraude.
Détecter les fraudeurs aux caisses libre-service
Nombreuses sont les réflexions autour du biais comportemental de l’IA, programmée à partir de cerveaux humains. Si l’on se souvient de Tay, l’IA développée par Microsoft en 2016, et de son apprentissage néo-nazi en moins de 24 heures passées sur Twitter, il est vrai que l’expérience semble risquée. Trois ans plus tard, l’analyse des comportements est justement au cœur des apports sécuritaires que l’IA serait susceptible d’engranger. Dans les grandes surfaces, dans les banques, dans la rue, elle promet une lutte intense contre la fraude et le vol.
Axel Mery, responsable des solutions business digital chez Fujitsu en France, est fier d’avoir « convaincu [le groupe japonais] d’investir dans l’IA sur le territoire de Paris-Saclay, où il y a un terreau très prometteur pour l’innovation ». Avec Thierry Lefort, chief technology officer IA, et leur équipe du Drahi X-Novation Center de l’école Polytechnique, il conçoit des technologies qui permettront peut-être de réduire les occurrences de fraude dans les grandes surfaces.
Selon une étude publiée en 2014 par le ministère de l’Intérieur britannique, les magasins dotés de caisses automatiques sont beaucoup plus sujets aux vols que les enseignes sans libre-service – le ratio était de 86 % contre 52 % dans les supermarchés britanniques en 2014. Que ce soit en échangeant les codes-barres entre deux produits de même poids ou en faisant passer des appareils high-techs pour des fruits dûment pesés en rayon, les fraudeurs ont depuis redoublé d’imagination pour payer leurs achats moins chers. AI Loss Prevention de Fujitsu pourrait rendre ces pratiques plus rares. Cette technologie d’IA permet d’authentifier le produit scanné en caisse en le comparant au code-barre présenté. Après avoir entré les images de tous les produits vendus par l’enseigne dans la base de données, le dispositif fonctionne seul et peut lancer l’alerte en cas de non-conformité.
Assurer la sécurité du milieu bancaire jusqu’aux distributeurs de billets
Les caisses automatiques ne sont pas les seules cibles de la fraude et du vol. En 2017, un rapport d’Europol dévoilait les nouvelles techniques utilisées par les cyber-attaquants pour subtiliser de l’argent. En novembre 2018, c’est l’entreprise sud-coréenne de cybersécurité Positive Technologies qui révélait le temps moyen nécessaire au hacking de distributeurs automatiques de billets : quinze minutes. Un laps de temps suffisant pour introduire un logiciel malveillant dans le système et faire cracher tous les billets contenus dans le guichet (technique du « jackpotting ») ou encore pour installer une bande magnétique qui récupérera les données de toutes les cartes insérées par la suite (le « skimming »).
Là encore, Fujitsu pense avoir trouvé une solution pour lutter contre ces vols, grâce à l’intelligence artificielle. Thierry Lefort et les équipes de Paris-Saclay ont intégré le logiciel « Openpose », développé par Carnegie Mellon University, dans les caméras de vidéosurveillance des distributeurs de billets. Ce dispositif analyse les poses des individus en détectant leurs membres et articulations. En plus de pouvoir détecter les agressions physiques, l’IA est capable d’identifier les postures anormales des personnes situées aux abords du guichet. « Quand vous retirez de l’argent au distributeur, vous interagissez d’abord avec l’écran, puis avec le lecteur de carte et le clavier. L’IA va être capable de détecter un comportement étrange autour de ces interactions. Si un individu passe plusieurs minutes à toucher le lecteur de carte, cela va être identifié. », explique Thierry Lefort.
« Nous avons déjà un partenariat avec des banques italiennes », souligne le CTO de Fujitsu. L’Union européenne a, de plus, intégré le dispositif au projet du consortium FINSEC pour améliorer la sécurité physique et digitale dans le milieu bancaire. FINSEC dispose déjà de près de 10.2 millions d’euros pour se mettre en place. Cette application d’« Openpose » plaît et pourrait bien devenir incontournable.