Data Intelligence à l’aube de 2049

3 défis : Confiance, Souveraineté, Anticipation

La Data Intelligence, l’un des buzzword du moment, à l’aube 2050… ou comment cette révolution du monde moderne pourrait dessiner les contours du renseignement d’ici à une trentaine d’années…

Ecartelée parmi ses contraires, la data intelligence a-t-elle le pouvoir, grâce aux trois piliers de la confiance, de la souveraineté et de l’anticipation, de préparer le renseignement du futur avec un coup d’avance ?

Eléments de réponse avec les experts du Cluster Data Intelligence du GICAT – Emmanuel Tonnelier, Vincent Hauseux

La data influencera une grande partie de nos vies, en lien avec la réalité augmentée, en permettant d’accéder à des informations, sur demande, sur l’ensemble de notre environnement. Les objets pourront nous parler : un simple fruit pourra nous dire s’il devrait être cueilli, mangé, ou jeté. Notre corps et notre comportement pourront nous informer en amont ou en temps réel de notre état de santé et nous conseiller sur les précautions ou actions à mener pour éviter des troubles ou les guérir rapidement. Tout en restant une affaire de spécialistes, comme l’informatique d’aujourd’hui, la data aura permis l’automatisation d’une large part des emplois. Des pans entiers des entreprises tourneront autour de ces programmes, qui demanderont à être encadrés, contrôlés et augmentés par des salariés d’un nouveau genre. A la fois utile et enfermant, c’est sur la capacité d’interagir, d’utiliser et de rester autonomes vis à vis de ces programmes que la différence se fera pour les individus de nos sociétés du futur. D’un point de vue gouvernemental, à l’échelle des États, des villes ou des régions entières, la donnée permettra à la fois un diagnostic social et économique permanent, et une sécurité élevée, quelque part entre une dystopie à la 1984 et un monde où les agressions physiques seront devenues exceptionnelles. La cybersécurité sera plus critique, encore, au cœur de la protection et de l’attaque, donc au cœur de nos vies…

Les pivots de l’évolution

La « Data intelligence », un terme très large qui porte cette révolution du monde moderne. Elle s’appuie sur l’explosion des données, de leur traitement dopé à l’Intelligence Artificielle et au sein duquel les informations s’interconnectent, se conditionnent, se renforcent les unes les autres, et à partir desquelles nous prenons des décisions qui reposaient hier encore exclusivement sur du savoir-faire humain. Ce nouveau paradigme qui touche tous les domaines de l’activité humaine, l’économie, la santé, la politique, la sécurité, etc. est toujours dans sa phase de jeunesse et comme toutes ces grandes évolutions, fait l’objet d’enjeux de pouvoir avec l’éternel écartèlement entre confiance et méfiance, nouveaux usages et abus…

Un des premiers enjeux résidera donc dans la maîtrise de la qualité des données, des traitements, de la précision et de la diffusion de l’information et de la confiance que nous pouvons placer dans la data Intelligence.

A court terme l’accès aux technologies sera toujours plus généralisé et nivelé. Les capacités à analyser, valoriser mais aussi falsifier les données, ou corrompre les traitements deviendront accessibles au plus grand nombre : imitation de la parole, fausses vidéos, fausses identités numériques, diffusion massive de fausses informations à l’encontre d’une personne, d’une organisation, etc. Les faussaires de la donnée vont apparaitre naturellement à la fois pour masquer les activités illégales, nuire à certaines réputations, attaquer ou tromper les adversaires. Les hackers s’attaqueront aux IA et aux modèles de traitement en insérant des données corrompues, réorientant les résultats comme ils le faisaient précédemment pour forcer les accès, accéder à l’information, générer des dysfonctionnements. L’IA attaquera l’IA…

Des contremesures pilotées par des modèles de plus en plus performants devront donc être mises en place.

Le renseignement d’origine humaine sera largement complété, parfois remplacé, par des entités virtuelles dotées d’intelligence artificielle qui exploreront les espèces de données numériques. C’est ainsi que le directeur de la division technologique et scientifique de la CIA, Dawn Meyerriecks, affirmait l’année dernière que le travail des espions allait être de plus en plus délégué à des intelligences artificielles numériques de reconnaissance.

Il faudra alors qu’émergent des tiers de confiance, de l’explicabilité des traitements, de la certification et de la régulation donnant un cadre aux cas d’usage et aux dérogations accordées, selon le contexte, qui permettront d’éviter les dérives de falsification et d’usage inappropriés, y compris au détriment de notre vie privée et de l’éthique.

La falsification volontaire des informations et leur diffusion, notamment sur le Web, seront pénalement condamnées au même titre que la fausse monnaie ou fausse identité. La qualité et la valeur des données indexées sur la rareté, la précision, la fiabilité, l’impact qu’elles peuvent avoir, se normalisera dans un cadre de diffusion allant de la donnée ouverte disponible à tous, jusqu’aux informations d’entreprises ou d’Etats à diffusion très restreinte.

Les bourses de la donnée et les agences privées mandatées de diffusion d’informations seront désormais monnaie courante et régulées. Les propriétaires ne pourront simplement plus vendre aux plus offrants mais seulement aux ayants-droit les modèles pré-entrainés, les données associées respectant un « RGPD -2050 » et ainsi éviter une prolifération non maitrisée et un détournement d’usage.

Un nouvel eldorado, mais aux mains de quelques grandes structures ?

Les grands acteurs du monde numérique prennent d’ores et déjà une place de plus en plus en plus hégémonique dans le domaine. Les célèbres GAFAM américains et les BATX chinois ou même les Yandex/Mail.ru russes maitrisent le système par tous ses aspects. Les données, dont ils sont souvent propriétaires ou au moins dépositaires, l’accès à ces données par les clouds qu’ils gèrent, ou encore toutes les applications et algorithmes d’IA qu’ils développent, hébergent et proposent à leurs clients, constituent une réelle menace sur la dépendance qu’ils génèrent. Leur position sur le marché et leur puissance économique leur permettent d’investir des dizaines de milliards de dollars les mettant hors d’atteinte dans une compétition saine et essentielle.

Les décennies qui viennent doivent assurer une régulation de cette hégémonie, à l’instar des lois sur les monopoles, et permettre un mécanisme d’équilibrage des pouvoirs par l’émergence de capacités de compétition, par exemple une multiplication des acteurs dans le domaine ou des démantèlements de structures existantes.

On peut aussi imaginer que faute de cette émergence, une évolution du système actuel conduise à une logique d’association tacite entre ces Groupes et les quelques superpuissances mondiales conduisant à renforcer l’émergence des grands blocs d’influence mondiaux. Dans cette hypothèse, l’Europe devra rapidement et fortement réagir si elle veut compter parmi ces acteurs. Une politique de souveraineté européenne est aujourd’hui une question de survie numérique.

L’anticipation, le graal de la Data et de l’IA ?

L’anticipation, « avoir au moins un coup d’avance », donc prédire l’évolution d’une situation est une dimension importante de l’évolution du renseignement. Plus particulièrement dans le domaine militaire, la conséquence est de donner plus d’effet à la stratégie qu’à la manœuvre tactique (qui serait une exécution gagnante presque à tous les coups). Les enjeux sont tellement importants qu’il est raisonnable de penser les technologies d’intelligence artificielle futures comme pouvant apporter des éléments de réponse à ce problème, en régulant en quelque sorte les phénomènes de chaos. La DARPA a déclaré en septembre 2018 investir deux milliards de dollars dans la recherche sur l’intelligence artificielle. Son nouveau programme, KAIROS (Knowledge-directed Artificial Intelligence Reasoning Over Schemas), concrétise ses ambitions dans le domaine de « prédire les évènements mondiaux » et devrait donner un sérieux coup de pouce aux services de renseignement américains.

De cette anticipation, chacun cherche à déterminer des stratégies de réponse optimales dans un double objectif de supériorité et de survie. Ainsi, dans le domaine militaire, l’IA pourrait-elle permettre de faire pencher la balance vers le modèle de conflit idéal de Sun-Tzu (vaincre sans combattre) plutôt que dans le sens de Clausewitz (guerre de combat), combats physiques aux coûts élevés. Le renseignement devrait donc se déplacer sur le terrain des opérations d’anticipation : cyber-offensive, cyber-défense, opérations d’influence ou de contre-influence. Sur ce terrain, l’intelligence artificielle devrait voir émerger des techniques de frappe chirurgicale analogues à celles des systèmes physiques qui seront précisément calculées pour avoir un effet décisif.

Dans ces domaines, l’action qui sera mise en place à partir de renseignement explorant l’anticipation devra faire la part entre celle qui aura une nature automatique/préventive et celle qui aura toujours un « homme dans la boucle »…

Préparer le futur du renseignement

Tous ces bouleversements et défis de la « Data intelligence » s’appliquent évidemment aux solutions de renseignement pour les gouvernements. L’importance et la criticité de ces systèmes pour les Etats et leur sécurité ainsi que celle de leurs citoyens, ajoute une dimension de souveraineté à la maîtrise de l’accès à ces informations et des technologies de traitement. Cette maîtrise, la nécessité de réguler et légiférer, l’exigence de confiance incluant cybersécurité et identité numérique doivent être prises en compte par nos Etats dans une dimension européenne.

Une projection en 2050 doit être, malgré toute la difficulté de l’exercice, opérer par tous les acteurs de l’écosystème, car notre avenir se prépare dès aujourd’hui…