Experte internationale spécialisée en Intelligence Artificielle (IA) et Systèmes Multi-Agents, Amal El Fallah Seghrouchni est une femme passionnée de mathématiques, engagée pour la science, l’inclusion et l’éducation. Celle pour qui l’éthique des connaissances scientifiques est une préoccupation majeure de notre temps, revient sur les enjeux démocratiques, les réponses mondiales à l’émergence d’une IA éthique et inclusive et son engagement auprès de la jeunesse.
Rencontre avec une femme de conviction, directrice du Centre International d’Intelligence Artificielle du Maroc, membre de la prestigieuse Commission mondiale d’éthique des connaissances scientifiques et des technologies (COMEST) de l’UNESCO et Professeure de classe exceptionnelle à l’Université de la Sorbonne.
Propos recueillis par Mélanie Bénard-Crozat
« En partant des mathématiques, durant mon doctorat au début des années 1990, je m’intéressais à la preuve de théorèmes pour certains formalismes utilisés pour modéliser des programmes concurrents. L’idée d’automatiser la preuve a mûri dans ma tête. Je me suis intéressée à la notion d’heuristiques et de méta-connaissances, des notions clés en IA. En tant que chercheuse, je me suis intéressée à la cognition, l’étude des comportements individuels et collectifs avec l’objectif de concevoir et de mettre en œuvre des systèmes intelligents. Associer l’intelligence artificielle, l’éthique, l’inclusion et l’interculturel faisait sens. C’est ainsi que j’ai tracé mon parcours jusqu’à l’UNESCO. »
Des enjeux démocratiques
L’éthique se pose de façon accrue aujourd’hui. « En interaction avec l’humain, de nombreux dispositifs comme les robots domestiques, les objets connectés et les smartphones viennent l’assister pour accomplir des tâches, comme dicter un compte rendu et lancer un missile, ou le divertir, comme jouer un jeu de rôle. La technologie d’IA fascine, fait progresser, favorise et facilite notre quotidien. Certains dispositifs sont en revanche conçus pour capter l’attention le plus longtemps possible. Des designers proposent des guides pratiques à destination des entreprises pour construire “des produits créateurs d’habitudes, que vous utilisez sans y penser”. Et la jeune génération en est la première victime. Regardez le temps perdu devant tout ce contenu inutile et vide de sens déversé chaque jour… Aussi, l’éthique doit-elle s’appliquer à toutes les étapes du cycle de vie de l’IA, de la conception à la fin de vie du système. Nous devons repenser ces technologies pour un usage résilient, égalitaire, équitable et éthique. Il en est un enjeu démocratique. »
Faire preuve de vigilance
Le président russe Vladimir Poutine déclarait en 2017 : “Celui qui deviendra le leader de cette sphère dominera le monde”. « Cette assertion n’est pas fortuite et les investissements se chiffrant en milliards de dollars montrent que l’IA est un enjeu majeur. La course engagée est rude et nécessite de grands investissements à tous les niveaux -la formation, le capital humain, la recherche. Les Etats-Unis et la Chine concentrent à eux seuls 3/4 des investissements mondiaux. Mais nous pouvons rattraper un peu notre retard car l’IA est une science cognitive qui repose sur les mathématiques, un domaine de recherche qui se porte bien en Europe et en Afrique. »
Au-delà des investissements, l’utilisation de cette technologie suscite des questionnements. « Le modèle américain est orienté sur une génération du profit quand le modèle chinois utilise ces outils technologiques à des fins de surveillance de masse. Cela doit nous alerter, nous inviter à rester prudents et à penser un autre modèle. »
Réponse mondiale engagée
Avec l’adoption par 193 pays membres du premier accord sur l’éthique de l’IA auprès de l’UNESCO « l’éthique est désormais un dénominateur commun. Nous avons des espaces de réflexion comme la COMEST qui nous offre l’opportunité de contribuer à la réflexion autour de l’éthique au niveau mondial. Cela est nécessaire pour traduire les principes éthiques dans le monde réel au niveau des sciences et des technologies. L’Europe est le berceau des droits de l’Homme où cette question de l’éthique est centrale. En Afrique, aussi, le peuple est très attaché à la démocratie. Je suis persuadée que les ponts existants entre les deux continents doivent être renforcés avec pour socle commun des valeurs universelles. »
Le Chili, en 2020, a lui, désigné la manipulation cognitive comme un acte préjudiciable pour l’humanité. En septembre 2021, la Chambre des députés a approuvé une loi sur les neurodroits. Véritable jurisprudence à venir en matière de droit humain, elle ouvre ainsi la voie à une révision de la constitution chilienne prévue en 2022. « Nous devons prendre exemple sur des pays comme le Chili pour accroître nos connaissances et éviter les dangers qui pèsent sur les citoyens. »
Régulation pour une IA acceptable et accessible
« Les boîtes noires que constituent certains algorithmes doivent disparaître. Pour rendre l’IA acceptable et accessible, les choses doivent être intelligibles par l’être humain. Nous devons synchroniser le progrès et la régulation de l’IA. La technologie est créée par l’homme tout comme elle est utilisée par lui. Nous devons choisir ce que nous souhaitons en faire. Nous pourrions imposer aux professionnels une sorte de serment d’Hippocrate appliqué à l’IA en nous basant sur les 23 principes d’Asilomar compilés dans une charte qui se veut un guide éthique pour l’IA, approuvés par des centaines de chercheurs et d’experts. Ces principes s’appliquent sur la base du volontariat aujourd’hui, pourquoi ne pas les rendre obligatoires ? »
Brider les algorithmes
« Auditer des algorithmes est compliqué mais interdire certaines pratiques est réalisable. Il faut protéger l’IA de l’humain pour protéger l’humain de l’IA face notamment aux manipulations psychologiques. J’aspire à beaucoup de méfiance face au nudge, qui consiste à faire de l’incitation comportementale, presque à l’insu de son plein gré. On pourrait par exemple brider les algorithmes comme on bride le moteur des voitures, ou interdire l’utilisation de certains algorithmes pour les adolescents et les personnes vulnérables. L’Homme doit intervenir dans ces systèmes d’IA pour apporter du bon sens et de l’intuition. Cela implique également de trouver un équilibre entre automatisation et autonomie. »
Lutter contre les biais
« Modeler l’avenir ne peut se faire en se basant sur le passé et des données déjà connues. Pour pouvoir envisager l’imprévu et anticiper les ruptures, il nous faut aller vers d’autres éléments que le machine learning, notamment plus de sémantique. En nous basant sur la massification des données nous passons ainsi à côté de cas rares. L’IA pourrait aussi rétablir les injustices et favoriser par exemple l’éducation des jeunes filles, des femmes issues du monde rural. Elle peut être un atout formidable pour les jeunes grâce au coaching, aux jeux sérieux ou à la simulation. »
Miser sur la jeunesse
La formation et l’éducation sont une pierre angulaire de l’IA. « Il faut investir dans la recherche, la formation et l’innovation. »
C’est avec la jeune génération que tout se joue. « Il ne faut pas perdre de temps, apprendre et sortir de sa zone de confort. Il faut cultiver la confiance en soi et redonner cette confiance aux femmes qui se sont détournées des voies scientifiques. Elles peuvent réussir dans les mathématiques et l’informatique. Le seul problème est ce qu’on leur a inculqué. Et cela doit changer.
Le monde est grand et ouvert. Il faut l’explorer. Ce qui est à découvrir est merveilleux. Le champ des possibles est immense. Il ne faut pas se priver de cette exploration à la portée de toutes et de tous. Les mathématiques sont belles, aussi belles que la broderie… peut-être même plus belles… » conclut-elle avec le sourire.
Aujourd’hui fière d’avoir accompagné dans leurs parcours près de 35 doctorants, Amal El Fallah Seghrouchni espère voir naître une école de la pensée de l’IA en Afrique et en Europe. « Les jeunes générations y débattraient et construiraient les bases d’une IA responsable, éthique, inclusive. Cette mission est celle que je me suis fixée. Si j’y parviens, ce sera la consécration de mon engagement. La jeunesse est notre avenir. C’est en elle que nous devons investir et porter nos espoirs. »