« C’est parce que je n’étais point un adversaire de la démocratie que j’ai voulu être sincère avec elle » précise Tocqueville dans son avertissement, j’aimerais en dire autant pour l’IA » » annonce Gaspard Koenig philosophe, essayiste et romancier français, auteur de La fin de l’individu, Voyage d’un philosophe au pays de l’intelligence artificielle, aux éditions de l’Observatoire.
« Répliquer de manière non-organique l’intelligence humaine, »1 agit comme un miroir pour l’Homme, oscillant entre déterminisme et libre-arbitre. Convoquant ses contemporains et dans la lignée de ses illustres prédécesseurs, le philosophe interroge : l’intelligence artificielle pourrait mettre un terme à l’individu libre et autonome né des Lumières et signer le retour du divin ?
Par Simon DOUAGLIN
Celui qui est aussi le fondateur du think tank Génération Libre – nous entraîne à la rencontre de ceux qui font l’intelligence artificielle.
D’abord à travers la Silicon Valley, imprégnée d’utilitarisme benthamien, puis aux confins de la Chine devenue totalitaire. « Durant ce périple, j’ai passé trois fois plus de temps aux Etats-Unis qu’en Chine. Je me suis rendu compte trop tard que j’aurais dû faire l’inverse. Même si le coeur de l’innovation reste en Californie, les nouveaux géants menacent fortement les GAFA et leurs satellites […]. »2
Le paradoxe d’un outil omnipotent
Faisant suite à « plusieurs hivers où elle fut laissée pour morte »3, l’intelligence artificielle prend aujourd’hui sa revanche et rivalise avec l’Homme comme l’illustre la victoire de DeepBlue sur Kasparov : « Pour le restant de l’histoire humaine, les machines seront meilleures que les humains aux échecs. »4 annonce le joueur d’échec comme une mise en garde.
L’intelligence artificielle soulève de nombreux espoirs et pourrait se voir confier le recrutement au sein des entreprises. Ainsi libérée des biais humains, elle recruterait les candidats sur les seules qualités demandées, mettant un terme aux discriminations. C’est la proposition de Rumman Chowdhury, rencontrée à San Francisco et en charge du « fairness tool » pour l’entreprise Accenture. Cependant, déléguer de tels choix à l’IA, interroge sur l’avenir de l’Homme et de son libre-arbitre.
La machine contre le libre-arbitre
Suivant la théorie du « nudge », le philosophe démontre comment nos choix nous sont suggérés par l’intelligence artificielle allant jusqu’à remettre en cause notre libre-arbitre. « Les systèmes de recommandations, fondés sur la maximisation des préférences individuelles, visent à déléguer l’exercice du choix à la machine. […] L’IA n’impose rien. Elle suggère, elle canalise, elle rassure. […] On a toujours l’impression d’avoir choisi soi-même son objectif et de recourir librement à la technologie disponible. »5 Rappelant les fondements de la servitude volontaire de La Boétie, l’Homme privilégie donc sa sécurité au détriment de la liberté.
L’hypothèse d’une IA omnipotente pourrait accélérer ce phénomène explique Gaspard Koenig citant Stuart Russell, ingénieur en IA : « il ne voit en effet pas de limites techniques à l’expansion infinie de l’IA. […] Il existe selon lui, une possibilité logique de créer des machines conscientes par accident, en essayant différentes combinaisons parmi les techniques d’IA dont nous disposons aujourd’hui. » Si bien que l’ingénieur nous prévient : « dans les grandes entreprises, tout le monde a reçu des instructions pour ne pas communiquer sur l’IA forte ».
« Comme Tocqueville qui avait trouvé dans « l’égalité » le principe moteur des démocraties naissantes, j’ai conclu de ce long voyage que « la fin du libre-arbitre » caractérisait l’ère de l’IA. »6 indique le philosophe-voyageur. Et cette fin du libre arbitre n’est pas dénuée d’idéologie.
Une apparente neutralité
D’après Peter Thiel, entrepreneur de la Silicon Valley, « l’IA est communiste » car l’optimisation numérique qui la caractérise, correspond à une vision holiste de la société, où le tout formé par les individus serait une entité plus importante que la seule somme des individus. Par exemple, Google Maps ne nous explique pas comment prendre le plus court chemin pour soi-même mais le plus court chemin au regard du chemin emprunté par les autres individus. « Le plus grand bonheur pour le plus grand nombre » selon la formule consacrée. Ce qui implique par conséquent de sacrifier le bonheur de certains, minoritaires, au profit de la communauté.
« Non seulement nous sommes manipulés, nudgés, déchargés de notre capacité à faire des choix, mais nous devenons malgré nous les serviteurs de la communauté. […] Une humanité plus proche du Meilleur des mondes de Huxley, où le bonheur est sacro-saint et le solipsisme condamné, que de la contre-culture californienne […]. »7 D’ailleurs, cette capacité à se tenir au-dessus de l’Homme rappelle une dimension divine.
De la philosophie des Lumières au retour du divin
L’avènement des Lumières aura permis la sécularisation de la société et la remise de l’individu au centre des attentions. Avec le développement de l’intelligence artificielle, on observe un retournement du processus. « La question posée par Foucault est tout simplement celle des Lumières. Penseurs et réformateurs avaient voulu affranchir l’homme de ses tutelles extérieures, qu’elles soient politiques, économiques ou intellectuelles. Ils ont si bien réussi que les technologies issues d’une société libre oeuvrent aujourd’hui à rétablir la pire des tutelles, une tutelle intérieure, gouvernant les choix les plus intimes au nom du bien-être individuel et collectif. »
Finalement, conscient de ses limites, l’Homme s’en remet à Dieu. « [Le fantasme de la puce dans le cerveau] serait l’équivalent numérique de la volonté de Dieu qui, comme on le sait depuis Spinoza, est aussi l’asile de l’ignorance. »8 explique Gaspard Koenig. « On croyait que Dieu était mort ; nous l’avons ressuscité sous forme numérique et nous lui avons donné un nouveau ciel : le cloud. »9 ; « Dieu est mort, vive l’IA ? »10 La présence divine rappelle une autre présence : celle plus concrète de la tutelle totalitaire.
Totalitarisme chinois : le laboratoire de la fin de l’individu
Les valeurs propres des civilisations, « la Chine confucéenne, l’Europe stoïcienne et l’Amérique protestante »11 ont un impact sur les stratégies d’IA.
La méfiance confucéenne envers la vie privée et la dévotion de l’individu pour la collectivité représentée par l’Etat sont les deux fondements de la CCCC [Chine Capitaliste Confucéenne Communiste], un des systèmes totalitaires les plus aboutis dont le crédit social, système de notation des individus par algorithmes, représente le meilleur outil d’asservissement.
« Elle embrasse l’IA d’autant plus volontiers que cette technologie correspond à ses valeurs profondes. »12 Le résultat est édifiant : la Chine, apparaît comme le laboratoire dans lequel la fin de l’individu est la plus proche.
L’impasse européenne
Dans ce contexte, la vie privée et les libertés individuelles chères aux Européens et garanties par le RGPD, apparaissent comme des obstacles à l’émergence d’un modèle européen, qui a besoin des données pour s’entraîner. « Plus de droits, moins d’IA. »13 résume le philosophe.
Quant à la stratégie française, elle semble être dans une impasse. « La tentative de Cédric Villani pour formuler une alternative au suicide européen est louable. Mais l’en même temps, habillé d’une phraséologie rassurante sur le partage et la citoyenneté, reste une vue de l’esprit. Soit les données finiront par être collectées de manière autoritaire au nom de l’intérêt collectif, soit il faut assumer que les droits de l’individu sur ses data créent une situation sous-optimale, freinant le développement d’une industrie numérique capable de rivaliser avec les Etats-Unis et la Chine. Pour rester fidèle à ses valeurs, l’Europe se condamne-t-elle à disparaître ? »
Redonner le pouvoir du choix
Partant du concept d’arbitre libre, une forme de synthèse entre déterminisme et choix individuel, le philosophe propose de sortir de l’âge de la féodalité de la donnée, pour ouvrir un marché au sein duquel chacun pourrait choisir librement de vendre ou non ses données personnelles.
Instaurer un droit de propriété sur les données personnelles, permettrait de redonner une dimension éthique à l’intelligence artificielle et par la même, de réaffirmer l’autorité des Etats déjà largement concurrencés par les GAFAM.
L’auteur émet également l’idée de personnaliser les outils d’intelligence artificielle conformément à la « prime directive », une loi d’éthique personnelle, préalablement choisie. Intégrée à l’IA, celle-ci permettrait à l’individu de faire à nouveau ses propres choix et redonner un nouveau souffle à la démocratie, du local jusqu’à l’horizon européen.
La fin de l’individu
Editions de l’Observatoire, collection De Facto
l’ISBN : 979-10-329-0720-7
19 euros
1 page 36
2 page 254
3 page 36
4 page 55
5 page 135
6 pages 135-136
7 page 172
8 page 181
9 page 82
10 page 250
11 page 254
12 page 272
13 page 281