Présidente de Sens Commun, Conseillère départementale des Yvelines, membre du Bureau politique Les Républicains, Laurence Trochu nous invite à reprendre le contrôle de nos vies face au “soft power” de l’intelligence artificielle  dont l’emprise est d’autant plus indolore qu’elle arrive subrepticement.

L’Occident découvre avec effroi que, depuis 2014, la Chine travaille sur un procédé d’évaluation de ses citoyens qu’elle est aujourd’hui en mesure de mettre en œuvre. Grâce à un puissant système de caméras piloté par l’Intelligence Artificielle, c’est un véritable projet de surveillance des comportements qui s’instaure et à partir duquel sont évalués les individus dans tous les pans de leur vie. Instrument de contrôle de la société, ce dispositif de « crédit social » établit des notations à partir des comportements et choix analysés et permet alors de réglementer le droit aux transports, aux logements sociaux, aux services d’Etat ou encore à l’accès internet, selon les bons points qui auront été attribués aux citoyens. La fiction de Black Mirror devient réalité : c’est l’avènement d’une société dans laquelle chacun est soumis à une notation continue déterminant la valeur de sa propre vie.

Et pendant ce temps, en France, des présidents de région ou de communauté d’agglomérations misent sur l’innovation, pour faire de leur territoire la capitale mondiale de l’IA. Certains événements sont pourtant venus troubler ce doux ravissement. Souvenons-nous d’Éric Schmidt, alors PDG de Google qui, en 2010, fixait comme objectif à son entreprise « d’organiser toute l’information du monde ». Ou encore en 2013 des révélations fracassantes de Snowden mettant à jour une surveillance numérique illégale sous l’égide des agences de renseignements américaines. Le focus se fait à l’unanimité sur la préservation de notre intimité et la nécessité d’inscrire la protection des données personnelles dans la Constitution. De la CNIL au RGPD, puisque le corollaire de toute réflexion est que la recherche et le progrès scientifiques sont toujours bons, les mesures envisagées par le politique visent uniquement à encadrer un phénomène auquel on ne saurait se soustraire. Ces indispensables protections ne vont toutefois pas jusqu’à questionner le principe même de l’IA : libère-t-elle ou asservit-elle la personne humaine ?

En effet, les outils ne sont pas neutres ; ils portent leur propre finalité. C’est ce qu’a mis en lumière le philosophe et précurseur de l’écologie politique Ivan Illich. Dès qu’un outil s’impose comme « monopole radical », outil dont personne ne peut plus se passer, il devient une injonction de consommation et peut même détruire l’objectif qu’il était censé servir. Initialement prévue pour être un instrument au service de l’administration optimisée des choses, l’informatique est entrée dans l’organisation du moindre détail de nos vies. L’iMac aux couleurs pétillantes de 1979, dont le préfixe « i » montrait la primauté de l’individu sur la machine a laissé place quinze ans plus tard à l’iPhone dont l’interface tactile se confond avec la main qui en est le prolongement, dans une parfaite et imperceptible communion entre l’humain et l’outil.  « Ce qui est familier n’attire pas l’attention », enseignait Sun Tzu dans L’art de la Guerre. Nous avons pourtant de graves raisons de nous inquiéter de l’emprise toujours plus omniprésente que nous laissons à ces techniques dans nos vies.

Par le biais des objets connectés, nos besoins, nos désirs, notre agenda ou même notre santé sont analysés en temps réel à l’aune d’une source unique d’appréciation qui a valeur d’autorité et qui nous guide dans une logique utilitariste. En édictant les normes auxquelles nous devons nous conformer, elle énonce la vérité à laquelle nous devons nous soumettre : primat de la jeunesse et du dynamisme, de la réactivité et de l’adaptabilité, de l’efficience économique. Des mécanismes édictent à notre place, et sans notre assentiment, des normes qui régissent nos actions individuelles et auxquelles nous octroyons, sans même les questionner ou les confronter à notre intuition et aux critères de notre raison, une valeur objective de vérité. Ces systèmes d’expertise du réel ne visent plus à pallier les limites auxquelles nous sommes techniquement confrontés. Ils cherchent à être plus rapides, plus fiables et plus efficaces que nous. Ils sont des puissances intégrales, continuellement présentes, à même d’intervenir dans tous les pans de nos vies pour y mettre en place une gestion orientée et sans défaut de nos comportements. Il ne s’agit rien d’autre que de la puissance injonctive de Waze appliquée à toute la sphère des activités humaines ! C’est finalement, selon les mots de Simone Weil, « les choses (qui) jouent le rôle des hommes et les hommes (qui) jouent le rôle des choses ». L’assistant numérique personnel nous guide et, de fait, nous commande ; ce faisant, il nous prive de ce qui en nous est spécifiquement humain : la capacité à nous prononcer, à choisir et à nous engager. C’est la possibilité même de la responsabilité qui s’évanouit. Le pilotage automatique des affaires humaines et l’administration des choses signent aussi la fin du politique puisque disparaissent les conditions mêmes de son exercice : la contradiction et la délibération.

En créant un ministère de l’Intelligence Artificielle, les Emirats Arabes Unis ont compris l’analyse de Vladimir Poutine : « La nation qui deviendra leader de ce secteur sera celle qui dominera le monde. » La Chine en arrive à organiser une vidéo surveillance qui aboutit à intercepter et isoler les individus dont les comportements sont dits délictueux (dans les transports en commun, sur les réseaux soucieux ou encore dans la rue) sans que cela ne déclenche une bronca. La société de masse, telle qu’Hannah Arendt l’a décrite, s’est en effet établie sur le socle communiste où l’individu n’est qu’une infime partie d’un grand tout, sous le regard d’un pouvoir autoritaire qui exerce la contrainte par la crainte qu’il suscite.
Mais la naïveté n’est plus de mise et l’Europe ferait preuve d’une coupable responsabilité en fermant les yeux sur la réalité de l’Intelligence Artificielle. Au regard des valeurs qui la fondent comme civilisation, elle se doit de soumettre l’IA au respect inconditionnel de l’intégrité et de la dignité humaines. Le politique doit faire une de la préservation de conditions de vie meilleures et indissociablement plus dignes une priorité. Ces préoccupations sont éminemment conservatrices : que la personne humaine ne soit jamais considérée comme un objet qu’on bricole, une marchandise qu’on achète, un produit obsolescent qu’on jette. Sur cette base, il doit réaffirmer un principe de responsabilité, car son rôle est d’une toute autre nature que celui dans lequel il se réduit lui-même en butant sur la protection des données personnelles. Convenons donc qu’à partir du moment où des techniques décident à notre place, il est nécessaire de poser la question de la légitimité de la délégation d’action à des systèmes autonomes.

Il est grand temps que l’Europe se réveille et porte le projet d’une politique de légitime défense dans quatre domaines cruciaux menacés aujourd’hui par le pouvoir déshumanisant et sans limite de l’IA. Le préambule de toute action politique est de reconnaître que l’IA est un enjeu démocratique et civilisationnel qui constitue un sujet majeur pour l’alliance des démocraties que nous encourageons et la civilisation que nous défendons. Ensuite, parce que c’est typiquement un sujet sur lequel la France seule ne fait pas le poids face aux deux superpuissances de l’IA que sont la Chine et les États Unis. Enfin, parce que notre questionnement sur l’IA n’est pas une invitation au retour dans les cavernes ; nous n’appelons pas à passer à côté de la troisième révolution industrielle mais à y prendre toute notre place.

A plus petite échelle, on voit le problème que pose le monopole Google (tout l’e-commerce et une part grandissante de l’information sont tenus par les règles du jeu définies par Google) parce que l’Europe n’a pas su faire « son » Google.
–         Nous appelons à un refus absolu des « robots de compagnie » dans les hôpitaux et les structures accueillant des personnes malades, âgées ou handicapées, et à la promotion de résidences à taille humaine où la valeur de la vie ne se mesure pas à la performance dont on fait preuve
–         Loin de la doxa de la transformation numérique de l’école qui n’a pas prouvé son efficacité, nous rappelons que le rôle de l’école est de faire grandir et de rendre autonome grâce à l’acquisition des connaissances et à l’exercice du jugement.
–         Nous appelons à la préservation du régime de contradiction pour que la justice dans les tribunaux soit rendue conformément au principe de singularité et non pas laissée à l’appréciation technique de protocoles automatisés.
–         Loin d’une économie mondialisée qui fait de la comparaison la base d’une concurrence à tout crin, nous rappelons que l’économie libre de marché ne peut se cantonner à une recherche exclusive de maximisation des gains. Il ne saurait y avoir de bonne économie sans une éthique vivante pour la soutenir ; en cela, elle doit coexister avec des sphères politiques et culturelles à même de faire contrepoids au tout économique. Favoriser l’altruisme, le don et le partenariat entre générations, voilà la réponse aux ambitions démesurées permises par la transformation digitale des entreprises.

Sortons de la torpeur de la facilité et du confort, et soyons des hommes libres, non des créatures téléguidées depuis des serveurs. Reprenons le contrôle de nos vies face à ce « soft power » dont l’emprise est d’autant plus indolore qu’elle arrive subrepticement.

Réconcilier la politique avec le réel, c’est d’abord le respecter. Non pas le soumettre ou le plier à nos souhaits, mais le contempler et ne pas avoir peur qu’il nous tienne à distance, accepter qu’il soit autre et ne pas sombrer dans la folie d’avoir raison de tout. Consentir à nos limites et à la vulnérabilité comme une fragilité qui est aussi la richesse de notre humanité. C’est assurément le grand défi politique de notre siècle pour sauver notre autonomie, capacité de nous donner à nous-mêmes nos lois et qui présuppose ce que Kant appelle « le courage de nous servir de notre propre entendement ».

Lire l’article sur Valeurs Actuelles