Alors que le Président de la République vient d’annoncer vouloir faire de la France « un des pays champions de l’IA », Asma Mhalla, experte internationale des enjeux de l’intelligence artificielle, était de passage à Annecy la semaine dernière. L’occasion d’aborder avec elle les immenses questions démocratiques et géopolitiques qui se posent autour de la généralisation de l’intelligence artificielle et de l’emprise grandissante des industries de la Tech sur nos vies. Un sujet tout aussi fascinant qu’inquiétant, dont nos gouvernants ne semblent pas encore en mesurer les vrais enjeux.
Asma Mhalla (à droite) le 16 mai à Annecy ©Benjamin Joyeux
Ce mardi 21 mai, juste avant de s’envoler pour la Nouvelle Calédonie, Emmanuel Macron a convié à l’Elysée toute une kyrielle d’ingénieurs et d’entrepreneurs du secteur de l’intelligence artificielle. Son objectif affiché ? Faire de la France « un des pays champions de l’IA » et de Paris « la capitale de l’IA », cherchant à diffuser celle-ci davantage dans la société et appelant les services publics à montrer l’exemple en déployant des assistants IA notamment « à l’hôpital, la magistrature, l’éducation nationale et la défense ». Alors que la « fracture numérique » en France touche près d’une personne sur deux[1], cette fuite en avant présidentielle n’est pas sans poser de multiples questions.
L’IA de tous les dangers
Lorsque qu’on pose d’ailleurs directement la question à un logiciel comme le fameux Chat GPT sur les dangers de l’intelligence artificielle, voici ce que celui-ci relève : danger pour les emplois : « l’automatisation des tâches grâce à l’intelligence artificielle pourrait entraîner la perte d’emplois dans de nombreux secteurs. » Danger en termes de discriminations : « Les algorithmes d’intelligence artificielle peuvent être biaisés et perpétuer des discriminations, notamment en matière d’embauche, de prêt bancaire ou de justice. » Menace sur la vie privée : « L’utilisation de l’intelligence artificielle pour collecter, analyser et interpréter des données personnelles peut constituer une menace pour la vie privée des individus. » Dépendance technologique : « Une dépendance excessive à l’égard de l’intelligence artificielle pourrait rendre les sociétés vulnérables en cas de défaillance ou de piratage. » Danger militaire : « Le développement de systèmes d’armes autonomes basés sur l’intelligence artificielle soulève des préoccupations éthiques et humanitaires. » Et enfin « L’utilisation de l’intelligence artificielle à des fins de manipulation, de contrôle ou de surveillance pourrait menacer les libertés individuelles et la démocratie. »
Ou quand l’IA est la mieux à même de résumer clairement l’ensemble des dangers qu’elle induit. Mais entre la fuite en avant présidentielle dans la course globale à l’IA et le rejet pure et simple d’une technologie sans chercher à la comprendre, n’y-a-t-il pas un juste milieu ?
Intelligence artificielle et naïveté bien réelle
C’est en tous cas la voie que nous propose d’emprunter Asma Mhalla[2], chercheuse au Laboratoire d’Anthropologie politique de l’EHESS, qui était de passage à Annecy le 16 mai dernier au soir, entre deux avions en provenance de New York et en partance pour l’Europe du Nord. Celle-ci avait été invitée à présenter son premier essai issu de sa thèse, Technopolitique[3], à l’auditorium du Crédit Agricole des Savoie, à Annecy-le-Vieux.
Introduite devant une salle comble par Dominique Favario, le président du Festival Livres en Marche[4], la jeune et médiatique chercheuse[5] met d’entrée de jeu les pieds dans le plat, soulignant que l’expression « intelligence artificielle » ne veut pas dire grand-chose mais qu’il faut plutôt penser l’ensemble de ces nouveaux outils issus de celles qu’elle nomme les « BigTech » comme des instruments de pouvoir posant de très lourds « enjeux de sécurité nationale ». Il ne s’agit pas d’être pour ou contre l’IA mais de se poser d’urgence la question de ses usages et d’avoir pleinement conscience de l’idéologie se cachant derrière ses principaux promoteurs, les Sam Altman, Elon Musk, Mark Zuckerberg, Alex Karp[6] et autres grands patrons de la Silicon Valley. Car derrière leur soi-disant bienveillante neutralité se dissimulent différents projets de société qu’il faut bien avoir en tête. Si c’est assez limpide désormais avec Elon Musk, sorte de techno-libertarien d’extrême droite[7] qui a mis en coupe réglée Twitter/X au nom d’une liberté d’expression poussée à son paroxysme, il faut voir qu’au-delà de son cas caricatural, une véritable bataille culturelle et géopolitique est en cours, cristallisant la rivalité entre les Etats-Unis et la Chine tandis que l’Europe, à la traîne, compte les points.
Et c’est bien là que le bât blesse pour Asma Mhalla, considérant que face aux effets politiques concrets de l’IA, nous sommes « dans un vide politique sidéral et sidérant ». Tous les acteurs aujourd’hui dominants de l’IA sont étatsuniens, la Chine restant dans la course malgré son retard sur les IA dites « génératives »[8], et ces pays ont une stratégie politique vis-à-vis de l’IA et des nouvelles technologies, que la chercheuse nomme les « BigStates » dans son livre. « BigStates » et « BigTech » seraient liés dans « une relation de co-dépendance toxique », et dans ce nouveau cadre géopolitique « toutes nos représentations politiques issues du 20e siècle s’écroulent ». Asma Mhalla s’avoue « sidérée par le manque de réaction des Français sur le sujet », ne se préoccupant pas de la militarisation accélérée de l’espace public induite par ces technologies duales, à la fois civiles et militaires, rappelant que « nos smartphones sont aussi des armes de guerre ».
Asma Mhalla le 16 mai 2024 ©Benjamin Joyeux
De l’urgence d’une « hygiène cognitive »
C’est pourquoi Asma Mhalla en appelle à l’urgence de faire preuve d’« hygiène cognitive » en prenant conscience de ce qui se joue autour de l’IA et des BigTech et en en politisant réellement les enjeux plutôt que de laisser cela entre les mains des entreprises privées et de quelques geeks passionnés comme à la Quadrature du Net[9].
Et c’est la question du statut de ces géants du numérique, à l’impact désormais incommensurable sur l’ensemble de nos vies, qui est fondamentale pour Asma Mhalla, indiquant qu’actuellement aux Etats-Unis un débat a lieu sur la possibilité d’envisager les BigTech comme des opérateurs publics.
Sans compter les multiples questions environnementales que pose le développement accéléré de toutes ces technologies, dont la consommation énergétique exponentielle se heurte de plein fouet aux limites planétaires. Le « pour quoi faire » est donc d’autant plus incontournable. Pour Asma Mhalla « on est en train de vivre un tournant et on a besoin de tout le monde », et ainsi « il ne faut surtout pas céder à la fatigue » ni « se sentir coupable derrière son écran » mais devenir consciemment responsables de nos usages numériques.
Entre rejet impuissant et fascination naïve, il y a donc bien une troisième voie à explorer d’urgence en matière d’intelligence artificielle et de nouvelles technologies, une question que l’on aimerait voir aborder davantage par nos gouvernants plutôt que de sauter ainsi dans l’inconnu sans parachute.
Comme l’écrivait Heidegger, cité d’ailleurs par Asma Mhalla : « Il n’y a rien de démoniaque dans la technique […]. C’est l’essence de la technique, en tant qu’elle est un destin du dévoilement, qui est le danger ».
Benjamin Joyeux
[1] Lire notamment https://www.latitudes.cc/blog/la-fracture-numerique-en-france-ca-ne-concerne-que-les-seniors-non#:~:text=Tenez%2Dvous%20bien%20%3A%20en%202022,les%20outils%20num%C3%A9riques%20et%20internet.&text=Et%20contrairement%20%C3%A0%20ce%20qu,agit%20pas%20seulement%20des%20seniors
[2] Voir https://fr.wikipedia.org/wiki/Asma_Mhalla
[3] Technopolitique, Comment la technologie fait de nous des soldats, Asma Mhalla, éd. du Seuil, février 2024 https://www.seuil.com/ouvrage/technopolitique-asma-mhalla/9782021548549
[4] https://livresenmarches.com/rencontre-avec-asma-mhalla/
[5] Voir notamment son récent passage à Quotidien : https://www.tf1.fr/tmc/quotidien-avec-yann-barthes/videos/invitee-asma-mhalla-alerte-sur-la-technologie-qui-fait-de-nous-des-soldats-71132574.html
[6] Le patron de Palantir Technologies, voir https://fr.wikipedia.org/wiki/Alex_Karp
[7] Lire par exemple https://www.nouvelobs.com/numerique/20220826.OBS62403/elon-musk-personnifie-a-l-extreme-cette-ideologie-geeko-libertarienne.html
[8] Lire https://fr.wikipedia.org/wiki/Intelligence_artificielle_g%C3%A9n%C3%A9rative
