Alexandre Basquin publie ce jour une tribune qui explique pourquoi il est pour l’interdiction de l’intelligence artificielle générative.
La voici :

L’intelligence artificielle générative n’a pas émergé tel un coup de tonnerre dans un ciel serein, mais s’inscrit dans la longue continuité d’informatisation et de numérisation de nos vies.
Le numérique a pris une place considérable - je parle souvent d’emprise - dans notre quotidien : multiplication des écrans, dématérialisation des services, objets connectés, réseaux dits sociaux, vidéosurveillance, etc., et aujourd’hui intelligence artificielle.
En moyenne, un adulte passe 32 heures par semaine sur des écrans, soit un tiers du temps éveillé et exerce plus de 2600 pressions par jour sur son smartphone. Une véritable emprise, disais-je.
Cette emprise numérique est le point nodal d’un modèle économique extrêmement puissant basé sur l’économie de l’attention, les technologies persuasives, la captation de nos données personnelles ou les manipulations algorithmiques. Ce système favorise une accumulation considérable de profits dans les mains de quelques-uns : les géants du numérique. Les cinq personnes les plus riches de la planète sont, en effet, toutes des magnats de la Tech et les capitalisations boursières de ces géants sont même supérieures au Produit Intérieur Brut de certains États. C’est dire leur puissance.
Rappelons tout de même que le capitalisme numérique ne se nourrit que des usages numériques. Car ce sont bien nos usages qui permettent cette exponentielle accumulation de capital. C’est pour cela, que dotés d’un cynisme incroyable, ces géants mettent tout en œuvre pour que nous soyons toujours plus présents devant nos écrans, dopés par des algorithmes ultra-personnalisés, comme cela a été révélé en 2021 par la lanceuse d’alerte Frances Haugen avec les « Facebook Files ».
Mais ce n’est pas nouveau ! Ce fonctionnement fait partie de leur écosystème.
Déjà en 1979, un article du journal Le Figaro illustrait l’audace de ce capitalisme numérique. Revenant sur le déploiement des ordinateurs au sein des foyers, cet article disait : « Nous ne savons pas quels usages assignés aux ordinateurs domestiques, mais nous pensons qu’il y a un marché parce que les ménages pour pratiquement tous ont fini de s’équiper en télé couleur. Il faut trouver un produit-relais qui perpétue les habitudes d’achat. La micro-informatique doit donner un nouveau souffle à un système marchand en panne de nouveautés ». Dès l’essor d’une nouvelle technologie, celle-ci est constamment détournée de son utilisation initiale à

des fins de consommation de masse pour accumuler toujours plus de profits, mais aussi pour imposer un certain nombre de valeurs capitalistes tels l’efficacité, la croissance, la productivité, le gain de temps, etc., comme l’a largement argumenté le philosophe Jacques Ellul.
Nous vivons aujourd’hui un strict parallèle avec l’émergence de l’intelligence artificielle générative, déployée à marche forcée pour le grand public, avec notamment la sortie de ChatGPT, l’avatar d’Open AI, en novembre 2022. Il n’a fallu que deux mois à ChatGPT pour atteindre 100 millions d’utilisateurs, soit la croissance la plus rapide de l’histoire des applications numériques. L’IA générative s’appuie sur les mêmes ressorts que les réseaux sociaux, à savoir les logiques addictives qui sont un puissant instrument d’aliénation.
Car le modèle capitalistique des géants de la Tech n’est pas structuré pour répondre à un besoin mais pour en créer un et nous placer, potentiellement, dans une position de servitude.
Aujourd’hui, pas une journée ne passe sans que ne soit évoquée l’intelligence artificielle. Tout est IA ! Ce que l’on aurait avant considéré comme un simple logiciel informatique est, à coup de communication, apparenté à de l’intelligence artificielle. Ainsi, à travers un marketing aussi puissant que ciselé, ces géants imposent leur récit : l’intelligence artificielle serait un futur obligé. Selon la chercheuse Cecilia Rikap, les ingénieurs de Microsoft ont même co-écrit 88 % des 15 000 publications scientifiques sur l’IA qu’elle avait recensées. Ça laisse peu de place au contre-récit !
Que l’on soit béat, admiratif, critique ou réfractaire, le mouvement serait en marche et rien ne pourrait l’enrayer. Nous n’aurions ainsi pas d’autre choix que de nous adapter dans un contexte où l’intelligence artificielle est devenue le totem de l’économie mondiale, un nouvel outil de concurrence entre les nations.
Or, l’intelligence artificielle générative est, comme son nom l’indique, une technologie capable de générer du contenu que ce soit des images, du texte, des vidéos ou de la musique... Mais elle n’est capable que de cela !
La place qu’elle prend dans nos vies frôle parfois l’absurde avec une IA nommée ministre en Albanie, des acteurs, des journalistes ou des groupes de musique virtuels, des IA qui redonnent vie aux morts ou encore des forums sur lesquels des IA peuvent discuter entre elles. On pourrait en rire, s’il n’y avait pas une part de drame.
Car l’IA générative ne porte en aucun cas un éventuel mieux-être social. En revanche, elle peut être utilisée à des fins de raisonnement et habituer les usagers à obtenir une réponse immédiate, sans apprentissage et sans recul. Quelle est l’échelle de valeur lorsque l’on peut créer sans apprendre et que tout se vaut ?

De plus, et cela est largement documenté et sourcé, l’intelligence artificielle générative réclame une gigantesque puissance de calcul, fortement consommatrice de foncier, d’énergie et d’eau. Parfois même au détriment des intelligences artificielles spécialisées dites « applicatives » ou « étroites ».
La sortie de terre de milliers de centres de données, toujours plus gigantesques, à travers le monde, pointe brutalement la matérialité de l’intelligence artificielle, bien loin des seules réponses magiques de Chat GPT, de Claude, Grok ou Gemini. Derrière toute chose simple se cache souvent une réalité complexe qui fait réagir de plus en plus de citoyens. Démissions d’élus, plaintes d’associations, décisions d’annulation des tribunaux, inquiétudes légitimes de notre jeunesse et des salariés, etc. La contestation se manifeste partout en France et dans le Monde.
Au-delà des évidentes problématiques environnementales, nous pourrions aussi citer celles en matière d’emploi et de conditions de travail. Les premiers effets se font d’ailleurs déjà sentir notamment dans le monde de la culture et de la création et dans le cadre du management algorithmique avec des risques de surveillance généralisée ; le pillage de nos données personnelles et la multiplication des attaques cyber ou encore la mise à mal de nos fonctions cognitives, comme a pu le démontrer l’université américaine du MIT, parlant même de « camisole mentale ».
Ce n’est pas tout. Derrière le développement effréné des IA se trouvent des « data workers ». Ces travailleurs de la donnée, largement exploités, travaillent dans des conditions déplorables, dans des pays où le droit du travail est inexistant. Complètement et volontairement invisibilisés par les plateformes numériques à coups de clauses de confidentialité, ils passent leur journée à alimenter l’intelligence artificielle générative. Ils incarnent de manière évidente l’exploitation de l’homme par l’homme pour faire vivre cette nouvelle technologie vendue comme un « idéal ».
Ces points méritent à eux seuls que l’on s’interroge sur ce qui nous est imposé.
Mais il y a un angle qui, selon moi, est trop peu abordé : celui de la déshumanisation des rapports sociaux, renforcée et accélérée par l’intelligence artificielle générative. Le processus est en cours et la menace démocratique bien réelle.
Car le mouvement dit libertarien, porté par de nombreux acteurs de la Tech, à commencer par le multimilliardaire fondateur de PayPal Peter Thiel, considère que la démocratie et la liberté sont incompatibles. Pire, ce mouvement mène une véritable croisade contre les valeurs démocratiques et égalitaires. Il porte un projet politique qui s’appuie sur la polarisation et la fragmentation de la société, sur le renforcement des individualismes et l’isolement des citoyens, sur la mise à mal de toutes formes de collectif, de toutes formes de solidarité.

En cela, les outils numériques les aident car, loin de toute caricature, il est avéré que plus nous sommes présents sur nos écrans, moins nous sommes disponibles pour les autres. J’ose donc affirmer que les géants de la Tech ont l’absolue volonté de déshumaniser nos sociétés en favorisant la dépolitisation et la défiance envers les institutions, et en neutralisant les citoyens pour ne garder que les producteurs de données. Le danger est aussi là, insidieux et encore imperceptible. L’intelligence artificielle générative renforce leur détermination.
Cette technologie est aujourd’hui malheureusement si performante qu’elle favorise aussi la désinformation et les hypertrucages au point que l’on ne distingue plus le vrai du faux. Les procédés utilisés sont particulièrement fallacieux comme l’empoisonnement de données (« data poisoning »), à savoir l’introduction de contenus trompeurs dans les sources consultées par les IA afin d’influencer leurs réponses. C’est ça le réel, bien loin de toute dystopie.
Lorsque le doute est permanent, la suspicion généralisée, que l’on n’arrive plus à faire la part des choses, on perd indéniablement en esprit critique et on court tout droit vers une forme de totalitarisme de la pensée. Comme a pu si bien le dire le romancier britannique George Orwell : « Le totalitarisme commence non pas par les camps, mais par l’acceptation du mensonge ». Alors oui, nous ne sommes pas très loin de « 1984 » ou de « Fahrenheit 451 » de Ray Bradburry, à l’image d’Amazon qui a acheté par millions, numérisés, puis détruits des livres pour entraîner son intelligence artificielle générative, ou le projet « Panama » d’Anthropic.
On touche ici à la morale et à l’éthique.
Enfin ne tombons pas dans le piège des arguments avancés de la souveraineté et de la régulation, qui solvabiliseraient la parole de ces géants. Car cette puissance technologique n’est pas régulable. Comment pouvons-nous en effet réguler les dizaines de milliards de requêtes traitées par jour dans le monde ? C’est absolument vain. De même, la souveraineté numérique est un leurre. Il s’agit d’un narratif pour mieux nous vendre leur technologie. La souveraineté entendrait que nous soyons en capacité de contrôler toute la chaîne, de la production jusqu’à l’utilisation des outils numériques, de l’extraction minière des métaux rares jusqu’aux applications téléchargées sur nos smartphones. C’est complètement illusoire. Sans oublier que les données sont particulièrement volatiles. La véritable souveraineté serait de ne pas utiliser cette technologie numérique.
Face aux défis soulevés, il apparaît donc impérieux que puisse être étudiée rapidement l’interdiction de l’intelligence artificielle générative, comme l’ordre mondial a su le faire pour le clonage ou dans le cadre de la désescalade nucléaire. Je ne suis pas seul à porter cette idée forte, d’autant que des pionniers de l’IA alertent sur ses dangers.
Je suis bien loin d’être technophobe, mais force est de constater qu’aujourd’hui nous avons besoin d’une désescalade numérique car, encore une fois, ce qui est annoncé comme un progrès est surtout et à l’évidence un recul. Alors j’entends qu’interdire peut apparaître liberticide. Mais ce qui est réellement liberticide, c’est le monde dans lequel veulent nous faire

vivre les géants de la Tech ; ce monde où l’abrutissement et la surveillance généralisée feraient loi. C’est bien de cela dont il s’agit et c’est bien de cela dont il faut nous préoccuper.
Le numérique est un système et non une pratique individuelle. C’est pourquoi, pour toutes ces raisons et selon moi, le seul remède est l’interdiction de l’intelligence artificielle générative. Je l’assume ! C’est d’un autre projet de société dont nous avons besoin, où l’on replacerait l’humain au centre et où l’on reprendrait enfin le pouvoir sur ces nouveaux maîtres du monde.