Pourquoi donc tous les neuneus de la start-up nation s’emballent-ils autant pour l’intelligence artificielle ? Nos deux experts, le philosophe Éric Sadin et notre intervieweur Bertrand Burgalat, vaccinés contre les mouvements d’hystérie collective, imaginent un avenir radieux – sans l’aide des IA génératives.
C’est fou ce que l’intelligence artificielle peut générer comme conneries. Après les NFT, la blockchain et le métaverse c’est la nouvelle tarte à la crème : panurgisme progressiste, lieux communs à base d’ignorance, de niaiseries technophiles et d’affairisme, vieux jeunes et jeunes vieux nostalgiques de la bulle internet, vendeurs de forfaits téléphoniques déguisés en moguls de la « tech », licornes qui broutent les milliards de France 2030, incubateurs incinérateurs de deniers publics, ringards aux abois et ruffians à l’affût sont au rendez-vous du grand vide, avec des éléments de langage qui feraient passer René Monory et ses prédictions de comptoir pour Arthur C. Clarke ou Isaac Asimov.
Il y a sept ans, j’avais composé la musique d’un film de Benoît Forgeard, « Yves », sur un réfrigérateur connecté qui écrivait des tubes de rap et remportait l’Eurovision. Tout ce qui semblait alors absurde s’est réalisé, en plus dérisoire. « Grâce à l’IA, votre machine à café peut vous faire des suggestions de boissons en fonction de votre humeur, de la météo ou même de l’heure de la journée » (Companeo). La France du Goupil, de la Mia, du Bi-Bop, de Diabeloop, de la route solaire de Tourouvre et des avions renifleurs, celle des catastrophes industrielles et des tartarinades n’est pas morte. Les tirades boursouflées à base de vilains mots, de disruption, de souveraineté, d’accompagnement et d’anglicismes de BDE pullulent. Aucune parole publique, aucun discours de politique générale n’y échappe, l’IAwashing est partout.
De Dassault Systèmes à Ravel Technologies, ce ne sont pourtant pas les talents qui manquent, ni les experts lucides : en 2019, deux polytechniciens, Marie David et Cédric Sauviat, avaient publié un essai implacable, Intelligence artificielle, la nouvelle barbarie (éditions du Rocher). Dans l’indifférence. Heureusement, il y a Éric Sadin. Tel un magasinier Amazon, il ne baisse jamais les bras ; sa parole subtile est d’autant plus forte qu’il n’a pas d’agenda caché dans cette bataille.
Hors du territoire national, il conseille gouvernements et chefs d’Etat, mais dans la start-up nation les empêcheurs de détourner en rond dérangent. Au moment où Paris accueille un ronflant sommet de l’IA en forme de reddition, il est à l’initiative d’un Off réjouissant. Face à l’Elysée, au propre comme au figuré. Rencontre avec l’homme qui a dit non.
BERTRAND BURGALAT
SUR LE DIVAN_ Éric Sadin fomentant une offensive pour contrecarrer le sommet sur l’IA organisé au Grand Palais par Macron, futur employé de Lucie IA.
Pourquoi vous êtes-vous intéressé à ce sujet au moment où le Minitel était encore en service ?
Eric Sadin : Cela fait plus de 15 ans que j’analyse les technologies numériques. L’Humanité Augmentée évoquait déjà les premiers mouvements de l’intelligence artificielle. Depuis, je relève, parfois avec agacement, parfois avec un léger sourire, que nous n’avons jamais dit autant de bêtises sur un phénomène aussi déterminant. C’est le brouhaha, tout le monde donne son avis sur l’IA comme sur la météo, sans très bien connaître les choses.
De quelles choses parlez-vous ?
D’un changement de statut des technologies numériques. Car elles ne sont plus seulement destinées, comme elles le sont depuis plusieurs décennies, à permettre la collecte, le stockage, l’indexation et la manipulation à diverses fins individuelles et collectives de l’information. Depuis le mitan des années 2000 est apparu un autre embranchement, qui a dévolu à des systèmes la tâche d’expertiser des pans toujours plus étendus du réel, mais aussi de recommander, en retour des actions à entreprendre. À l’image, parmi une infinité d’exemples, de l’application Waze, qui récolte, en temps réel, des masses d’informations relatives à l’état du trafic et suggère, en retour, de prendre tel itinéraire plutôt que tel autre. Pour la première fois dans l’histoire de l’humanité, les systèmes nous conseillent, nous recommandent, jusqu’à nous enjoindre, d’agir de telle manière plutôt que de telle autre. C’est ce que j’ai appelé le « tournant injonctif de la technologie ». Qui a deux fins principales : d’abord introduire une marchandisation intégrale de la vie, avec des systèmes qui interprètent nos comportements et nous suggèrent produits et services supposés adaptés à chacun d’entre nous. Ce qui est à l’œuvre depuis le lancement de l’iPhone en 2007, et l’émergence d’applications en tout genre, comme celles de rencontres. Cela instaure une relation client ininterrompue et hyper personnalisée à l’échelle de la planète, que j’évoquais en 2018 dans L’Intelligence artificielle ou l’Enjeu du siècle.
Et la deuxième visée ?
C’est celle d’entraîner une hyper-rationalisation, une hyper-optimisation visant à évacuer tout défaut de la société. L’homme est pétri de faiblesses, on ne fait que des conneries depuis la nuit des temps, c’est bien connu, on s’engueule, il y a des guerres, rien ne va plus. Mais les technologies numériques et l’intelligence artificielle sont appelées à racheter, à terme, tous nos défauts, dans la mesure où elles suggèrent continuellement les bons gestes à entreprendre.
C’est l’homme qui devient machine et la machine qui devient homme ? Comment est-on passé des Robots de Kraftwerk (« We are programmed just to do anything you want us to ») à HAL 9000 dans le 2001 de Kubrick ?
Regardez ce qui est à l’œuvre dans les entrepôts Amazon, dont personne ne parle.
À quoi a-t-on affaire ?
Un management infernal, qui voit des manufacturiers équipés de capteurs, en général sur les smartphones ou des bracelets, et des systèmes qui expertisent en temps réel leur localisation et leur envoient des signaux afin d’aller rechercher tel produit dans telle armoire pour les déposer à telle vitesse dans telle palette. Réduisant des humains à des robots de chair et de sang, introduisant des modalités de management qui bafouent l’intégrité et la dignité humaines, avant que ces mêmes manufacturiers ne soient remplacés par des systèmes dotés de qualités kinesthésistes. Avez-vous entendu un législateur dire que cela est inacceptable ? Jamais. Et le 30 novembre 2022, la planète a été prise de court, par la mise en ligne publique de ChatGPT.
« IL EST DÉVOLU À L’I.A. D’ASSURER DES TÂCHES QUI NOUS DÉFINISSENT EN PROPRE. »
Que signifie l’arrivée de ChatGPT ?
On avait jusqu’ici affaire à la dimension cognitive et organisationnelle de l’IA. Depuis l’apparition de l’IA générative, nous vivons ce que j’appelle le « tournant intellectuel et créatif de l’IA ». Ça, c’est d’une gravité extrême. Dorénavant, il est dévolu à l’IA d’assurer des tâches qui nous définissent en propre. À vrai dire, je n’ai pas dormi la nuit du 30 novembre au 1er décembre 2022.
Pourquoi ?
Parce que, comme dit Bardamu dans Voyage au bout de la nuit : « Je l’ai vue venir, moi, la catastrophe ». À l’instant même, j’ai saisi que le fait que les machines s’emparent de nos facultés les plus fondamentales, tout en étant parées d’une aura d’omniscience, constituait un événement comme il y en a peu dans l’histoire. J’ai observé des foules dire : « Ah, c’est hyper cool, le chat de GPT, c’est génial, mais, il y a encore des défauts, il faudrait encore davantage de développements pour que ça s’apparente à un langage humain. » Or, il s’agit d’un anti-langage, ce que j’appelle le thanatologos. L’utilitarisme qui est à l’œuvre dans nos sociétés depuis 150 ans, est à ce point devenu la règle qu’il a fini par infiltrer nos cerveaux, devenus très malades de cette utilitarisme. Car les personnes ont sauté sur ces technologies, du fait de leur côté pratique, mais en ne se souciant nullement des conséquences civilisationnelles induites. Et cela représente une grave faute collective.
Cela me fait penser à cette nouvelle de J.G. Ballard en 1978, Des vacances formidables, où les chômeurs sont condamnés aux loisirs forcés. Les plus ardents défenseurs de l’IA générative sont pourtant les premiers dont elle va détruire le travail, les bullshit jobs décrits par David Graeber, et ceux basés sur le marketing ou les statistiques…
Y compris dans le journalisme ou l’éducation, il y en a qui trouvent ça génial, toujours soumis au dogme de l’adaptabilité, en disant qu’il y a eu Wikipédia, alors que ça n’a aucun rapport.
À propos d’utilitarisme, quand l’IA générative est arrivée, il est assez ironique que les premiers prompts cherchaient à engendrer des poèmes ou des scripts de films, et non à faire des recherches scientifiques. C’est assez révélateur, cette guerre d’ego qu’on avait avec l’IA…
Oui, et avec un langage de la mort, nécrosé. Vu que ces systèmes sont conçus pour moissonner la totalité des corpus numérisés existants et les soumettre à des analyses statistiques et des schémas logiques fondés sur la corrélation probabiliste. C’est-à-dire, à déterminer la probabilité pour un mot, au vu de toutes les statistiques passées, d’être suivi par tel autre, le plus fréquemment utilisé. En cela, nous avons davantage affaire à du reproductif qu’à du génératif. Vu que, a lieu ce qui a déjà eu lieu. Voyez-vous la dévitalisation du langage qui est à l’œuvre ?
Vous opposez pensée parfaite et pensée singulière. Ce que fait aujourd’hui l’IA générative, c’est ce qu’ont fait pendant des générations les conservatoires avec les classes d’analyse et de composition. Or, il ne suffit pas de décortiquer les cadences et les marches harmoniques pour faire une musique intéressante. Penser que le problème, c’est la page blanche, c’est méconnaitre les processus créatifs, le plus difficile ce n’est pas la technique, c’est le reste…
C’est un langage de la conformité, qui estime que s’il y a A, il y a B, donc il y aura C. C’est à l’opposé absolu de la façon dont nous jouons avec le langage humain, qui n’est pas fondé sur le principe de la probabilité, mais sur une dimension indéterministe. Nous ne faisons que procéder d’associations d’idées absolument uniques et ces idées s’adossent sur des mots, des termes, que nous associons dans une relation active au legs commun (la grammaire, les langues…). Nous ne cessons de créer de l’inédit. Or, ce thanatologos, si nous n’y prenons garde, va devenir majoritaire dans notre environnement informationnel. En outre, les moteurs de recherche de Google et Microsoft, fondés sur les IA Gemini ou Bing, nous répondent et nous parlent, en fonction de notre profil, avec des mots qui nous correspondent, de façon à nous faire engager des transactions marchandes. C’est ce que j’appelle le « capitalisme linguistique », qui institue une « gouvernementabilité » par le verbe. Ce n’est pas seulement un langage nécrosé, c’est un langage qui va nous dire comment agir en trouvant exactement les arguments, et le bon ton, pour nous convaincre !
Le marketing politique a ouvert la voie. C’est ce qu’a toujours pratiqué avec talent un Emmanuel Macron, dire à chaque interlocuteur ce que celui-ci veut entendre, en parsemant son discours de samples et de citations. Qu’en est-il de l’image ?
C’est la deuxième dimension avec les IA génératives. On se souvient au printemps 2023, des images du pape en doudoune, de Macron dans une manifestation. L’industrie numérique a mis entre les mains de tous des dispositifs qui, sur un simple prompt, nous permettent de générer des images qui répondent à nos souhaits, ou à nos rancœurs.
Qu’est-ce que cela induit et pourquoi est-ce grave ?
Nous allons entrer dans un régime de l’indistinction généralisée. D’ici un ou deux ans, on ne saura plus ni quelles sont l’origine ni la nature d’une image. Et cela est grave parce que la société, ce ne sont pas que des principes communs, ou ce qu’il en reste, ce sont aussi des référents communs. Faute de quoi, on ne se comprend pas. Si, quand vous dites « tasse », vous comprenez une chose et moi une autre, alors prévaut la surdité entre les différentes composantes du corps social. Et c’est le début de la violence. Que disait Bruno Le Maire, à l’époque ministre de l’Économie et des Finances, en mai 2023 ? « Alors, il y a des corpus de fonds d’images qui s’inquiètent, parce qu’ils sont pillés par les systèmes OpenAI, etc. Qu’ils ne s’inquiètent pas, on va créer des textes législatifs qui vont rémunérer les ayants-droit. » C’est-à-dire qu’au lieu de voir la gravité de ce qui se joue, on va entériner le fait que ces systèmes moissonnent des fonds d’images, en offrant aux ayants-droits quelques liasses de billets. Or cette compromission, à terme, risque de coûter très cher aux artistes, mais aussi à la société toute entière.
Il y a à cet égard une guerre souterraine qu’on ne mesure pas : même s’ils s’en défendent, les dirigeants de certains organismes de gestion collective des droits des auteurs et des artistes sont prêts à sacrifier ces derniers et à signer des accords de licence légale, assurant pour leurs administrations des revenus supplémentaires dont leurs sociétaires, qu’ils soient consentants ou non, ne percevront que des miettes sous forme d’aides sélectives, sans aucune granularité.
Que disent les membres ? Ils ne réagissent pas ?
Ils sont maintenus dans l’ignorance. On leur fait croire qu’avec l’option de retrait (l’« Opt-out » ), ils pourront choisir si leurs œuvres peuvent être ingérées. Que va induire l’hyper-personnalisation des propositions ?
Un sentiment de toute puissance. En 2020, je l’avais analysé dans mon livre, L’Ére de l’individu tyran, soit le fait qu’on se figure dorénavant en droit de tout avoir, le monde devant s’aligner à nos vues. À cet égard, chacun va bientôt prompter les musiques, romans, séries tous personnalisés. Soit le nouveau monde de la culture de soi. Et l’altérité qui fonde le propre de la culture en sera dorénavant exclue. Voit-on le sombre isolement collectif qui vient ? Comment ne pas saisir, dans cette prise en charge par des systèmes ce qui nous caractérise – produire du langage, fabriquer des symboles – de façon extrêmement sophistiquée, d’apparence ludique, en générant d’énormes profits, la tempête à venir sur le monde de la culture ? On entend dire qu’il faut suivre les évolutions de la société, mais les IA génératives ne représentent en aucune manière une évolution. C’est un projet industriel que les géants de la tech imposent de façon unilatérale.
Mais est-il surprenant qu’ici des gens qui se sont trompés sur tout, qui ont saccagé le nucléaire, EDF, Renault, Alstom, qui ont fait tous les mauvais choix industriels et économiques depuis quinze ans, se trompent également sur l’IA ? C’est presque rassurant…
Ce que vous dites est d’autant plus pertinent qu’au vu de certains échecs passés, l’IA apparaît maintenant comme le grand et lumineux horizon industriel. C’est exactement ce qui sera raconté au sommet de Paris (le sommet sur l’IA a eu lieu au Grand Palais à Paris, du 10 au 11 février, ndlr). C’est ce que j’appelle le fondamentalisme de l’IA. À savoir, l’idée incontestable que ces développements représentent la source de jouvence du capitalisme contemporain. Certes, disent-ils, nous allons connaître quelques turbulences en cours de route, mais la régulation va nous prémunir des pires dérives. C’est toujours la même rengaine.
Est-il encore possible de faire machine arrière face à l’IA générative ? Vous estimez que cette régulation est un leurre, mais n’est-ce pas tout ce qu’il reste à l’Europe ?
La régulation est fondée sur une équation erronée : les prétendus risques et avantages. Or, voilà des critères à la fois relatifs et fonctionnalistes. La seule équation qui vaille est celle-ci : a-t-on la main ou on n’a-t-on pas la main ? Si on a la main, ça peut éventuellement être acceptable, si on n’a pas la main, c’est inacceptable. Un exemple : dans l’industrie pharmaceutique, des systèmes d’IA permettent d’analyser les effets secondaires de molécules sur des types particuliers de profils, et permettent d’affiner leur élaboration. On a la main ou on n’a pas la main ? On l’a. Dans l’aéronautique, des systèmes d’IA permettent, avec quantité d’analyses de données, d’affiner le design aérodynamique. On a la main. Dans les entrepôts Amazon, a-t-on la main ou ne l’a-t-on pas ? On ne l’a pas. Alors, de telles pratiques devraient tout simplement être proscrites.
La plupart des personnes qui traitent de ces sujets n’en ont généralement qu’une connaissance théorique…
On est persuadé que le régulateur est porteur d’une sorte de conscience pure et virginale. Quelle illusion ! On sait bien que très souvent, il y connaît si peu, et a les étoiles pleins les yeux pour ladite « innovation numérique ». Je l’ai éprouvé lors de réunions avec des politiques, dont les dossiers sont préparés par des techniciens, soumis à l’influence d’un puissant lobbying, aussi bien à Paris qu’à Bruxelles et Washington.
On a souvent tendance à invoquer l’exception culturelle, le droit d’auteur ou la propriété intellectuelle, mais c’est le droit de propriété qui est en jeu. Or, les partisans de la transfusion de données, de la gratuité ou de la licence légale avec dédommagement forfaitaire, appliquent rarement leurs idées à eux-mêmes et à leur patrimoine. Comment pourront-ils empêcher qu’on s’approprie symétriquement leurs immeubles, leurs tableaux ou leurs collections de chaussures pointues ?
Effectivement. Votre Basquiat qui vaut 17 millions, je vous l’achète 40 euros…
La France s’attache à présenter l’IA sous un jour très positif, à la manière d’une « messe propagandiste » comme vous le dites vous-même. Elle le fait avec l’espoir de devenir la terre d’accueil en Europe des investissements « tech ». Est-ce que notre pays est en train de se muer en république bananière numérique, à la main des GAFAM ?
Bananière, je ne sais pas. En tout cas, il y a la volonté, qui relève d’un piètre suivisme, d’être au centre du jeu… Dès 2017, Emmanuel Macron avait déclaré « je vais faire de la France un hub de l’IA ».
Il y a deux ans, il voulait faire un métaverse souverain, heureusement que le ridicule ne tue pas.
Il a aussi soutenu la création d’un « champion national », Mistral AI. Dans la grande compétition industrielle de l’époque centrée sur l’intelligence artificielle, on investit 300 millions, mais dans le déni coupable des incidences civilisationnelles. Également sociales, parce que sur le sujet du travail, on est dans un aveuglement total. Ce qui caractérise la plupart des métiers de service, c’est qu’ils mobilisent précisément nos facultés intellectuelles et créatives. Voit-on l’ouragan qui va bientôt s’abattre sur tant de métiers à haute compétence cognitive ?
Comment l’expliquez-vous ?
Parce qu’on continue de croire à la validité du concept de « destruction créatrice » de Schumpeter, qui voulait que les développements technologiques induisent des destructions d’emplois pour être ensuite transférés vers des emplois nouvellement créés. C’est ce qui s’est passé au moment de la robotisation, notamment de l’industrie automobile au tournant des années 1980, où les travailleurs disparaissent des chaînes de montage, pour partir à la retraite ou vers des emplois de service. On pouvait dire que c’était pour la bonne cause, parce que c’étaient des emplois souvent à haute pénibilité. Aujourd’hui, c’est la fin du dogme schumpétérien. La destruction touche les avocats, les professeurs, les métiers d’assurance, de la banque, les architectes, les doubleurs. On est très loin de la « complémentarité homme-machine » ou de « la montée en compétence » – celui qui a inventé ce terme mériterait le prix Nobel de la novlangue ! Allez demander à des traducteurs littéraires s’ils montent en compétence, alors que les éditeurs se mettent depuis peu à leur remettre des saloperies moulinées par des IA génératives, leur demandant de tout reprendre, tout en étant moins rémunérés…
« DÈS QUE L’ON PARLE DU FUTUR, C’EST QUE L’ON A QUELQUE CHOSE À VOUS VENDRE. »
Tous les figurants ne sont pas encore au chômage : Jean-Michel Jarre, après avoir promu la couillonnade du son immersif, rôdera sûrement à Paris comme caution culturelle. Pourquoi ce contre-sommet de l’IA, que vous organisez, est-il nécessaire ?
Depuis six ou sept ans, encore plus depuis l’avènement des IA génératives, ceux qu’on mobilise pour nous parler d’IA sont toujours les mêmes : les ingénieurs et entrepreneurs de l’IA. Alors que ces personnes sont juges et partie. A-t-on idée de demander à des cigarettiers ce qu’ils pensent du tabac ? Lors de la commission sur l’IA commanditée par Emmanuel Macron et Élisabeth Borne en septembre 2023, sur 15 membres, 13 étaient issus de l’industrie du numérique… Cela formate nos représentations, ces personnes nous vantent le monde formidable qui advient, avec des paroles abstraites, un discours ressassé, hors-sol et toujours conjugué au futur. Or dès que l’on parle du futur, c’est que l’on a quelque chose à vous vendre. Ce sera le cas au sommet de l’IA au Grand Palais. Ce temps-là doit être révolu. C’est pour cela que je propose une autre logique, la politique du témoignage. Qu’on nous raconte les conséquences de l’implantation de systèmes d’intelligence artificielle dans l’éducation, le journalisme, la santé, la culture, qu’on nous fasse le récit des réalités vécues au quotidien. Et alors, on verra l’envers du décors et on comprendra mieux ce qui se joue.
Les ravis de la crèche IA répondront que ce sont des préoccupations de gaulois réfractaires, que c’est le vieux monde qui couine pendant qu’ils inventent le futur.
Alors que non, c’est le monde présent. La seconde philosophie de ce contre-sommet, c’est de commencer à envisager des formes de mobilisation par corporations, avec des chartes qui permettent d’affirmer des principes fondamentaux auxquels on tient comme étant des dimensions intangibles, ce qui me paraît autrement pertinent et efficace que la régulation.
Quels sont ces principes fondamentaux ?
Le respect de la liberté, de la dignité, de l’intégrité humaine, la célébration et la préservation de la créativité, de l’inventivité, de la sociabilité. Et celle de la biosphère, puisque ces IA génératives entraînent de gigantesques conséquences énergétiques, tant en termes de conception industrielle que d’exploitation. Est-ce qu’on veut affirmer ces principes, ou est-ce qu’on est prêts à les renier et devenir ce que j’appelle des munichois de l’IA générative ?
Vous prêchez de moins en moins dans le désert…
Dès que j’ai parlé du projet de ce contre-sommet à un ami, Eric Barbier, journaliste très mobilisé sur ces enjeux et membre du Syndicat National des Journalistes, il m’a, et ils m’ont proposé d’apporter leur soutien logistique, qui s’est avéré déterminant, ce dont je les remercie très chaleureusement. Cette idée a révélé une furieuse demande, nous avons reçu énormément de propositions de grande qualité. Il s’agit d’une entreprise foncièrement démocratique, dans le sens où la démocratie c’est l’expression d’une pluralité, de la contradiction. Le sommet du Grand Palais est un événement profondément antidémocratique, car il est imposé et n’est même pas ouvert au public. La France, pays de Beaumarchais, du droit d’auteur, d’Émile Zola, entend désormais infliger une vision du monde fondée sur la marchandisation intégrale de la vie, une vision réductionniste qui va nous conduire au désert de nous-mêmes. Nous avons besoin d’autres visions du monde qui tiennent à préserver les parts fondamentales de nous-mêmes, aussi bien dans le travail que dans nos facultés créatives. Mon Dieu, que nous y tenons !
Éric Sadin publiera cet automne, Le Désert de nous-mêmes. Le tournant intellectuel et créatif de l’intelligence artificielle (L’Échappée).
Entretien Bertrand Burgalat
