L’intégralité du numéro de Gresea Échos, Décoder l’IA, reprendre le contrôle, est retrouvable ici.
Dans votre texte sur le Sommet de l’IA, vous affirmez ne pas lutter « contre l’IA » en bloc, considérant cette posture comme « privilégiée, occidentalo-centrée, souvent masculiniste et validiste ». Pouvez-vous expliciter cette position ? En quoi une critique indifférenciée de l’IA risque-t-elle d’occulter certains enjeux ou d’exclure certaines populations du débat ?
Depuis une posture militante, il y a de toute évidence un avantage à s’ériger « contre l’intelligence artificielle » – ce qui, dans la période actuelle, désigne plutôt l’IA générative et les agents conversationnels. C’est un slogan séduisant. À la limite, sous certaines conditions, nous pourrions être d’accord : l’IA pollue, l’IA détruit ou déplace le travail (rarement dans le bon sens), l’IA reconduit des rapports de domination Nord-Sud, etc. L’IA est le dernier avatar du capitalisme technologique et à ce titre, la critique doit être radicale.
Cependant, par-delà la posture, il y a plusieurs écueils dans une telle formulation. D’abord, et ce n’est pas anecdotique, on ne sait pas exactement de quoi on parle. C’est le problème avec les totalisations (« LA » technologie, « l’IA », etc.). Elles tendent à réifier l’objet de la critique.
Or, ce n’est pas « l’IA » qui surveille, qui déplace le travail, ce sont des rapports de domination inhérents au capitalisme, que l’IA cristallise et renforce. On le voit quand on parle de suppressions massives d’emploi dans le tertiaire : oui, il y en a, mais l’IA sert aussi de prétexte.
Ensuite, elles empêchent de distinguer une technologie de l’autre. Tout ne se vaut pas en matière d’IA. On ne peut pas mettre sur le même plan un algorithme d’appariement, un filtre anti-spam et un grand modèle de langage.
Enfin, être contre l’IA est une position confortable mais peu opérante. L’IA recouvre un système socio-technique et repose en ce sens sur des chaînes d’approvisionnement, des marchés publics, des besoins (réels ou artificiels), des promesses locales (retombées fiscales pour les centres de données), des emplois, etc. Le refus abstrait peut susciter des alliances sur le terrain (par exemple : bloquer un projet de centre de données), mais offre dans le détail, peu de prises concrètes et peut même devenir une manière de parler à la place des premier·es concerné·es. Dans plusieurs pays du Sud, des collectifs revendiquent des droits, des salaires et un pouvoir de négociation dans les filières d’annotation et de modération : balayer l’ensemble revient à ignorer ces luttes.
Vous insistez sur le fait que « ce n’est pas ‘l’IA’ qui entrave l’accès au service public et cible (par exemple) les bénéficiaires d’aides sociales » mais des choix politiques antérieurs. Comment articuler cette analyse avec le constat que l’IA, une fois déployée, possède une certaine autonomie et produit des effets propres ? Où placer le curseur entre déterminisme technologique et volonté politique ?
C’est le cœur du problème philosophique. Celui qui distingue plusieurs écoles dans les pensées technocritiques. Depuis une perspective essentialiste, celle d’Ellul, Anders, Heidegger, etc, la technique est en effet autonome, « auto-engendrée » et donc inévitable. De cette pensée découlent deux variables. La première : comme la technique est autonome alors tout contrôle démocratique est exclu. Ce raisonnement ne résiste pas aux travaux empiriques : la technologie ne se déploie pas comme une abstraction, mais via des normes, des choix politiques et industriels, des intérêts de classe. Ensuite, ces raisonnements impliquent que la technologie surdétermine les rapports sociaux humains : pour Ellul par exemple, le capitalisme est juste un décor, il sort de l’Histoire.
Est-ce à dire que la technique ne détermine rien ? Non. Dans quelle mesure détermine-t-elle une conduite ? Cela dépend fortement – et c’est ce que nous enseignent des décennies de sociologie des techniques – des zones et des espaces de négociation pendant lesquels un choix technologique est réalisé, puis parfois, verrouillé. Ces espaces existent. Ils ne sont pas en faveur de la technocritique, certes, mais les possibilités de retour en arrière ou de bifurcations ne sont pas difficiles à imaginer.
Concernant les aides sociales : attaquer le sujet par l’IA offre une prise, mais ce n’est que le petit bout de la lorgnette. Ces systèmes font suite à quatre décennies de néolibéralisme et de pensée gestionnaire. En l’occurrence, le problème est moins « l’IA » que la représentation qu’une société se fait des plus pauvres : des profiteur·euses à contrôler, et accessoirement une force de travail à mobiliser.
Votre approche met l’accent sur l’intersectionnalité des enjeux technologiques. Quelles sont les dimensions de classe, de genre, de race, de validisme ou encore néocoloniales de l’IA qui restent les plus invisibilisées dans le débat public français et européen ? Pouvez-vous donner des exemples concrets où ces dimensions s’entrecroisent ?
Depuis plusieurs années, Le Mouton Numérique observe les questions intersectionnelles. Notre réflexion ne se limite pas ici à l’IA, mais concerne la technologie en général. Si l’on s’arrête aux récits des industriels, ce qui est invisibilisé, c’est d’abord le travail, notamment des femmes pour l’annotation, et l’extractivisme dans les pays du Sud. Cela commence par les mots comme IA ou cloud, autant de métaphores qui passent sous silence ses conditions de production. La vulgate du « remplacement » des emplois par l’IA invisibilise quant à elle la réalité des rapports de production, et salariaux, au sein des entreprises.
Si les données peuvent contribuer à mettre en lumière certaines problématiques, cette exposition peut aussi, dans certains contextes politiques, faire courir un danger aux populations concernées. Sous le gouvernement Trump, cette réalité est devenue particulièrement évidente. En effet, des données concernant l’identité de genre ont été utilisées de manière discriminatoire pour retirer des droits aux personnes transgenres et non-binaires comme l’accès à une partie de la couverture sociale. Lorsque les informations personnelles sont collectées par des institutions qui adoptent des politiques répressives, cela peut exposer les populations vulnérables à des formes d’exclusion, de persécution, voire de violence institutionnalisée.
Autre exemple, l’absence de données sur certains groupes sociaux n’est pas un oubli innocent, mais bien un acte politique qui renforce et perpétue les inégalités existantes. Dans des sociétés où les politiques publiques et les avancées technologiques s’appuient de plus en plus sur les données, ne pas être représenté signifie ne pas exister. Cela conduit à l’invisibilisation institutionnalisée de ces groupes, à l’ignorance de leurs besoins spécifiques et à la marginalisation de leurs expériences.
Mais cela n’a rien de nouveau. Quand on critique la technologie (dont l’IA), on ne peut pas faire l’économie des usages et de la manière dont ceux-ci sont distribués. Qu’on le veuille ou non, de nombreuses technologies sont utiles – et parfois vitales – précisément parce que nos sociétés restent profondément inégalitaires. C’est ce qui rend l’angle antivalidiste si peu audible dans le débat public : on discute trop peu des situations où les technologies servent de béquille faute d’un environnement accessible.
À ce titre, l’intersectionnalité est aussi une méthode pour comprendre les effets de dépendance qui se jouent dans les chaînes sociotechniques : qui a des alternatives ? Qui pourrait subir une coupure d’un service ou une panne ? Qui peut, par exemple, réellement se passer d’un smartphone, quand celui-ci est la seule option permettant d’accéder à un service public ? Il y a là, certes, une pente relativiste. Mais elle en dit long sur la part de critique bourgeoise qui traverse une partie du débat public. Une technocritique qui ne mesure pas ces dépendances finit par moraliser les usages des personnes dominées, tout en laissant intacte la structure qui les contraint.
Vous appelez à « construire un front de lutte européen incluant un large spectre d’associations de terrain, de syndicats et de mouvements sociaux ». Concrètement, quelles formes d’action et d’organisation collective vous semblent les plus pertinentes pour contester le déploiement actuel de l’IA ? Quels sont les points de blocage, les leviers d’action, les alliances à construire ?
Il n’existe pas de solution militante unique et miraculeuse. C’est une stratégie de tenaille qui consiste plutôt à multiplier les prises. De plus, il semble vain de lutter depuis une position de surplomb qui ne tient pas compte des dépendances et du monde du travail.
Les luttes « contre » la technologie se sont historiquement structurées depuis des fronts multiples, et parfois en contradiction les uns avec les autres. Les luddites luttaient pour leurs conditions de travail. Les défenseurs des libertés sur internet pour une certaine conception du débat public (parfois de concert avec les « Big Tech »). Les écologistes pour la préservation et la justice environnementale, et ainsi de suite. Il paraît aujourd’hui utile d’articuler ces luttes.
Sur le terrain juridique, des associations comme La Quadrature du net, EDRi (European Digital Rights) ou AlgorithmWatch ont déjà permis de mettre certaines entreprises face à leurs responsabilités. Parfois, avec le concours d’usager·es, comme on l’a vu dans le cas des luttes contre l’algorithme de la CNAF. Dans le domaine du travail, les années récentes ont vu émerger des alliances entre les travailleuses et travailleurs de la tech et les petites mains de l’IA, avec d’autres ubérisé·es. Bien que balbutiants et rares, ces mouvements sont fertiles.
Qu’est-ce qui bloque ? Déjà, il faut accepter que la solution ne sera pas immédiate, que la route sera longue. Dans ces conditions historiques difficiles et face à des adversaires puissants, chacun·e fait ce qu’il peut. Par ailleurs, le monde syndical est encore largement hypnotisé par l’IA et gagnerait à se radicaliser. Enfin, la critique des technologies ne peut pas faire l’économie d’une pensée plus large, ancrée dans la gauche sociale et progressiste, qui entretient encore des relations ambivalentes au progrès technologique.
Le Mouton Numérique s’est engagé dans des luttes concrètes contre, en France, l’algorithme de notation de la CAF, contre la vidéosurveillance algorithmique, etc. Que nous apprennent ces batailles de terrain sur les stratégies à développer ? Quels enseignements tirez-vous de ces expériences pour penser l’opposition au déploiement de l’IA dans les services publics ?
Les enseignements sont doubles. En premier lieu, on l’a dit, les actions sur la CAF ont permis de tisser des alliances indispensables sur le long terme, tout en donnant à voir les fameux “dangers de l’IA” de façon bien plus palpable et concrète que les dystopies lointaines et étranges des films et séries de science-fiction.
En second lieu toutefois, il faut aussi tirer de ces expériences une importante auto-critique. La mobilisation contre les algorithmes de sélection de Parcoursup a pris une ampleur disproportionnée au regard du sujet qui aurait dû occuper la quasi-totalité de l’espace médiatique à ce sujet : l’entrée à l’université n’était soudainement plus un droit ouvert à toutes et tous mais devenait sélective. L’algorithme n’est qu’une façon comme une autre d’opérer cette sélection, qui est d’ailleurs encore largement réalisée par des humains sans que les conséquences n’en soient moins graves : tout le monde ne pourra pas étudier à l’université.
Les débats sur la CAF offrent un spectacle similaire : les articles de presse se multiplient sur les algorithmes qui orientent les contrôles réalisés par la CAF contre ses bénéficiaires, mais on peine à trouver des témoignages de personnes victimes de ces contrôles, dont la vie est pourtant rendue impossible par le gel des revenus sur de longues périodes et par l’incertitude du résultat du contrôle. S’y intéresser permettrait de garder au centre du débat l’objectif de ces contrôles, qui n’est pas tant de détecter des fraudes mais de dissuader les potentiels bénéficiaires de la CAF de faire-valoir leurs droits en les exposant à une menace constante. Cet objectif nécessite uniquement de multiplier les contrôles. Peu importe finalement que ces contrôles soient faits au hasard ou sur tels ou tels critères. Peu importe, donc, que ces critères soient appliqués par des personnes ou des programmes. On finit par redouter que, si nos actions en justice contre la CAF devaient conduire à la suppression de ces algorithmes, plus personne ne s’intéresse encore aux victimes des futurs contrôles — tout aussi nombreux et injustes, et décidés seuls par des agents humains de la CAF.
Ces expériences nous rappellent combien la technocritique, telle qu’elle se présente majoritairement dans les pays du Nord, est une discipline bourgeoise. Initialement, les classes privilégiées, dont nous faisons parti, ne se posent pas tant la question de leur exclusion de l’université ou d’un contrôle de la CAF, mais s’intéressent de prime abord aux sujets de leur expertise bourgeoise : sécurité informatique, modèles mathématiques d’appariement, de statistique ou d’apprentissage profond, décrets, lois, règlements européens, etc. Si nous nous intéressons aux impacts sociaux des technologies, en pratique, ce n’est souvent qu’en tant que conséquences des technologies que nous étudions déjà. Cette chronologie peut éloigner de notre champ d’attention des situations plus graves, mais étrangères à nos expertises, situations qui risquent d’être invisibilisées par une presse bourgeoise qui partage nos centres d’intérêt.
La conclusion que nous pourrions en tirer est à débattre : la technocritique est-elle trop facilement captée par des dynamiques abstraites et bourgeoises pour qu’on puisse prendre le risque d’en faire le point de départ d’actions politiques ? La technocritique ne devrait-elle pas se contenter de proposer son soutien à d’autres actions déjà engagées par les personnes qui en bénéficieront matériellement et qui, à ce titre, sont moins susceptibles d’égarer la lutte dans des considérations anecdotiques ?
Vous défendez donc l’idée que « les choix technologiques sont des choix politiques » et plaidez pour une démocratie technique. Mais concrètement, à quoi pourrait ressembler un processus véritablement démocratique de décision sur l’IA ? Qui devrait y participer ? Selon quelles modalités ? Et comment dépasser le simple « consentement éclairé » ou les consultations citoyennes de façade ?
Si l’on s’arrête à la formule « démocratie technique », il s’agit d’un concept de théorie politique appliquée aux sciences et techniques. L’idée est simple : les choix technologiques doivent, dès la conception, être discutés démocratiquement — par les citoyen·nes et les collectifs concernés — plutôt que d’être laissés aux seul·es ingénieur·es ou industriel·les. Le projet retrouve un acquis majeur de la technocritique : la technique est politique, elle n’est pas neutre. Mais il se tient à distance d’un déterminisme forcené, qui interdit de penser des marges de manœuvre et des prises sur les trajectoires.
Il existe des cas séminaux de « démocratie technique », sous des formes diverses : incursions citoyennes dans la science (le combat d’Act Up auprès des laboratoires), mobilisations des personnes handicapées pour l’accessibilité et le design universel, luttes syndicales qui interrogent la forme des technologies, et, côté institutions, dispositifs d’évaluation et de délibération construits au fil des controverses sociotechniques. La démocratie technique est multi-échelle, parce que les technologies le sont aussi.
Dans la période actuelle, il est tentant de jeter cet ensemble au feu : “ça ne marche pas”, “les industries numériques sont trop puissantes”, etc. On peut grossièrement en convenir. On le voit dans le cas des centres de données : les concertations locales sont clairement du théâtre, jamais reliées aux enjeux nationaux ni même aux centres décisionnaires. Mais c’est précisément pour cela que la « démocratie technique » n’est pas un supplément d’âme procédural : elle interroge la démocratie tout court, sa capacité à se saisir des infrastructures, des priorités de recherche.
Vous vous ralliez à la proposition de Cécilia Rikap et Cédric Durand d’une souveraineté numérique « non alignée ». Quelles seraient les conditions politiques, économiques et sociales pour qu’une telle souveraineté serve effectivement l’intérêt général plutôt que de nouvelles formes de domination ?
Oui, nous avons trouvé cette proposition intéressante ! Il faut dire que les propositions concrètes et ambitieuses ne sont pas légion. Les autrices et auteurs proposent une reprise en main du numérique aux géants de la Tech, par des puissances publiques activement engagées pour mettre ces technologies au service des citoyen·nes. Ces puissances publiques seraient réunies dans une Internationale écologique non-alignée avec les US et la Chine.
Si l’on veut que l’État mette les technologies au service de toutes et tous, il faudrait déjà que la gauche s’empare du pouvoir, et ce n’est pas une mince affaire… Soit dit en passant, si nous souhaitons effectivement qu’une gauche de rupture s’empare des institutions, notre rôle est aussi de l’aider à aiguiser ses réflexions sur les technologies (on pense à l’enthousiasme sans doute un peu excessif de Jean-Luc Mélenchon quant au partenariat entre Mistral AI, dépendante des infrastructures des géants US, et l’armée française).
Pour répondre plus précisément, on ne peut décemment décréter du jour au lendemain une souveraineté numérique. C’est un vieux serpent de mer auquel nombre de chercheur·es et de politiques ont tenté de répondre sans grand succès pour l’instant. Et pour cause, elle est un objet politique aux contours mal définis. Qu’appelle-t-on souveraineté numérique ? Imposer plus de régulations aux plateformes actuelles ? En faire des services publics comme certain.es chercheur.es ont tenté de le définir pour Facebook, il y a quelques années ? S’écarter de ces modèles en adoptant les alternatives open sources tel que le Fediverse ? Ou tout recréer ex nihilo en créant les conditions politiques et financières démocratiques pour y arriver ?
Comment finance-t-on les programmes de recherche mais aussi des infrastructures ? Comment finance-t-on la modération ou encore la maintenance du réseau ? Comment taxer plus fortement les GAFAM alors que nous sommes dans le collimateur de Trump avec le RGPD et le DSA (cf la nouvelle doctrine de la sécurité américaine publiée début 2025) ? Voilà la liste des difficiles questions sur notre chemin.
Vous avez récemment pris position contre la technocritique d’Anti-Tech Resistance, que vous qualifiez de « réactionnaire ». Comment vous situez-vous par rapport aux différents courants technocritiques actuels (néoluddisme, décroissance technologique, collapsologie, etc.) ? Qu’est-ce qui distingue fondamentalement votre approche ?
La place du Mouton Numérique dans le courant technocritique est l’objet central d’une réflexion – toujours ouverte ! – depuis bientôt dix ans. L’un des points de départ de cette réflexion, c’est la visibilité toujours plus importante des technocritiques réactionnaires, qui se sont fait jour au moment du COVID ou encore sur la question transgenre. La Tribune collective « Ni de droite, ni de gauche, mais bien réac – Pourquoi la technocritique d’AntiTech Résistance n’est pas la nôtre », était une façon de lever les ambiguïtés sur qui étaient nos adversaires, au sein de ce que l’on pourrait définir comme le champ de la technocritique. Ce travail avec d’autres militant·es et organisations, nous a aussi permis d’échanger avec des personnes d’horizons très divers et d’affiner nos positions : nous nous sommes beaucoup enrichi·es des personnes rencontrées dans ce cadre.
Plus généralement, on ne peut pas dire que le Mouton Numérique s’inscrive dans le mouvement qui se dit “anti-industriel”, même si une partie de ses membres a pu être influencée par cette pensée. La différence que nous avons avec ce mouvement est que nous ne voyons pas la technologie comme un tout autonome, ni comme justifiant d’invisibiliser d’autres systèmes de domination. De fait, ce mouvement a été, et est toujours, un terreau réactionnaire qui justifie notre mise à distance. (Voir Le naufrage réactionnaire du mouvement anti-industriel · Histoire de dix ans).
Il y a en fait une grande diversité d’opinions et de courants au sein du Mouton Numérique, mais nous nous rejoignons autour de l’idée que les questions technologiques sont avant tout politiques. Une autre façon de le dire est que le Mouton est avant tout un collectif de réflexion anti-fasciste, féministe, écologiste, anticapitaliste, queer, antiraciste, antivalidiste etc pour qui les technologies – et pour ce qui nous concerne plus particulièrement, le numérique – occupent une place centrale dans les rapports sociaux et les rapports de pouvoir. La critique de la neutralité des technologies et du progrès (l’idée que progrès technique et progrès social sont liés) comme voiles idéologiques, la critique de l’économie politique du numérique, de son usage à des fins de gestion des populations, ou encore celle de “l’efficacité”, nous rattachent au courant technocritique. C’est une critique qui se veut ancrée dans l’expérience que font les individus et les groupes sociaux du numérique tel qu’il est déployé aujourd’hui, de façon concrète et toujours située.
Nous soutenons une décroissance numérique qui ne se limite pas à une réduction en termes matériels ou d’usages mais s’étend à la réorganisation des rapports de force et des dépendances technologiques inéluctables (voir Q7). Nous défendons un numérique ancré dans une dynamique décoloniale et anti-impérialiste (ce que d’autres que nous, comme Génération Lumière et Tribe-X font très bien), nous sommes proches de collectifs et d’initiatives queer et cyberféministes aussi, et nous suivons les initiatives portées par les usager.es précaires touché.es par la numérisation des services publics comme Changer de Cap. L’avenir de la technocritique, finalement, n’est peut-être pas aux mains de collectifs qui se définissent eux-mêmes comme technocritiques !
Alternatives concrètes : au-delà du refus. Votre raison d’être indique que vous souhaitez « mettre en avant des alternatives et des voies positives de transformation ». Au-delà de la critique, quelles alternatives concrètes à l’IA dominante (IA générative des GAFAM, IA de surveillance d’État) vous semblent souhaitables et réalistes ? Existe-t-il des exemples d’usages émancipateurs ou démocratiques de l’IA qui mériteraient d’être soutenus et élargis ?
La véritable question centrale est celle du besoin et non de l’usage. Avons-nous besoin de l’IA ? Avons-nous besoin d’exploiter des terres rares, besoin de créer de nouveaux rapports de domination de type colonialistes, masculinistes ou sexistes ? Besoin d’implanter des data centers au risque de mettre en péril les nappes phréatiques ? Pourquoi devrions-nous nécessairement proposer des alternatives à des technologies comme l’IA ? Quand nous parlons d’alternatives, nous pensons depuis des situations et des besoins concrets, et les alternatives émancipatrices auxquelles nous pensons sont rarement technologiques elles-mêmes.
Nous ne savons pas ce qu’est une IA émancipatrice et démocratique parce que les modèles dominants utilisés ne le sont pas. Il est donc difficile de répondre à cette question pour l’instant.
Cette absence de réponse immédiate ne doit pas nous désarmer, mais nous inspire au contraire un rappel important sur ce qu’est la technocritique : l’IA, comme n’importe quel système technique, n’est qu’une modalité parmi d’autres qu’ont les personnes humaines d’ajuster et d’exercer leurs rapports de pouvoir les unes sur les autres. Tant que nos structures de pouvoir actuelles se perpétueront, de nouvelles structures techniques (IA et autres) apparaîtront et s’imposeront pour les maintenir. Réciproquement, la mise à mal de ces structures de pouvoir pourrait faire apparaître les structures techniques vertueuses que nous avons nécessairement du mal à voir aujourd’hui. Si la technocritique peut offrir certains outils pour examiner ces évolutions, elle ne peut s’y substituer : il ne s’agit jamais de problèmes techniques mais toujours de problèmes politiques. Sur le long terme, ce sont les luttes décoloniales, féministes, queer, anti-validatistes et anticapitalistes qui nous dirons ce que sont les “alternatives émancipatrices à l’IA dominante”.
Dans votre texte sur le Sommet, vous reliez l’IA à la destruction des syndicats ou au sous-effectif des CAF, etc. Comment construire concrètement cette convergence entre lutte technocritique et autres luttes sociales, écologiques et antiracistes ? Quels sont les ponts à établir pour que « l’IA comme lutte sociale » ne reste pas un slogan mais devienne une réalité organisationnelle ?
De notre côté, cela se traduit par le fait de se positionner en soutien des luttes sociales. Plutôt que d’incarner la lutte technocritique de manière isolée, nous cherchons plutôt à la consolider et à l’ancrer dans des mouvements déjà existants (syndicalistes, féministes, anti-racistes, queers, écologistes, anti-validistes, etc). Car ce sont eux qui, historiquement, portent les luttes contre les violences sociales et environnementales que les politiques technologiques viennent aggraver, et qui subissent de plein fouet leurs conséquences.
À ce sujet, notre cycle de conférences « Dématérialiser pour mieux régner. L’action sociale face à l’injonction numérique » (2022-2023) s’inscrit dans la dynamique inter-professionnelle menée par Changer de Cap. Alerté par certain.es de ses membres sur des atteintes aux droits produites par l’utilisation abusive d’algorithmes par les CAF, le collectif a lancé plusieurs actions. Le Mouton Numérique et la Quadrature du Net ont été sollicités pour apporter une expertise « numérique » auprès des acteurs de terrain (syndicats, professionnelles de l’action sociale, associations de soutien aux plus précaires, etc.).
Cette convergence passe par le dialogue et les alliances avec d’autres organisations « non-numériques » sur des enjeux spécifiques. Comme nous l’avons fait dans le cadre de l’attaque contre l’algorithme de la CAF en octobre 2024 avec une quinzaine de collectifs. Cela passe aussi par un travail régulier de collaboration et mise en lien dans l’écosystème militant. Au printemps 2025, nous avons par exemple organisé une journée interassociative réunissant une quinzaine d’associations issues de divers horizons de luttes (Féministes contre le cyberharcèlement, les Dévalideuses, Designers Éthiques, etc) pour travailler ensemble aux enjeux technologiques.
Enfin, cela passe aussi par le fait « désingéniériser » les technologies, c’est-à-dire en ouvrant le débat à partir du vécu des gens et en faisant du numérique un débat social. Les expériences numériques concernent tout le monde, et ne nécessitent pas d’être un.e expert.e numérique ou une association technocritique pour exiger des dispositifs sains, transparents, non écocidaires et qui ne nuisent pas aux droits les plus fondamentaux.
Dans ce numéro du Gresea Echos, d’un côté, Hugues Bersini, professeur d’IA à l’ULB, défend l’IA pour le bien commun. De l’autre, Maxime Fournes, président de Pause IA, exige un moratoire sur l’entraînement de systèmes d’IA au-delà de GPT-4 pour prévenir une catastrophe mondiale. Que pensez-vous de ces positionnements ?
Nous ne connaissons pas les travaux d’Hugues Bersini. Pour répondre de façon générale, il faut se méfier des discours autour de l’idée de mettre l’IA, ou toute autre technologie, « au service du bien commun ». Déjà, parce que tout le monde se revendique du « bien commun » : qui est légitime à définir ce qui relève du « bien commun » ? Lorsque les TICs (Technologies de l’Information et de la Communication) dans les années 2000, puis les données, le numérique, ont été pointées du doigt pour leurs impacts environnementaux ou sociaux, les grandes entreprises – on peut retrouver les déclarations de Google, OpenAI, IBM et consorts – ont tenté de mettre fin au « techlash » en mettant en avant le potentiel de ces technologies pour la transition écologique ou pour résoudre divers problèmes sociaux. L’IA au service du bien commun ou de la transition écologique s’inscrit dans cette droite lignée. En tant que discours, avancer qu’on peut mettre l’IA « au service du bien commun », c’est une façon pour les entreprises qui tirent un grand pouvoir et profit de ces technologies d’intégrer les critiques qui leur sont faites à moindre frais, tout en poursuivant le développement normal de leurs activités (fascistes et destructrices).
Alors bien sûr qu’on peut trouver des usages positifs de l’IA – et cela n’aurait pas vraiment de sens de s’y opposer – mais s’en contenter ne peut pas être une fin ou un projet en soi, dans l’économie politique du numérique telle qu’elle est aujourd’hui.
Le discours de Pause IA est techniquement problématique. Il est volontiers alarmiste et met en avant des risques “d’échappement” des programmes et de perte de contrôle humain. Cela fait appel aux imaginaires proposés par Neuromancien Terminator, HAL de 2001 voire Matrix. Le risque d’autonomisation de ces programmes est à nos yeux grandement exagéré, voire tout à fait imaginaire. Il s’agit essentiellement de fantasmes catastrophistes ou de projections personnelles. Il est possible et nécessaire de critiquer les systèmes génératifs actuels sans reprendre cette rhétorique alarmiste, qui entérine au passage le mythe de l’IA générale porté par ses partisans les plus fanatiques. Ce discours affaiblit le débat et nuit à une réflexion sérieuse et rationnelle sur l’IA.