Benjamin, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. Polity, 2019.
Par Buata Malela
Université de Limoges
Publié en 2019, Race After Technology pourrait sembler appartenir à un moment antérieur à la diffusion massive de l’IA générative, aux débats sur les robots humanoïdes et aux nouveaux régimes juridiques de l’intelligence artificielle. Pourtant, l’ouvrage de Ruha Benjamin conserve une puissance analytique remarquable, précisément parce qu’il ne se limite pas à dénoncer des « biais » techniques. Il propose une grammaire critique permettant de comprendre comment les technologies dites intelligentes reconduisent des hiérarchies raciales, sociales et politiques sous les apparences de l’objectivité, de l’efficacité et du progrès. L’entrée en vigueur de l’AI Act européen en 2024, les préoccupations persistantes relatives aux incidents d’IA et la visibilité accrue des robots de service et humanoïdes confirment que les questions posées par Benjamin n’ont rien perdu de leur actualité.
Le concept central du livre, le « New Jim Code », désigne l’usage de technologies nouvelles qui reproduisent des inégalités anciennes tout en étant perçues comme plus neutres ou plus progressistes que les dispositifs discriminatoires du passé. Benjamin part d’exemples ordinaires, notamment les noms propres, pour montrer que le codage social précède le codage informatique. Les noms associés à des personnes noires produisent déjà des effets différenciés sur le marché du travail ; les algorithmes entraînés sur des données sociales héritent alors de ces associations, puis leur donnent une forme calculable et automatisée. Ainsi, l’algorithme ne supprime pas la discrimination : il en modifie la médiation, la vitesse et les conditions de contestation.
L’un des apports majeurs de l’ouvrage tient à sa manière d’articuler les études critiques de la race et les science and technology studies. Benjamin ne traite pas seulement la technologie comme un instrument porteur de valeurs sociales ; elle conceptualise aussi la race comme une technologie, c’est-à-dire comme un outil historiquement produit pour séparer, classer et hiérarchiser les groupes humains. Ce déplacement théorique importe particulièrement pour une revue attentive aux politiques de la représentation noire, aux régimes de visibilité et aux formes contemporaines de la colonialité visuelle. L’exemple des logiciels de reconnaissance ethnique, tel celui évoqué dans l’ouvrage à travers N-Tech Lab, montre que la visibilité algorithmique n’équivaut pas à une reconnaissance politique. Être « vu » par la machine peut signifier être ciblé, trié, exposé, marchandisé ou surveillé.
La force critique de Race After Technology réside également dans son refus de réduire le problème à des « robots biaisés ». Benjamin propose quatre dimensions du New Jim Code : inégalité ingénierée, discrimination par défaut, exposition codée et bienveillance technologique. Cette typologie permet de penser ensemble des dispositifs explicitement hiérarchisants, des architectures techniques indifférentes aux inégalités sociales, des systèmes de surveillance et des innovations supposées corriger les discriminations. La question des robots est alors déplacée : il ne s’agit pas de demander si une machine possède une intention raciste, mais de comprendre comment un robot conçu dans un monde structuré par le racisme peut apprendre, reproduire et automatiser les codes de ce monde.
L’ouvrage critique ainsi l’argument de l’innocence technique. La discrimination n’a pas besoin d’un programmeur explicitement raciste pour produire des effets racialisés. Elle peut procéder de routines professionnelles, d’objectifs commerciaux, de jeux de données historiques, d’indicateurs apparemment neutres ou d’une conception étroite de l’efficacité. Cette analyse demeure décisive au moment où l’IA est mobilisée pour recruter, prédire des risques, filtrer des demandes, surveiller des corps, orienter des soins, hiérarchiser des publics et anticiper des comportements. Elle oblige à poser une question politique préalable : qui définit le problème que la technologie prétend résoudre, et au bénéfice de qui cette résolution est-elle configurée ?
Certaines limites doivent néanmoins être précisées. L’ouvrage demeure principalement centré sur les États-Unis, ses structures carcérales, ses politiques raciales et ses industries technologiques. Cette focalisation produit une grande précision historique, mais laisse partiellement ouvertes les circulations transnationales des infrastructures numériques, notamment dans les espaces africains, caribéens et diasporiques. Une discussion complémentaire pourrait porter sur l’extraction minière, les déchets électroniques, les plateformes numériques en Afrique, les bases de données biométriques et les imaginaires afro-futuristes captés par l’industrie technologique. L’ouvrage propose les outils pour ouvrir ces chantiers, mais ne les traite pas toujours dans toute leur amplitude géopolitique.
Cette réserve ne diminue pas la valeur du livre ; elle en indique plutôt la fécondité. Benjamin ne livre pas seulement une critique des algorithmes, mais une méthode d’interrogation des futurs techniques. Sa proposition abolitionniste ne signifie pas le rejet abstrait de la technologie ; elle vise la transformation des conditions sociales, institutionnelles et économiques de sa production. Les audits d’équité, les refus informés, les mobilisations de travailleurs de la tech et les pratiques de solidarité apparaissent comme des outils nécessaires, mais insuffisants lorsqu’ils ne sont pas indépendants, publics et contraignants.
La dimension la plus stimulante du livre tient à son insistance sur les récits. Les données ne parlent pas d’elles-mêmes ; elles sont encadrées par des histoires, des institutions et des désirs de gouvernement. Benjamin rappelle que les technologies abolitionnistes et décoloniales doivent produire d’autres récits du possible, fondés non sur la charité ou l’accès, mais sur la solidarité et la co-libération. Cette orientation déplace la critique de l’IA : le problème n’est pas seulement que les machines discriminent, mais que la société demande aux machines de stabiliser des hiérarchies qu’elle refuse d’abolir.
La leçon décisive de Race After Technology tient à cette proposition : une technologie dite avancée peut être politiquement archaïque lorsqu’elle convertit des violences historiques en données exploitables. L’IA et les robots annoncés comme compagnons, assistants, recruteurs, policiers ou soignants ne doivent donc pas être évalués seulement à partir de leurs performances. Leur enjeu profond concerne la définition même de l’humain qu’ils mobilisent. Toute machine qui classe, reconnaît, prédit ou assiste suppose déjà une anthropologie implicite : certains corps y apparaissent comme standards, d’autres comme anomalies ; certains futurs comme désirables, d’autres comme risques à prévenir. L’ouvrage de Benjamin impose ainsi une exigence radicale : ne pas demander uniquement comment corriger les biais de la machine, mais pourquoi des sociétés inégalitaires cherchent si souvent dans la machine la légitimation technique de leurs propres classements.