Exposer les bases racistes de la technologie “neutre”

La technologie est souvent décrite comme une valeur neutre ou un pouvoir de bonté, mais les Américains qui apprécient la justice sociale devraient considérer comment les « frontières intelligentes », les algorithmes d’embauche et les pratiques de surveillance perpétuent le racisme.

La sociologue Ruha Benjamin a avancé cet argument lors de son discours liminaire à la Martin Luther King Jr. Memorial Convocation. la 38e réalité virtuelle annuelle le 23 février.

La convocation célèbre la vie et l’héritage du roi, et a été a attiré une variété d’orateurs, dont le professeur de Harvard Cornel West; Alice Walker, auteur lauréate du prix Pulitzer; Alicia Garza, co-fondatrice de Black Lives Matter; et l’activiste radicale et professeur émérite de l’UC Santa Cruz Angela Davis, qui a attiré l’une des foules les plus encombrées à une convocation au Santa Cruz Civic Auditorium en 2016. Au cours des deux dernières convocations, la cérémonie s’est tournée vers un format entièrement virtuel.

Benjamin fait souvent référence au placage «neutre» déroutant de la technologie de pointe et à la façon dont cette image populaire déguise souvent des pratiques oppressives. Il faisait référence aux technologies « smart frontier » qui utilisent les dernières technologies les technologies de surveillance et de contrôle, y compris les drones, les détecteurs de mouvement et la technologie de reconnaissance faciale dans des zones telles que la frontière américaine avec le Mexique.

“La puissance de cette technologie réside dans la fausse déclaration de neutralité”, a déclaré Benjamin. “Ils dépendent de nous parce qu’ils sont plus objectifs, plus humains, qu’un agent frontalier qui grogne en tenant un fouet.”

Professeur d’études afro-américaines à l’Université de Princeton, Benjamin a étudié comment la discrimination est appliquée à la technologie moderne.

réservez-le, La technologie Race After : outils d’élimination pour le nouveau code Jim, examine la relation entre le biais de la machine et le racisme systémique, analyse des cas spécifiques de «discrimination de conception» et propose des outils pour une approche socialement consciente du développement technologique.

Dans une critique de livre – qui a reçu le prix Nonfiction 2020 de la Brooklyn Public Library – Stephen Kearse de Nation a félicité Benjamin pour sa “critique décroissante” de la technologie qui perpétue ou exacerbe le racisme.

Dans sa présentation MLK, Benjamin a mentionné les pratiques basées sur la technologie telles que les bases de données sur les immigrants, l’identification numérique et les systèmes de suivi électronique.

« Malgré tous les discours sur les frontières intelligentes, qui utilisent l’authentification biométrique des visages, les drones aériens et les centres d’agrégation de données, les frontières deviennent de plus en plus des sites de plus en plus intensifs pour le racisme, les déplacements et la surveillance des décès », a-t-il déclaré.

“La sagesse dans ce sens écoute les fondements eugéniques de l’intelligence artificielle et organique et sa direction principale pour catégoriser et positionner les êtres humains, éliminant ceux jugés sans valeur tout en dispersant ceux jugés dignes”, a poursuivi Benjamin.

Cette technologie intelligente est également utilisée pour supprimer les différences d’opinion, a déclaré Benjamin. Il a cité «de nombreux types de surveillance utilisés contre les manifestants de Black Lives Matter, des caméras corporelles de la police, des drones aériens, des logiciels de reconnaissance faciale et même de la technologie de suivi en ligne telle que produite par [the Wyoming-based company] Shadowdragon, qui permet à la police d’aspirer vos données sur les réseaux sociaux et d’autres sources Internet, notamment Amazon et les sites de rencontres. »

Benjamin examine également les racines historiques des pratiques technologiques imprégnées de racisme.

“Non seulement l’eugénisme façonne les statistiques comme [mathematician] Aubrey Clayton élabore dans son puissant essai [“How Eugenics Shaped Statistics,” Nautilus Magazine, October 2020]mais elle est considérée comme une science progressiste par ses partisans et architectes en chef, dont beaucoup sont soutenus par la même université qui loue aujourd’hui l’intelligence artificielle comme le sauveur de tous nos maux sociaux », a déclaré Benjamin.

Dans un échange direct avec Camilla Hawthorne, professeure adjointe de sociologie et d’études raciales et ethniques critiques, elle a également averti que la technologie peut utiliser le vernis de l’inclusion pour masquer les injustices.

“La rhétorique de la diversité et de l’inclusion peut aller de pair avec le maintien du statu quo”, a déclaré Benjamin lors d’une séance de questions-réponses après son discours d’ouverture. “Vous pouvez donc avoir un groupe de conception entièrement noir et latinx, mais si leur mandat est toujours de créer des outils pour ICE [U.S. Immigration and Customs Enforcement] ou un outil pour la police, que la diversité n’est qu’une couverture pour les affaires comme d’habitude.

“L’une des choses excitantes est que les organisateurs étudiants voient à travers la rhétorique”, a déclaré Benjamin. «Ils regardent à travers le pipeline« se sentir bien »qui est en train d’être créé. Il y a une campagne maintenant qui incite les étudiants à ne pas postuler dans certaines entreprises s’ils maintiennent un contrat avec l’état carcasse ou avec l’ICE. »

En se référant à « l’état de carcasse », Benjamin fait référence aux institutions de détention, y compris les prisons, ainsi qu’aux politiques et pratiques associées à ces institutions, y compris le système de justice pénale.

“Je suis également content des jeunes qui ne boivent pas le Kool-Aid, qui ne sont pas concernés par le cadrage inclusif alors qu’ils savent qu’ils vont juste être roulés dans cette machine et être sur le site et être dans les publicités », a déclaré Benjamin.

“Il y a aussi une prise de conscience croissante que vous ne pouvez pas croire cela seul [tech] entreprise à travailler dans notre meilleur intérêt », a déclaré Benjamin. “Lorsque nous parlons de médias sociaux, nous parlons d’être connectés au sens large, à l’échelle mondiale, mais cela signifie également tout un ensemble de choses qui se connectent à nous, engloutissant nos données.”

Il a également félicité les travailleurs de la technologie pour “s’être prononcés contre les alliances d’entreprises dans le racisme”. Il a cité des employés de Google qui ont exhorté l’entreprise à se retirer des projets d’IA qui pourraient être utilisés pour rendre les attaques de drones plus efficaces.

Il a également fait la promotion du manuel Alphabétisation raciale en technologie : pourquoi l’éthique, la diversité dans l’emploi et la formation biaisée implicite ne suffisent pas, et citant des organisations telles que Immigrant Defense Project, qui “adopte une approche proactive de la justice technologique”.

La soirée comprenait également une vidéo émouvante de la rétrospective des Tony Hill Awards, avec la veuve de Hill, Melanie Stern, et sa fille Tara Kemp soulignant l’hommage au fil des ans. Cet honneur spécial récompense les personnes dont la vie et les actions imitent le travail et l’héritage de feu Tony Hill. Hill, un défenseur de longue date de la justice sociale et économique dans le comté de Santa Cruz, est connu pour ses compétences en tant que bâtisseur de ponts communautaires et médiateur. Il est décédé en 2007 à l’âge de 62 ans.

Lors de la convocation, la chancelière de l’UCSC, Cynthia Larive, a félicité Hill et les lauréats.

“Je veux te dire merci Melanie Stern et Tara Kemp pour leur travail au cours des 14 dernières années, et aidez-nous à reconnaître et à célébrer les efforts des acteurs locaux du changement et des bâtisseurs de ponts, reconnaissant ceux de notre communauté qui travaillent pour la justice sociale et économique, pour la justice et l’équité comme Tony Hill a fait. Il apporte de l’espoir aux autres et en inspire beaucoup. »

Réservez la date pour une série d’événements de haut niveau au John R. Lewis College, répertoriés dans ce lien vers la série des problèmes nécessaires.

x