Ruha Benjamin, socióloga: “Hay que desmitificar la tecnología y escuchar a las personas que están bajo los escombros del progreso” | Tecnología

La tecnología no es algo mágico que escapa a nuestro control, por mucho que cueste entender algunas cosas. Tiene personas concretas detrás, y lo que es más importante, visiones del mundo concreto. La socióloga Ruha Benjamin (Wai, India, 46 años), profesora del Departamento de Estudios Afroamericanos de la Universidad de Princeton, ha dedicado cuatro libros —ninguno traducido al español— a estudiar las relaciones entre la tecnología, la diversidad, las desigualdades y la justicia. Una eminencia que desafía el relato de las grandes tecnológicas y que defiende cada día en sus redes sociales las causas del sur global, comenzando por la palestina. Benjamin aterriza en Barcelona para participar en la Smart City Expo el mismo día en que Donald Trump ha sido elegido presidente de Estados Unidos. Considere que es demasiado pronto para hacer un comentario al respecto, pero sí que alerta sobre el impacto de la ola reacciónia que recorre el mundo.

Pregunta. ¿Se está levantando un muro reaccionario ante todo lo que usted ha venido defendiendo en sus libros?

Respuesta. Cuando se señala que la imagen idealizada de una nación o un grupo es mentira, la reacción de la gente es estar más cómoda con la mentira. No quieren que se le cuestione con la verdad sobre las historias racistas de nuestras sociedades, sobre las desigualdades y formas de opresión que siguen existiendo. Las mentiras son cómodas para quienes han sido socializados para pensar que son superiores a los demás, porque esa superioridad está siendo amenazada. Y los políticos les dicen que la mentira está bien, que la mentira es la verdad. Lo vemos en Estados Unidos, Europa o en la India, donde nací. La retórica es muy similar: hacer algo grandioso de nuevo. Pero nunca fue grandioso en primer lugar, fueron sociedades fundadas en la esclavitud y el genocidio.

PAG. ¿Qué papel tienen las redes sociales y las grandes empresas tecnológicas en este movimiento reaccionario?

r. Desempeñan un papel importante porque generan burbujas que refuerzan lo que ya pensamos. Pero más allá de las redes sociales, hay otras tecnologías que están teniendo enormes consecuencias en la vida de las personas. Hay algoritmos que deciden quién será contratado o despedido. Hay herramientas de inteligencia artificial que deciden qué nota obtener los estudiantes en la escuela, o se usan en la atención médica y en la policía. Las tecnológicas venden soluciones digitales que refuerzan el statu quo y lo ocultan tras una capa de neutralidad y objetividad. Las tecnologías más poderosas son aquellas de las que ni siquiera somos conscientes, pero que dan forma a nuestras oportunidades en la vida.

PAG. En un artículo reciente analiza cómo el desarrollo de la inteligencia artificial (IA) perpetúa las desigualdades. ¿Por qué es así?

r. Cuando hablamos de IA tenemos que hablar de las personas que están detrás. Porque cuando empezamos a ponerle cara a estas tecnologías, nos damos cuenta de que lo que nos venden como un bien público en realidad sirve a intereses privados y al interés propio de un pequeño grupo de personas que, en mi opinión, están imponiendo sus visiones al resto, presentándolo como si beneficiario a todos. Hay que desmitificar la tecnología y hablar de cómo estas personas perpetúan con ella sus valores eugenésicos, es decir, su visión de que algunas vidas se valoran más que otras.

PAG. Se vende como una tecnología casi mágica.

r. Y eso es importante para su monopolización del poder. Porque cuando nos dicen que algo es inevitable, no tratamos de cambiarlo. También eso lo hace más atractivo, pero tenemos que empezar a denunciar estas mitologías. Detrás hay moderadores de contenido en Filipinas, trabajadores digitales en Kenia, trabajadores de almacén de Amazon… gente que no se ve. Así que pensamos que, cuando usamos ChatGPT, los resultados se obtienen mágicamente. Muchas personas están siendo perjudicadas para que algunos de nosotros podamos tener más eficiencia y comodidad. Hay que tener en cuenta las condiciones laborales y también los costes ambientales, de energía y agua que se necesitan para entrenar un solo algoritmo. Tenemos que preguntarnos si vale la pena.

Muchas personas están siendo perjudicadas para que tengamos más eficiencia y comodidad.

PAG. ¿Cómo debería regularse?

r. Los productos farmacéuticos, antes de llegar al usuario, tienen que pasar por muchos ensayos. En cambio, las tecnologías ya experimentan con nosotros, somos su ensayo clínico. EE UU tiene que mirar hacia la Unión Europea, donde hay un buen comienzo. No podemos permitir que las tecnológicas vengan y expulsen lo que había. En Barcelona, ​​por ejemplo, Uber muestra las opciones de taxi y de transporte público. Parece poco, pero muestra un cambio.

PAG. Y eso llegó tras grandes huelgas de los taxistas.

r. Exacto. Es el poder de la gente de impedir que vengan estas empresas a ser disruptivas con nuestras vidas.

PAG. En su último libro, Imaginación. un manifiestohabla del poder de la imaginación pero también de que está muy condicionada. ¿Por qué?

r. La imaginación es más importante que nunca. Como en estas elecciones: nos dan a elegir entre dos opciones, con algunas diferencias, pero las dos malas para nuestra salud. La imaginación nos dice que no lo aceptamos, que soñemos con una tercera, cuarta o quinta opción. Esto se aplica en la política y allí donde nos dicen que es imposible hacer algo. Nos dicen: atención médica para todos, imposible. Transporte público gratuito, imposible. Y, sin embargo, nos dicen que podemos ir a Marte o crear la IA general. Nos piden dinero para fantasías descabelladas de las élites y que confiamos en ellas. No deberíamos creer en esas imaginaciones, deberíamos hacer crecer nuestra imaginación colectiva.

PAG. En una época de conflictos como la actual, en Gaza, Sudán o Ucrania, ¿cómo puede ayudar la imaginación?

r. Lo primero es entender que estos conflictos, genocidios y formas de violencia están conectados. El problema de nuestra imaginación es que está muy focalizada, cuando todo está directamente relacionado. Eso cambiará nuestros presupuestos, porque ahora mismo parece que no tenemos dinero para ayudar con las inundaciones y el clima, pero tenemos una cantidad infinita de dinero para el ejército y las guerras. Y luego hay que escuchar a las personas que están bajo los escombros del progreso, literal y figuradamente, si queremos un mundo en el que todos prosperen.

Hay que desmitificar la tecnología y escuchar a las personas que están bajo los escombros del progreso.

PAG. También la tecnología se usa para la destrucción literal.

r. La innovación tecnológica no es lo mismo que el progreso social. Mucha innovación puede simplemente reforzar las viejas formas de pensar y jerarquías. El avance tecnológico a menudo esconde daño y violencia. Por ejemplo, los sistemas de IA que supuestamente apuntan a objetivos más precisos en Israel, a la práctica lo que hacen es crear muchos más objetivos que antes, porque va más rápido. Y es más letal. Con la inteligencia así concebida tenemos de nueva la idea eugenésica: algunas personas son inteligentes, otras no, y si no eres inteligente como para tener esta tecnología, se te bombardea. Pero en la tecnología todo se oculta: en un salón como este, de tecnología, hay empresas israelíes.

PAG. Hablar de todo esto es un gran problema en las universidades de EE UU. ¿Cómo lo vive?

r. Algunos lo llaman “el nuevo McCarthismo”. Tengo colegas que solo por hablar de Gaza han sido despedidos. Mis propios estudiantes están siendo juzgados por una sentada pacífica. Estamos viendo la hipocresía de muchas instituciones, como la educación superior, pero también grandes empresas, como Google o Microsoft. Les que les encanta hablar de la libertad de expresión, pero ahora sale a la luz lo que de verdad les importa: la obediencia.