Alan Mislove, investigador: “Hay empresas tecnológicas con una influencia alucinante sobre cómo hablamos y pensamos” | Tecnología

Alan Mislove es profesor de ciencias de la computación de la Universidad de Northeastern (EE UU) y lleva años estudiando cómo funcionan los algoritmos que regulan nuestras vidas: desde los precios de vuelos a los anuncios o la concesión de créditos. Su experiencia le llevó a trabajar en la Casa Blanca un año y medio para que ayudara a crear una nueva legislación al respecto. Allí observaron que todos los Departamentos del Gobierno querían averiguar cómo les iba a afectar la IA. Mislove, de 44 años y nacida en Nueva Orleans (EE UU), colaboró ​​también en la orden ejecutiva sobre IA de Biden, que ahora está en peligro con el nuevo presidente Trump. Acaba de pasar por Madrid para hablar en la IMC (Internet Measurement Conference), una de las mayores conferencias sobre redes, tráfico y seguridad, que este año han organizado IMDEA Networks y la Universidad Carlos III.

Pregunta. ¿Un algoritmo puede tener tanta importancia como para afectar el futuro de la democracia?

Respuesta. Sí, claro que puede ser clave. Hay un montón de gente que no se informa a través de los medios tradicionales. Plataformas como X o TikTok son, en muchos casos, la forma en que la gente accede a información y, con tanto contenido disponible, necesitan algoritmos para decidir qué van a ver. En política es clave escuchar ambos bandos para entender cuáles son sus argumentos, pero eso no es lo que los algoritmos suelen hacer. Están optimizados para la interacción, para que pase más tiempo en la plataforma. La mejor manera de lograrlo es mostrarte más contenido en el que estás interesado en lugar de contenido que tal vez no te interesa, pero que podría serte útil para tomar una decisión política.

PAG. ¿Los algoritmos logran cambiar opiniones?

r. Es una pregunta interesante. No creo que realmente sepamos la respuesta. Hace 20 o 30 años había un tipo de medios que la mayoría consumía. Por tanto, había una especie de base común de qué se consideraba aceptada en general. Hoy en día, ya no es así.

PAG. Es sorprendente que estudie esto desde hace años y no tenga la respuesta.

r. Hay sociólogos que están observando el impacto directo, porque eso se centra en los humanos, que es algo que yo estudio poco porque me enfoco en los algoritmos. Estos sistemas cambian muy rápido. Hemos estudiado de todo, desde comercio electrónico hasta aplicaciones de movilidad o publicidad. Se necesitan meses o años para entender realmente cómo funciona uno de esos sistemas. Mientras diseñamos un experimento para responder alguna de estas preguntas, los sistemas ya han cambiado. incógnita [antes Twitter]por ejemplo, ha cambiado muchísimo.

PAG. ¿Es preocupante no saber realmente cómo nos afecta?

r. Es cierto que es cada vez más difícil entender cómo los algoritmos afectan exactamente a nuestras vidas. Muchas veces la gente ni se da cuenta de qué hay detrás de los sistemas que usan hay algoritmos de recomendación o de clasificación. Uno de los puntos clave en los que trabajamos cuando estuve en la Casa Blanca fue definir las prácticas que el gobierno debe seguir al usar IA. Uno de los puntos principales fue la transparencia: notificar a las personas cuando haya un algoritmo que tome una decisión sobre ellas que podría afectarles negativamente y tengan la posibilidad de apelar.

PAG. Eso para los algoritmos en sistemas públicos, pero los usuarios ya saben que las redes sociales se ordenan con algoritmos…

r. La mayoría sí, pero lo que no saben es cuántos datos recogen. Por ejemplo, las aplicaciones en tu móvil recogen un chorro de información sobre ti. La gente no se da cuenta de la cantidad de datos que van a parar a esos algoritmos, ni de cómo de descompensado está por la cantidad de esfuerzo, dinero y recursos que se meten para afinar esos algoritmos y que te muestren justo lo que quieren.

PAG. El objetivo de estas compañías es ganar dinero. Si también cambia la sociedad, ¿es una consecuencia imprevista?

r. No puedo hablar de sus motivaciones, pero sí, el objetivo de estas compañías es sacarte el máximo provecho. Algunas de las empresas más grandes del mundo manejan una cantidad de datos y tienen una influencia alucinante sobre cómo hablamos o pensamos, ya sea a nivel nacional o mundial. Es fácil imaginar cómo eso puede salirse de control.

PAG. ¿El Gobierno de EE UU trata de prohibir TikTok por esos motivos?

r. Hay un montón de razones para prohibir TikTok. Cada vez más gente se da cuenta de los poderosos que son estos sistemas. Tienen el poder de influir en la gente de muchos modos. Vi por ejemplo un gráfico que circulaba por X, que decía que la plataforma recomienda más contenido de derechas. Aunque fuera cierto, que podría serlo, quizás sea porque ese tipo de personas es más activo en Twitter, o podría ser porque el algoritmo realmente lo está recomendando. No sé cuál de las dos es verdad y podría diseñar un experimento para estudiarlo. Pero hay muchas explicaciones potenciales. Solo porque veas una diferencia no significa que la culpa sea del algoritmo.

PAG. Es difícil esperar cuando esta semana hay gente preguntando por la influencia de X en la elección de Trump…

r. Otras veces ya hemos tenido casos donde estábamos seguros y luego no era así. Por ejemplo, hace 10 años, cuando estudiábamos la discriminación en precios de vuelos. Hubo momentos en que la gente decía “busqué un vuelo y otro buscó el mismo vuelo y ¡los precios eran diferentes!” Nos pusimos a diseñar experimentos durante un año ya controlar variables y descubrimos que solo en circunstancias muy específicas eso era cierto. Casi siempre lo que pasaba era pura casualidad.

PAG. ¿Todo casualidad?

r. Había alguna excepción. Descubrimos que en algunas aplicaciones cambian si estás en el móvil o en el ordenador. En otros, depende del país donde creen que: aunque estás sea el mismo vuelo, si lo compro en EE UU o en España podría poner precios distintos. Las aerolíneas llevan haciendo esto años. Hay una tendencia natural de pensar, cada vez que ves una diferencia, “ah, un algoritmo me está fastidiando”, lo que a veces es verdad, pero la mayoría de las veces, no. No es realmente discriminación, solo prueban cosas diferentes.

PAG. También hay quien sospecha del móvil porque le salen anuncios sobre cosas que acaba de comentar en voz alta…

r. Diría que hay un poco sesgo de confirmación. Solo te das cuenta cuando sucede, no cuando no sucede. Probablemente, hay mil otras cosas que le dijiste a tu pareja ese día y no tuvieron ningún resultado. Unos colegas míos hicieron un estudio porque la gente está preocupada por si Alexa o las aplicaciones de tu móvil te están escuchando o grabando. Hicieron un estudio con aplicaciones móviles. Encontraron aplicaciones que hacían otras cosas horribles, pero no que te grababan secretamente. A veces hay apuntar basado en hogares. Las empresas de datos se dan cuenta de que vives con esa otra persona y asocian los perfiles de varias maneras. Entonces, en ciertos contextos podría ser que tu pareja buscara algo y de repente tú empezaras a ver anuncios de eso. Pero creo que, de nuevo, esto podría ser la explicación o podría ser simplemente azar y notaste esa única coincidencia. Científicamente hablando, deberíamos diseñar un experimento para demostrar que esto está ocurriendo de manera sistemática.

PAG. ¿Los algoritmos de personalización irán a más?

r. A lo largo de los años, he visto solo que van en aumento. Más sistemas se personalizan simplemente porque hay más datos disponibles. Cada vez que tienes una situación donde hay un montón de contenido, más del que alguien puede consumir, necesitas algún tipo de algoritmo que diga “aquí tienes lo que te interesa”. Eso es la personalización. Es probable que estos algoritmos se metan cada vez más en nuestro día a día.

PAG. ¿Tiene más miedo o esperanza para los próximos cinco años?

r. Si me hubieras preguntado hace cinco años, habría dicho que la gente no tiene ni idea de lo que está pasando, habría sido más pesimista. Ahora, siento que hay más conciencia de cuánto están involucrados los algoritmos en estos sistemas. Es algo que está en la opinión pública. La respuesta optimista es que ves a los gobiernos realmente lidiando con estos temas, lo que me da esperanza de que, en cinco o diez años, habremos encontrado una manera de equilibrar las cosas. La respuesta pesimista es que estos sistemas avanzan tan rápido y las empresas son tan poderosas que los gobiernos van a tener problemas para seguir el ritmo.