Los dolores de crecimiento de Bluesky

Censura gubernamental, cuentas fraudulentas, suplantación de celebridades, propaganda y una revuelta de usuarios por un periodista acusado de demonizar a las personas trans: estos son solo algunos de los obstáculos que enfrenta la naciente plataforma de redes sociales Bluesky. Pero también son señales de su rápido crecimiento desde las elecciones.

A medida que Bluesky atrae más actividad, particularmente de aquellos que huyen de la X de Elon Musk, enfrenta el precio del éxito: decisiones de moderación difíciles y un número creciente de malos actores.

Casi 25 millones de personas se han registrado en la plataforma, según el sitio de métricas ClearSky. Si bien ese número sigue siendo una fracción de la base de usuarios de X, las controversias y los desafíos de Bluesky están ganando la atención generalizada, una señal de su creciente relevancia cultural.

La semana pasada, la plataforma enfrentó su controversia más importante hasta el momento: la reacción de los usuarios contra el periodista y personalidad de los medios Jesse Singal que se unió a la plataforma. Singal, que ha informado sobre personas que revirtieron sus transiciones de género, entre otros temas relacionados con las personas trans, presenta un podcast que critica los prejuicios percibidos de izquierda en los medios. GLAAD, una organización sin fines de lucro LGBTQ, incluyó a Singal en su Proyecto de Responsabilidad que documenta “retórica anti-LGBTQ y acciones discriminatorias” por parte de figuras públicas.

La presencia de Singal en Bluesky, considerado un centro para usuarios trans de redes sociales, provocó una petición firmada por más de 25.000 personas pidiendo su eliminación bajo las políticas de moderación de la plataforma. Singal es ahora la persona más bloqueada en Bluesky. Bluesky no se dirigió explícitamente a Singal en su respuesta a la petición, pero publicó que no elimina cuentas en función de la actividad fuera de la plataforma. Bluesky no respondió a una pregunta de NBC News sobre la controversia en torno a Singal, quien informó haber recibido amenazas de muerte que, según dice, la plataforma no ha abordado adecuadamente.

A pesar del revuelo que se ha extendido a otras plataformas de redes sociales como X y de atraer la atención de figuras importantes como Lizzo, la mayoría de los usuarios de Bluesky parecen seguir con la plataforma.

Más allá de los puntos críticos culturales, Bluesky también está lidiando con una serie de problemas de moderación que vienen como precio de la popularidad.

En un período de 24 horas en noviembre de este año, la compañía anunció que había recibido un récord de 42.000 informes de moderación. «Agradecemos su paciencia mientras llevamos a nuestro equipo de moderación a su máxima capacidad y contratamos nuevos miembros para soportar esta carga», dijo Bluesky.

Después de que el tribunal superior de Brasil suspendiera el acceso a X en agosto, Bluesky vio un aumento de usuarios brasileños, incluidas comunidades «stan» dedicadas a artistas concretos. Eso provocó una afluencia de quejas de derechos de autor, lo que dejó al reducido equipo de moderación de Bluesky examinar qué publicaciones conservar y eliminar, dijo Aaron Rodericks, jefe de confianza y seguridad de Bluesky, en una entrevista.

“A los brasileños les encanta hacer memes. Son una base de usuarios fantástica. Pero nuestras solicitudes de derechos de autor se dispararon”, dijo Rodericks, quien anteriormente ayudó a liderar el equipo de confianza y seguridad de Twitter.

Los estafadores también han seguido la migración de los usuarios de redes sociales de X a Bluesky, dijo a NBC News Sean Gallagher, investigador principal de amenazas de la empresa de ciberseguridad Sophos. «En las últimas semanas, ha habido un rápido aumento en la actividad fraudulenta», dijo.

Muchos son estafadores románticos y de “carnicería de cerdos” que siguen el mismo manual que usan en otros sitios de redes sociales: hacerse pasar por prospectos románticos con la esperanza de establecer una relación falsa con una víctima de la que luego pueden explotar para obtener dinero, dijo Gallagher.

Hasta ahora, Bluesky “ha sido agresivo al cerrar cuentas fraudulentas”, dijo Gallagher, y parece responder bien a las personas que reportan cuentas sospechosas.

Rodericks dijo que incluso si Bluesky ha experimentado dolores de crecimiento, todavía no son de la gran escala que se ven en otras plataformas importantes de redes sociales. «Hay cosas que vienen con cientos de millones de usuarios, en términos de daños, que aún no estamos viendo».

Pero eso no ha impedido que algunos críticos se centren en estos temas.

La cuenta de extrema derecha X Libs de TikTok, conocida por apuntar a personas trans en línea, criticó a Bluesky el jueves y publicó capturas de pantalla de artículos escritos sobre la plataforma, uno escrito por Singal sobre las amenazas de muerte que dijo haber recibido y otro sobre sexualidad infantil. material de abuso (CSAM) en la plataforma.

Bluesky ha visto sólo un puñado de casos de personas que publican CSAM, dijo Rodericks, en comparación con los niveles observados en otras plataformas, pero las cifras están aumentando.

En 2023, si bien solo se podía acceder al sitio mediante invitación y antes de que se abriera al público, solo hubo una queja verificada ante el Centro Nacional para Niños Desaparecidos y Explotados, la organización estadounidense encargada de rastrear la explotación en línea. Este año, dijo Rodericks, ha habido más de 830 casos de CSAM, cada uno de los cuales la empresa investiga manualmente. La mayoría de las principales plataformas de redes sociales informan tasas mucho más altas de CSAM. En 2023, X informó 273.416 casos de CSAM en sus plataformas, según el centro. Instagram informó 11.430.007.

La publicación de CSAM provoca una prohibición total e inmediata del sitio, dijo Rodericks.

El sitio también tiene su cuota de cuentas falsas de celebridades, un problema que continúa afectando también a las plataformas más grandes. El mes pasado, Bluesky comenzó a etiquetar cuentas falsas de celebridades con «suplantación» si no se etiquetaban a sí mismas como cuentas de sátira o de fans, poniendo fin al reinado de un puñado de cuentas que registraban nombres de usuarios de personas famosas poco después del lanzamiento de la plataforma.

Si bien no parece que exista un vasto ecosistema de imitadores de celebridades destinados a estafar a los usuarios, NBC News encontró fácilmente un puñado de cuentas sin etiqueta pero claramente falsas de celebridades como Ellen DeGeneres, Oprah Winfrey y Cristiano Ronaldo. Los representantes de esos tres no respondieron a las solicitudes de comentarios.

El enfoque de Bluesky para verificar que las cuentas son quienes dicen ser (un problema que ha afectado a X en particular desde los cambios de Musk el año pasado) es único y técnicamente más difícil que el de otros sitios. Trata cada cuenta como un sitio web y permite que cualquiera que posea un dominio web registre una cuenta Bluesky con esa URL. Entonces, en lugar de que Bluesky verifique la identidad de las personas individualmente, permite que cualquier persona con un sitio web oficial se verifique a sí mismo y a otros usuarios.

“Estamos recibiendo comentarios de que a algunas personas les resulta demasiado desafiante desde el punto de vista técnico, porque la gente simplemente está acostumbrada a los nombres de usuario. Entonces la pregunta es si a través de suficiente educación del usuario, etc., podemos satisfacer esas necesidades a través de la verificación del dominio, o si tenemos que agregar otros aspectos además de eso”, dijo Rodericks.

Dados los recursos limitados de Bluesky, dijo Rodericks, no tiene planes inmediatos de etiquetar a las agencias de noticias controladas por el estado como de gobiernos autoritarios, como lo hace Meta y X antes de que Musk pusiera fin a esa práctica. Hay al menos tres cuentas de Bluesky que utilizan los nombres de agencias de noticias controladas por el estado y solo publican historias de ellas (China Daily y People’s Daily de China, y RT de Rusia), pero ninguna tiene más de unos pocos cientos de seguidores. Ninguna de las tres agencias de noticias respondió a los correos electrónicos preguntando si esas cuentas eran auténticas.

Los investigadores de desinformación identifican rutinariamente enjambres de cuentas, particularmente promocionando mensajes que simpatizan con los gobiernos de Rusia, China e Irán, en las principales plataformas de redes sociales, aunque rara vez obtienen una tracción significativa. A menudo, esas investigaciones comienzan cuando el FBI alerta a una plataforma de redes sociales sobre la inteligencia estadounidense de que está siendo explotada por un adversario de Estados Unidos.

Hasta la fecha, el FBI no ha hecho ese tipo de acercamiento a Bluesky, dijo Rodericks. Tampoco tiene un equipo interno dedicado a cazar ese tipo de propaganda, sino que depende de consejos de usuario, sensores automatizados para detectar comportamientos no auténticos de las cuentas y un ejército de moderadores voluntarios administrado a través de una organización sin fines de lucro llamada Independent Federated Trust & Safety para identificar y tomar eliminar actividades que violen sus términos de servicio.

Si bien hasta ahora no ha habido campañas de propaganda masiva claramente documentadas en Bluesky, los investigadores han visto algunas señales.

“Todas las plataformas de redes sociales son utilizadas por adversarios”, dijo a NBC News Lisa Kaplan, directora ejecutiva de Alethea, una empresa que rastrea campañas coordinadas de propaganda y mensajes en línea. “Hemos visto evidencia de lo que probablemente sea actividad de actores estatales en la plataforma. Dicho esto, es temprano y todavía no hemos visto un esfuerzo coordinado exitoso”.

«En general, todavía somos muy pequeños, por lo que la gente no nos está dedicando recursos desde una especie de frente de estado-nación», dijo Rodericks.

Bluesky ha sido bloqueado por al menos dos gobiernos propensos a la censura. Según Great Firewall, un programa que rastrea la censura de Internet en China, el país comenzó a bloquear Bluesky antes del 4 de junio, aniversario de las protestas de la Plaza de Tiananmen, un estímulo común para la censura en el país. Por otra parte, Pakistán bloqueó brevemente Bluesky en noviembre, según NetBlocks, una empresa que rastrea el bloqueo global de Internet. Los portavoces de los consulados de ambos países no respondieron a las solicitudes de comentarios.

Cada plataforma de redes sociales tiene que caminar en la línea entre obedecer las leyes de cada país en el que quiere operar y decidir resistir solicitudes gubernamentales potencialmente injustas de bloquear publicaciones o entregar información de los usuarios. Pero China y Pakistán no provocaron un debate, afirmó Rodericks.

“Ningún gobierno ha hecho ningún tipo de acercamiento o comunicación con Bluesky”, dijo. “Desde una perspectiva de principios, por supuesto creemos en una Internet libre y abierta, por lo que haremos todo lo posible para apoyar la capacidad de los ciudadanos de acceder a la información de la comunidad. Pero como un pequeño actor en este espacio, haremos lo que podamos para avanzar en nuestro equilibrio objetivo para que los países puedan controlar su propia Internet”.