Los deepfakes en tiempo real llevan las estafas románticas a un nivel mucho más peligroso

Los deepfakes en tiempo real llevan las estafas románticas a un nivel mucho más peligroso

La aplicación china de inteligencia artificial Haotian es tan eficaz que ha ganado millones de dólares vendiendo su tecnología de intercambio de rostros en Telegram. El servicio se integra fácilmente con plataformas de mensajería como WhatsApp y WeChat. Los usuarios pueden ajustar hasta 50 parámetros, incluida la capacidad de modificar cosas como el tamaño de los pómulos y la posición de los ojos, todo para ayudar a imitar la cara de alguien más. Pero aunque Haotian es una plataforma robusta y versátil, los investigadores y el propio análisis de WIRED han descubierto que el servicio está siendo comercializado por los denominados «carniceros de cerdos», que se dedican a enamorar y estafar gente en internet con identidades falsas.

¿Hablas con quien hablas?

Los estafadores han utilizado Haotian y otras herramientas de profundo para corroborar más fácilmente sus engaños permitiendo a las víctimas «videochatear» con el personaje con el que creen haber estado hablando como parte de una oportunidad de inversión, amistad o incluso relación romántica. El análisis realizado por la empresa de rastreo de criptomonedas Elliptic de cuatro carteras de criptomonedas vinculadas a Haotian muestra que la empresa ha recibido al menos 3.9 millones de dólares en pagos en los últimos años, incluido dinero procedente de carteras de criptomonedas vinculadas a presuntas actividades delictivas, incluido el fraude. Además, casi la mitad de sus pagos tenían vínculos con un mercado de estafas sancionado por el gobierno estadounidense, destaca Elliptic.

Hieu Minh Ngo, ONU hacker criminal reformado convertido en investigador de delitos cibernéticos en la organización vietnamita sin fines de lucro de lucha contra la estafa ChongLuaDao, afirma que Haotian, que surgió alrededor de 2021, fue «uno de los primeros de su tipo y muy popular.» Ngo ha llevado a cabo una amplia investigación sobre Haotian y sus operaciones. «Sus resultados son casi perfectos», opina. «Y cada día son mejores. Si lo compruebas en la criptocartera, verás el dinero que entra cada día».


imagen del artículo
IA, deepfakes, algoritmos y rostros ajenos: el precio de ser mujer en la era digital

Necesitamos instituciones preparadas, mecanismos de denuncia que funcionen, empresas tecnológicas que asuman su responsabilidad y políticas públicas que entiendan esta violencia como un asunto urgente.


Haotian es apenas una parte del ecosistema tecnológico más amplio que ha surgido en torno a la floreciente industria del cibercrimen en el Sudeste Asiático y los compuestos de estafas por trabajos forzados. A medida que se ha ido extendiendo el intercambio de rostros y otras herramientas de falsificación de videos, se han ido incorporando cada vez más a la estafa y a otros tipos de ciberdelincuencia en todo el mundo. En los últimos dos años, funcionarios que trabajan para la Oficina de las Naciones Unidas contra la Droga y el Delito han identificado más de 10 herramientas de intercambio de rostros que podrían estar siendo utilizadas por ciberdelincuentes en el Sudeste Asiático, por ejemplo, para estafas con criptomonedas y suplantación de identidad de agentes de policía.

Haotian tiene un sitio web para su herramienta de intercambio de rostros, pero promociona principalmente su aplicación de escritorio a través de un canal público de Telegram, que se puso en marcha en octubre de 2023, según la investigación de Ngo. A través de este canal, que ahora cuenta con más de 20,000 suscriptores, la empresa comercializa nuevas versiones de la aplicación, proporciona actualizaciones de desarrollo y ofrece asistencia técnica. Aunque la comercialización de software a través de Telegram no es intrínsecamente nefasta, los investigadores aseguran que la base de clientes de Haotian se inclina cada vez más hacia los estafadores, que ya buscan información sobre una serie de servicios del mercado gris en la aplicación de mensajería.

Telegram no ha querido hacer comentarios. Sin embargo, después de que WIRED se pusiera en contacto con la empresa, el principal canal público de Telegram de Haotian y algunas cuentas asociadas se volvieron inaccesibles o parecían haber sido eliminadas. Telegram no respondió a la solicitud de comentarios sobre si la empresa había eliminado estas cuentas.

¿Qué es Haotian?

Haotian es una empresa con sede en Camboya que dice tener su sede en Phnom Penh y anuncia servicios de instalación en el sitio y asistencia en la región. Los investigadores de la ONU destacaron este servicio de «instalación en el sitio en el mismo día» con una captura de pantalla en su informe 2024 que muestra el logotipo de Haotian en la pantalla de un teléfono en un posible lugar de estafa.

Los materiales de marketing de la empresa, tanto en su sitio web como en Telegram, hacen referencia con frecuencia a la utilidad de la herramienta para lo que podría ser una actividad potencialmente sospechosa. Un correo en Telegram reza que la tecnología puede ayudar a crear una «persona elitista y auténtica» que el «cliente cree completamente». (Los estafadores suelen referirse a las personas estafadas como clientes). Otro mensaje destacado por los investigadores decía «¿El chat carece de autenticidad? ¿No hay confianza? Utiliza el software de cambio de cara Haotian AI para hacer una videollamada y resolver todos tus problemas». Después de todo, ¿cómo podría mentir una chica tan guapa?».

Una investigación publicada en marzo por la empresa de seguridad Tehtris rastreó varios nombres de dominio que parecen haber estado vinculados a Haotian en los últimos años, incluido el sitio actual «haotian.ai», y las direcciones anteriores «haotianai.com» y «haotianai.us». Mientras tanto, la investigación de Ngo descubrió que el sitio web de Haotian se ha referido abiertamente a técnicas de ingeniería social. Tanto en Telegram como en su propio sitio web, la discusión de Haotian sobre ingeniería social utiliza con frecuencia la frase «精聊» o jingliao que literalmente significa «chat profundo» o «chat espiritual». En la práctica, sin embargo, la frase se refiere a la ingeniería social y en particular connota estafas de «carnicería de cerdos».

Check Also

Todo lo que dejará Netflix para 2026: lista completa | Películas | Entretenimiento

Todo lo que dejará Netflix para 2026: lista completa | Películas | Entretenimiento

Netflix renueva constantemente su lista para ofrecer los lanzamientos más nuevos y emocionantes de cada …