![](\"https:\/\/imagenes.elpais.com\/resizer\/v2\/4D2VGZ5ZFWGAIDH76BLBFENSQA.jpg?auth=2f338379d139bbe222cb787db80a9d56ed76334faa17e06b9bf45ee6203813ad\")
<\/p>\n \n<\/p>\n
Multitud de investigaciones lo vienen advirtiendo: los memes no son inocuos; para los extremismos, es el lenguaje m\u00e1s eficaz de difusi\u00f3n de sus ideas. Las redes son herramientas de polarizaci\u00f3n e injerencia sofisticadas. Los bulos creados con inteligencia artificial (IA) generan una realidad falsa indistinguible y amenazan la democracia. La propia IA nace con sesgos que no son inocentes. Detr\u00e1s de todo este arsenal hay una estrategia que el fil\u00f3sofo hongkon\u00e9s Jianwei Xun define como \u201chipnocracia\u201d, un concepto que Cecilia Danesi, investigadora en el Instituto de Estudios Europeos y Derechos Humanos (Universidad Pontificia de Salamanca), resume como \u201cdictadura digital que permite modular directamente estados de conciencia\u201d mediante la \u201cmanipulaci\u00f3n a trav\u00e9s de las historias que consumimos, compartimos y creemos\u201d. La finalidad es la eliminaci\u00f3n de una ciudadan\u00eda cr\u00edtica e informada y precisa de la supresi\u00f3n de cualquier salvaguarda.<\/p>\n
Jianwei Xun, Auto de Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad<\/i> (a\u00fan no editado en espa\u00f1ol), afirma que este r\u00e9gimen es \u201cel primero que opera directamente en la conciencia\u201d: \u201cNo reprime el pensamiento, sino que induce y manipula los estados emocionales\u201d. El objetivo es \u201cadormecer el pensamiento cr\u00edtico\u201d utilizando la informaci\u00f3n como \u201chumo hipn\u00f3tico\u201d a partir de \u201cabrumar los sentidos con est\u00edmulos constantes\u201d y conseguir que \u201crealidad y simulaci\u00f3n se vuelvan sin\u00f3nimos\u201d.<\/p>\n
Para Danesi, integrante del reciente encuentro AI Action Summit celebrado en Cannes (Francia) que abord\u00f3 la situaci\u00f3n, esta fragmentaci\u00f3n \u201cerosiona y cambia radicalmente la manera en que los ciudadanos perciben la realidad y toman decisiones pol\u00edticas, una situaci\u00f3n que exige un an\u00e1lisis profundo y una regulaci\u00f3n eficaz\u201d. \u201cLa primera perjudicada es, sin duda, la democracia\u201d, alerta.<\/p>\n
\nEl poder evoluciona m\u00e1s all\u00e1 de la fuerza f\u00edsica y la persuasi\u00f3n l\u00f3gica. Se ha vuelto gaseoso, invisible, capaz de infiltrarse en todos los aspectos de nuestras vidas<\/p>\n
Jianwei Xun, Fil\u00f3sofo<\/cite><\/p><\/blockquote>\n
En estas condiciones, seg\u00fan escribe el pensador hongkon\u00e9s, \u201cel poder evoluciona m\u00e1s all\u00e1 de la fuerza f\u00edsica y la persuasi\u00f3n l\u00f3gica\u201d. \u201cSe ha vuelto gaseoso, invisible, capaz de infiltrarse en todos los aspectos de nuestras vidas (\u2026) Estamos en un estado permanente de hipnosis donde la conciencia permanece atrapada, pero nunca completamente tranquila\u201d, sostiene.<\/p>\n
Como ha recordado en el foro franc\u00e9s Gianluca Misuraca, director cient\u00edfico de la iniciativa europea AI4Gov, los sumos \u201csacerdotes\u201d de este nuevo r\u00e9gimen son el presidente de EE UU, Donald Trump, y su mano derecha, el multimillonario Elon Musk. Ambos lideran lo que Jianwei Xun identifica como \u201ccapitalismo digital\u201d, donde \u201clos algoritmos no son herramientas de c\u00e1lculo y pron\u00f3stico, sino tecnolog\u00eda hipn\u00f3tica de masas\u201d. Seg\u00fan abunda Danesi, codirectora del m\u00e1ster en gobernanza \u00e9tica de la IA en la UPSA, \u201cla hipnocracia permite una injerencia m\u00e1s profunda y silenciosa, manipula nuestro pensamiento sin que nos demos cuenta, lo cual es m\u00e1s peligroso todav\u00eda porque es m\u00e1s dif\u00edcil de advertir\u201d.<\/p>\n
Y para que la capacidad hipn\u00f3tica de este exacerbado liberalismo digital funcione hay una premisa fundamental: la ausencia de regulaci\u00f3n. Empresas de redes sociales, como X, propiedad de Musk, o Meta, de Mark Zuckerberg, han eliminado la moderaci\u00f3n de contenidos. Otras plataformas de IA han comenzado a eliminar restricciones a respuestas sobre cuestiones potencialmente da\u00f1inas.<\/p>\n
El Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda (NIST, por sus siglas en ingl\u00e9s) ha requerido a los cient\u00edficos del Instituto de Seguridad de Inteligencia Artificial de EE UU (AISI, por sus siglas en ingl\u00e9s), creado por Joe Biden en 2023 para anticipar los problemas que pueda generar la IA, a que eludan el desarrollo de herramientas \u201cpara autenticar y rastrear la procedencia de los contenidos\u201d o \u201cetiquetar\u201d el elaborado con los nuevos modelos de lenguaje. Trump rechaza la moderaci\u00f3n de contenidos y reclama su supresi\u00f3n en aras de una supuesta libertad de expresi\u00f3n. Una orden ejecutiva emitida por el presidente estadounidense en enero justifica la medida: \u201cPara mantener el liderazgo, debemos desarrollar sistemas de IA que est\u00e9n libres de sesgos ideol\u00f3gicos o agendas sociales dise\u00f1adas\u201d.<\/p>\n
\u201cEs una falacia\u201d, replica Danesi: \u201cEsta idea de a mayor regulaci\u00f3n menor desarrollo o progreso es una idea falsa porque los sectores m\u00e1s regulados, como el farmac\u00e9utico o los bancos, son los que m\u00e1s ganancias tienen. El problema es cuando la regulaci\u00f3n est\u00e1 mal hecha y eso s\u00ed implica una obstrucci\u00f3n a la innovaci\u00f3n. La clave est\u00e1 en c\u00f3mo regular para garantizar valores supremos como los derechos humanos o fundamentales\u201d.<\/p>\n
\nLa proliferaci\u00f3n de im\u00e1genes generadas por IA que fundamentan noticias falsas (falsificaciones profundas<\/i>), la f\u00e1cil viralizaci\u00f3n del contenido, independientemente de su veracidad, y las narrativas manipuladas han convertido la desinformaci\u00f3n en una de las amenazas m\u00e1s graves para los sistemas democr\u00e1ticos<\/p>\n
Cecilia Danesi, investigadora en el Instituto de Estudios Europeos y Derechos Humanos<\/cite><\/p><\/blockquote>\n
Esta ausencia de control y moderaci\u00f3n genera, seg\u00fan explica la investigadora, \u201cla proliferaci\u00f3n de im\u00e1genes generadas por IA que fundamentan noticias falsas (falsificaciones profundas<\/i>), la f\u00e1cil viralizaci\u00f3n del contenido, independientemente de su veracidad, y las narrativas manipuladas\u201d. \u201cHan convertido la desinformaci\u00f3n en una de las amenazas m\u00e1s graves para los sistemas democr\u00e1ticos\u201d, advierte.<\/p>\n
Ante esta situaci\u00f3n, y en contradicci\u00f3n con el liberalismo sin l\u00edmites en la red defendido por Trump y plataformas tecnol\u00f3gicas masivas, la mayor\u00eda de los usuarios de herramientas digitales piden restricciones al contenido da\u00f1ino internet, como las amenazas f\u00edsicas, la difamaci\u00f3n, la intolerancia y el odio, seg\u00fan una encuesta a gran escala realizada por la Universidad T\u00e9cnica de M\u00fanich (TUM) y la Universidad de Oxford en 10 pa\u00edses de Europa, Am\u00e9rica, \u00c1frica y Australia, donde se ha prohibido el acceso a redes sociales a los menores de 16 a\u00f1os.<\/p>\n
De media, el 79% de los encuestados cree que las incitaciones a la violencia en internet deben eliminarse. Los m\u00e1s favorables (86%) son alemanes, brasile\u00f1os y eslovacos mientras que, en EE UU, el apoyo a estas restricciones baja al 63%.<\/p>\n
Solo el 14% de todos los encuestados cree que las amenazas deben mostrarse para que los usuarios puedan responder a ellas y el 17% defiende que debe permitirse el contenido ofensivo para criticar a ciertos grupos de personas o para que una opini\u00f3n capte la atenci\u00f3n (20%). El pa\u00eds con el mayor nivel de respaldo a esta actitud es Estados Unidos (29%) y el apoyo m\u00e1s bajo se registra en Brasil (9%).<\/p>\n
A la pregunta de si prefieren redes con libertad de expresi\u00f3n ilimitada o libres de odio o desinformaci\u00f3n, en todos los pa\u00edses, la mayor\u00eda opt\u00f3 por plataformas seguras frente a la violencia digital y la informaci\u00f3n enga\u00f1osa.<\/p>\n
\nEl 79% de los encuestados cree que las incitaciones a la violencia en internet deben eliminarse. Los m\u00e1s favorables (86%) son alemanes, brasile\u00f1os y eslovacos mientras que, en EE UU, el apoyo a estas restricciones baja al 63%<\/p>\n
Encuesta de la Universidad T\u00e9cnica de M\u00fanich (TUM) y la Universidad de Oxford en 10 pa\u00edses<\/cite><\/p><\/blockquote>\n
\u201cLa mayor\u00eda de las personas quieren plataformas que reduzcan el discurso de odio y el abuso. Tambi\u00e9n en Estados Unidos, un pa\u00eds con un compromiso hist\u00f3rico con la libertad de expresi\u00f3n en el sentido m\u00e1s amplio\u201d, comenta Yannis Theocharis, principal autor del estudio y profesor de Gobernanza Digital en la Escuela de Pol\u00edtica y Pol\u00edticas P\u00fablicas de M\u00fanich.<\/p>\n
No obstante, seg\u00fan matiza Spyros Kosmidis, coautor del trabajo y profesor de Pol\u00edtica en la Universidad de Oxford, \u201cLos resultados tambi\u00e9n muestran que no hay un consenso universal en relaci\u00f3n con la libertad de expresi\u00f3n y la moderaci\u00f3n. Las creencias de las personas dependen en gran medida de las normas culturales, las experiencias pol\u00edticas y las tradiciones jur\u00eddicas de los distintos pa\u00edses. Esto hace que la regulaci\u00f3n global sea m\u00e1s dif\u00edcil\u201d.<\/p>\n
Tampoco est\u00e1 claro qui\u00e9n debe mantener la seguridad en internet frente a contenidos da\u00f1inos y los porcentajes se reparten de forma similar entre quienes atribuyen esta responsabilidad a las plataformas, a los gobiernos o a los propios usuarios.<\/p>\n
En cualquier caso, sea quien sea el responsable, la mayor\u00eda de los usuarios (59%) considera que los contenidos ofensivos, de intolerancia u odio son inevitables y cuentan con reacciones de esta naturaleza (65% de media y 73% en Estados Unidos) cada vez que publican algo.<\/p>\n
\u201cNotamos una resignaci\u00f3n generalizada. La gente tiene la impresi\u00f3n de que, a pesar de todas las promesas de lidiar con el contenido ofensivo, nada est\u00e1 mejorando. Este efecto de aclimataci\u00f3n es un gran problema porque est\u00e1 socavando gradualmente las normas sociales y normalizando el odio y la violencia\u201d, advierte Yannis Theocharis.<\/p>\n