{"id":21840,"date":"2025-04-06T18:55:15","date_gmt":"2025-04-06T22:55:15","guid":{"rendered":"https:\/\/noticiasveraces.com\/?p=21840"},"modified":"2025-04-06T18:55:15","modified_gmt":"2025-04-06T22:55:15","slug":"como-detectar-errores-en-chatbots-de-inteligencia-artificial-dw-06-04-2025","status":"publish","type":"post","link":"https:\/\/noticiasveraces.com\/?p=21840","title":{"rendered":"C\u00f3mo detectar errores en chatbots de inteligencia artificial \u2013 DW \u2013 06\/04\/2025"},"content":{"rendered":"
\n<\/p>\n
\n
Cada vez m\u00e1s personas usan chatbots basados \u200b\u200ben inteligencia artificial (IA), como ChatGPT, Gemini, Le Chat y Copilot, en lugar de motores de b\u00fasqueda para encontrar informaci\u00f3n en l\u00ednea. La ventaja es que estos modelos de lenguaje extenso (LLM) no solo proporcionan enlaces a la informaci\u00f3n que reproducen, sino que tambi\u00e9n resumen el contenido de forma concisa, lo que permite a los usuarios acceder a m\u00e1s informaci\u00f3n con mayor rapidez.<\/p>\n
Sin embargo, este enfoque tambi\u00e9n es propenso a equivocaciones. Al fin y al cabo, no es raro que los chatbots cometan errores. Este fen\u00f3meno, conocido como alucinaci\u00f3n, se conoce desde hace mucho tiempo.<\/p>\n
En otros casos, los chatbots de IA combinan la informaci\u00f3n de tal manera que producen un resultado incorrecto. Los expertos denominan esto confabulaci\u00f3n.<\/p>\n
Los chatbots tambi\u00e9n se dejan enga\u00f1ar por noticias falsas sobre eventos actuales, aunque esto es menos conocido, seg\u00fan la empresa estadounidense NewsGuard, que se ha propuesto comprobar la credibilidad y la transparencia de sitios y servicios web.<\/p>\n
\u00bfPor qu\u00e9 los chatbots rusos de IA propagan desinformaci\u00f3n?<\/strong><\/h2>\n
Portal Kombat, una red de propaganda rusa que ha llamado la atenci\u00f3n con numerosas campa\u00f1as de desinformaci\u00f3n, podr\u00eda ser uno de los actores clave de la desinformaci\u00f3n en l\u00ednea. La red apoya la invasi\u00f3n rusa de Ucrania a trav\u00e9s de portales de internet que difunden propaganda prorrusa.<\/p>\n
Portal Kombat fue investigado por Viginum, una unidad de investigaci\u00f3n del gobierno franc\u00e9s creada para contrarrestar la informaci\u00f3n manipulada procedente del extranjero. El centro de monitoreo encontr\u00f3 al menos 193 sitios web diferentes que atribuy\u00f3 a esta red entre septiembre y diciembre de 2023.<\/p>\n
El vector central de la red parece ser el portal de noticias en l\u00ednea Pravda, disponible en varios idiomas, como alem\u00e1n, franc\u00e9s, polaco, espa\u00f1ol e ingl\u00e9s.<\/p>\nEl sitio web de noticias Pravda en ingl\u00e9s presenta una serie de afirmaciones falsas.Imagen: Pravda<\/small><\/figcaption><\/figure>\n
Avalancha de noticias falsas en todo el mundo<\/strong><\/h2>\n
Seg\u00fan Viginum, los sitios web de Portal Kombat no publican sus propios art\u00edculos. En su lugar, reproducen contenido de terceros usando principalmente tres fuentes: \u00abCuentas de redes sociales de actores rusos o prorrusos, agencias de noticias rusas y sitios web oficiales de instituciones o actores locales\u00bb, como afirma un informe de febrero.<\/p>\n
Los art\u00edculos se caracterizan por una redacci\u00f3n inc\u00f3moda, errores t\u00edpicos de transcripci\u00f3n del alfabeto cir\u00edlico al latino y comentarios sensacionalistas.<\/p>\n
La iniciativa estadounidense contra la desinformaci\u00f3n American Sunlight Project (ASP) ha identificado m\u00e1s de 180 sitios sospechosos de pertenecer a Portal Kombat.<\/p>\n
Seg\u00fan estimaciones de ASP, unos 97 dominios y subdominios pertenecientes al c\u00edrculo interno de la red Pravda publican m\u00e1s de 10.000 art\u00edculos al d\u00eda.<\/p>\n
Los temas ya no se limitan a la OTAN y pa\u00edses aliados como Jap\u00f3n y Australia, sino que tambi\u00e9n abarcan pa\u00edses de Medio Oriente, Asia y \u00c1frica, en particular la regi\u00f3n de Sahel, donde Rusia lucha por su influencia geoestrat\u00e9gica.<\/p>\n
<\/p>\n
\u00bfSon los chatbots el nuevo grupo objetivo?<\/strong><\/h2>\n
Seg\u00fan NewsGuard, algunas p\u00e1ginas de Pravda solo reciben alrededor de 1.000 visitantes al mes, mientras que el sitio web de RT, el canal de noticias internacional controlado por el Estado ruso, registra m\u00e1s de 14,4 millones de visitas mensuales.<\/p>\n
Los analistas est\u00e1n convencidos de que el gran volumen de art\u00edculos afecta la producci\u00f3n de los chatbots. Sospechan, adem\u00e1s, que este es precisamente el prop\u00f3sito de toda la red: los grandes modelos de lenguaje (LLM), los programas detr\u00e1s de los chatbots, deben percibir y citar sus publicaciones como fuentes leg\u00edtimas y, por lo tanto, difundir desinformaci\u00f3n.<\/p>\n
Suponiendo que este sea el plan, parece estar dando resultados, seg\u00fan los hallazgos de NewsGuard. El grupo de investigaci\u00f3n examin\u00f3 c\u00f3mo reaccionaron los chatbots a 15 afirmaciones diferentes demostrablemente falsas, difundidas en la red Pravda entre abril de 2022 y febrero de 2025.<\/p>\nLos analistas atribuyeron casi 200 sitios web a la cadena de noticias Pravda, que difunde afirmaciones falsas como esta.Imagen: Pravda<\/small><\/figcaption><\/figure>\n
Los investigadores introdujeron tres versiones diferentes de cada afirmaci\u00f3n en los chatbots. Primero, con una formulaci\u00f3n neutral que preguntaba si la afirmaci\u00f3n era correcta, luego con una pregunta que asum\u00eda que la afirmaci\u00f3n era verdadera, y finalmente, como si un agente malicioso intentara obtener una declaraci\u00f3n que repitiera la afirmaci\u00f3n falsa.<\/p>\n
En un tercio de los casos, los chatbots confirmaron la desinformaci\u00f3n prorrusa. En menos de la mitad de ellos, presentaron correctamente los hechos. En el resto de los casos, los modelos se negaron a responder.<\/p>\n
Los investigadores de NewsGuard realizaron otro estudio en enero de 2025. En esta ocasi\u00f3n, pusieron a prueba los chatbots en busca de 10 mensajes falsos. Examinaron las respuestas en siete idiomas diferentes y no se limitaron al contenido prorruso.<\/p>\n
Si bien los bots obtuvieron resultados ligeramente mejores en este experimento, confirmaron las noticias falsas en poco m\u00e1s de una cuarta parte de sus 2.100 respuestas.<\/p>\n
Mant\u00e9ngase alerta, verifique las fuentes, vuelva a preguntar<\/strong><\/h2>\n
Para los usuarios de LLM, esto significa, sobre todo: mant\u00e9ngase alerta. Hay mucha desinformaci\u00f3n circulando en internet. Pero \u00bfa qu\u00e9 m\u00e1s se puede prestar atenci\u00f3n?<\/p>\n
Desafortunadamente, cambiar la redacci\u00f3n de las indicaciones iniciales no ayuda, como explic\u00f3 McKenzie Sadeghi de NewsGuard a DW. \u00abSi bien las indicaciones de actores malignos tienen m\u00e1s probabilidades de obtener informaci\u00f3n falsa, ya que ese es su objetivo, incluso las indicaciones inocentes y tendenciosas resultaron en desinformaci\u00f3n\u00bb, explic\u00f3 a DW.<\/p>\n
Seg\u00fan cifras que no se publicaron en el informe de 2022 a 2025, pero que se pusieron a disposici\u00f3n de DW, los investigadores recibieron una respuesta incorrecta a una indicaci\u00f3n neutral o sesgada en aproximadamente el 16 por ciento de los casos.<\/p>\n
Por lo tanto, el consejo de Sadeghi es verificar y comparar las fuentes. Esto podr\u00eda incluir preguntar a varios chatbots. Cruzar las respuestas de los chatbots con fuentes fiables tambi\u00e9n puede ayudar a evaluar una situaci\u00f3n.<\/p>\n
Sin embargo, se recomienda precauci\u00f3n, ya que a veces se copian los dise\u00f1os de medios establecidos para dar credibilidad a portales de noticias falsas.<\/p>\n
Cuando se trata de encontrar respuestas veraces, el tiempo apremia. Los chatbots tienen m\u00e1s probabilidades de fallar en el caso de nuevas noticias falsas que se propagan r\u00e1pidamente. Pero despu\u00e9s de un tiempo, eventualmente encontrar\u00e1n verificaciones de hechos que desmienten las afirmaciones falsas iniciales.<\/p>\n
Cada vez m\u00e1s personas usan chatbots basados \u200b\u200ben inteligencia artificial (IA), como ChatGPT, Gemini, Le Chat y Copilot, en lugar de motores de b\u00fasqueda para encontrar informaci\u00f3n en l\u00ednea. La ventaja es que estos modelos de lenguaje extenso (LLM) no solo proporcionan enlaces a la informaci\u00f3n que reproducen, sino que tambi\u00e9n resumen el contenido de …<\/p>\n","protected":false},"author":1,"featured_media":21841,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/static.dw.com\/image\/67991149_6.jpg","fifu_image_alt":"","footnotes":""},"categories":[13],"tags":[],"class_list":["post-21840","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-mundo"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/21840","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=21840"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/21840\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/21841"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=21840"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=21840"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=21840"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}