\n<\/p>\n
En general, algunas im\u00e1genes de la base de datos parec\u00edan ser totalmente de IA, incluidas im\u00e1genes de estilo anime, mientras que otras eran \u00abhiperrealistas\u00bb y parec\u00edan estar basadas en personas reales, afirma el investigador. No est\u00e1 claro cu\u00e1nto tiempo permanecieron expuestos los datos en internet. El portavoz de DreamX dice que \u00abning\u00fan sistema operativo se vio comprometido\u00bb.<\/p>\n
El sitio web de MagicEdit, mientras estuvo en l\u00ednea, no parec\u00eda decir expl\u00edcitamente que pod\u00eda utilizarse para crear im\u00e1genes expl\u00edcitas de adultos. Sin embargo, Fowler escribe en su informe que su clasificaci\u00f3n en la App Store de Apple figuraba como 18+. En su p\u00e1gina de inicio tambi\u00e9n aparec\u00eda una imagen generada por IA de una mujer con vestido, que cambia a un bikini. En el sitio web se enumeraban varias \u00abherramientas de IA\u00bb que se pod\u00edan utilizar, desde \u00abconversi\u00f3n de texto a video\u00bb y eliminaci\u00f3n de fondos de video, hasta un \u00abborrador m\u00e1gico\u00bb, cambio de caras y ampliaci\u00f3n de una imagen con IA, con algunas funciones bloqueadas tras un modo \u00abprofesional\u00bb de pago.<\/p>\n
MagicEdit tambi\u00e9n incluye una herramienta de \u00abropa con IA\u00bb. Muchos de los \u00abestilos\u00bb de herramientas de generaci\u00f3n de im\u00e1genes que aparecen en su sitio web mostraban im\u00e1genes sexualizadas de mujeres y, a menudo, las representaban con menos ropa (a veces en bikini o en ropa interior) una vez aplicada la IA. \u00abMira c\u00f3mo este conjunto pasa de informal cotidiano a sexy en segundos\u00bb, dec\u00eda un correo<\/em> en la cuenta de Instagram de MagicEdit, ahora eliminada.<\/p>\n \u00abHan hecho una gran manera de promover sutilmente el contenido sexualizado\u00bb, dice Fowler, se\u00f1alando que las herramientas de IA que representan la desnudez pueden ser f\u00e1cilmente \u00abarmadas\u00bb para el chantaje, el acoso y otros fines maliciosos.<\/strong> \u00abEstas empresas realmente tienen que hacer algo m\u00e1s que una ventana emergente gen\u00e9rica: ‘Al hacer clic aqu\u00ed, aceptas que tienes consentimiento para subir esta foto’. No puedes dejar que la gente se controle a s\u00ed misma, porque no lo har\u00e1. Tienen que tener alguna forma de moderaci\u00f3n que incluso vaya m\u00e1s all\u00e1 de la IA\u00bb.<\/p>\n \u00abDesde un punto de vista t\u00e9cnico, implementamos m\u00faltiples salvaguardas, mucho antes de recibir cualquier consulta externa, que incluyen la regulaci\u00f3n de los inmediato<\/em>el filtrado de entradas y la revisi\u00f3n obligatoria de todos los inmediato<\/em> de los usuarios a trav\u00e9s de la API de moderaci\u00f3n de OpenAI. Si un inmediato<\/em> viola las normas de seguridad, el sistema bloquea la petici\u00f3n autom\u00e1ticamente\u00bb, a\u00f1ade el portavoz.<\/p>\n \u00abEsto es la continuaci\u00f3n de un problema existente en lo que se refiere a esta apat\u00eda que sienten las nuevas empresas<\/em> hacia la confianza y la seguridad y la protecci\u00f3n de los ni\u00f1os\u00bb, menciona Adam Dodge, fundador de EndTAB (Ending Technology-Enabled Abuse), que ofrece formaci\u00f3n a escuelas y organizaciones para ayudar a abordar el abuso tecnol\u00f3gico.<\/p>\n Por su parte, el sitio web DreamPal, que se describ\u00eda a s\u00ed mismo como un \u00abchat de juegos de rol de inteligencia artificial\u00bb, era m\u00e1s expl\u00edcito en su naturaleza adulta. En sus p\u00e1ginas se dec\u00eda que la gente pod\u00eda \u00abcrear la novia IA de sus sue\u00f1os\u00bb. Algunos enlaces del sitio, probablemente dise\u00f1ados con fines de SEO, hac\u00edan referencia a \u00abAI Sexing Chat\u00bb (interacciones sexuales de IA), \u00abTalk Dirty AI\u00bb (hablar sucio IA) y \u00abAI Big Tits\u00bb (tetas grandes de IA). En la parte inferior del sitio web de DreamPal figuraban unas preguntas frecuentes: \u00abHemos eliminado cualquier filtro de chat de IA NSFW que pudiera impedirte expresar tus fantas\u00edas m\u00e1s \u00edntimas\u00bb.<\/p>\n \u00abTodo lo que estamos viendo era totalmente previsible. El impulso subyacente es la sexualizaci\u00f3n y el control de los cuerpos de mujeres y ni\u00f1as. No es un problema social nuevo, pero estamos vislumbrando c\u00f3mo es ese problema cuando est\u00e1 sobrealimentado por la IA\u00bb, concluye Dodge.<\/p>\n Art\u00edculo originalmente publicado en<\/em> CABLEADO. Adaptado por Alondra Flores.<\/em><\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":" En general, algunas im\u00e1genes de la base de datos parec\u00edan ser totalmente de IA, incluidas im\u00e1genes de estilo anime, mientras que otras eran \u00abhiperrealistas\u00bb y parec\u00edan estar basadas en personas reales, afirma el investigador. No est\u00e1 claro cu\u00e1nto tiempo permanecieron expuestos los datos en internet. El portavoz de DreamX dice que \u00abning\u00fan sistema operativo se …<\/p>\n","protected":false},"author":1,"featured_media":52699,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/media.es.wired.com\/photos\/6932ff13a08cb6b3cec7855a\/16:9\/w_1280,c_limit\/sec-ai-nudes-1365721742.jpg","fifu_image_alt":"","footnotes":""},"categories":[4],"tags":[],"class_list":["post-52698","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-historias-destacadas"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/52698","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=52698"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/52698\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/52699"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=52698"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=52698"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=52698"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}La sexualizaci\u00f3n es parte del problema<\/h2>\n