\n
Arjun Subramonian (Estados Unidos, 24 a\u00f1os) creci\u00f3 por casualidad en California, un lugar conocido por el <\/i>glamour <\/i>de Hollywood y sobre todo por ser la meca de la innovaci\u00f3n tecnol\u00f3gica. el Estado Dorado<\/i> es cuna de cientos de industrias inform\u00e1ticas aglutinadas en Silicon Valley, un ambiente que le llev\u00f3 a imaginar en su infancia c\u00f3mo los ordenadores impulsar\u00edan vanguardistas autom\u00f3viles que los humanos conducir\u00edan en el futuro. Pero algo cambi\u00f3 en la percepci\u00f3n de Subramonian cuando cursaba la carrera de Ciencias de la Computaci\u00f3n en la Universidad de California. En esa \u00e9poca se declar\u00f3 abiertamente gay y pensaba a diario en la marginaci\u00f3n del colectivo LGBTIQ+, que figura un 20% menos en el espacio tecnol\u00f3gico. \u201cHay grandes modelos de lenguaje entrenados con informaci\u00f3n de Internet. Y todos sabemos, que si eres mujer, negro u homosexual, ese lugar ser\u00e1 muy t\u00f3xico para ti\u201d, reflexiona sobre los sesgos algor\u00edtmicos o de aprendizaje autom\u00e1tico<\/i>una serie de prejuicios no deseados que afectan a los sistemas de inteligencia artificial (IA) generativa.<\/p>\n
El aprendizaje autom\u00e1tico no se libra de los resultados sesgados que provocan que cientos de distorsiones caigan como dardos contra grupos tradicionalmente excluidos de la sociedad, que al mismo tiempo, se encuentran subrepresentados en las disciplinas. PROVENIR,<\/i> el acr\u00f3nimo en ingl\u00e9s de la ciencia, tecnolog\u00eda, ingenier\u00eda y matem\u00e1ticas. Subramonian es uno de los principales impulsores de Queer in AI, una organizaci\u00f3n que surgi\u00f3 a mediados de 2020 para visibilizar la diversidad en la producci\u00f3n cient\u00edfica con activistas distribuidas en m\u00e1s de 47 pa\u00edses del mundo. \u201cLa censura es uno de los mayores da\u00f1os que veo a corto plazo\u201d, advierte.<\/p>\n\nM\u00e1s informaci\u00f3n<\/header>\n<\/aside>\nSubramonian recuerda que durante la pandemia, los activistas se reunieron en una plataforma de mensajer\u00eda llamada Rocket Chat. Cuando intentaban conversar entre s\u00ed, se percataron que el t\u00e9rmino queer<\/i>por alguna raz\u00f3n, no se estaba enviando. \u201cNos ve\u00edamos obligados a evitar esa palabra porque imped\u00eda que se mandaran los mensajes\u201d, cuenta. Esto ocurre, de acuerdo a Subramonian, porque existen listas de bloqueo que moderan el contenido generado por los usuarios para que cumplan con las pautas y pol\u00edticas de una plataforma. Se trata de un proceso digital que puede filtrar y administrar los datos de textos, im\u00e1genes, v\u00eddeos e incluso transmisiones en vivo. A menudo se reutilizan para filtrar t\u00e9rminos. queer<\/i> de los datos de entrenamiento de IA, como grandes modelos de lenguaje.<\/p>\n<\/svg><\/span>Arjun Subramonian es doctor en Ciencias de la Computaci\u00f3n de la Universidad de California (UCLA).<\/span>Esha Krishna Moorthy<\/span><\/figcaption><\/figure>\n\u201cA menudo se identifica a ciertas palabras como inapropiadas\u201d, explica. Hasta 2012, por ejemplo, Google consideraba el t\u00e9rmino bisexual como un tipo de pornograf\u00eda. Los datos son la materia prima de la IA y cuando es entrenada con informaci\u00f3n parcial, la m\u00e1quina puede entregar respuestas bastante limitadas. Una situaci\u00f3n de este tipo le ocurri\u00f3 a Ilia S. (Rusia, 29 a\u00f1os), una persona transg\u00e9nero y activista por los derechos humanos asentada en Tailandia que dej\u00f3 su pa\u00eds natal despu\u00e9s de que estallara la guerra en Ucrania en 2022. \u201cMi voz es muy andr\u00f3gina, a menudo el tono fluct\u00faa y me confunden con una anciana y en algunos casos, con mi madre\u201d, cuenta el abogado, que opta por no revelar su nombre completo para resguardar su seguridad.<\/p>\n
El momento m\u00e1s angustiante que ha experimentado con un sistema de IA fue con su banco, cuando viv\u00eda en Rusia. Deb\u00eda verificar una transacci\u00f3n que no se realiz\u00f3. El ejecutivo de la entidad bancaria comenz\u00f3 a realizarle preguntas espec\u00edficas e inusuales como su lugar de nacimiento y cu\u00e1nto saldo ten\u00eda disponible en la cuenta. \u201cNo eres t\u00fa\u201d, fue el mensaje que obtuvo, ya que esa era la conclusi\u00f3n del sistema de reconocimiento de voz con IA. Luego, el abogado recibi\u00f3 una amenaza de bloqueo de tarjeta por fraude. \u201cEstaba casi llorando porque no pod\u00eda demostrar que era yo\u201d, dice. \u201cAhora est\u00e1 la opci\u00f3n de hacer videollamadas para comparar tu cara con la foto, pero en muchas plataformas esto no es as\u00ed\u201d, aclara.<\/p>\n
La censura de lo queer<\/i><\/h3>\n Los mensajes en el contenido pueden provocar resultados perjudiciales y equivocados, intencionados o no, en Internet. Arjun Subramonian tuvo una experiencia de este tipo con su biograf\u00eda. En una ocasi\u00f3n se top\u00f3 con un texto creado con IA generativa que recopil\u00f3 toda su informaci\u00f3n en l\u00ednea. El problema fue que ten\u00eda los pronombres incorrectos, pues es una persona no binaria. El error se conoce como ingenuo<\/i>un fen\u00f3meno que afecta a la poblaci\u00f3n transg\u00e9nero e intersexual. \u201cEl contenido es monitoreado y est\u00e1 fuera de tu control. Eso genera mucha censura con el aspecto. queer<\/i> de tu identidad\u201d, reflexiona.<\/p>\n
Para Ilia S., este es un problema universal que padecen las personas trans que sufren dificultades de este tipo. El jurista ruso lleva trabajando como activista desde 2013, mismo per\u00edodo en el que Vlad\u00edmir Putin promulg\u00f3 la ley contra la propaganda LGBTIQ+. Desde que la medida est\u00e1 vigente, la cantidad de contenido sobre estos temas en los sitios web rusos ha ido desapareciendo, algo que tambi\u00e9n ha afectado a los sistemas de b\u00fasqueda de libros de las bibliotecas p\u00fablicas. \u201cSi ingresas ciertos t\u00e9rminos relacionados con contenido LGBTIQ+, no podr\u00e1s encontrar nada porque se eliminaron los t\u00edtulos\u201d, asegura.<\/p>\nRetrato de Ilia S. con la \u00faltima versi\u00f3n de Midjourney. A menudo, la IA suele interpretar su rostro como alguien mayor aunque tiene 29 a\u00f1os.<\/span>A mitad del viaje <\/span><\/figcaption><\/figure>\nOtras fallas detectadas por los expertos es en los sistemas de reconocimiento facial, que son herramientas capaces de similar el rostro de personas a trav\u00e9s del g\u00e9nero, edad y caracter\u00edsticas faciales. La cara de Ilia tampoco se lee correctamente con algunas de estas aplicaciones, como MidJourney. Se trata de un software que genera im\u00e1genes a partir de texto y ahora con la funci\u00f3n Referencia de personaje<\/i>tambi\u00e9n puedes hacerlo con <\/i>fotos de rostros humanos. En una versi\u00f3n antigua de este programa, el rostro no pudo ser procesado.<\/p>\n
\u201cA veces estas aplicaciones me ven como una persona mayor o generan monstruos. Cuando Midjourney introdujo la referencia de personajes, mejor\u00f3 mucho\u201d, asegura.<\/p>\n
Ni buena ni mala<\/h3>\n Aunque la IA es capaz de reproducir la homofobia, el machismo o el racismo \u2015un estudio de la Universidad de Deusto ya alertaba de esto en 2023\u2015, en realidad no es buena ni mala, opina Cristina Aranda (Madrid, Espa\u00f1a, 48 a\u00f1os) , doctora en Ling\u00fc\u00edstica Te\u00f3rica y cofundadora de Big Onion. \u201cEs como mi lavadora, yo decid\u00ed qu\u00e9 programa poner y la mayor\u00eda de las empresas que toman decisiones est\u00e1n compuestas por hombres heterosexuales de mediana edad, educados en las mismas universidades y que probablemente celebran barbacoas juntos\u201d, ironiza.<\/p>\n<\/svg><\/span>Cristina Aranda es doctora en Ling\u00fc\u00edstica Te\u00f3rica y Aplicada por la Universidad Aut\u00f3noma de Madrid.<\/span>Fran Ferrer <\/span><\/figcaption><\/figure>\nLa experta, que trabaja con empresas para automatizar procesos con el lenguaje, cree que el sector tecnol\u00f3gico tambi\u00e9n necesita perfiles de humanidades. \u201cNo hay nada m\u00e1s filol\u00f3gico que la palabra\u201d, dice. En esa l\u00ednea, Adio Dinika (Zimbabue, 33 a\u00f1os), polit\u00f3logo e investigador en el Instituto de Investigaci\u00f3n sobre Inteligencia Artificial Distribuida (DAIR, por sus siglas en ingl\u00e9s), piensa que \u201cno es una herramienta que inventa cosas\u201d, sino m\u00e1s bien. un producto en el que prevalece la visi\u00f3n de un hombre blanco: \u201cSilicon Valley vino a determinar la agenda de la IA\u201d.<\/p>\n
Hace algunos a\u00f1os, Aranda hizo un curso sobre c\u00f3mo ayudar a las marcas a posicionarse en los buscadores cuando estaba en paro y ah\u00ed tuvo una epifan\u00eda. \u201cNo hab\u00eda reparado que cuando realizamos b\u00fasquedas en Internet escribimos palabras. Google no deja de ser un buscador un poco l\u00e9xico-sem\u00e1ntico\u201d, cuenta. Aranda se refiere, en t\u00e9rminos simples, al vocabulario, la jerarquizaci\u00f3n de los significados y la interpretaci\u00f3n de las palabras que realizan las plataformas.<\/p>\n<\/svg><\/span>Adio Dinika, es investigador de DAIR. La empresa fue fundada por Timnit Gebru, una ex trabajadora de Google que en 2020 fue despedida al plantear problemas \u00e9ticos relacionados con el racismo en la IA.<\/span>FOTOGRAF\u00cdA NAJOS<\/span><\/figcaption><\/figure>\nEl 80% de los datos que hay en Internet no son estructurados, como las publicaciones en redes sociales, la videovigilancia o los datos meteorol\u00f3gicos, y es importante que otros profesionales, como psic\u00f3logos o antrop\u00f3logos, tambi\u00e9n se involucran en el proceso de clasificaci\u00f3n. \u201cEstos sistemas son listos, pero asombrosamente tontos porque les falta esta inteligencia social. \u00a1Vamos! Les falta calle\u201d, enfatiza Aranda.<\/p>\n
Existe un feudalismo tecnol\u00f3gico <\/i>y son las grandes compa\u00f1\u00edas las que \u201cest\u00e1n decidiendo qu\u00e9 se hace con esa inteligencia artificial\u201d, agrega. Ilia, por su parte, cree que instalar un marco regulatorio universal \u201ces muy dif\u00edcil\u201d para evitar estos problemas. Por el contrario, los otros expertos consultados coinciden en que s\u00ed deben establecerse ciertos par\u00e1metros para atajar estos sesgos.<\/p>\n
\u201cGran parte de la tecnolog\u00eda que vemos la desarrollan corporaciones en funci\u00f3n del capitalismo de vigilancia. La poblaci\u00f3n est\u00e1 siendo sujeta a las decisiones de estos sistemas y solo por eso creo que es muy importante\u201d, concluye Arjun Subramonian.<\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":"
Arjun Subramonian (Estados Unidos, 24 a\u00f1os) creci\u00f3 por casualidad en California, un lugar conocido por el glamour de Hollywood y sobre todo por ser la meca de la innovaci\u00f3n tecnol\u00f3gica. el Estado Dorado es cuna de cientos de industrias inform\u00e1ticas aglutinadas en Silicon Valley, un ambiente que le llev\u00f3 a imaginar en su infancia c\u00f3mo …<\/p>\n","protected":false},"author":1,"featured_media":7459,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/imagenes.elpais.com\/resizer\/v2\/3MBF7LZ4LNHVZEZYFC3JGDNOHI.jpg?auth=4bbccb416d55553637ff7ce9030b81582dcc7e6aad3ff0605fcc890ed6fd0a7e&width=1200","fifu_image_alt":"","footnotes":""},"categories":[2],"tags":[],"class_list":["post-7458","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/7458","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7458"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/7458\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/7459"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7458"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7458"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7458"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}