M\u00e1s informaci\u00f3n<\/header>\n<\/aside>\nEn las carreteras, los guardarra\u00edles establecen fronteras, marcan el camino posible por el que se puede circular. Es decir, reducen el riesgo al mantener el comportamiento (en este caso, el control del veh\u00edculo) en un camino predeterminado. Cuando hablamos de los guardarra\u00edles de la IA, dicen los autores del art\u00edculo, \u201cnos referimos a un conjunto de normas inamovibles que mantengan la tecnolog\u00eda en un curso aceptable que asegure que los usuarios permanezcan a salvo y que la sociedad no se precipite hacia un acantilado metaf\u00f3rico\u201d. Los guardarra\u00edles imponen prohibiciones y est\u00e1ndares de obligatorio cumplimiento a los desarrolladores con el objetivo de evitar resultados espec\u00edficos.<\/p>\n
El Reglamento Europeo de IA, por ejemplo, proh\u00edbe varias aplicaciones de la IA, como los sistemas de cr\u00e9dito social o los sistemas autom\u00e1ticos de identificaci\u00f3n biom\u00e9trica en tiempo real. Pero tambi\u00e9n incorpora elementos del enfoque propuesto en el art\u00edculo, ya que exige auditor\u00edas constantes.<\/p>\n
Algunas herramientas de IA est\u00e1n dise\u00f1adas para fines espec\u00edficos, como detectar c\u00e1ncer de piel o hacer recomendaciones de pel\u00edculas. Otras, como los grandes modelos de lenguaje (LLM, por sus siglas inglesas), son la base de herramientas de IA generativa o de prop\u00f3sito general que pueden utilizarse para muchos fines, entre ellos la programaci\u00f3n, la redacci\u00f3n y la s\u00edntesis de texto. Los sistemas de IA pueden tener arquitecturas muy distintas, que van desde las redes neuronales hasta modelos m\u00e1s lineales. Asimismo, factores como las fuentes de datos usadas en el entrenamiento, as\u00ed como el propio sistema de entrenamiento elegido, pueden hacer variar considerablemente los resultados arrojados por una IA. Para los autores, someter a las mismas reglas a herramientas tan distintas implica, casi por definici\u00f3n, desenfocar el problema.<\/p>\n
La regulaci\u00f3n basada en la gesti\u00f3n humana de la IA, sostiene el art\u00edculo, ofrece varias ventajas clave sobre el enfoque de los guardarra\u00edles, ya que \u201cresponde mejor a los usos y problemas novedosos de la IA y permite en mayor medida la exploraci\u00f3n, el descubrimiento y el cambio tecnol\u00f3gicos\u201d. No obstante, los sistemas de gesti\u00f3n exigidos por la regulaci\u00f3n \u201csiguen proporcionando una estructura controlada que, como una correa, puede ayudar a evitar que la IA \u2018se descontrole\u2019. Este modelo enfatiza la necesidad de mantener la supervisi\u00f3n humana en todas las etapas del ciclo de vida de la IA (entrenamiento, validaci\u00f3n y pruebas), y refuerza la importancia de la vigilancia y la responsabilidad humana continua\u201d.<\/p>\n
Pros y contras de cada modelo<\/h3>\n
El modelo de gesti\u00f3n de riesgos de la IA propuesto en el art\u00edculo, eso s\u00ed, depende de una vigilancia humana continua. \u201cLa regulaci\u00f3n basada en la gesti\u00f3n busca garantizar que las empresas que desarrollan y utilizan IA de formas que pueden representar riesgos para los consumidores y la sociedad ejerzan una supervisi\u00f3n constante, manteniendo un control firme sobre la correa, incluso cuando la flexibilidad de esta permita espacio para la exploraci\u00f3n y la innovaci\u00f3n\u201d.<\/p>\n
Eso implica que los desarrolladores de IA deber\u00edan someterse a auditor\u00edas, estudios de impacto y actualizaciones continuas para evitar el deterioro en la gesti\u00f3n de riesgos. Es decir, m\u00e1s transparencia. \u201cAs\u00ed se eliminar\u00eda la necesidad de que los reguladores tengan el mismo nivel de conocimiento sobre IA que cada empresa y se evitar\u00eda establecer barreras poco realistas para el desarrollo de avances tecnol\u00f3gicos\u201d, dice Coglianese.<\/p>\n
En el caso del coche aut\u00f3nomo que atropell\u00f3 y mat\u00f3 a un peat\u00f3n en Arizona en 2018, aventura el art\u00edculo, una auditor\u00eda externa quiz\u00e1s habr\u00eda sugerido m\u00e1s pruebas nocturnas que quiz\u00e1s habr\u00edan evitado el accidente. Y, en el caso de la ni\u00f1a brit\u00e1nica que se suicid\u00f3 en parte por culpa de las redes sociales, tal y como han establecido las autoridades, el enfoque de las correas a lo mejor habr\u00eda llevado a Pinterest e Instagram, las plataformas en las que consumi\u00f3 contenido que incitaba al suicidio a elaborar un mapa de riesgos y analizar su contribuci\u00f3n a las enfermedades mentales.<\/p>\n
Entonces, \u00bfson mejores las correas o los guardarra\u00edles? \u201cEn mi opini\u00f3n, ninguna de las formas que tenemos de regular la IA son buenas\u201d, dice Lorena Jaume-Palas\u00ed, experta en filosof\u00eda del derecho aplicado a la tecnolog\u00eda. \u201cPara comprender la propuesta del art\u00edculo hay que tener en cuenta que su autor procede de EE UU, donde hay una cultura y arquitectura legal muy distinta a la europea. Los profesores estadounidenses generalmente no suelen entender que la forma en que ellos regulan no funciona con las estructuras legales que nosotros tenemos\u201d, a\u00f1ade.<\/p>\n
As\u00ed, por ejemplo, al otro lado del Atl\u00e1ntico impera el an\u00e1lisis del coste beneficio: si los beneficios superan a los costes, se ve leg\u00edtimo sacar, por ejemplo, un medicamento, aunque tenga efectos adversos. En Europa somos m\u00e1s estrictos. \u201cAqu\u00ed tienes que entender e identificar los riesgos que implica tu producto, y demostrar que ya los has tratado de paliar. Si no lo has hecho, no puedes comercializar tu producto\u201d. Sin guardarra\u00edles no hay correa que valga.<\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":"
En el mundo de la inteligencia artificial (IA) se usa la met\u00e1fora de los guardarra\u00edles para ilustrar c\u00f3mo se deben prevenir los riesgos de esta tecnolog\u00eda. Si se dise\u00f1an unos buenos guardarra\u00edles, o l\u00edmites aceptables, la IA no descarrilar\u00e1. La expresi\u00f3n y el concepto est\u00e1n muy extendidos tanto entre los propios dise\u00f1adores de los sistemas …<\/p>\n","protected":false},"author":1,"featured_media":33998,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/imagenes.elpais.com\/resizer\/v2\/MUJUAIQK5ZHXRG2DQFRMJQWBEI.jpg?auth=c6e847f15000031f8639407909ffc67925ddaac20554bbeacecfc476d5a829f0&width=1200","fifu_image_alt":"","footnotes":""},"categories":[2],"tags":[],"class_list":["post-33996","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/33996","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=33996"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/33996\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/33998"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=33996"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=33996"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=33996"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![](\"https:\/\/imagenes.elpais.com\/resizer\/v2\/MUJUAIQK5ZHXRG2DQFRMJQWBEI.jpg?auth=c6e847f15000031f8639407909ffc67925ddaac20554bbeacecfc476d5a829f0\")
<\/p>\n