\n<\/p>\n
Aunque resulta imposible anticipar todos los riesgos por la naturaleza misma de lo desconocido, Amodei plantea tres preocupaciones ilustrativas. Los avances r\u00e1pidos en biolog\u00eda<\/strong> podr\u00edan extender dr\u00e1sticamente la esperanza de vida o permitir modificaciones radicales en la inteligencia y biolog\u00eda humanas; estos cambios acelerados podr\u00edan resultar beneficiosos si se manejan responsablemente, pero tambi\u00e9n encierran peligros, como la posibilidad de que mejoras cognitivas produzcan inestabilidad psicol\u00f3gica o ansias de poder, sin mencionar los riesgos inquietantes de las mentes digitales o \u00abcargas\u00bb.<\/p>\n Adem\u00e1s, la IA podr\u00eda transformar la vida humana de formas perjudiciales incluso sin intenciones hostiles: a trav\u00e9s de incentivos comerciales normales, podr\u00edamos ver el surgimiento de nuevas religiones creadas por IA, adicciones a interacciones artificiales, o personas convertidas en \u00abt\u00edteres\u00bb que siguen instrucciones constantes de sistemas de IA, perdiendo as\u00ed su autonom\u00eda y sentido de logro.<\/p>\n Finalmente, existe la cuesti\u00f3n del prop\u00f3sito humano en un mundo dominado por inteligencias superiores: aunque Amodei cree que podemos encontrar significado desvinculando la autoestima del valor econ\u00f3mico, esta transici\u00f3n social podr\u00eda fallar si no se gestiona adecuadamente. Su esperanza es que, en un mundo con IA confiable, podamos usar esa misma tecnolog\u00eda para anticipar y prevenir estos problemas, aunque reconoce que nada est\u00e1 garantizado.<\/p>\n El plan de defensa<\/p>\n La soluci\u00f3n no es detener el desarrollo (los aut\u00f3cratas no parar\u00e1n), sino intervenir quir\u00fargicamente:<\/p>\n La v\u00eda geopol\u00edtica:<\/strong> Controles de exportaci\u00f3n estrictos. Negarle a China y otros reg\u00edmenes el acceso a chips de vanguardia y equipos de fabricaci\u00f3n es la medida m\u00e1s efectiva a corto plazo para ganar tiempo.<\/p>\n Anthropic apuesta por la \u00abIA Constitucional\u00bb (entrenar modelos con valores expl\u00edcitos) y leyes de transparencia obligatorias para las empresas de frontera. Necesitamos ver las \u00abentra\u00f1as\u00bb de los modelos para saber si nos est\u00e1n mintiendo.<\/p>\n La econom\u00eda de la supervivencia:<\/strong> Amodei sugiere que la filantrop\u00eda masiva y, eventualmente, una intervenci\u00f3n gubernamental en la redistribuci\u00f3n (impuestos) ser\u00e1n inevitables para evitar el colapso social ante la concentraci\u00f3n de riqueza.<\/p>\n Seg\u00fan Amodei, la IA es \u201cinevitable y detenerla es una fantas\u00eda\u201d. La \u00fanica salida es atravesar esta \u00abadolescencia\u00bb con medidas de seguridad extremas, fortaleciendo a las democracias y aceptando que el mundo tal como lo conocemos est\u00e1 a punto de desaparecer.<\/p>\n Como dice la protagonista de Contacto<\/em>: la pregunta real no es c\u00f3mo se construye la tecnolog\u00eda, sino c\u00f3mo se sobrevive a ella sin autodestruirse en el proceso. \u201cLa IA amenaza a la humanidad desde m\u00faltiples perspectivas, y existe una aut\u00e9ntica tensi\u00f3n entre los diferentes peligros, donde mitigar algunos de ellos corre el riesgo de agravar otros si no se act\u00faa con sumo cuidado\u201d, sostiene. \u201cDedicar tiempo a construir cuidadosamente sistemas de IA para que no amenacen a la humanidad de forma aut\u00f3noma entra en aut\u00e9ntica tensi\u00f3n con la necesidad de que las naciones democr\u00e1ticas se mantengan a la vanguardia de las naciones autoritarias y no se dejen subyugar por ellas. Pero, a su vez, las mismas herramientas basadas en IA, necesarias para combatir las autocracias, pueden, si se llevan demasiado lejos, volverse contra s\u00ed mismas para crear tiran\u00eda en nuestros propios pa\u00edses\u201d.<\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":" Aunque resulta imposible anticipar todos los riesgos por la naturaleza misma de lo desconocido, Amodei plantea tres preocupaciones ilustrativas. Los avances r\u00e1pidos en biolog\u00eda podr\u00edan extender dr\u00e1sticamente la esperanza de vida o permitir modificaciones radicales en la inteligencia y biolog\u00eda humanas; estos cambios acelerados podr\u00edan resultar beneficiosos si se manejan responsablemente, pero tambi\u00e9n encierran peligros, …<\/p>\n","protected":false},"author":1,"featured_media":57580,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/media.es.wired.com\/photos\/697aa9e19078e58a83111301\/16:9\/w_1280,c_limit\/2154161015","fifu_image_alt":"","footnotes":""},"categories":[2],"tags":[],"class_list":["post-57579","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/57579","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=57579"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/57579\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/57580"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=57579"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=57579"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=57579"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}