\n<\/p>\n
A finales de agosto, la empresa de IA Anthropic anunci\u00f3 que su chatbot<\/em> Claude no ayudar\u00eda a nadie a construir un arma nuclear. Seg\u00fan Anthropic, se hab\u00eda asociado con el Departamento de Energ\u00eda de Estados Unidos (DOE) y la Administraci\u00f3n Nacional de Seguridad Nuclear (NNSA) para asegurarse de que Claude no revelar\u00eda secretos nucleares.<\/p>\n La fabricaci\u00f3n de armas nucleares es a la vez una ciencia precisa y un problema resuelto. Gran parte de la informaci\u00f3n sobre las armas nucleares m\u00e1s avanzadas de Estados Unidos es Ultrasecreto<\/em>pero la ciencia nuclear original tiene 80 a\u00f1os. Corea del Norte demostr\u00f3 que un pa\u00eds dedicado con inter\u00e9s en adquirir la bomba puede hacerlo, y no necesit\u00f3 la ayuda de un chatbot<\/em>.<\/p>\n \u00bfC\u00f3mo, exactamente, trabaj\u00f3 el gobierno de EE UU con una empresa de inteligencia artificial para asegurarse de que un chatbot<\/em> no estaba revelando secretos nucleares sensibles? Y tambi\u00e9n: \u00bfHubo alguna vez peligro de que un chatbot<\/em> ayudara a alguien a construir una bomba nuclear?<\/p>\n La respuesta a la primera pregunta es que recurri\u00f3 a Amazon. La respuesta a la segunda pregunta es m\u00e1s complicada.<\/p>\n Amazon Web Services (AWS) ofrece servicios en la nube Ultrasecreto<\/em> a clientes gubernamentales donde pueden almacenar informaci\u00f3n sensible y clasificada. El DOE ya ten\u00eda varios de estos servidores cuando empez\u00f3 a trabajar con Anthropic.<\/p>\n \u00abDesplegamos una versi\u00f3n de Claude en un entorno de alto secreto para que la NNSA pudiera probar sistem\u00e1ticamente si los modelos de IA pod\u00edan crear o exacerbar riesgos nucleares\u00bb, explica a WIRED Marina Favaro, responsable de Pol\u00edtica de Seguridad Nacional y Asociaciones de Anthropic. \u00abDesde entonces, la NNSA ha estado probando modelos Claude sucesivos en su entorno de nube segura y nos ha proporcionado informaci\u00f3n\u00bb.<\/p>\n El proceso de equipo rojo<\/em> de la NNSA (es decir, la comprobaci\u00f3n de los puntos d\u00e9biles) ayud\u00f3 a Anthropic y a los cient\u00edficos nucleares estadounidenses a desarrollar una soluci\u00f3n proactiva para los programas nucleares asistidos por chatbot<\/em>. Juntos, \u00abdesarrollaron un clasificador nuclear, que se puede considerar como un filtro sofisticado para las conversaciones de IA\u00bb, seg\u00fan Favaro. Lo construimos utilizando una lista elaborada por la NNSA de indicadores de riesgo nuclear, temas espec\u00edficos y detalles t\u00e9cnicos que nos ayudan a identificar cu\u00e1ndo una conversaci\u00f3n puede desviarse hacia territorio perjudicial\u00bb. La lista en s\u00ed est\u00e1 controlada pero no clasificada, lo cual es crucial, porque significa que nuestro personal t\u00e9cnico y otras empresas pueden aplicarla.\u00bb<\/p>\n Favaro indica que hicieron falta meses de ajustes y pruebas para que el clasificador funcionara. \u00abCapta conversaciones preocupantes sin marcar discusiones leg\u00edtimas sobre energ\u00eda nuclear o is\u00f3topos m\u00e9dicos\u00bb, destaca.<\/p>\n Wendin Smith, administrador de la NNSA y subsecretario adjunto para la lucha contra el terrorismo y la proliferaci\u00f3n, afirma a WIRED que \u00abla aparici\u00f3n de tecnolog\u00edas basadas en la inteligencia artificial ha modificado profundamente el espacio de la seguridad nacional\u00bb. La autorizada experiencia de la NNSA en seguridad radiol\u00f3gica y nuclear nos sit\u00faa en una posici\u00f3n \u00fanica para ayudar al despliegue de herramientas que protejan contra riesgos potenciales en estos \u00e1mbitos, y que nos permitan ejecutar nuestra misi\u00f3n de forma m\u00e1s eficiente y eficaz.\u00bb<\/p>\n Tanto la NNSA como Anthropic fueron vagos sobre los \u00abriesgos potenciales en estos dominios\u00bb, y no est\u00e1 claro qu\u00e9 tan \u00fatil ser\u00eda Claude o cualquier otro chatbot<\/em> en la construcci\u00f3n de un arma nuclear.<\/p>\n \u00abNo desestimo estas preocupaciones, creo que vale la pena tomarlas en serio\u00bb, se\u00f1ala a WIRED Oliver Stephenson, experto en IA de la Federaci\u00f3n de Cient\u00edficos Estadounidenses. \u00abNo creo que los modelos en su iteraci\u00f3n actual sean incre\u00edblemente preocupantes en la mayor\u00eda de los casos, pero s\u00ed creo que no sabemos d\u00f3nde estar\u00e1n dentro de cinco a\u00f1os… y vale la pena ser prudentes ante ese hecho\u00bb.<\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":" A finales de agosto, la empresa de IA Anthropic anunci\u00f3 que su chatbot Claude no ayudar\u00eda a nadie a construir un arma nuclear. Seg\u00fan Anthropic, se hab\u00eda asociado con el Departamento de Energ\u00eda de Estados Unidos (DOE) y la Administraci\u00f3n Nacional de Seguridad Nuclear (NNSA) para asegurarse de que Claude no revelar\u00eda secretos nucleares. La …<\/p>\n","protected":false},"author":1,"featured_media":46699,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/media.es.wired.com\/photos\/68f64cc7fc055314a244fb09\/16:9\/w_1280,c_limit\/GettyImages-CA21686-min.jpg","fifu_image_alt":"","footnotes":""},"categories":[4],"tags":[],"class_list":["post-46698","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-historias-destacadas"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/46698","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=46698"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/46698\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/46699"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=46698"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=46698"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=46698"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\u00bfC\u00f3mo y por qu\u00e9?<\/h2>\n
\u00bfVale la pena?<\/h2>\n