\n<\/p>\n
A medida que aparecen m\u00e1s robots en almacenes, oficinas e incluso en los hogares, la idea de grandes modelos de lenguaje hackeando sistemas complejos suena a pesadilla de ciencia ficci\u00f3n. As\u00ed que, naturalmente, los investigadores de Anthropic estaban ansiosos por ver qu\u00e9 pasar\u00eda si Claude intentara tomar el control de un robot, en este caso, un perro robot.<\/p>\n
En un nuevo estudio, los investigadores de Anthropic descubrieron que Claude era capaz de automatizar gran parte del trabajo que supone programar un robot y conseguir que realice tareas f\u00edsicas. Por un lado, sus resultados demuestran la capacidad de codificaci\u00f3n de los modelos modernos de IA. Por otro, apuntan a c\u00f3mo estos sistemas pueden empezar a extenderse al \u00e1mbito f\u00edsico a medida que los modelos dominen m\u00e1s aspectos de la codificaci\u00f3n y mejoren su interacci\u00f3n con el software<\/em>y tambi\u00e9n con los objetos f\u00edsicos.<\/p>\n \u00abTenemos la sospecha de que el siguiente paso de los modelos de IA es empezar a llegar al mundo y afectarlo m\u00e1s ampliamente\u00bb, explica a WIRED Logan Graham, miembro del equipo rojo de Anthropic, que estudia los modelos para detectar posibles riesgos. \u00abEsto realmente requerir\u00e1 que los modelos interact\u00faen m\u00e1s con los robots\u00bb.<\/p>\n Cortes\u00eda de Anthropic<\/span><\/p>\n<\/figure>\n Cortes\u00eda de Anthropic<\/span><\/p>\n<\/figure>\n<\/div>\n<\/div>\n Anthropic fue fundada en 2021 por antiguos empleados de OpenAI que cre\u00edan que la IA podr\u00eda volverse problem\u00e1tica, incluso peligrosa, a medida que avanza. Los modelos actuales no son lo suficientemente inteligentes como para tomar el control total de un robot, se\u00f1ala Graham, pero los modelos futuros podr\u00edan serlo. Asegura que estudiar c\u00f3mo la gente aprovecha los LLM para programar robots podr\u00eda ayudar al sector a prepararse para la idea de que \u00ablos modelos acaben autoincorpor\u00e1ndose\u00bb, refiri\u00e9ndose a la idea de que la IA pueda alg\u00fan d\u00eda manejar sistemas f\u00edsicos.<\/p>\n A\u00fan no est\u00e1 claro por qu\u00e9 un modelo de IA decidir\u00eda tomar el control de un robot, y mucho menos hacer algo mal\u00e9volo con \u00e9l. Pero especular sobre el peor escenario posible forma parte de la marca Anthropic y ayuda a posicionar a la empresa como un actor clave en el movimiento de la IA responsable.<\/p>\n En el experimento, denominado Proyecto Fetch, Anthropic pidi\u00f3 a dos grupos de investigadores sin experiencia previa en rob\u00f3tica que tomaran el control de un perro robot, el cuadr\u00fapedo Unitree Go2, y lo programaran para realizar actividades espec\u00edficas. Los equipos tuvieron acceso a un mando y se les pidi\u00f3 que realizaran tareas cada vez m\u00e1s complejas. Un grupo utiliz\u00f3 el modelo de codificaci\u00f3n de Claude y el otro escribi\u00f3 el c\u00f3digo sin ayuda de la IA. El grupo que utiliz\u00f3 a Claude fue capaz de realizar algunas tareas, aunque no todas, m\u00e1s r\u00e1pido que el grupo que solo program\u00f3 con humanos. Por ejemplo, fue capaz de hacer que el robot caminara y encontrara una pelota de playa, algo que el grupo formado solo por humanos no pudo resolver.<\/p>\n Anthropic tambi\u00e9n estudi\u00f3 la din\u00e1mica de colaboraci\u00f3n en ambos equipos grabando y analizando sus interacciones. Descubrieron que el grupo sin acceso a Claude mostraba m\u00e1s sentimientos negativos y confusi\u00f3n. Esto podr\u00eda deberse a que Claude agiliz\u00f3 la conexi\u00f3n con el robot y codific\u00f3 una interfaz m\u00e1s f\u00e1cil de usar.<\/p>\n Cortes\u00eda de Anthropic<\/span><\/p>\n<\/figure>\n El robot Go2 utilizado en los experimentos de Anthropic cuesta 16,900 d\u00f3lares, relativamente barato para los est\u00e1ndares rob\u00f3ticos. Suele utilizarse en industrias como la construcci\u00f3n y la fabricaci\u00f3n para realizar inspecciones remotas y patrullas de seguridad. El robot es capaz de caminar de forma aut\u00f3noma, pero generalmente depende de \u00f3rdenes de software<\/em> de alto nivel o de una persona que maneje un controlador. Go2 est\u00e1 fabricado por Unitree, con sede en Hangzhou, China. Sus sistemas de IA son actualmente los m\u00e1s populares del mercado, seg\u00fan un reciente informe de SemiAnalysis.<\/p>\n Los grandes modelos de lenguaje de ChatGPT y otros chatbots<\/em> inteligentes suelen generar texto o im\u00e1genes en respuesta a una pregunta. M\u00e1s recientemente, estos sistemas se han convertido en expertos en generar c\u00f3digo y manejar software<\/em>lo que los convierte en agentes y no solo en generadores de texto.<\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":" A medida que aparecen m\u00e1s robots en almacenes, oficinas e incluso en los hogares, la idea de grandes modelos de lenguaje hackeando sistemas complejos suena a pesadilla de ciencia ficci\u00f3n. As\u00ed que, naturalmente, los investigadores de Anthropic estaban ansiosos por ver qu\u00e9 pasar\u00eda si Claude intentara tomar el control de un robot, en este caso, …<\/p>\n","protected":false},"author":1,"featured_media":49791,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/media.es.wired.com\/photos\/6915fb9bc382aa1ae1dc91a8\/16:9\/w_1280,c_limit\/AI-Lab-Claude-Hacks-Robot-Dog-Business.jpg","fifu_image_alt":"","footnotes":""},"categories":[2],"tags":[],"class_list":["post-49790","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/49790","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=49790"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/49790\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/49791"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=49790"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=49790"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=49790"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}La IA controlando el mundo f\u00edsico<\/h2>\n