\n<\/p>\n
Las grandes empresas de IA nos prometieron que 2025 ser\u00eda \u00abel a\u00f1o de los agentes de IA\u00bb. Result\u00f3 ser el a\u00f1o de \u201chablar\u201d de los agentes de IA, y de aplazar ese momento transformador hasta 2026, o quiz\u00e1 m\u00e1s tarde. Pero, \u00bfy si la respuesta a la pregunta \u00abCu\u00e1ndo estar\u00e1n nuestras vidas totalmente automatizadas por robots de IA generativa que realicen nuestras tareas por nosotros y b\u00e1sicamente dirijan el mundo?\u00bb es, como aquella vi\u00f1eta del neoyorquino<\/em>\u00ab\u00bfQu\u00e9 tal nunca?\u00bb.<\/p>\n Ese era b\u00e1sicamente el mensaje de un art\u00edculo publicado sin mucha fanfarria hace unos meses, justo en medio del sobredimensionado a\u00f1o de la \u00abIA ag\u00e9ntica\u00bb. Titulado \u201cHallucination Stations: On Some Basic Limitations of Transformer-Based Language Models\u201d (Estaciones de alucinaci\u00f3n: sobre algunas limitaciones b\u00e1sicas de los modelos de lenguaje basados \u200b\u200ben transformadores), pretende demostrar matem\u00e1ticamente que \u00ablos LLM son incapaces de llevar a cabo tareas computacionales y ag\u00e9nticas m\u00e1s all\u00e1 de una cierta complejidad\u00bb. Aunque la ciencia se me escapa, los autores (un antiguo director de tecnolog\u00eda de SAP que estudi\u00f3 IA con uno de los fundadores de este campo, John McCarthy, y su hijo adolescente prodigio) recortan la visi\u00f3n del para\u00edso ag\u00e9ntico con la certeza de las matem\u00e1ticas. Incluso los modelos de razonamiento que van m\u00e1s all\u00e1 del puro proceso de predicci\u00f3n de palabras de los LLM, se\u00f1alan, no solucionar\u00e1n el problema.<\/p>\n \u00abNo hay forma de que sean fiables\u00bb, me cuenta Vishal Sikka, el padre. Despu\u00e9s de una carrera que, adem\u00e1s de SAP, incluy\u00f3 un per\u00edodo como CEO de Infosys y miembro de la junta directiva de Oracle, actualmente dirige una puesta en marcha<\/em> de servicios de IA llamada Vianai. \u00ab\u00bfAs\u00ed que deber\u00edamos olvidarnos de los agentes de IA que dirigen centrales nucleares?\u00bb. le pregunto. \u00abExactamente\u00bb, responde. Quiz\u00e1 puedas hacer que archive algunos papeles o algo as\u00ed para ahorrar tiempo, pero tendr\u00e1s que resignarte a cometer algunos errores\u00bb.<\/p>\n La industria de la IA no est\u00e1 de acuerdo<\/strong>. Por un lado, un gran \u00e9xito en la IA de agentes ha sido la codificaci\u00f3n, que despeg\u00f3 el a\u00f1o pasado. Esta misma semana, en Davos, Demis Hassabis, director de IA de Google y ganador del Nobel, inform\u00f3 de avances en la minimizaci\u00f3n de las alucinaciones, y tanto los hiperescaladores como las nuevas empresas<\/em> est\u00e1n impulsando la narrativa de los agentes. Ahora tienen respaldo. Una puesta en marcha<\/em> llamada Harmonic informa de un gran avance en la codificaci\u00f3n de la IA que tambi\u00e9n depende de las matem\u00e1ticas y supera los puntos de referencia en \u201cfiabilidad\u201d.<\/p>\n Harmonic, cofundada por Vlad Tenev, CEO de Robinhood, y Tudor Achim, matem\u00e1tico formado en Stanford, asegura que esta reciente mejora de su producto Aristotle es un indicio de que hay formas de garantizar la fiabilidad de los sistemas de IA. \u00ab\u00bfEstamos condenados a vivir en un mundo en el que la IA solo genera basura y los humanos no pueden comprobarla? Ser\u00eda un mundo de locos\u00bb, se\u00f1ala Achim. La soluci\u00f3n de Harmonic consiste en utilizar m\u00e9todos formales de razonamiento matem\u00e1tico para verificar los resultados de un LLM. En concreto, codifica los resultados en el lenguaje de programaci\u00f3n Lean, conocido por su capacidad para verificar la codificaci\u00f3n. Hasta la fecha, Harmonic se ha centrado en un objetivo limitado: su misi\u00f3n principal es la b\u00fasqueda de la \u00absuperinteligencia matem\u00e1tica\u00bb, y la codificaci\u00f3n es una extensi\u00f3n un tanto org\u00e1nica. Cosas como los ensayos de historia, que no pueden verificarse matem\u00e1ticamente, est\u00e1n fuera de sus l\u00edmites. Por el momento.<\/p>\n No obstante, Achim no parece creer que el comportamiento fiable de los agentes sea un problema tan grave como creen algunos cr\u00edticos. \u00abYo dir\u00eda que la mayor\u00eda de los modelos tienen en este momento el nivel de inteligencia pura necesario para razonar la reserva de un itinerario de viaje\u00bb, manifiesta.<\/p>\n Por un lado, todo el mundo est\u00e1 de acuerdo en que las alucinaciones seguir\u00e1n siendo una realidad molesta. En un art\u00edculo publicado el pasado septiembre, los cient\u00edficos de OpenAI escrib\u00edan: \u00abA pesar de los importantes avances, las alucinaciones siguen asolando el campo y siguen presentes en los \u00faltimos modelos\u00bb. Probaron esa infeliz afirmaci\u00f3n pidiendo a tres modelos, incluido ChatGPT, que facilitaran el t\u00edtulo de la tesis del autor principal. Los tres se inventaron t\u00edtulos falsos y todos indicaron mal el a\u00f1o de publicaci\u00f3n. En un blog sobre el art\u00edculo, OpenAI anunciaba con desgano que, en los modelos de IA, \u00abla precisi\u00f3n nunca alcanzar\u00e1 el 100%\u00bb.<\/p>\n Ahora mismo, esas imprecisiones son lo bastante graves como para desalentar la adopci\u00f3n generalizada de agentes en el mundo corporativo. \u00abNo se ha aportado valor\u00bb, indica Himanshu Tyagi, cofundador de una empresa de IA de c\u00f3digo abierto llamada Sentient. Advierte que lidiar con alucinaciones puede interrumpir todo un flujo de trabajo, anulando gran parte del valor de un agente.<\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":" Las grandes empresas de IA nos prometieron que 2025 ser\u00eda \u00abel a\u00f1o de los agentes de IA\u00bb. Result\u00f3 ser el a\u00f1o de \u201chablar\u201d de los agentes de IA, y de aplazar ese momento transformador hasta 2026, o quiz\u00e1 m\u00e1s tarde. Pero, \u00bfy si la respuesta a la pregunta \u00abCu\u00e1ndo estar\u00e1n nuestras vidas totalmente automatizadas por …<\/p>\n","protected":false},"author":1,"featured_media":56953,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/media.es.wired.com\/photos\/6973cde2c3aa25e7e8f0bc2e\/16:9\/w_1280,c_limit\/Backchannel-Is-Agentic-AI-Doomed-Business.jpg","fifu_image_alt":"","footnotes":""},"categories":[3],"tags":[],"class_list":["post-56952","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-negocio"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/56952","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=56952"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/56952\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/56953"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=56952"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=56952"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=56952"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}No hay forma<\/h2>\n
Ambas partes tienen raz\u00f3n, o quiz\u00e1 est\u00e1n del mismo lado.<\/h2>\n