{"id":29958,"date":"2025-06-02T19:22:50","date_gmt":"2025-06-02T23:22:50","guid":{"rendered":"https:\/\/noticiasveraces.com\/?p=29958"},"modified":"2025-06-02T19:22:50","modified_gmt":"2025-06-02T23:22:50","slug":"helen-toner-exconsejera-de-openai-aunque-la-ia-no-avance-mas-su-impacto-ya-es-como-el-de-internet-tecnologia","status":"publish","type":"post","link":"https:\/\/noticiasveraces.com\/?p=29958","title":{"rendered":"Helen Toner, exconsejera de OpenAI: \u201cAunque la IA no avance m\u00e1s, su impacto ya es como el de internet\u201d | Tecnolog\u00eda"},"content":{"rendered":"

\n<\/p>\n

\n

Helen Toner lleva a sus 33 a\u00f1os (nacida en Melbourne, Australia) una larga y agitada relaci\u00f3n con la IA. Su momento clave fue su entrada en la junta directiva de OpenAI en 2021, pero m\u00e1s bien por c\u00f3mo fue su salida, poco despu\u00e9s de votar a favor del despido de Sam Altman como presidente ejecutivo en noviembre de 2023. Toner declina en esta entrevista hablar de aquella experiencia en la empresa creadora de ChatGPT, pero ya ha contado su opini\u00f3n: Altman no fue honesto con la junta, \u201cnos enteramos de ChatGPT por Twitter\u201d, dijo Toner. Tambi\u00e9n, a\u00f1adi\u00f3, el directivo hab\u00eda creado una \u201catm\u00f3sfera t\u00f3xica\u201d en la compa\u00f1\u00eda, seg\u00fan algunos de los ejecutivos. <\/p>\n

Aquella batalla acab\u00f3 con la reincorporaci\u00f3n de Altman. Toner sigue ahora de cerca el desarrollo de la IA en defensa y en China, dos de sus especialidades, desde el Centro de Seguridad y Tecnolog\u00eda Emergente de la Universidad de Georgetown (Washington, EE UU). Ha testificado ya en el Congreso sobre su visi\u00f3n del futuro de la IA, que explica en esta entrevista por videollamada.<\/p>\n

Pregunta.<\/b> \u00bfPor qu\u00e9 muchos usuarios dan a la IA propiedades m\u00e1gicas?<\/p>\n

Respuesta.<\/b> Dir\u00eda que hay dos motivos. Uno, bastante obvio, es que hemos aprendido sobre la IA por la ciencia ficci\u00f3n, donde la IA suele ser infalible. A veces es buena, a veces mala, pero siempre tiene las respuestas correctas y lo puede todo. Su papel en la ficci\u00f3n es parecido al de hadas, dioses o seres sobrenaturales. Otro motivo es que debemos cambiar c\u00f3mo pensamos sobre los ordenadores. Hasta ahora, cuando usamos tecnolog\u00eda, funcionaba bien y de forma predecible. Si una calculadora puede hacer una operaci\u00f3n, la hace bien siempre, no se equivoca en la tercera cifra de una divisi\u00f3n larga. Pero estas IA no son as\u00ed: no son deterministas, dan respuestas distintas, no siguen un algoritmo perfecto. Esto es nuevo y no estamos acostumbrados.<\/p>\n

PAG.<\/b> \u00bfHasta d\u00f3nde llegar\u00e1 la IA?<\/p>\n

R. <\/b>Hay gente que habla como si hubiese una meta clara: la inteligencia artificial general, que muchos definen como una IA tan buena como un humano. Pero la IA nunca tendr\u00e1 las mismas habilidades que una persona. Ya hay cosas en las que la IA es mucho mejor que nosotros, y otras en las que es peor. Aunque logremos una IA tan buena como un humano, seguir\u00e1 siendo diferente. No creo que jam\u00e1s tengamos robots tan buenos como los humanos bailando salsa o balancearse <\/i>improvisado con otra persona. No tiene sentido construir algo as\u00ed. Pero s\u00ed tendremos sistemas muy poderosos, capaces de superar a los humanos en tareas estrat\u00e9gicas o intelectuales. Hablamos como si hubiera un destino claro, pero en realidad no sabemos c\u00f3mo ser\u00e1 el futuro.<\/p>\n

PAG.<\/b> \u00bfCu\u00e1l es su preocupaci\u00f3n principal con la IA?<\/p>\n

R. <\/b>Tiene muchos sabores distintos. Los escenarios malos que me parecen m\u00e1s probables son los que van en la l\u00ednea de que decidimos darle cada vez m\u00e1s autonom\u00eda a los sistemas de IA, y los integramos cada vez m\u00e1s en la sociedad. Ese ser\u00eda el primer paso. El segundo podr\u00eda ser muchas cosas distintas. Podr\u00eda ser que las IA empiecen a cooperar entre ellas y acaben sacando a los humanos del control. Podr\u00eda ser que vivamos en un mundo que parece agradable, pero que en el fondo no tiene sentido: pasamos el d\u00eda viendo Tiktoks<\/i>comiendo comida basura rica, pero sin llevar una vida significativa. O que un peque\u00f1o grupo de personas colabore con las IA, se queden con todo el poder y acabemos en un mundo totalitario.<\/p>\n

PAG.<\/b> \u00bfDe verdad cree que eso puede pasar?<\/p>\n

R. <\/b>Creo que podr\u00eda salir muy, muy mal. Y creo que hay un abanico mucho m\u00e1s amplio de cosas que pueden ir terriblemente mal que simplemente \u2018todos morimos\u2019. Puede que al final s\u00ed muramos todos, pero centrarte solo en ese escenario es pobre.<\/p>\n

\"Tonos<\/svg><\/span>
Helen Toner, en una imagen cedida.<\/span>Bassem Moussa<\/span><\/figcaption><\/figure>\n

PAG.<\/b> Ya estamos viendo estudios donde la IA es capaz de manipular. \u00bfLe preocupa?<\/p>\n

R. <\/b>Depende de lo que quiera convencerte. Una persuasi\u00f3n que me parece m\u00e1s realista es algo as\u00ed como sectas basadas en IA, donde la gente crea que la IA es como su amiga, que vela por ellos y es una especie de sabio al que deben seguir. La historia de los cultos humanos dice que es bastante f\u00e1cil fundar uno y que la gente haga cosas muy locas. Hasta ahora, suelen involucrar a un n\u00famero peque\u00f1o de personas. Seguro que veremos sectas basadas en IA.<\/p>\n

PAG.<\/b> No parece banal crear una IA capaz de liderar una secta.<\/p>\n

R.<\/b> Ser\u00e1 interesante. Como m\u00ednimo, muchas personas van a tener relaciones personales con sus IA. Eso ya est\u00e1 pasando.<\/p>\n

PAG. <\/b>\u00bfC\u00f3mo de avanzada est\u00e1 China en IA?<\/p>\n

R.<\/b> Depende de qu\u00e9 parte de la IA mires. En sistemas m\u00e1s avanzados, EE UU sigue por delante. Yo trabajo en temas de seguridad nacional y ah\u00ed creo que es m\u00e1s dif\u00edcil de saber. Importar\u00e1 m\u00e1s c\u00f3mo se aplica la IA dentro del ej\u00e9rcito. Yo esperar\u00eda que EE UU est\u00e9 haci\u00e9ndolo mejor que China, pero no es f\u00e1cil de saber, y es un tipo de problema distinto al de construir modelo m\u00e1s avanzados. Cuando hablamos de modelos frontera, tambi\u00e9n es dif\u00edcil medir. No s\u00e9 si dir\u00eda que China est\u00e1 uno o dos a\u00f1os por detr\u00e1s. El dato m\u00e1s reciente que tenemos es el lanzamiento del DeepSeek V3. DeepSeek sac\u00f3 dos modelos, y mucha gente se entusiasm\u00f3 con R1, el de razonamiento. Pero entre la gente que trabaja en IA, muchos piensan que el otro, el V3 es m\u00e1s impresionante. Lo sacaron en diciembre, y probablemente estaba entre seis y nueve meses por detr\u00e1s del modelo equivalente en EE UU, y el de razonamiento unos tres o cuatro meses. Pero desde entonces, las compa\u00f1\u00edas estadounidenses han seguido avanzando, y China todav\u00eda no ha respondido. Ahora mismo est\u00e1n entre seis y doce meses por detr\u00e1s, pero esa brecha podr\u00eda ampliarse con la entrada en vigor de los controles de exportaci\u00f3n de chips.<\/p>\n

PAG.<\/b> \u00bfCu\u00e1nto miedo debemos tener con la IA militar?<\/p>\n

R.<\/b> La IA es un mont\u00f3n de cosas. Es normal que los ej\u00e9rcitos la usen. Todos los ej\u00e9rcitos tienen una parte administrativa enorme, con recursos humanos, finanzas, as\u00ed que tiene todo el sentido del mundo que la usen como las empresas. Tambi\u00e9n para analizar im\u00e1genes cuando tienes much\u00edsimo m\u00e1s material del que los analistas humanos pueden revisar. Han intentado usarla tambi\u00e9n para lo que llaman \u201cmantenimiento predictivo\u201d: tienes un mont\u00f3n de helic\u00f3pteros y quieres saber cu\u00e1ndo hacerles mantenimiento. Si puedes predecir mejor cu\u00e1ndo se va a estropear un motor o cu\u00e1ndo hay que cambiar una pieza. <\/p>\n

PAG. <\/b>\u00bfY las armas aut\u00f3nomas?<\/p>\n

R.<\/b> Los debates sobre IA y ej\u00e9rcito se centran demasiado en ese tema. Y es solo una parte peque\u00f1a. Centrarse solo en las armas aut\u00f3nomas no es lo m\u00e1s acertado. Me parece m\u00e1s importante que pongamos el foco en las leyes de guerra que ya existen, en el derecho internacional humanitario. \u00bfSe est\u00e1 diferenciando entre combatientes y civiles? \u00bfSe est\u00e1 respondiendo de forma proporcional a los ataques? Cuando imaginamos escenarios donde la IA y la guerra salen muy mal, muchas veces es porque, por ejemplo, se est\u00e1 atacando a civiles en vez de a combatientes. Y eso ya es ilegal seg\u00fan las leyes internacionales.<\/p>\n

PAG.<\/b> \u00bfEl modelo de negocio de la IA ser\u00e1 siempre por suscripci\u00f3n?<\/p>\n

R.<\/b> Creo que el dinero grande vendr\u00e1 de las empresas, no del consumidor. Como es una tecnolog\u00eda que sirve para todo, no solo un chatbot<\/i> divertido que la gente lleva en el bolsillo, ser\u00e1 una herramienta muy potente para todo tipo de productividad econ\u00f3mica e innovaci\u00f3n. As\u00ed que me imagino que los ingresos por el lado empresarial ser\u00e1n muy grandes.<\/p>\n

PAG.<\/b> Si la IA no avanza m\u00e1s, \u00bfya tiene capacidad de cambiar la econom\u00eda?<\/p>\n

R. <\/b>S\u00ed. Las tecnolog\u00edas de prop\u00f3sito general, como la IA, tardan d\u00e9cadas en integrarse en la econom\u00eda. Incluso si el desarrollo de la IA se detuviera, no s\u00e9 si ser\u00eda una transformaci\u00f3n tan enorme como la que mucha gente predice, pero al menos ser\u00eda tan grande como la de internet. La transici\u00f3n de no tener internet a tenerlo nos llev\u00f3 d\u00e9cadas. Aunque par\u00e1ramos ahora, todav\u00eda quedar\u00eda much\u00edsimo trabajo por hacer para integrar la IA en la salud, educaci\u00f3n, procesos empresariales, derecho, finanzas.<\/p>\n

PAG. <\/b>\u00bfY ya hemos tocado techo en lo que la IA puede hacer?<\/p>\n

R. <\/b>No apostar\u00eda por eso. La historia de los \u00faltimos 15 a\u00f1os en IA no ha sido de grandes innovaciones que cambien por completo c\u00f3mo se construye la IA, sino m\u00e1s bien mejoras peque\u00f1as o medianas que se van acumulando y que, al juntarse, logran avances importantes. Ahora mismo tenemos estos grandes modelos de lenguaje, los chatbots<\/i>a los que ya nos hemos acostumbrado. Pero las empresas est\u00e1n empujando en dos direcciones principales. Una, los modelos de razonamiento: ense\u00f1arles a pensar paso a paso para que puedan resolver problemas m\u00e1s complejos. Y dos, los agentes: hacer cosas por ti, tomar decisiones y ser productivos. Vamos a ver avances muy grandes en esas \u00e1reas durante los pr\u00f3ximos 25 a\u00f1os.<\/p>\n

PAG.<\/b> Es imposible de predecir en qu\u00e9 direcci\u00f3n.<\/p>\n

R.<\/b> La IA cambiar\u00e1 el funcionamiento de la econom\u00eda pol\u00edtica de la sociedad. Ahora mismo estamos en un momento inusual. Hay muchos pa\u00edses democr\u00e1ticos donde el pueblo tiene el control. Pero eso parece que se resquebraja. La IA reconfigurar\u00e1 el equilibrio de poder, por ejemplo, en el mercado laboral. \u00bfCu\u00e1nto poder tienen los trabajadores si hacen huelga? \u00bfCu\u00e1ntos soldados hacen falta en un ej\u00e9rcito si tienes ciertos tipos de IA? Presumiblemente, el poder laboral disminuir\u00e1 con la IA. Aunque si conseguimos acabar en un mundo donde las personas tengan sus necesidades b\u00e1sicas cubiertas y tengan acceso a la IA, podr\u00eda ser un mundo maravilloso. Pero tambi\u00e9n me preocupa que la condici\u00f3n b\u00e1sica de la humanidad, durante la mayor parte de la historia, ha sido que manda quien tiene el poder. Y quienes no lo tienen, viven peor. <\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":"

Helen Toner lleva a sus 33 a\u00f1os (nacida en Melbourne, Australia) una larga y agitada relaci\u00f3n con la IA. Su momento clave fue su entrada en la junta directiva de OpenAI en 2021, pero m\u00e1s bien por c\u00f3mo fue su salida, poco despu\u00e9s de votar a favor del despido de Sam Altman como presidente ejecutivo …<\/p>\n","protected":false},"author":1,"featured_media":29959,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/imagenes.elpais.com\/resizer\/v2\/G7EB5OA55BBENFEXIVBVRAN2BI.jpg?auth=19b797f8fc1e41de6a58262819383697cab0058bad0bb636e3ff434b5e2a33d6&width=1200","fifu_image_alt":"","footnotes":""},"categories":[2],"tags":[],"class_list":["post-29958","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/29958","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=29958"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/29958\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/29959"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=29958"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=29958"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=29958"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}