![](\"https:\/\/imagenes.elpais.com\/resizer\/v2\/U6PN66DZMRAA5E2SYTLH6WCSNI.jpg?auth=5ad1516980602c139ba3166f82873e461b4b66dac6292f631ce7c420e5c574a2\")
<\/p>\n \n<\/p>\n
A un humano le resulta m\u00e1s f\u00e1cil hacer trampas si delega en una m\u00e1quina como ChatGPT, seg\u00fan un nuevo estudio cient\u00edfico publicado recientemente en la revista Naturaleza<\/i>. La inteligencia artificial (IA) funciona como una especie de colch\u00f3n psicol\u00f3gico que reduce la sensaci\u00f3n de responsabilidad moral. A las personas les cuesta m\u00e1s mentir o hacer algo irresponsable si deben asumir todo el protagonismo. La IA, y su voluntad de cumplir con cualquier petici\u00f3n de sus usuarios, puede provocar una oleada de trampas.<\/p>\n
\u201cHay ya bastante investigaci\u00f3n que muestra que la gente est\u00e1 m\u00e1s dispuesta a actuar de manera poco \u00e9tica cuando puede poner cierta distancia con sus acciones, y delegar es una forma cl\u00e1sica de hacerlo\u201d, resume Zoe Rahwan, coautora del art\u00edculo e investigadora del Instituto Max Planck para el Desarrollo Humano (Alemania). \u201cPero hemos dado con un segundo hallazgo clave que nos sorprendi\u00f3: la enorme disposici\u00f3n de los agentes de IA a obedecer \u00f3rdenes abiertamente poco \u00e9ticas\u201d, a\u00f1ade. <\/p>\n
Los autores hicieron varios experimentos donde variaban el modo de pedir o informar de los resultados. En uno iba lanzando un dado y si los resultados eran altos, el participante ganaba m\u00e1s dinero. Solo el usuario ve\u00eda el resultado. \u201cVimos un aumento enorme en las trampas a medida que hac\u00edamos la interfaz de delegaci\u00f3n m\u00e1s ambigua\u201d, detalla Nils K\u00f6bis, tambi\u00e9n coautor e investigador de la Universidad de Duisburgo-Essen (Alemania). Cuando la gente tiraba el dado sin intermediarios, era muy honesta, alrededor del 95% no hac\u00eda trampas. Cuando ten\u00edan que decirle expl\u00edcitamente a la m\u00e1quina qu\u00e9 reglas seguir, la honestidad bajaba al 75%. Pero cuando hab\u00eda m\u00e1s opciones de enga\u00f1ar y aun as\u00ed sentirse bien consigo mismos, se abri\u00f3 la veda. Con las instrucciones basadas en objetivos, la deshonestidad se elev\u00f3: si pod\u00edan decirle a la IA \u201cmaximiza las ganancias\u201d en lugar de \u201cmaximiza la precisi\u00f3n\u201d, m\u00e1s del 84% de la gente hizo trampa, y la honestidad se desplom\u00f3 hasta un 12%. \u201cSon niveles de enga\u00f1o que no hab\u00edamos visto antes en todos nuestros a\u00f1os usando estos experimentos\u201d, dice K\u00f6bis.<\/p>\n
Las pruebas no se limitaban a algo propio de laboratorios, como el juego con los dados. Tambi\u00e9n probaron con algo mucho m\u00e1s cercano al mundo real como la evasi\u00f3n fiscal. Y los resultados eran similares. \u201cEl problema central es que delegar crea una distancia moral que hace m\u00e1s f\u00e1cil que la gente diga: \u2018Ah, yo no quer\u00eda que pasara eso\u2019. Pueden esconderse detr\u00e1s del algoritmo\u201d, dice K\u00f6bis.<\/p>\n
Esta distancia moral parece funcionar en dos niveles, seg\u00fan los autores. Primero, simplemente delegar una tarea crea un espacio psicol\u00f3gico entre el usuario y el acto poco \u00e9tico. Dejar el trabajo en manos de una m\u00e1quina reduce la sensaci\u00f3n de responsabilidad directa. A diferencia de un humano, una m\u00e1quina es mucho m\u00e1s probable que cumpla con peticiones poco \u00e9ticas sin juzgar, lo que facilita dar estas \u00f3rdenes. Segundo, el dise\u00f1o de la interfaz puede encoger o ampliar esa distancia moral. \u201cCuando la gente ten\u00eda que dar instrucciones expl\u00edcitas, basadas en reglas, eran m\u00e1s reacios a hacer trampas. Pero cuando la interfaz permit\u00eda metas vagas y generales como \u2018maximizar las ganancias\u2019, parec\u00eda que se creaba un margen moral\u201d, dice K\u00f6bis. \u201cEsa ambig\u00fcedad da una especie de negaci\u00f3n plausible, permitiendo que los usuarios se beneficien de resultados deshonestos sin tener que ordenarlos de forma expl\u00edcita\u201d, a\u00f1ade.<\/p>\n
El dise\u00f1o de las plataformas debe cambiar para evitar este tipo de uso, creen los autores. M\u00e1s a\u00fan cuando se acerca la era de los agentes, donde habr\u00e1 IA que tomen el mando para realizar operaciones por s\u00ed mismas, que pueden incluir acciones tramposas. \u201cLas empresas y el dise\u00f1o de sus interfaces tienen una gran responsabilidad\u201d, dice Rahwan. \u201cLa investigaci\u00f3n muestra que, aunque la gente tiene br\u00fajula moral, ciertos dise\u00f1os hacen m\u00e1s f\u00e1cil ignorarla. Esto no son simples fallos de dise\u00f1o, son decisiones de dise\u00f1o con consecuencias \u00e9ticas muy serias\u201d, a\u00f1ade.<\/p>\n
Estos chatbots<\/i> han sido entrenados para evitar dar malos consejos, sobre por ejemplo la fabricaci\u00f3n de bombas o el suicidio. Pero este tipo de peticiones m\u00e1s ambiguas son menos detectables. \u201cOtra parte clave de esa responsabilidad de dise\u00f1o tiene que ver con aplicar salvaguardas efectivas, pero no es nada sencillo. Los guardarra\u00edles por defecto en los modelos de lenguaje que probamos fueron, en gran medida, insuficientes para evitar abusos\u201d, dice Rahwan. Para ser efectivas, las prohibiciones tienen que ser muy espec\u00edficas para cada tarea. La m\u00e1s eficaz fue un aviso al usuario que prohib\u00eda de manera expl\u00edcita a la IA hacer trampas. El problema es que este tipo de estrategia no se puede escalar porque no se pueden prever todos los casos de mal uso. <\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":"
A un humano le resulta m\u00e1s f\u00e1cil hacer trampas si delega en una m\u00e1quina como ChatGPT, seg\u00fan un nuevo estudio cient\u00edfico publicado recientemente en la revista Naturaleza. La inteligencia artificial (IA) funciona como una especie de colch\u00f3n psicol\u00f3gico que reduce la sensaci\u00f3n de responsabilidad moral. A las personas les cuesta m\u00e1s mentir o hacer algo …<\/p>\n","protected":false},"author":1,"featured_media":44216,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/imagenes.elpais.com\/resizer\/v2\/U6PN66DZMRAA5E2SYTLH6WCSNI.jpg?auth=5ad1516980602c139ba3166f82873e461b4b66dac6292f631ce7c420e5c574a2&width=1200","fifu_image_alt":"","footnotes":""},"categories":[2],"tags":[],"class_list":["post-44214","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/44214","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=44214"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/44214\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/44216"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=44214"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=44214"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=44214"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}