![](\"https:\/\/imagenes.elpais.com\/resizer\/v2\/GKSIT4AY6JBVJDWSRMWVQQBKBU.JPG?auth=1c16befc0baf983fef328566f1caa434daa3460e5ae81b89947a51493d6753c1\")
<\/p>\n \n<\/p>\n
\u00bfTienen derecho los ciudadanos a conocer la f\u00f3rmula matem\u00e1tica que determina si pueden recibir o no una ayuda p\u00fablica? Si el Estado decide delegar a un algoritmo la concesi\u00f3n de prestaciones, \u00bfqu\u00e9 informaci\u00f3n debe aportar sobre el funcionamiento de esa herramienta? Estos son los debates de fondo que subyacen al caso Bosco, en referencia al algoritmo que se encarga de seleccionar los perfiles que re\u00fanen los requisitos para obtener el bono social, una ayuda para pagar la luz. <\/p>\n
\u201cEn una democracia plena, no es admisible el secreto del c\u00f3digo fuente con los que se regulan los derechos de la ciudadan\u00eda\u201d, ha dicho esta ma\u00f1ana el abogado Javier de la Cueva durante su intervenci\u00f3n inicial en una vista oral del Tribunal Supremo. De la Cueva representa a la organizaci\u00f3n en defensa de la transparencia Civio, que interpuso un recurso de casaci\u00f3n en el Supremo para que el Gobierno abra el c\u00f3digo fuente de Bosco ante la negativa obtenida en instancias previas. <\/p>\n
El Estado democr\u00e1tico de derecho es una abstracci\u00f3n escrita. Toma su trascendencia de la existencia de constituciones y leyes. Sin embargo, desde hace 20 o 30 a\u00f1os, el lenguaje natural con el que se ha construido el ordenamiento jur\u00eddico est\u00e1 conviviendo o siendo sustituido por otro muy distinto: las l\u00edneas de c\u00f3digo con las que se componen algoritmos. En Espa\u00f1a, como en otros pa\u00edses, se toman decisiones de forma automatizada que afectan a la asignaci\u00f3n de recursos p\u00fablicos. <\/p>\n
Una investigaci\u00f3n de Civio revel\u00f3 en 2018 que las ayudas estatales a familias vulnerables para pagar la factura de la luz, el llamado bono social, no llegaban a personas que reun\u00edan todos los requisitos para recibirlas (entre ellos, acreditar bajos ingresos, ser v\u00edctima de violencia de g\u00e9nero o de violencia terrorista). El algoritmo Bosco, encargado de filtrar los datos y asignar la ayuda, hab\u00eda fallado. La Administraci\u00f3n reconoci\u00f3 su error, pero no accedi\u00f3 a abrir el c\u00f3digo fuente del algoritmo, a mostrar las tripas del programa. Los activistas recurrieron al Tribunal de lo Contencioso Administrativo, pero este concluy\u00f3 que liberar el c\u00f3digo violar\u00eda el derecho a la propiedad intelectual del algoritmo que ostenta el Gobierno y afectar\u00eda tanto a la seguridad p\u00fablica como a la defensa nacional. Civio escal\u00f3 la demanda a la Audiencia Nacional y, tras encontrarse de nuevo con una negativa, al Supremo.<\/p>\n
\u201cNos encontramos con que el derecho a la propiedad intelectual, que en ning\u00fan caso hemos discutido, se est\u00e1 utilizando como un velo para que no conozcamos c\u00f3mo funciona la Administraci\u00f3n\u201d, ha dicho tambi\u00e9n De la Cueva durante la vista. Y ha a\u00f1adido posteriormente: \u201c\u00bfC\u00f3mo podemos tener seguridad jur\u00eddica si no conocemos c\u00f3mo funciona el algoritmo? \u00bfC\u00f3mo pueden controlar sus se\u00f1or\u00edas si lo que hace la Administraci\u00f3n es correcto o no si tampoco lo saben?\u201d. Como explica Civio, esta decisi\u00f3n del Supremo \u201cmarcar\u00e1 el camino para saber si tendremos que confiar a ciegas en la influencia de \u2018cajas negras\u2019 \u2014presentes y futuras\u2014 en nuestros derechos, o si tendremos margen para investigarlas y auditarlas\u201d.<\/p>\n
\u201cBosco es solo una herramienta para acreditar de forma r\u00e1pida y an\u00f3nima el cumplimiento de requisitos de los ciudadanos\u201d, ha dicho en su turno el Abogado del Estado que defiende los intereses del Ministerio de Transici\u00f3n Ecol\u00f3gica y el Reto Demogr\u00e1fico. El letrado ha insistido en la idea de que abrir el c\u00f3digo fuente podr\u00eda poner en peligro datos personales de los afectados. \u201cNo consideramos necesario que haya que otorgar acceso al c\u00f3digo fuente para reclamarle posibles responsabilidades a la Administraci\u00f3n\u201d, ha a\u00f1adido.<\/p>\n
Y ha acabado su exposici\u00f3n inicial con la clave del caso: \u201c\u00bfConceder acceso al c\u00f3digo fuente de Bosco significa que habr\u00eda que abrir tambi\u00e9n otros programas que usa la Administraci\u00f3n, como Minerva [que analiza el riesgo de conflictos de inter\u00e9s] El lexnet [un sistema de comunicaci\u00f3n que usa Justicia]? \u00ab.<\/p>\n
Es la primera vez que un caso sobre transparencia algor\u00edtmica llega al Tribunal Supremo. El sentido de la sentencia que se dicte puede ser determinante para otros. \u201cLa sentencia no solo va a tener efectos nacionales, sino que va a servir de referencia para afrontar el dilema que tiene Occidente sobre c\u00f3mo evaluar el lenguaje inform\u00e1tico en el ordenamiento jur\u00eddico\u201d, comenta a EL PA\u00cdS De la Cueva. <\/p>\n
Tras las exposiciones de las partes, los magistrados se han interesado por el argumento fuerza de la Abogac\u00eda del Estado: abrir el c\u00f3digo fuente puede suponer una amenaza para la seguridad. Si el Ministerio subraya el car\u00e1cter instrumental de Bosco, y dice que no toma la decisi\u00f3n \u00faltima en la concesi\u00f3n de la ayuda, \u00bfen qu\u00e9 afecta a la seguridad abrirlo? \u201cBosco entra a la Agencia Tributaria y otros organismos a comprobar datos sensibles que podr\u00edan quedar comprometidos\u201d, ha respondido el letrado. \u201cSer\u00eda como dejar entrar a alguien a un edificio y decirle qu\u00e9 cerraduras est\u00e1n rotas y cu\u00e1les funcionan\u201d. \u201cLa Agencia Espa\u00f1ola de Protecci\u00f3n de datos no dice eso\u201d, ha replicado De la Cueva. \u201cCon el c\u00f3digo fuente de Bosco solo habla de los pesos y condiciones establecidos para conceder las ayudas; para obtener esos datos personales, hay que ped\u00edrselos a las agencias en cuesti\u00f3n\u201d.<\/p>\n
\u201cSoy bastante m\u00e1s optimista ahora que antes de empezar la vista, porque creo que los magistrados son conscientes de que este caso va m\u00e1s all\u00e1 de Bosco, abarca a todos los programas inform\u00e1ticos que toman decisiones que nos afectan\u201d, apunta a este peri\u00f3dico Eva Belmonte, codirectora de Civio. \u201cMe llama mucho la atenci\u00f3n que el abogado del Estado haya mentido: ha dicho que Bosco no toma la decisi\u00f3n final, cuando s\u00ed lo hace, tal y como acredita la AEPD\u201d. La sentencia se conocer\u00e1, previsiblemente, antes de agosto.<\/p>\n<\/div>\n\n","protected":false},"excerpt":{"rendered":"
\u00bfTienen derecho los ciudadanos a conocer la f\u00f3rmula matem\u00e1tica que determina si pueden recibir o no una ayuda p\u00fablica? Si el Estado decide delegar a un algoritmo la concesi\u00f3n de prestaciones, \u00bfqu\u00e9 informaci\u00f3n debe aportar sobre el funcionamiento de esa herramienta? Estos son los debates de fondo que subyacen al caso Bosco, en referencia al …<\/p>\n","protected":false},"author":1,"featured_media":35147,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/imagenes.elpais.com\/resizer\/v2\/GKSIT4AY6JBVJDWSRMWVQQBKBU.JPG?auth=1c16befc0baf983fef328566f1caa434daa3460e5ae81b89947a51493d6753c1&width=1200","fifu_image_alt":"","footnotes":""},"categories":[2],"tags":[],"class_list":["post-35145","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/35145","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=35145"}],"version-history":[{"count":0,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/posts\/35145\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=\/wp\/v2\/media\/35147"}],"wp:attachment":[{"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=35145"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=35145"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiasveraces.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=35145"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}