El Club de los Asteroides

El psicólogo social Jonathan Haidt es uno de esos héroes que más han venido trabajando para apaciguar el creciente clima de polarización existente en la sociedad.  En sus diversas obras, Haidt ha analizado la pulsión competitiva y tribal que late en el ser humano. Necesitamos formar parte de pequeñas tribus que compitan con otras, cualquiera que sea nuestra ideología. Frecuentemente olvidamos cuál era origen de aquellas diferencias tan irreconciliables.

Lo que nos une realmente es la identificación de un enemigo común. Sobre la base de esta simple premisa, en el año 2012 Haidt fundó el Club de los Asteroides (The Asteroid´s Club). Se trata de una metáfora muy sencilla: imaginemos que varios asteroides gigantes se dirigen hacia la Tierra para destruirla. Ante tal amenaza, pronto nos olvidaríamos de nuestras disputas adolescentes y colaboraríamos para desviar la ruta de tales asteroides.

En este club de debate se intentan identificar asuntos cruciales (asteroides), en los que todas las partes reconozcan la gravedad de la situación de cara a alcanzar acuerdos. Uno de los típicos asuntos que recaban consenso es el del respeto de la dignidad humana. Hoy, más allá de posiciones transhumanistas extremas, la mayoría probablemente coincidiríamos en que el uso inadecuado de la inteligencia artificial representa uno de esos asteroides que nos une, por su potencial amenaza tanto a la dignidad humana como a la propia existencia de la Humanidad.

Resulta alentador comprobar cómo algunos inspectores de Hacienda, más allá de planteamientos corporativistas, se enfundan la camiseta de ciudadanos para reclamar enfoques humanistas en el Derecho tributario. Así lo hizo Guillermo Mislata Correa la semana pasada, al publicar su artículo Babel o Jerusalén: dos caminos ante las res novae hacendísticas del siglo XXI en el blog de Inspectores de Hacienda del Estado No Sólo Impuestos. Como señala este autor, la búsqueda de la eficiencia no puede traducirse en una erosión de los derechos. “Los algoritmos no comparecen ante los ciudadanos ni justifican decisiones”.  Bienvenido al Club de los Asteroides.

Nuestro proyecto de inteligencia artificial

El pasado viernes 12 de junio se hizo público el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, que pretende adaptar el régimen jurídico español del Reglamento (UE) 2024/1689, en materia de inteligencia artificial. La iniciativa legislativa es, en sí misma, una muy buena noticia.  Resulta imperativo cumplir con el principio de calidad de la ley en un área transcendental en la que existe un gran vacío normativo.

Pero veamos lo que se dice en este proyecto relativo a los sistemas de IA utilizados en la prevención y control del fraude tributario. La clave reside en la disposición final primera del texto, que modifica el artículo 116 de la Ley General Tributaria. Este artículo, actualmente, se limita a señalar que la Administración tributaria elaborará anualmente un Plan de control tributario que tendrá carácter reservado, aunque podrán hacer públicos sus criterios generales. El proyecto de Ley aprovecha para introducir tres nuevos apartados a este artículo, para otorgar carácter reservado a “los medios informáticos de tratamiento de la información, los sistemas de selección de obligados tributarios y cualesquiera sistemas automatizados, algorítmicos, analíticos o de inteligencia artificial utilizados para la prevención y control del fraude tributario, en la medida en que su conocimiento pueda comprometer la eficacia de las actuaciones de aplicación de los tributos o facilitar su elusión”. Tal información “no será objeto de publicidad, comunicación o acceso público, ni se pondrá de manifiesto a los obligados tributarios ni a órganos ajenos a la aplicación de los tributos”. Tan sólo podrá publicarse “información general, agregada o descriptiva que no compromete la eficacia de las actuaciones de aplicación de los tributos”. El texto, así, pretende armar una férrea coraza para evitar la transparencia algorítmica por parte de la Administración tributaria. Una armadura que vaya más allá de la ya prevista en el artículo 170.7 del Reglamento general de aplicación de los tributos.

Tal vez esta propuesta explique el motivo del atronador silencio de los poderes públicos ante las denuncias planteadas recientemente por el profesor Bernardo Olivares acerca de los programas informáticos invasivos de los derechos de los contribuyentes, como Pathfinder, en los que la Administración tributaria se puede acabar arrogando, por la puerta de atrás, el papel de policía judicial para investigar delitos.  El prelegislador estaba preparando su respuesta. Ya la tenemos.

El blindaje de la caja negra fiscal

La redacción propuesta del articulo 116 de la Ley General Tributaria abre la puerta al blindaje de las cajas negras algorítmicas que se utilizan para luchar contra el fraude fiscal.  El texto propuesto no se limita a preservar la reserva legítima de los planes de control. La extensión del secreto a cualesquiera sistemas automatizados, algorítmicos o de inteligencia artificial puede chocar frontalmente con el derecho a la protección de datos, a la tutela judicial efectiva y a un juicio justo con igualdad de armas. Entre otros motivos, porque impide al contribuyente conocer por qué motivos ha sido seleccionado, perfilado o tratado desfavorablemente por una herramienta automatizada, qué datos han sido utilizados por tal herramienta y en qué posibles sesgos se ha incurrido. El ciudadano ignora si tales herramientas obtienen datos que le conciernen de forma ilícita, para pre-constituir pruebas encaminadas a una futura liquidación tributaria o incluso a la apertura de un expediente por delito fiscal, sin capacidad de contradicción alguna.

El Tribunal de Justicia de la Unión Europea (TJUE), en el asunto “SS” SIA (C-175/20), nos recuerda que la finalidad tributaria, por muy relevante que sea, no exime a la Administración del cumplimiento de los principios de minimización, limitación de finalidad, necesidad y proporcionalidad en el tratamiento de datos personales. En los asuntos SCHUFA Holding AG (C-634/21) y Dun & Bradstreet Austria (C-203/22), el TJUE añade que, cuando una puntuación, perfil o resultado algorítmico influye de forma determinante en una decisión que afecta al ciudadano, no basta con predicar que el algoritmo es un instrumento interno o que su lógica es compleja o reservada.  Debe existir también una explicación significativa, inteligible y útil para impugnar la decisión.

El Tribunal Europeo de Derechos Humanos, en el caso Glukhin c. Rusia, si bien no se refiere a un caso tributario, concluye que para que las tecnologías invasivas resulten conciliables con el derecho a la intimidad contemplado en el artículo 8 del Convenio Europeo de Derechos Humanos, deben revelarse reglas detalladas sobre su autorización, conservación, supervisión y recursos. Y en el caso L.B. c. Hungría dicho Tribunal confirma que, en materia tributaria, el legislador no puede imponer soluciones automáticas y sistemáticas sin ponderar seriamente los derechos afectados, los riesgos de protección de datos y el equilibrio entre el interés público y vida privada. En definitiva, una ley orgánica verdaderamente garantista debería hacer justo lo contrario de lo que sugiere el texto proyectado: reconocer expresamente el derecho del contribuyente a una explicación significativa cuando un sistema automatizado haya influido en su caso. Debería asegurarse el acceso de jueces y autoridades independientes a la información técnica necesaria y someter estos sistemas a controles efectivos de legalidad, proporcionalidad, trazabilidad y no discriminación.

Una propuesta paradójica

La modificación del artículo 116 de la Ley General Tributaria es paradójica por dos motivos. En primer lugar, porque se inserta en una ley orgánica, instrumento constitucionalmente llamado a desarrollar y proteger los derechos fundamentales de los ciudadanos pero formula la adaptación española al Reglamento europeo de inteligencia artificial mediante una regla de opacidad que puede erosionar precisamente las garantías básicas del contribuyente.

Y en segundo lugar, resulta paradójica porque el texto se publica pocos días después de la publicación de la carta encíclica Magnifica Humanitas, del Santo Padre León XIV, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial.

La encíclica, edificada sobre el “altísimo valor de los derechos humanos”,  alerta sobre la vigilancia invasiva y sobre los “grupos sociales perjudicados por algoritmos opacos que reproducen prejuicios y discriminaciones”. Nos advierte que los sistemas de inteligencia artificial, “presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado”.  Nos recuerda que “no podemos considerar a la IA como moralmente neutra”, pues “todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones”. Nos repara en que, “para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas”, y que cuando los procesos conducen a resultados poco transparentes, es “más difícil atribuir responsabilidades y corregir los errores”. Y nos recalca que “no basta invocar genéricamente la ética; se necesitan marcos adecuados, vigilancia independiente”, pues de otro modo “el cambio será gobernado sólo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo”.  Así pues, no parece que sea suficiente con documentos programáticos o de soft law, como el relativo a la Estrategia de Inteligencia Artificial de la Agencia Tributaria, en el que se realizan genéricas afirmaciones sobre el principio human-centric, el principio human-in-the-loop, o el principio de “transparencia en el uso de la IA”.

La encíclica nos recuerda que “quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas”.  Y que “no serviría de nada una IA más moral, si esta moral es decidida por unos pocos”.  Y que por tal motivo es indispensable que el uso de la IA “esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad”. Y que “hablar de subsidiariedad exige proteger la capacidad de las comunidades de decidir y corregir, sin relegar su intervención a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otros sitios”. Y que “hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos”.  Y que “hablar de justicia pide cuestionar las geografías de poder que definen quién puede programar los modelos y quién es objeto de esa programación, y reconocer que la justicia social no es solo un objetivo que hay que tutelar después de la adopción de las tecnologías, sino una condición que se debe poner en práctica desde su diseño”.

No es necesario ser cristiano para compartir las anteriores afirmaciones.  Pero no parece que el pre-legislador, cuando redactó la modificación del artículo 16 de nuestra Ley General Tributaria, tuviera la referida encíclica en su mesilla de cabecera.

Otro modelo normativo es posible

El blindaje tributario propuesto no es precisamente la opción más ejemplar, a tenor de lo que podemos observar en nuestro Derecho comparado.

En Francia, por ejemplo, la Loi pour une République numérique de 2016 consagró un principio de transparencia administrativa reforzada. Los ciudadanos franceses tienen derecho a recibir una explicación detallada, en forma inteligible, acerca de cómo se aplica un algoritmo a su caso concreto, con los límites derivados de secretos protegidos por la ley. En el año 2019  se introdujo en Francia un dispositivo experimental de recopilación y explotación automatizada de contenidos públicamente accesibles en plataformas en línea con fines fiscales y aduaneros, para rastrear redes sociales y plataformas de comercio electrónico, en busca de fraude fiscal. Algo muy similar al software que ha venido denunciando el profesor Olivares en sus investigaciones, que rastrea en redes sociales y en fuentes abiertas. A raíz de ello, el Consejo Constitucional de Francia, en su decisión n.º 2019-796 DC, de 27 de diciembre de 2019, condicionó la constitucionalidad de esta iniciativa a un conjunto de garantías, entre ellas la proporcionalidad de la medida, su estricta necesidad y su posible control jurisdiccional.

En Canadá se ha optado por otro modelo, pero igualmente más garantista que nuestra propuesta. La Directive on Automated Decision-Making se aplica a sistemas automatizados utilizados en producción para adoptar una decisión administrativa o una evaluación relacionada con un cliente.  Antes de introducir un sistema, el departamento responsable debe completar, aprobar y publicar una evaluación de impacto algorítmico en formato accesible en el portal de gobierno abierto. Esa evaluación de impacto es una herramienta obligatoria de análisis de riesgos que determina el nivel de impacto del sistema y vincula ese nivel a medidas de mitigación proporcionales. La Directiva canadiense exige avisar a los afectados de que la decisión será adoptada o asistida por un sistema automatizado, trazabilidad y protección de los datos utilizados y producidos, revisión por expertos cualificados, publicación de la revisión o de un resumen en lenguaje claro y mecanismos de recurso para impugnar la decisión administrativa.  También prevé intervención humana y requisitos de aprobación graduados, según el impacto del sistema. En definitiva, mientras que en Canadá se contempla una evaluación previa, la publicidad, la trazabilidad, la revisión, supervisión humana y el recurso, el texto español propuesto se limita, en el ámbito tributario, a declarar la reserva de los sistemas.    

Países Bajos, por su parte, ha avanzado hacia un modelo de transparencia pública y evaluación de derechos fundamentales, muy condicionado por las lecciones del escándalo relativo a las ayudas de guardería. En aquel caso, miles de familias fueron erróneamente tratadas como sospechosas de fraude en la percepción de prestaciones para el cuidado infantil, con graves consecuencias económicas y personales, a partir de procedimientos de control que incorporaron sistemas de clasificación de riesgo y que fueron criticados por sesgos institucionales y por afectar de forma especialmente intensa a familias con origen extranjero. El Gobierno holandés cuenta hoy con un Registro de Algoritmos de alto impacto utilizados por organizaciones públicas, al objeto de supervisar el impacto que pueden tener para los derechos fundamentales los sistemas algorítmicos en el sector público.  

Todos estos modelos normativos tienen un denominador común: no niegan que la Administración necesite herramientas algorítmicas para actuar con eficacia, pero someten su uso a deberes positivos de información, evaluación, explicación, trazabilidad, revisión y control.  En comparación, la reforma española del artículo 116 LGT se construye desde la lógica defensiva del secreto, no desde la lógica constitucional de las garantías que deben ser otorgadas a los ciudadanos en una sociedad democrática.

En definitiva, otros modelos normativos son posibles. Todos ellos más coherentes con una ley orgánica llamada a proteger los derechos fundamentales de los ciudadanos, frente a una desproporcionada cláusula de secreto algorítmico en favor de la Administración tributaria.  

Aún no está todo dicho.  Durante el mes de junio será posible presentar enmiendas al proyecto de ley. Tal vez nuestros grupos parlamentarios, por una vez, se sumen al Club de los Asteroides y hagan causa común para defender los derechos y las garantías de los ciudadanos en un Estado de Derecho. Todavía estamos a tiempo para aprobar una ley orgánica que pueda ser aplaudida por la mayoría de los ciudadanos durante al menos siete minutos. Los mismos minutos durante los cuales los miembros del Congreso de los Diputados ovacionaron al unísono al Sumo Pontífice en su reciente intervención en el Parlamento.