VALÈNCIA. La Generalitat Valenciana utilizó herramientas de Inteligencia Artificial (IA) para la gestión de las ayudas al alquiler de 2024. Una acción que permitió hacer "más eficiente el proceso", pero que "no se llevó a cabo de manera adecuada", pues hubo una ausencia de análisis de riesgos al respecto y tampoco se dio publicidad al uso de la IA, tal y como exige la normativa. Así lo apunta la Sindicatura de Comptes en un informe de auditoría sobre la legalidad de las subvenciones y ayudas de la Administración de la Generalitat y la revisión de la plataforma de tramitaciones telemáticas correspondiente al ejercicio 2024. 

El órgano que encabeza Vicent Cucarella remarca que la incorporación de herramientas de IA a la gestión de subvenciones tiene que contar con "un análisis previo de riesgos, una evaluación de impacto sobre los datos personales y garantizar la confidencialidad, integridad, trazabilidad, autenticidad y disponibilidad de la información". "Debe prestarse especial atención a los requisitos que exige la normativa europea sobre la IA y la normativa sobre la protección de datos personales", destaca el informe. 

En este sentido, explica que la línea de subvención dedicada a las ayudas al alquiler carece de un contrato que "regulara adecuadamente" el uso de servicios de computación en la nube y de Inteligencia Artificial. Un extremo sobre el que la Dirección General de Tecnologías de la Información y las Comunicaciones (DGTIC) ha informado a la Sindicatura de que en 2025 se han formalizado contratos con proveedores de servicios de IA "para enmendar esta incidencia". Por otro lado, también se detecta la ausencia de publicidad, es decir, de informar a los ciudadanos sobre el uso de la IA, en los términos que exige la ley de Transparencia de la Comunitat Valenciana, así como la ley de Simplificación Administrativa.

La Sindicatura remarca la importancia de "promover el uso" de la IA por sus beneficios en la "mejora de la eficiencia y la disminución del tiempo necesario para la tramitación" de procesos. No obstante, insiste en que el uso de servicios de almacenamiento en la nube y de IA conllevan una serie de riesgos que necesitan ser "previstos y mitigados" de manera previa a su implementación.

En el caso concreto de las ayudas al alquiler, el servicio - prestado por un proveedor externo - no se formalizó con un contrato con las cláusulas de control, seguimiento, privacidad, borrado de datos, trazabilidad y auditoría necesarios. Estas cuestiones, pese a no formar parte del contrato, sí las tuvo en cuenta el proveedor externo. A pesar de ello, el ente que encabeza Cucarella apunta a que debería haberse realizado un análisis de riesgos y a que el uso de la IA exige una serie de medidas de transparencia: "No consta que el uso de estas herramientas en la gestión de las subvenciones de ayudas al alquiler se haya publicado en la web Confia ni figura en la convocatoria de 2024".

La DGTIC alegó a la Sindicatura que el uso de la IA fue "exclusivamente para extraer información documental y cotejarla con datos introducidos por el interesado, sin efectos jurídicos ni impacto en derechos". Por este motivo, indican que no procedía la obligación de notificar sobre ello. No obstante, el órgano fiscalizador señala que las normas de transparencia y simplificación "obligan a la publicación" del uso de sistemas de IA de alto riesgo o que impactan de forma significativa en los procesos administrativos. Ante la ausencia de un análisis previo de riesgos al respecto, la Sindicatura se basa en el reglamento europeo de IA, según el cual el sistema empleado por la Generalitat para este proceso "es de alto riesgo". 

Lectura de contratos de alquiler con IA

Cabe mencionar que el director general de Simplificación Administrativa, Francisco Ortega, explicó el proceso de implementación de la IA en estas subvenciones durante una entrevista con Plaza a mediados de este ejercicio. En esta conversación también detalló la puesta en marcha de un asistente virtual basado en IA generativa en la web de 'Ací Ara' de la Generalitat Valenciana, que resultó ser "el primer asistente conversacional que se puso en marcha para la ciudadanía a nivel estatal".

En este sentido, Ortega explicó que "había un montón de recursos humanos leyéndose los contratos de alquiler de 2024", por lo que se decidió "cambiar el concepto" para que la lectura de los documentos la realizara la Inteligencia Artificial. "Ésta comprueba lo que chequeaba el gestor y, si algo no lo encuentra o no está seguro, entra una persona. Ahí, la reducción del tiempo ha sido brutal", apuntó el citado alto cargo, que también detalló procesos de agilización de ayudas a los vehículos afectados por la Dana del 29 de octubre de 2024.