Étnor debate sobre el papel de la Inteligencia Artificial y los algoritmos en la democracia

CASTELLÓ. Lo que llamamos democracia algorítmica es un sistema de organización social y de gobernanza política que tiende a la progresiva sustitución de la Inteligencia Artificial (IA) y sus tecnologías en todos los procesos de deliberación, decisión y diseño institucional, tanto en el estado como en la sociedad civil. “Es una tendencia, no una realidad, pero la lógica logarítmica lleva a la sustitución, hay que poner límites”, asegura Domingo García-Marzá, catedrático de Ética y Filosofía Política de la Universitat Jaume I de Castellón, que, junto con Patrici Calvo, profesor titular del departamento de Filosofía y Sociología de la misma universidad, han participado en XXXI Seminario Permanente de Ética Económica y Empresarial de Étnor, que lleva por título Inteligencia artificial: ¿Oportunidad o amenaza para la democracia?

¿Es un nuevo modelo de democracia?, ¿una nueva forma que tiene la ciudadanía digital de entender la realidad? ¿contribuye la Inteligencia Artificial (IA) a formar un nuevo espacio público? ¿Cuál debe ser el papel de la empresa en el actual proceso de datificación? Estas son las cuestiones que han abordado en su conferencia Democracia algorítmica, celebrada en la sede de Libertas 7 y presentada por Elsa González, profesora titular de Filosofía Moral de la Universitat Jaume I. En su bienvenida, el presidente de Étnor, Pedro Coca, ha recordado la figura del que fuera presidente de Libertas 7 e impulsor de la Fundación Étnor, Álvaro Noguera.

Democracia y datos

Uno de cuatro europeos dejaría en manos de algoritmos el rumbo de sus sociedades, según un estudio de 2019, explica Patrici Calvo. Resultados que se replicarían un año después en países como EE. UU., México y China. Y en nuestro país, en 2021, el 68% de la ciudadanía se mostró favorable a otorgar poder legislativo a los algoritmos. Esta confianza en los datos también se ha visto, apunta Calvo, en la Estrategia de la IA de la Comunitat Valencia, que no duda en afirmar que la gestión de datos y la eliminación de “subjetividades personales” favorecerá la mejor toma de decisiones.

La aplicación de la IA se remonta a los años 50 del siglo pasado. “Lo novedoso ahora la datificación, la idea de que es posible reducir toda la realidad física y social a datos y metadatos masivos que luego se reutilizarán y revalorizan en diferentes esferas, en la económica y también la política”. Esto está permitiendo, por ejemplo, seleccionar a los candidatos ideales en gobiernos municipales participativos o mejorar los sistemas de atención de las administraciones públicas. “El problema es que está complementación nos está llevando, de forma lógica, hacia la sustitución total de las personas por algoritmos, a lo que llamamos democracia algorítmica”, advierte Patrici Calvo.

Cultura algorítmica

“Es una tendencia, no una realidad, pero la lógica logarítmica es la sustitución, hay que poner límites”, confirma García Marzá. En su opinión, la fuerza de esta presión del algorítmo no se comprendería sin una cultura que lleva años trabajándose. “La cultura logarítmica hace referencia a nuestras experiencias culturales, nuestro sentido de lo que hacemos o dejamos de hacer, de nuestras aspiraciones… cada vez más determinadas por algoritmos. Por tanto, es necesario dejar de entender los datos como neutrales y objetivos, son interpretaciones de la realidad. Los algoritmos son necesarios, asegura García Marzá, pero no lo es que ocupen todos los espacios de la vida para que puedan ser eficientes. “Los algoritmos son máquinas de creación de sentido, auténticas máquinas culturales”, asegura.

Opinión Pública

La democracia es el único sistema político o de relación social que depende exclusivamente de que nos lo creamos, de las razones que tenemos para apoyar esa credibilidad. “Ese espacio de la opinión publica donde buscamos razones, donde podemos expresar opiniones o buscar acuerdos o legitimación del poder hoy no existe”, afirma García-Marzá. La opinión pública se conforma con la recogida de millones de datos, “somos terminales de flujos de datos y metadatos” afirma el ponente. Y, una de las mayores causas de la construcción de esa opinión publica artificial son los bots y el novedoso metaverso, apunta Calvo.

Todo esto tiene mucho que ver con el fracaso de la democracia, con la ruptura del contrato social que garantiza la igualdad económica, la participación y la libertad, confirman los ponentes. La ciudadanía ve fracasadas sus expectativas y la democracia ha perdido legitimidad, ya no es el único sistema en juego y se habla de autocracias, democracias iliberales, dictaduras electas... Este vacío que deja la perdida de legitimidad de la democracia está siendo ocupado por los populismos.  

Estados y empresas

Hacer a la democracia algorítmica no es solo cosa de los Estados, también de la sociedad civil, asegura García-Marzá. En opinión de los ponentes, la distribución de la responsabilidad afecta a tres niveles: global, institucional (Estados y sociedad civil) y la propia ciudadanía digital. En lo que atañe a la empresa, debe ser capaz de subsumir la digitalización en la humanización, en un marco ético. “La digitalización será bienvenida siempre que actúe en ese marco moral”, aseguran los ponentes, y por ello, concluyen, “la empresa debe innovar en capital moral, invertir en ética”.