Inteligencia artificial y evidencias en sala judicial

 Actualmente la inteligencia artificial comienza a estar o formar parte de muchos proyectos que acaban en sala judicial. Esta tecnología que ha llegado para quedarse va a ser incorporada, directa o indirectamente en la mayoría de proyectos informáticos que se desarrollen. La auditoría y/o peritaje informático de estos proyectos, así como la extracción de evidencias clave para demostrar ciertas cuestiones no es tarea fácil. En primer lugar debemos contar con personal especializado pero ante todo el abogado y el juez deben entender conceptos básicos en este tipo de proyecto, por ejemplo entender la base de un proyecto que debería predecir precios de un producto adecuadamente o por qué un chatbot no responde adecuadamente a preguntas de donde está un envío de un paquete en logística o cual es el horario de un comercio.

La inmensa mayoría de proyectos actuales basados en inteligencia artificial se  basan en datos que el cliente tiene en su histórico

Como perito ingeniero en informática y como el lector si es letrado o tiene experiencia en este tipo de situaciones sabrá lo complicado que resulta en muchas ocasiones explicar las evidencias clave en un proyecto tradicional informático, como puede ser una web o una app, del porque falla cierta funcionalidad y donde está la responsabilidad de cada parte, generalmente del cliente o del partner.

La inmensa mayoría de proyectos actuales basados en inteligencia artificial se  basan en datos que el cliente tiene en su histórico. Por ejemplo, para predecir las ventas del mes siguiente lo normal es que el sistema de inteligencia artificial utilice algoritmos que se apoyan en el histórico de ventas del cliente. Obviamente si este histórico no está disponible o el dato no es de calidad el proyecto puede fracasar.

Estos proyectos por otro lado nunca conviven solos. Los sistemas de inteligencia artificial no funcional en entornos aislados ya que analizan datos de históricos, responden a preguntas y toman acciones, por ejemplo reservar un hotel a través de un chatbot. Por tanto si alguno de los sistemas que le rodea falla puede fallar el sistema global basado en inteligencia artificial.

Es importante subrayar que estos están enfocados a tareas específicas o funcionalidad básica. La actual inteligencia artificial se aplica a soluciones concretas y no globales. Por ejemplo, un chatbot que responde como está el estado de mi reserva de hotel y vuelo no será capaz de responderme a cómo va el Ibex35. Son sistemas especializados que responden o tratan de responder a un dominio concreto y acotado de un negocio concreto, por ejemplo.

Estos sistemas no funcionan desde el primer día de forma espontánea sino que, como un niño pequeño, requieren en su mayoría entrenamiento más o menos constante.

Uno de los puntos clave es el entrenamiento de este tipo de soluciones. Estos sistemas no funcionan desde el primer día de forma espontánea sino que, como un niño pequeño, requieren en su mayoría entrenamiento más o menos contante, inicialmente fuerte y después periódico. Por ejemplo, si tenemos un chatbot que responde a preguntas es probable que al inicio sepa responder una serie de cuestiones pero a posteriori se le entrenara para que entienda otras preguntas o las mismas para las que fue diseñado pero de otra manera. Si hemos creado un chat para saber a qué hora sale mi avión inicialmente sabrá responder preguntas del tipo “¿a qué hora sale mi vuelo de Madrid a Bilbao?” pero quizás en un inicio no sabrá responder “¿y mi vuelo de Madrid a Bilbao?” porque requerirá entrenamiento ante nuevas formas de hacer preguntas con intención similar.

Existen por un lado proyectos de clasificación donde el sistema de inteligencia artificial creado trata de clasificar alguna cuestión. Por ejemplo si se le debe dar un crédito a un cliente o no, si un proyecto será éxito o no, clasificar mis clientes, si un análisis médico está dentro de una cierta patología, que empleados tengo con mayor posibilidad de fuga de talento, etc. Al final clasificar una serie de información en grupos o categorías.

Por otro tenemos los proyectos de regresión donde lo que necesitamos es que el sistema nos de datos numéricos (generalmente) de un dominio del conocimiento. Si tengo una inmobiliaria podría crear un sistema que dado unas categorías de un inmueble de proporcione un precio de mercado aproximado, proyecciones de ventas para los meses siguientes en mi empresa, etcétera.

Para complicarlo aún más tenemos dos tipos de sistemas de inteligencia artificial denominados supervisados y no supervisados, los primeros necesitan de un aprendizaje previo. Por ejemplo, entregamos miles de datos de inmuebles con su precio de mercado. El sistema aprende con los datos que le dimos y ante un nuevo inmueble es capaz de predecir su precio. Se apoya en los datos de entrenamiento, así se llama, como si fuera una persona que aprende de la experiencia. Los segundos aprenden por si mismos de un domino concreto. Por ejemplo un sistema basado en inteligencia artificial no supervisada es capaz de detectar grupos de clientes dentro de nuestra base de datos que se comporta de forma equivalente. Una vez tenemos esta clasificación que ha generado de mis clientes puede servirme para realizar acciones de telemarketing.

En este sentido cuando vamos a realizar un peritaje informático necesitamos entender qué tipo de proyecto estamos, que metodología se ha utilizado, fuentes de datos, objetivo buscado, entorno donde debía funcionar, etc. para analizar y extraer las evidencias clave y defenderlas en sala judicial de una forma entendible para todos, abogados y jueces. Evidencias más típicas pueden ser porque el sistema no responde bien a las preguntas que se le realizan, porque no prevé ventas o deuda si fue desarrollado para ello, porque el chatbot no responde adecuadamente a las preguntas en lenguaje natural, porque el sistema discrimina a personas por sexo u otros aspectos, lo que se denomina problemas de ética en la inteligencia artificial, etcétera.

El autor es perito de la Asociación de Peritos Colaboradores con la Administración de Justicia de la Comunitat Valenciana.