domingo, noviembre 17 de 2019

Datasketch

Julio 02, 2019

La propuesta para automatizar la clasificación de tutelas en Colombia.

Prometea se dió a entender como una solución para descongestionar la cantidad de tutelas que a diario llegan a la Corte Constitucional, pero no se conocen a cabalidad sus alcances y la manera en que pueden afectar o brindar garantías a los derechos fundamentales de la ciudadanía.

Juliana Galvis

Juliana Galvis

@GalvisNieto

La tutela es la acción pública más usada en Colombia porque ha permitido a la Corte Constitucional del país sentar diversos precedentes que antes se entendían reservados al poder ejecutivo y judicial. Todas las solicitudes que llegan a este organismo, son revisadas, independientemente de la instancia a la que son dirigidas.

Actualmente la Corte Constitucional recibe casi 600 mil tutelas al año, lo que implica que aproximadamente los funcionarios deben estudiar 1,600 expedientes al día. A pesar de contar con tan sólo seis auxiliares judiciales propios de la institución y 27 auxiliares de despachos. 

Esta situación entonces no es un problema de formación o capacidad de quienes tienen a su cargo la selección o priorización de los documentos, sino que es una imposibilidad física leer todos los expedientes que diariamente se reciben ante este organismo. Como lo afirma Juan Diego Castañeda de Fundación Karisma “La Corte Constitucional tiene un problema de revisión de cientos de tutelas diarias, una cuestión que es humanamente imposible, lo que significa que el servicio de justicia del Estado puede estar en riesgo”.

Esta imposibilidad llevó a que en febrero de 2019, se diera a conocer una nueva herramienta de inteligencia artificial que según sus promotores, mejoraría los trámites de selección de la sala de revisión de tutelas de la Corte Constitucional. El nuevo sistema es Prometea, que permite leer automáticamente sentencias y documentos, y seleccionar los casos prioritarios en muy poco tiempo, a través de una detección inteligente que permite sugerir casos de forma urgente y prioritaria.

Este sistema nace en Argentina y es desarrollado en conjunto por el Departamento de Inteligencia Artificial de la Universidad de Buenos Aires junto con la Facultad de Jurisprudencia de la Universidad del Rosario en Colombia.

Prometea determina los casos prioritarios, los grupos poblaciones que mayor número de tutelas presentan, los temas principales a tratar, las tutelas en cada uno de los territorios, las que fueron falladas negativamente, entre otros factores a tener en cuenta en el momento de la clasificación.

Además realiza su proceso de acuerdo con los criterios de selección de tutelas de sentencias anteriores, que además son establecidos por las leyes y jurisprudencia colombiana que establece unas situaciones de vulnerabilidad prioritarias sobre otras. 

Sus funciones son:

  • Detección inteligente: El sistema lee y sugiere un grupo de casos a tratar de forma urgente y prioritaria a partir del uso de técnicas de aprendizaje automático (machine learning).

  • Asistencia inteligente: Elabora informes pormenorizados y estadísticos.

  • Automatización de documentos: Se realiza a través de un agente conversacional (voz y chat).

  • Integración con la tecnología del Blockchain.

  • Sistematización de la jurisprudencia de la Corte para soporte de los informes.

Este sistema se ha implementado ya en Argentina por parte de la Fiscalía General de la ciudad de Buenos Aires, y en medidas cautelares por la Corte Interamericana de Derechos Humanos. Pero es la primera vez que este sistema se aplica por parte de un tribunal supremo.

Es necesario aclarar que el fin de Prometea no cambia las decisiones de los togados, pero según sus creadores, sí facilita el proceso de selección de los casos a decidir, ya que descongestiona la gestión de las tutelas.

Vale aclarar que el proyecto se comenzó a implementar en una etapa piloto, concerniente a la selección de casos en materia de salud, que llegaron en 2017 a 197, según la Defensoría del Pueblo

Sin embargo, como lo afirma María Lorena Flórez, directora del GECTI (Grupo de Estudios en internet, Comercio electrónico, Telecomunicaciones e Informática) de la Universidad de Los Andes: “los medios de comunicación en Colombia exageraron con este programa porque lo vendieron como un sistema que de por sí mejoraría la funcionalidad de la Corte Constitucional, a pesar de que ni los constitucionalistas entendían qué era”. 

Igualmente, para Fundación Karisma es poco claro lo que significa Prometea, “los medios dijeron una cosa, las organizaciones teníamos otra perspectiva sobre lo que significa este programa, es difícil saber la funcionalidad técnica porque no se ha sido claro sobre éste”.

La socialización de este proyecto según la abogada, estuvo marcada por una gran cantidad de desinformación ya que se dió a conocer solamente por un sector muy pequeño de las partes involucradas en el proyecto, cuando al ser temas relacionados con la Constitución colombiana y los derechos humanos deben involucrar a la ciudadanía plena que es en últimas la que brinda sus datos personales.

Se hace observación, además que esta herramienta no hace públicos los criterios que utiliza para realizar su labor de clasificación. Tampoco establece si estos son modificables dependiendo de los contextos jurídicos, históricos y sociales de cada país en el que se implementa la iniciativa.

“No se saben los criterios que usa Prometea para seleccionar las tutelas, no se sabe si es por tipo de vulnerabilidad, zonas de Colombia, tipo de personas, y demás. No se saben los criterios de identificación de los casos urgentes, pero tampoco se sabe si los casos que no son urgentes para el programa no son analizados o tenidos en cuenta por la Corte”, afirma Flórez.

Otro de los elementos de los críticos del proyecto es que puede existir una petrificación de los criterios de selección, ya que generaría un estancamiento en la jurisprudencia, pues se seleccionarían reiteradamente las tutelas sobre un mismo tema.

Los juicios de selección de las tutelas para Flórez tienen ciertos componentes objetivos y subjetivos que deben tenerse en cuenta, ya que una sentencia a pesar de tener componentes objetivos en relación con el cumplimiento de la Constitución y los derechos fundamentales, también tienen unos lineamientos muy subjetivos porque cada magistrado responde a las tutelas de acuerdo a sus criterios, por eso es muy difícil que la selección de estas se haga de manera objetiva guiada por los criterios que un sistema algorítmico contiene.

La pregunta a Prometea según la abogada es “¿Cómo se sabe cuáles son los casos relevantes en salud? partiendo de que esta es información sensible, que es reservada y debe cuidarse”, ya que según ella, la pretensión del programa es que se reemplacen las decisiones humanas que actualmente realizan los estudiantes y pasantes de la Corte, que seleccionan los temas, la relevancia, e incluso clasifican el tipo de tutela por el magistrado que tomará la decisión sobre cada caso. “Esta selección es fundamental ya que son temas que se deben tratar con mucho cuidado porque se trata de derechos fundamentales, y un sistema tecnológico podría afectar la humanización de esta acción” afirma Flórez.

Este programa, según sus detractores tampoco cuenta con protocolos adecuados frente a los riesgos de exposición de la información reservada, lo que significa que es de suma relevancia  anonimizar los datos e impedir que estos sean rastreados. Para ello es necesario que se conformen equipos interdisciplinarios que no sean liderados por abogados únicamente, sino por equipos técnicos en estos asuntos como expertos en derechos digitales y seguridad digital, ingenieros, desarrolladores, entre otros.

Sin embargo, lo que se sabe por parte de Fundación Karisma, el piloto en el que se desarrolló Prometea en ningún momento hizo captura de información personal de las sentencias analizadas, no analizó historias clínicas o exámenes médicos, lo que se procesó únicamente fueron sentencias de tutelas -2,006-. “Es difícil establecer qué se puede hacer con la información capturada por Prometea, ya que esta es de carácter público”.

Es bien conocido que el uso de este tipo de herramientas ha reproducido estereotipos o sesgos en la toma de decisiones de distintos procesos judiciales y administrativos. Lo que sugiere la necesidad de implementar código y algoritmo abierto por parte de Prometea, que sea de completo acceso al público y que permita ser consultada por cualquier ciudadano. Cuestión que abre el debate sobre los riesgos de monopolización de la información por parte de estos sistemas de inteligencia artificial.

Es un hecho que la tecnología puede ser una aliada en el crecimiento de la eficiencia y eficacia de las decisiones que se toman en los órganos judiciales, administrativos y legislativos, pero no se debe perder de vista que se está haciendo referencia a la Corte Constitucional, cuyo propósito es proteger los derechos de los ciudadanos, y cuyas decisiones se deben ajustar al derecho y a la constitución del país.

Todo sistema tecnológico debe tener un correcto análisis y justificación, así como lo afirma Lorena Fórez “Las entidades públicas en muchos casos se dejan llevar por el boom tecnológico porque está de moda, porque la tecnología es lo que está moviendo al mundo, pero es mucho más relevante que se brinde una justificación razonable para mejorar los procesos institucionales, que logren cambiar estructuralmente los problemas de estas. Temas tan simples como aprender a hacer una tutela, o la planeación de procesos de gestión de la información”.

Y concluye diciendo “¿para qué implementar blockchain con recursos públicos? ¿es realmente fundamental pagar por un sistema tecnológico de este estilo? podrían estos recursos invertirse en otros temas de organización y selección de manera más humanizada”.

compartir

Juliana Galvis

Juliana Galvis

@GalvisNieto

Politóloga. Actualmente lidera el desarrollo de la base de datos de las conexiones de poder político en Colombia y otros países.

artículos relacionados

Anticorrupción

Mayo 13, 2019

Recomendaciones de la sociedad civil a los Estados​ para el avance de la lucha contra la corrupción en la región.

En Cartagena, Colombia se llevó a cabo la Mesa Redonda de Organizaciones de la Sociedad Civil de la que Datasketch hizo parte. Nos reunimos a discutir y plantear recomendaciones que pudieran plantearse a los Estados para el avance de la lucha contra la corrupción en la región.

Aprende

Abril 02, 2019

13 consejos para fortalecer tu seguridad en la web

Si eres periodista, estas recomendaciones te pueden ayudar a estar más seguro en la web.

Derechos Humanos

Marzo 07, 2019

Una bolsa sin mujeres en la junta directiva

Datasketch y Cuestión Pública analizaron las 190 empresas que cotizan en la bolsa y encontraron que el 97% está muy lejos de la equidad de género entre los miembros de sus juntas directivas #BolsaDeVarones.

Anticorrupción

Octubre 09, 2018

La magistrada que podría limitar el aborto en Colombia

Cristina Pardo Schlesinger, la magistrada que tiene en sus manos el futuro del aborto en Colombia, es abogada de la Universidad del Rosario con una amplia trayectoria en el sector constitucional más conservador.

Género

Junio 27, 2019

Mujeres en la programación. Capítulo 2: 40’s y 50’s

Hablemos de la presencia femenina en el universo de la programación.