Subjetividad de las máquinas en toma de decisiones judiciales (original) (raw)
Related papers
Tecnología para decidir hechos en procesos judiciales
Revista Chilena de Derecho y Tecnología
El progreso tecnológico ha aumentado el uso de pruebas sofisticadas en los procesos judiciales, incrementando la conexión entre discursos de abogados y la ciencia. Es previsible que, en un corto plazo, avancemos aún más, pues la tecnología estará en condiciones de introducirse en la toma de decisiones, hoy a cargo de los jueces. La inteligencia artificial será capaz de ponderar teorías del caso en competición, valorar las pruebas y encontrar (o crear) respuestas ante lagunas de información o contradicciones. Asumiendo esta nueva realidad, es importante prestar atención a la resistencia de abogados y jueces con respecto al uso de algoritmos para decidir hechos en los procesos judiciales ¿Tiene ello sustento más allá de proteger su coto vedado?
Esa ilusión de que Google aprende y es cada año más preciso es falsa: Google no aprende, nosotros somos cada vez más tontos ENRIQUE LYNCH 21 JUL 2017-13:03 CDT La saga cinematográfica Terminator es una de las distopías más populares. Cuenta que, tras haber alcanzado la inteligencia de sus creadores humanos, las máquinas se rebelarán contra ellos y, para exterminarlos, producirán otras máquinas, asesinas y perfectas. Estallará entonces la guerra total entre los hombres y sus artefactos y el destino de la humanidad quedará en manos de un salvador providencial; etcétera. Típico patrón mesiánico judeoprotestante: con su conspiración y su redentor que nos salva. El guion sin embargo es una variante del viejo mito del Golem. Su novedad está en los espectaculares efectos especiales y en algunos gags inolvidables; y en un actor ideal —Arnold Schwarzenegger—, en la realidad, él mismo una especie de Golem. Su personaje es el ogro de los relatos infantiles; o Yago, el perverso intrigante de Otelo, pues, como él, es un ser de absoluta maldad, una criatura implacable cuya malignidad, por inmotivada e inexplicable, produce espanto. ¿Podemos hacernos una idea del mal absoluto? Si está encarnado en una máquina no parece tan difícil, en cambio entender a Yago es mucho más complicado, pues cuando un individuo es muy malo nuestros ojos se inventan un nihilista demoniaco con estatura moral, como Iván Karamazov. El mal es difícil; y poco nos ayudan las pautas dominantes, pues a medida que nuestras reglas y costumbres son cada vez más permisivas, resulta muy difícil imaginar un personaje absolutamente inicuo que sea también verosímil. Porque hoy en día todo el mundo es malo en alguna medida —otro tópico judeoprotestante difundido por la cultura popular y refrendado por los psicopedagogos—, de ahí que los guionistas de cine escojan malos psicopatológicos, como Henry o Leatherface o Anton Chigurh o Hannibal Lecter, etcétera. Sin embargo, aunque narrativamente verosímil, el psicópata es poco convincente en lo moral. De hecho, las leyes penales no admiten que el loco pueda ser considerado responsable de sus actos, justamente porque está loco; y el mal, no menos que el bien, necesita un sujeto responsable. En efecto, que podamos identificar la responsabilidad en una acción nos permite determinar la intención y su motivo y, sobre todo, la trasgresión, que en última instancia nos permitirá juzgarla moralmente. Pero para eso ha de ser plausible que el sujeto se equivoque, que elija entre el mal o el bien y se desvíe. Aún más, se requiere una condición trascendental que no deriva de la idea que el sujeto se haga sobre lo bueno o lo malo, sino de una decisión ciega entre las dos instancias que, a su vez, puede ser correcta o equivocada. En suma, la responsabilidad presupone la posibilidad del error: no solo en la alternativa entre el bien y el mal, sino en el acto de decidir entre una opción u otra. Si una acción, cualquiera que sea, solo puede ser correcta —aunque se trate de hacer el mal—, las decisiones dejan de ser tales y la moralidad se extingue. Así pues, si concebimos un artefacto en el que hayan sido eliminados todos los errores posibles —y eso seguramente ocurrirá tras alguna revolución maquínica—, ya no serán necesarias las tomas de decisiones ni el cálculo de riesgos, y la idea de responsabilidad será tan vacía como una metáfora blanca. Pongamos el caso de los nuevos automóviles sin conductor: ¿tiene sentido sancionar una infracción de tráfico si
Los juicios de valor en la decisión judicial
Anuario De Filosofia Del Derecho, 1984
Al estudiar la aplicación judicial del derecho frecuentemente se considera que es un proceso en el que intervienen dos elemen. Índice de autores/artículos Relación de tomos Sumario Buscar en: Autores/artículos Documento actual Todos los documentos
De la decision juridica y la inteligencia artificial
Prologo a Terron Santos, D.y Domínguez Álvarez, J.L: i-Administración Pública, sistemas algorítmicos y protección de datos. Iustel, Madrid 2022
De la decisión jurídica y la inteligencia artificial. Compañeros a los que considero discípulos, si tal cosa se estila todavía, me piden que redacte un prólogo sobre la monografía con la que quieren poner un punto y aparte en su dedicación a la temática de la Inteligencia Artificial y el derecho administrativo (Terron Santos, D. y Domínguez Álvarez, J.L: i-Administración Pública, sistemas algorítmicos y protección de datos. Iustel, Madrid 2022). El lector de la obra comprobará el acierto de los autores al llamar la atención sobre el asunto central: La i-administración es un riesgo cierto para los derechos que hemos reconocido sobre los datos personales, datos que resultan de lo de que somos y de lo que hacemos. Personalmente, dediqué algún tiempo, el siglo pasado, al problema de la algoritmización del derecho y la decisión jurídica informatizada, en aquellos encuentros sobre Informática y Derecho que desde 1987 organizaba M.A. Davara. Por ello quisiera, a modo de prólogo, volver sobre este asunto y realizar alguna consideración sobre un punto adicional: por qué la decisión jurídico-pública de aplicación del derecho (simplificando mucho, acto administrativo o sentencia) puede resultar no algoritzmizable en el contexto de nuestra percepción de lo que es el derecho. Sobre el fondo, un excelente artículo de Soler Cayón sobre "La inteligencia artificial jurídica: nuevas herramientas y perspectivas metodológicas para el jurista" en el número 41/2020 de la revista eslovena Revus aclara lo suficiente.
Un estudio sobre la posibilidad de aplicar la inteligencia artificial en las decisiones judiciales
Revista Direito GV
Resumen La inteligencia artificial es una herramienta que cada vez se encuentra más presente en el desarrollo de las actividades cotidianas realizadas por los seres humanos, y, en esta medida, se busca aplicarla en diferentes sectores, como lo es el campo del Derecho, principalmente en lo relacionado con las decisiones judiciales. Este artículo pretende resolver diferentes interrogantes que existen en relación a la aplicación de inteligencia artificial a decisiones judiciales, analizando si la misma genera utilidad, si es factible su implementación y las consecuencias que trae consigo que un sistema jurídico experto participe en la toma de decisiones jurídicas. Como resultado de esta investigación académica y teórica, se determina que la participación de un sistema experto jurídico en la toma de decisiones judiciales tiene como principal implicación el aumento de la seguridad jurídica en el sistema judicial, como consecuencia de un aumento de confianza en la misma. Dicho aumento de ...
Arbitrariedad en las decisiones judiciales y administrativas
Erg@omnes, 2014
En el presente artículo de reflexión se esbozaran los elementos que permiten concluir que una actuación judicial o administrativa es arbitraria, en las que por lo general, los funcionarios que se encuentran en posición dominante hacen uso de la misma para tomar decisiones en la que priman intereses más allá de lo perseguido por la ley, esto es, aspiraciones personales, alejadas de todo concepto permitido dentro de la discrecionalidad y del imperio de la ley, rompiendo los principios de legalidad, debido proceso y equidad, contemplados en la Constitución Nacional como garantía de los derechos de los ciudadanos dentro de un Estado Social de Derecho.
La LA PARTICIPACIÓN EMOCIONAL EN LA TOMA DE DECISIONES
La necesidad de tomar decisiones, a veces tan difíciles como la que atormentaba a Hamlet y que Shakespeare inmortalizó en su conocido monólogo, no es patrimonio exclusivo de la raza humana. Todos los seres vi-vos que poseen un repertorio de conductas diversas han de elegir entre varias posibilidades. Y a medida que la complejidad de los organismos va aumentando en la escala evolutiva, la toma de decisiones adquiere complejidad y dificultad, y esto por varias razones. Por un lado, porque los cerebros más evolucionados son capaces de captar muchos más matices del entorno relevantes para su supervivencia. Por otro, porque el re-Los resultados de la reciente investigación neurofisiológica y neuropsicológica nos obligan a reconsiderar los mecanismos decisorios y a tener en cuenta la participación de las emociones en estos procesos. La amígdala, una estructura capaz de asignar significado emocional a los estímulos ambientales (evaluación), pone en marcha una serie de reacciones de carácter motor, autonómico, endocrino y del sistema nervioso central, que constituyen la expresión emocional. Todos estos cambios revierten, a su vez sobre el cerebro, en lo que se conoce como la experiencia de las emociones o los sentimientos. Por otro lado, las investigaciones neuropsicológicas han revelado la importancia de la corteza prefrontal en la toma de decisiones, poniendo de manifiesto la íntima colaboración de los mecanismos límbicos emocionales con las funciones anticipatorias y planificadoras de la corteza prefrontal. (Se expone la hipótesis del marcador somático de Damasio). La neurobiología está confirmando en definitiva lo que de forma intuitiva afirmó Pascal al escribir que "El corazón tiene razones que la razón ignora" Emotional participation in decision making. The results of recent neurophysiological and neuropsychological research make it necesary to take into account the participation of emotions in the decision processes. The amygdala, that has revealed itself as a structure capable of asigning emotional meaning to environmental stimuli (evaluation), originates a series of reactions that include motor, autonomic, endocrine and central nervous system adaptations (emotional expression). All these changes also feed back on the brain, giving rise to what is known as emotional experience or feelings. On the other hand, neuropsychological research has demonstrated the importance of the prefrontal cortex in decision making, showing an intimate cooperation of the emotional limbic mechanisms with anticipating and planning functions of the prefrontal cortex. (The somatic-marker hypothesis of Damasio is exposed). Neurobiology is thus confirming what Pascal intuitively expressed when writing that "the heart has reasons that reason ignores".