El uso jurisdiccional de los sistemas de inteligencia artificial y la necesidad de su armonización en el contexto de la Unión Europea.

  1. MONTSERRAT DE HOYOS SANCHO
Revista:
Revista General de Derecho Procesal

ISSN: 1696-9642

Año de publicación: 2021

Número: 55

Tipo: Artículo

DIALNET GOOGLE SCHOLAR

Otras publicaciones en: Revista General de Derecho Procesal

Resumen

Se exponen en este trabajo diversas utilidades de los sistemas de Inteligencia Artificial, como ayuda a la investigación y enjuiciamiento de hechos delictivos. La repercusión que el uso policial y jurisdiccional de estas herramientas puede tener sobre la efectividad de la cooperación transfronteriza en el contexto de la Unión Europea es ya hoy relevante, e irá creciendo de forma progresiva. Por tanto, es preciso contar con una normativa europea que armonice sus condiciones de uso, principalmente en relación con los sistemas denominados “de alto riesgo”. Se analiza el contenido de la propuesta de Reglamento del Parlamento europeo y del Consejo para establecer reglas armonizadas en materia de Inteligencia Artificial, de abril 2021, en particular en relación con esos sistemas que pueden emplearse como apoyo a la función policial y jurisdiccional, destacando las que han de ser sus principales garantías y requisitos de uso.

Referencias bibliográficas

  • ARANGÜENA FANEGO, C.: “Reconocimiento mutuo de resoluciones sobre medidas alternativas a la prisión provisional”, en Reconocimiento mutuo de resoluciones penales en la Unión Europea, Cizur Menor, 2015.
  • ARANGÜENA FANEGO, C.: “Orden europea de investigación: régimen de sustitución de la medida solicitada”, InDret, núm. 2, 2021.
  • ARANGÜENA, C./ DE HOYOS, M. / RODRÍGUEZ-MEDEL, C. (Dirs.): Reconocimiento mutuo de resoluciones penales en la Unión Europea, Cizur Menor, 2015.
  • ARANGÜENA, C. / DE HOYOS, M. (Dirs.): Garantías procesales de investigados y acusados. Situación actual en el ámbito de la Unión Europea, Valencia, 2018.
  • ARANGÜENA, C. / DE HOYOS, M. / HERNÁNDEZ, A.: Procedural Safeguards for Suspects and Accused Persons in Criminal Proceedings, Springer, 2020.
  • ARMENTA DEU, T.: Derivas de la justicia. Tutela de los derechos y solución de controversias en tiempos de cambios, Madrid, 2021.
  • BACHMAIER, L.: “The Handling of Digital Evidence in Spain”, en Digital Forensic Evidence. Towards common European Standards in Antifraud Administrative and Criminal Investigations, CAIANIELLO, M. / CAMON, A. (Eds.): Milano, 2021.
  • BARONA VILAR, S. (Dir.): Claves de la Justicia Penal, Valencia, 2019.
  • BARONA VILAR, S. (Ed.): Justicia algorítmica y neuroderecho, Valencia, 2021.
  • BARONA VILAR, S.: “Una Justicia ‘digital’ y ‘algorítmica’ para una sociedad en estado de mudanza”, Justicia algorítmica y neuroderecho, Valencia, 2021.
  • BARONA VILAR, S.: Algoritmización del Derecho y de la Justicia. De la Inteligencia Artificial a la Smart Justice, Valencia, 2021.
  • BUENO DE MATA, F.: “Macrodatos, inteligencia artificial y proceso: luces y sombras”, Revista General de Derecho Procesal, núm. 51, 2020, pp. 1 y ss.
  • BURCHARD, Ch.: “L’intelligenza artificiale come fine del Diritto penale? Sulla trasformazione algorítmica della societá”, Riv.it.dir.proc.pen., vol. 62, núm. 4, 2019, pp. 1909 a 1942.
  • CAIANIELLO, M. / CAMON, A. (Eds.): Digital Forensic Evidence. Towards common European Standards in Antifraud Administrative and Criminal Investigations.), Milano, 2021.
  • DE HOYOS SANCHO, M.: “El reconocimiento mutuo de resoluciones por la que se impone una pena o medida privativa de libertad”, en Reconocimiento mutuo de resoluciones penales en la Unión Europea, Cizur Menor, 2015.
  • DE HOYOS SANCHO, M.: “La orden europea de protección de víctimas: análisis normativo”, en Reconocimiento mutuo de resoluciones penales en la Unión Europea, Cizur Menor, 2015.
  • DE HOYOS SANCHO, M.: “El principio de subsidiariedad y la autonomía procesal de los Estados de la Unión Europea”, Revista Jueces para la Democracia, núm. 96, 2019, pp. 36 y ss.
  • DE HOYOS SANCHO, M.: “El Libro Blanco sobre inteligencia artificial de la Comisión Europea: reflexiones desde las garantías esenciales del proceso penal como sector de riesgo”, Revista Española de Derecho Europeo, núm. 26, 2020.
  • DE HOYOS SANCHO, M.: “Algunas dificultades en la aplicación práctica de la Orden Europea de Investigación”, en Nuevos postulados de la cooperación judicial en la Unión Europea, Dir. V. Moreno Catena, Valencia, 2021, pp. 511 y ss.
  • DE MIGUEL BERIAIN, I.: “Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin v. Loomis ruling”, Law, Probability and Risk, Vol. 17, núm. 1, marzo 2018, pp. 45 a 53.
  • DE SOUSA MENDES, P.: “A representaçao do conhecimento jurídico, inteligencia artificial e os sistemas de apoio à decisao jurídica”, Inteligência Artificial & Direito, Coimbra, 2020, pp. 51 y ss.
  • ETXEBERRIA GURIDI, J.F.: “Inteligencia artificial aplicada a la videovigilancia: tecnologías de reconocimiento facial”, Justicia algorítmica y neuroderecho, S. Barona Vilar (Ed.), Valencia, 2021, pp. 443 y ss.
  • FAIR TRIALS: Regulating AI for Use in Criminal Justice Systems in the EU, informe publicado en noviembre 2020. https://www.fairtrials.org
  • FERRER BELTRÁN, J.: La valoración racional de la prueba, Madrid, 2007.
  • FUENTES SORIANO, O.: “Europa ante el reto de la prueba digital. El establecimiento de instrumentos probatorios comunes: las órdenes europeas de entrega y conservación de pruebas electrónicas”, en Era digital, sociedad y derecho, Dir.: O. Fuentes Soriano, Valencia, 2020, pp. 281 y ss.
  • GASCÓN INCHAUSTI, F.: “Desafíos para el proceso penal en la era digital: externalización, sumisión pericial e inteligencia artificial”, en La justicia digital en España y en la Unión Europea, J. Conde y G. Serrano (Dirs.), Barcelona, 2019, pp. 191 y ss.
  • GIALUZ, M.: “Quando la giustizia penale incontra l’intelligenza artificiale: luci e ombre dei Risk Assessment Tools tra Stati Uniti ed Europa”, Diritto Penale Contemporaneo, 29 mayo 2019, pp. 1 y ss., esp. pp. 12 y ss.
  • GONZÁLEZ ÁLVAREZ, J.L., SANTOS HERMOSO, J., CAMACHO-COLLADOS, M.: “Policía predictiva en España. Aplicación y retos futuros”, Behavior & Law Journal, 2020, vol. 6, núm. 1, pp. 26 y ss.
  • GONZÁLEZ CANO, M.I. (Dir.): Orden europea de investigación y prueba transfronteriza en la Unión Europea, Valencia, 2019.
  • GUZMÁN FLUJA, V.: “Proceso penal y justicia automatizada”, Revista General de Derecho Procesal, núm. 53, 2021.
  • HUERGO LORA, A.: “El proyecto de Reglamento sobre la Inteligencia Artificial”, Almacén de Derecho, 17 de abril 2021. https://almacendederecho.org/el-proyecto-de-reglamento-sobre-la-inteligencia-artificial
  • JIMENO BULNES, M.: “La orden de detención europea como instrumento procesal en la lucha contra el terrorismo”, Unión Europea Aranzadi, núm. 12, 2020.
  • KEARNS, M. / ROTH, A.: El algoritmo ético. La ciencia del diseño de algoritmos socialmente responsables, Madrid, 2020.
  • LARO GONZÁLEZ, E.: “El Reglamento E-evidence: instrumento adicional a la Orden europea de investigación”, La Ley Probática, núm. 3, enero-marzo 2021.
  • LLORENTE SÁNCHEZ-ARJONA, M.: La Orden Europea de Investigación y su incorporación al Derecho español, Valencia, 2020.
  • LLORENTE SÁNCHEZ-ARJONA, M.: “Big data, inteligencia artificial y violencia de género”, Diario La Ley, núm. 49, 2021, pp. 1 y ss.
  • MALDONATO, L.: “Algoritmi predittivi e discrezionalitá del giuidice: una nuova sfida per la giustizia penale”, Diritto Penale Contemporaneo, 2/2019, pp. 391 y ss.
  • MARTÍN DIZ, F.: “Aplicaciones de Inteligencia Artificial en procesos penales por delitos relacionados con la corrupción”, en Sánchez Bernal, J. y otros (Eds.): Corrupción: compliance, represión y recuperación de activos, Valencia, 2019, pp. 533 y ss.
  • MARTÍN DIZ, F.: “Modelos de aplicación de Inteligencia Artificial en justicia: asistencial o predictiva versus decisoria”, en Justicia algorítmica y neuroderecho, S. Barona Vilar (Ed.), Valencia, 2021.
  • MARTÍNEZ GARCÍA, E.: “Justicia e inteligencia artificial sin género”, Justicia algorítmica y neuroderecho, S. Barona Vilar (Ed.), Valencia, 2021, pp. 209 y ss.
  • McKAY, C.: “Predicting risk in criminal procedure: actuarial tools, algorithms, AI and judicial decisión-making”, Current Issues in Criminal Justice, 32:1, 2020, pp. 22 a 39.
  • MITCHEL, J y otros: “Machine learning for determining accurate outcomes in criminal trials”, Law, Probability and Risk, núm. 19, 2020, pp. 43 y ss.
  • MORENO CATENA, V. (Dir.): Nuevos postulados de la cooperación judicial en la Unión Europea, Valencia, 2021.
  • NIEVA FENOLL, J.: Inteligencia artificial y proceso judicial, Madrid, 2018.
  • NÚÑEZ ZORRILLA, M.C.: “Los nuevos retos de la UE en la regulación de la responsabilidad civil por los daños causados por la inteligencia artificial”, Revista Española de Derecho Europeo, núm. 66, 2018, pp. 9 y ss.
  • NÚÑEZ ZORRILLA, M.C.: Inteligencia artificial y responsabilidad civil derivada de daños ocasionados por robots autónomos con inteligencia artificial, Madrid, 2019.
  • OCCHIUZZI, B.: “Algoritmi predittivi: alcune premesse metodologiche”, Diritto Penale Contemporaneo, 2/2019, pp. 391 y ss.
  • ORTEGA KLEIN, A.: “Hacia un régimen europeo de control de la Inteligencia Artificial”, Análisis del Real Instituto Elcano, 6 de mayo 2021, pp. 1 y ss.
  • PEREZ ESTRADA, M.J.: “El uso de algoritmos en el proceso penal y el derecho a un proceso con todas las garantías”, en Claves de la Justicia Penal, S. Barona Vilar (Dir.), Valencia, 2019, pp. 235 y ss.
  • PILLADO GONZÁLEZ, E.: “Algoritmos predictivos del comportamiento y proceso penal de menores”, Justicia algorítmica y neuroderecho, Ed.: S. Barona Vilar, Valencia, 2021.
  • PLANCHADELL GARGALLO, A.: “Inteligencia artificial y medidas cautelares”, Justicia algorítmica y neuroderecho, Ed.: S. Barona Vilar, Valencia, 2021.
  • PRETRIAL JUSTICE INSTITUTE: Updated Position on Pretrial Risk Assessment Tools, 7 de febrero de 2020, https://www.pretrial.org/wp-content/uploads/Risk-Statement-PJI-2020.pdf
  • QUATTROCOLO, S.: “Intelligenza artificiale e giustizia: nella cornice della Carta ética europea, gli spunti per un’urgente discussione tra scienze penali e informatiche”, en www.lalegislazionepenale.it, 22 marzo 2018.
  • QUATTROCOLO, S.: “Equitá del processo penale e automated evidence alla luce della Convenzione europea dei diritti dell’uomo”, Revista ítalo-española de Derecho Procesal, vol. 2, 2109, pp. 1 y ss.
  • QUATTROCOLO, S.: Artificial Intelligence, Computational Modelling and Criminal Proceedings, Springer, 2020.
  • SIGNORATO, S.: “Giustizia penale e intelligenza artificiale. Considerazioni in tema di algoritmo predittivo”, en Rivista di Diritto Processuale, 2/2020, pp. 605 y ss.
  • SUSSKIND, R.: On line Courts and the Future of the Justice, Oxford University Press, 2019.
  • THE LAW SOCIETY: Algorithms in the Criminal Justice System, junio 2019, en https://www.lawsociety.org.uk/topics/research/algorithm-use-in-the-criminal-justice-system-report
  • UBERTIS, G.: “Intelligenza artificiale, giustizia penale, controllo umano significativo”, en Sistema penale, texto presentado en Milán el 15 octubre 2020, en http://www.ristretti.it/commenti/2020/novembre/pdf3/articolo_ubertis.pdf
Fuente de los datos: Dialnet