El uso jurisdiccional de los sistemas de inteligencia artificial y la necesidad de su armonización en el contexto de la Unión Europea.

  1. MONTSERRAT DE HOYOS SANCHO
Revista:
Revista General de Derecho Procesal

ISSN: 1696-9642

Ano de publicación: 2021

Número: 55

Tipo: Artigo

Outras publicacións en: Revista General de Derecho Procesal

Resumo

This paper presents various uses of Artificial Intelligence systems as an aid to the investigation and prosecution of criminal offences. The impact that the police and jurisdictional use of these tools can have on the effectiveness of cross-border cooperation in the context of the European Union is already relevant today, and will grow progressively. It is therefore necessary to adopt European legislation harmonising their conditions of use, particularly regarding the so-called "high-risk" systems. The contents of the Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on Artificial Intelligence of April 2021 are analysed, specifically with regard to those systems that can be used to support the police and jurisdictional function, highlighting what should be their main safeguards and use requirements.

Referencias bibliográficas

  • ARANGÜENA FANEGO, C.: “Reconocimiento mutuo de resoluciones sobre medidas alternativas a la prisión provisional”, en Reconocimiento mutuo de resoluciones penales en la Unión Europea, Cizur Menor, 2015.
  • ARANGÜENA FANEGO, C.: “Orden europea de investigación: régimen de sustitución de la medida solicitada”, InDret, núm. 2, 2021.
  • ARANGÜENA, C./ DE HOYOS, M. / RODRÍGUEZ-MEDEL, C. (Dirs.): Reconocimiento mutuo de resoluciones penales en la Unión Europea, Cizur Menor, 2015.
  • ARANGÜENA, C. / DE HOYOS, M. (Dirs.): Garantías procesales de investigados y acusados. Situación actual en el ámbito de la Unión Europea, Valencia, 2018.
  • ARANGÜENA, C. / DE HOYOS, M. / HERNÁNDEZ, A.: Procedural Safeguards for Suspects and Accused Persons in Criminal Proceedings, Springer, 2020.
  • ARMENTA DEU, T.: Derivas de la justicia. Tutela de los derechos y solución de controversias en tiempos de cambios, Madrid, 2021.
  • BACHMAIER, L.: “The Handling of Digital Evidence in Spain”, en Digital Forensic Evidence. Towards common European Standards in Antifraud Administrative and Criminal Investigations, CAIANIELLO, M. / CAMON, A. (Eds.): Milano, 2021.
  • BARONA VILAR, S. (Dir.): Claves de la Justicia Penal, Valencia, 2019.
  • BARONA VILAR, S. (Ed.): Justicia algorítmica y neuroderecho, Valencia, 2021.
  • BARONA VILAR, S.: “Una Justicia ‘digital’ y ‘algorítmica’ para una sociedad en estado de mudanza”, Justicia algorítmica y neuroderecho, Valencia, 2021.
  • BARONA VILAR, S.: Algoritmización del Derecho y de la Justicia. De la Inteligencia Artificial a la Smart Justice, Valencia, 2021.
  • BUENO DE MATA, F.: “Macrodatos, inteligencia artificial y proceso: luces y sombras”, Revista General de Derecho Procesal, núm. 51, 2020, pp. 1 y ss.
  • BURCHARD, Ch.: “L’intelligenza artificiale come fine del Diritto penale? Sulla trasformazione algorítmica della societá”, Riv.it.dir.proc.pen., vol. 62, núm. 4, 2019, pp. 1909 a 1942.
  • CAIANIELLO, M. / CAMON, A. (Eds.): Digital Forensic Evidence. Towards common European Standards in Antifraud Administrative and Criminal Investigations.), Milano, 2021.
  • DE HOYOS SANCHO, M.: “El reconocimiento mutuo de resoluciones por la que se impone una pena o medida privativa de libertad”, en Reconocimiento mutuo de resoluciones penales en la Unión Europea, Cizur Menor, 2015.
  • DE HOYOS SANCHO, M.: “La orden europea de protección de víctimas: análisis normativo”, en Reconocimiento mutuo de resoluciones penales en la Unión Europea, Cizur Menor, 2015.
  • DE HOYOS SANCHO, M.: “El principio de subsidiariedad y la autonomía procesal de los Estados de la Unión Europea”, Revista Jueces para la Democracia, núm. 96, 2019, pp. 36 y ss.
  • DE HOYOS SANCHO, M.: “El Libro Blanco sobre inteligencia artificial de la Comisión Europea: reflexiones desde las garantías esenciales del proceso penal como sector de riesgo”, Revista Española de Derecho Europeo, núm. 26, 2020.
  • DE HOYOS SANCHO, M.: “Algunas dificultades en la aplicación práctica de la Orden Europea de Investigación”, en Nuevos postulados de la cooperación judicial en la Unión Europea, Dir. V. Moreno Catena, Valencia, 2021, pp. 511 y ss.
  • DE MIGUEL BERIAIN, I.: “Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin v. Loomis ruling”, Law, Probability and Risk, Vol. 17, núm. 1, marzo 2018, pp. 45 a 53.
  • DE SOUSA MENDES, P.: “A representaçao do conhecimento jurídico, inteligencia artificial e os sistemas de apoio à decisao jurídica”, Inteligência Artificial & Direito, Coimbra, 2020, pp. 51 y ss.
  • ETXEBERRIA GURIDI, J.F.: “Inteligencia artificial aplicada a la videovigilancia: tecnologías de reconocimiento facial”, Justicia algorítmica y neuroderecho, S. Barona Vilar (Ed.), Valencia, 2021, pp. 443 y ss.
  • FAIR TRIALS: Regulating AI for Use in Criminal Justice Systems in the EU, informe publicado en noviembre 2020. https://www.fairtrials.org
  • FERRER BELTRÁN, J.: La valoración racional de la prueba, Madrid, 2007.
  • FUENTES SORIANO, O.: “Europa ante el reto de la prueba digital. El establecimiento de instrumentos probatorios comunes: las órdenes europeas de entrega y conservación de pruebas electrónicas”, en Era digital, sociedad y derecho, Dir.: O. Fuentes Soriano, Valencia, 2020, pp. 281 y ss.
  • GASCÓN INCHAUSTI, F.: “Desafíos para el proceso penal en la era digital: externalización, sumisión pericial e inteligencia artificial”, en La justicia digital en España y en la Unión Europea, J. Conde y G. Serrano (Dirs.), Barcelona, 2019, pp. 191 y ss.
  • GIALUZ, M.: “Quando la giustizia penale incontra l’intelligenza artificiale: luci e ombre dei Risk Assessment Tools tra Stati Uniti ed Europa”, Diritto Penale Contemporaneo, 29 mayo 2019, pp. 1 y ss., esp. pp. 12 y ss.
  • GONZÁLEZ ÁLVAREZ, J.L., SANTOS HERMOSO, J., CAMACHO-COLLADOS, M.: “Policía predictiva en España. Aplicación y retos futuros”, Behavior & Law Journal, 2020, vol. 6, núm. 1, pp. 26 y ss.
  • GONZÁLEZ CANO, M.I. (Dir.): Orden europea de investigación y prueba transfronteriza en la Unión Europea, Valencia, 2019.
  • GUZMÁN FLUJA, V.: “Proceso penal y justicia automatizada”, Revista General de Derecho Procesal, núm. 53, 2021.
  • HUERGO LORA, A.: “El proyecto de Reglamento sobre la Inteligencia Artificial”, Almacén de Derecho, 17 de abril 2021. https://almacendederecho.org/el-proyecto-de-reglamento-sobre-la-inteligencia-artificial
  • JIMENO BULNES, M.: “La orden de detención europea como instrumento procesal en la lucha contra el terrorismo”, Unión Europea Aranzadi, núm. 12, 2020.
  • KEARNS, M. / ROTH, A.: El algoritmo ético. La ciencia del diseño de algoritmos socialmente responsables, Madrid, 2020.
  • LARO GONZÁLEZ, E.: “El Reglamento E-evidence: instrumento adicional a la Orden europea de investigación”, La Ley Probática, núm. 3, enero-marzo 2021.
  • LLORENTE SÁNCHEZ-ARJONA, M.: La Orden Europea de Investigación y su incorporación al Derecho español, Valencia, 2020.
  • LLORENTE SÁNCHEZ-ARJONA, M.: “Big data, inteligencia artificial y violencia de género”, Diario La Ley, núm. 49, 2021, pp. 1 y ss.
  • MALDONATO, L.: “Algoritmi predittivi e discrezionalitá del giuidice: una nuova sfida per la giustizia penale”, Diritto Penale Contemporaneo, 2/2019, pp. 391 y ss.
  • MARTÍN DIZ, F.: “Aplicaciones de Inteligencia Artificial en procesos penales por delitos relacionados con la corrupción”, en Sánchez Bernal, J. y otros (Eds.): Corrupción: compliance, represión y recuperación de activos, Valencia, 2019, pp. 533 y ss.
  • MARTÍN DIZ, F.: “Modelos de aplicación de Inteligencia Artificial en justicia: asistencial o predictiva versus decisoria”, en Justicia algorítmica y neuroderecho, S. Barona Vilar (Ed.), Valencia, 2021.
  • MARTÍNEZ GARCÍA, E.: “Justicia e inteligencia artificial sin género”, Justicia algorítmica y neuroderecho, S. Barona Vilar (Ed.), Valencia, 2021, pp. 209 y ss.
  • McKAY, C.: “Predicting risk in criminal procedure: actuarial tools, algorithms, AI and judicial decisión-making”, Current Issues in Criminal Justice, 32:1, 2020, pp. 22 a 39.
  • MITCHEL, J y otros: “Machine learning for determining accurate outcomes in criminal trials”, Law, Probability and Risk, núm. 19, 2020, pp. 43 y ss.
  • MORENO CATENA, V. (Dir.): Nuevos postulados de la cooperación judicial en la Unión Europea, Valencia, 2021.
  • NIEVA FENOLL, J.: Inteligencia artificial y proceso judicial, Madrid, 2018.
  • NÚÑEZ ZORRILLA, M.C.: “Los nuevos retos de la UE en la regulación de la responsabilidad civil por los daños causados por la inteligencia artificial”, Revista Española de Derecho Europeo, núm. 66, 2018, pp. 9 y ss.
  • NÚÑEZ ZORRILLA, M.C.: Inteligencia artificial y responsabilidad civil derivada de daños ocasionados por robots autónomos con inteligencia artificial, Madrid, 2019.
  • OCCHIUZZI, B.: “Algoritmi predittivi: alcune premesse metodologiche”, Diritto Penale Contemporaneo, 2/2019, pp. 391 y ss.
  • ORTEGA KLEIN, A.: “Hacia un régimen europeo de control de la Inteligencia Artificial”, Análisis del Real Instituto Elcano, 6 de mayo 2021, pp. 1 y ss.
  • PEREZ ESTRADA, M.J.: “El uso de algoritmos en el proceso penal y el derecho a un proceso con todas las garantías”, en Claves de la Justicia Penal, S. Barona Vilar (Dir.), Valencia, 2019, pp. 235 y ss.
  • PILLADO GONZÁLEZ, E.: “Algoritmos predictivos del comportamiento y proceso penal de menores”, Justicia algorítmica y neuroderecho, Ed.: S. Barona Vilar, Valencia, 2021.
  • PLANCHADELL GARGALLO, A.: “Inteligencia artificial y medidas cautelares”, Justicia algorítmica y neuroderecho, Ed.: S. Barona Vilar, Valencia, 2021.
  • PRETRIAL JUSTICE INSTITUTE: Updated Position on Pretrial Risk Assessment Tools, 7 de febrero de 2020, https://www.pretrial.org/wp-content/uploads/Risk-Statement-PJI-2020.pdf
  • QUATTROCOLO, S.: “Intelligenza artificiale e giustizia: nella cornice della Carta ética europea, gli spunti per un’urgente discussione tra scienze penali e informatiche”, en www.lalegislazionepenale.it, 22 marzo 2018.
  • QUATTROCOLO, S.: “Equitá del processo penale e automated evidence alla luce della Convenzione europea dei diritti dell’uomo”, Revista ítalo-española de Derecho Procesal, vol. 2, 2109, pp. 1 y ss.
  • QUATTROCOLO, S.: Artificial Intelligence, Computational Modelling and Criminal Proceedings, Springer, 2020.
  • SIGNORATO, S.: “Giustizia penale e intelligenza artificiale. Considerazioni in tema di algoritmo predittivo”, en Rivista di Diritto Processuale, 2/2020, pp. 605 y ss.
  • SUSSKIND, R.: On line Courts and the Future of the Justice, Oxford University Press, 2019.
  • THE LAW SOCIETY: Algorithms in the Criminal Justice System, junio 2019, en https://www.lawsociety.org.uk/topics/research/algorithm-use-in-the-criminal-justice-system-report
  • UBERTIS, G.: “Intelligenza artificiale, giustizia penale, controllo umano significativo”, en Sistema penale, texto presentado en Milán el 15 octubre 2020, en http://www.ristretti.it/commenti/2020/novembre/pdf3/articolo_ubertis.pdf