El libro blanco sobre inteligencia artificial de la Comisión Europeareflexiones desde las garantías esenciales del proceso penal como “sector de riesgo”

Referencias bibliográficas

• Arangüena, C., De Hoyos, M., Rodríguez-Medel, C. (dirs.) (2015). Reconocimiento mutuo de resoluciones penales en la Unión Europea. Aranzadi.
• Arangüena, C. y De Hoyos, M. (dirs.) (2018). Garantías procesales de investigados y acusados. Situación actual en el ámbito de la Unión Europea. Tirant lo Blanch.
• Arangüena, C., De Hoyos, M. y Hernández, A. (eds.) (2020). Procedural Safeguards for Suspects and Accused Persons in Criminal Proceedings. Springer.
• Armenta Deu, T. (2019). Orden europea de investigación y exclusión probatoria. En González Cano, I. (dir.), Orden europea de investigación y prueba transfronteriza en la Unión Europea (pp. 767-796). Tirant lo Blanch.
• Barona Vilar, S. (2019): Inteligencia artificial o la algoritmización de la vida y de la justicia: ¿solución o problema? Revista Boliviana de Derecho, 28, 18-49.
• Battaglini, M. (2020). Sentencia histórica del Tribunal de la Haya anulando la elaboración de perfiles para el fraude de la Seguridad Social (SyRI). https://www.linkedin. com/pulse/sentencia-histórica-del-tribunal-de-la-haya-anulando-manuela/.
• Bueno de Mata, F. (2020). Macrodatos, inteligencia artificial y proceso: luces y sombras. Revista General de Derecho Procesal, 51.
• Burchard, Ch. (2019). L’intelligenza artificiale come fine del Diritto penale? Sulla trasformazione algorítmica della societá. Rivista italiana di diritto e procedura penale, 4 (62), 1909-1942.
• Cotino Hueso, L. (2019). Riesgos e impactos del big data, la inteligencia artificial y la robótica. Enfoques, modelos y principios de la respuesta del derecho. Revista General de Derecho Administrativo, 50.
• Cotino Hueso, L. (2020). SyRI, ¿a quién sanciono? Garantías frente al uso de inteligencia artificial y decisiones automatizadas en el sector público y la sentencia holandesa de febrero de 2020. La Ley Privacidad, 4.
• De Hoyos Sancho, M. (2003). Firma digital y comunicaciones procesales. Actualidad Jurídica Aranzadi. 571, 4-5.
• De Hoyos Sancho, M (2015a). El reconocimiento mutuo de resoluciones por las que se impone una penal o medida privativa de libertad. En Arangüena Fanego, C.; de Hoyos Sancho, M. y Rodríguez-Medel Nieto, C. Reconocimiento mutuo de resoluciones penales en la Unión Europea (pp. 107-128). Aranzadi.
• De Hoyos Sancho, M (2015b). La orden europea de protección de víctimas: análisis normativo. En Arangüena Fanego, C.; de Hoyos Sancho, M. y Rodríguez-Medel Nieto, C. Reconocimiento mutuo de resoluciones penales en la Unión Europea (pp. 271-302). Aranzadi.
• De Hoyos Sancho, M (2019a). La orden europea de investigación: reflexiones sobre su potencial efectividad a la vista de los motivos de denegación del reconocimiento y ejecución en España. Revista General de Derecho Procesal, 47.
• De Hoyos Sancho, M (2019b). Orden europea de investigación: avanzando hacia la integración en materia procesal penal. En Barona Vilar, S. (Ed.), Claves de la Justicia Penal: feminización, inteligencia artificial, supranacionalidad y seguridad (pp. 343-370). Tirant lo Blanch.
• De Hoyos Sancho, M (2019c). El principio de subsidiariedad y la autonomía procesal de los Estados de la Unión Europea. Jueces para la Democracia, 96, 36-47.
• De la Oliva Santos, A. (2019). “Justicia predictiva”, interpretación matemática de las normas, sentencias robóticas y la vieja historia del “Justizklavier”. El Cronista del Estado Social y Democrático de Derecho, 80, pp. 30-37.
• De Miguel Beriain, I. (2018). Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin v. Loomis ruling. Law, Probability and Risk, 1 (17), 45-53.
• Fair Trials (2020). Regulating AI for Use in Criminal Justice Systems in the EU, informe publicado en https://www.fairtrials.org.
• Feijóo Sánchez, B. (2007). Individualización de la pena y teoría de la pena proporcional al hecho, InDret, 1.
• Fernández, C. B. (2020, 13 feb.). Primera sentencia europea que declara ilegal un algoritmo de evaluación de características personales de los ciudadanos. Diario La Ley.
• Ferrer Beltrán, J. (2007). La valoración racional de la prueba. Marcial Pons.
• Gascón Inchausti, F. (2019). Desafíos para el proceso penal en la era digital: externalización, sumisión pericial e inteligencia artificial. En Conde Fuentes, J.; Serrano Hoyo, G.; Arrabal Platero, P. y García Molina, P. (dirs.), La justicia digital en España y en la Unión Europea (pp. 191-206). Atelier.
• Gialuz, M. (2019, 29 may). Quando la giustizia penale incontra l’intelligenza artificiale: luci e ombre dei Risk Assessment Tools tra Stati Uniti ed Europa, Diritto Penale Contemporaneo, en https://archiviodpc.dirittopenaleuomo.org.
• González Cano, M. I. (Dir.) (2019). Orden europea de investigación y prueba transfronteriza en la Unión Europea. Tirant lo Blanch.
• Kearns, M. y Roth, A. (2020). El algoritmo ético. La ciencia del diseño de algoritmos socialmente responsables. La Ley-Wolters Kluwer.
• Laro González, M. E. (2019). La orden europea de investigación. Especial consideración de los problemas que plantea el doble control de admisibilidad en la obtención de pruebas. En González Cano, I. (dir.), Orden europea de investigación y prueba transfronteriza en la Unión Europea (pp. 797-814). Tirant lo Blanch.
• Maldonato, L. (2019). Algoritmi predittivi e discrezionalitá del giuidice: una nuova sfida per la giustizia penale, Diritto Penale Contemporaneo, 2, 401-414.
• Martín Diz, F. (2019a). Inteligencia artificial y proceso: garantías frente a eficiencia en el entorno de los derechos procesales fundamentales. En Jiménez Conde, F. y Bellido Penadés, R.; Llopis Nadal, P. y de Luis García, E. (coords.). Justicia: ¿garantías versus eficiencia? (pp. 815-827) Tirant lo Blanch.
• Martín Diz, F. (2019b). Aplicaciones de Inteligencia Artificial en procesos penales por delitos relacionados con la corrupción. En Rodríguez García, N.; Carrizo González-Castell, A.; Rodríguez López, F.; Sánchez Bernal, J. y Carrillo del Teso, A.E. (coords.), Corrupción: ‘compliance’, represión y recuperación de activos (pp. 533-568). Tirant lo Blanch.
• McKay, C. (2020). Predicting risk in criminal procedure: actuarial tools, algorithms, AI and judicial decisión-making. Current Issues in Criminal Justice, 1 (32), 22-39.
• Mitchel, J. et al. (2020). Machine learning for determining accurate outcomes in criminal trials. Law, Probability and Risk, 1 (19), 43-65.
• Nieva Fenoll, J. (2018). Inteligencia artificial y proceso judicial, Marcial Pons, 2018.
• Núñez Zorrilla, M. C. (2018). Los nuevos retos de la UE en la regulación de la responsabilidad civil por los daños causados por la inteligencia artificial. Revista Española de Derecho Europeo, 66, 9-53.
• Nieva Fenoll, J. (2019). Inteligencia artificial y responsabilidad civil derivada de daños ocasionados por robots autónomos con inteligencia artificial. Reus.
• Occhiuzzi, B. (2019). Algoritmi predittivi: alcune premesse metodologiche, Diritto Penale Contemporaneo, 2, 391-400.
• Parolli, C. y Sellaroli, V. (2019). Sistema penale e intelligenza artificiale: molte speranze e qualche equivoco. Diritto Penale Contemporaneo, 6, 47-71.
• Pretrial Justice Institute (2020, 7 de feb.). Updated Position on Pretrial Risk Assessment Tools, https://www.pretrial.org/wp-content/uploads/Risk-Statement-PJI-2020.pdf.
• Quattrocolo, S. (2018, 22 de mar). Intelligenza artificiale e giustizia: nella cornice della Carta ética europea, gli spunti per un’urgente discussione tra scienze penali e informatiche, en www.lalegislazionepenale.it.
• Quattrocolo, S. (2019). Equitá del processo penale e automated evidence alla luce della Convenzione europea dei diritti dell’uomo. Revista ítalo-española de Derecho Procesal, vol. 2, 1 y ss.
• Signorato, S. (2020). Giustizia penale e intelligenza artificiale. Considerazioni in tema di algoritmo predittivo. Rivista di Diritto Processuale, 2 (75), 605-616.
• Susskind, R. (2019). On line Courts and the Future of the Justice, Oxford University Press.
• Susskind, R. (2020). Tribunales on-line y la Justicia del futuro, La Ley-Wolters Kluwer. The Law Society (2019). Algorithms in the Criminal Justice System, en https://www.lawsociety.org.uk/topics/research/algorithm-use-in-the-criminal-justice-systemreport.
• Ubertis, G. (2020). Intelligenza artificiale, giustizia penale, controllo umano significativo, Sistema penale, texto presentado en Milán el 15 de octubre de 2020, en http:// www.ristretti.it/commenti/2020/novembre/pdf3/articolo_ubertis.pdf.
• B. Legislación y jurisprudencia
• Agencia de los Derechos Fundamentales de la Unión Europea. (2020). Facial recognition technology. Fundamental rights considerations in the context of law enforcement https://op.europa.eu/es/publication-detail/-/publication/95cbdd4c-3d8d-11ea-ba6e01aa75ed71a1/language-es.
• Carta de Derechos Fundamentales de la Unión Europea. DOUE C 202 (7 de jun. de 2016).
• Carta ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno (2018). Aprobada por la European Commission for the Efficiency of Justice (CEPEJ). https://rm.coe.int/ethical-charter-en-for-publication-4-december2018/16808f699c.
• Comisión Europea (2018). Comunicación sobre la inteligencia artificial para Europa [COM(2018) 237 final].
• Comisión Europea (2019). Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Generar confianza en la inteligencia artificial centrada en el ser humano [COM(2019) 168 final].
• Comisión Europea (2020). Informe sobre el marco de seguridad y responsabilidad civil de la Inteligencia Artificial, el Internet de las cosas y la robótica, adjunto al propio Libro Blanco sobre IA. [COM(2020) 64 final]. https://ec.europa.eu/transparency/regdoc/rep/1/2020/ES/ COM-2020-64-F1-ES-MAIN-PART-1.PDF.
• Comisión Europea (2020). Libro Blanco sobre la inteligencia artificial – un enfoque europeo orientado a la excelencia y la confianza [COM(2020) 65 final]. https://ec.europa.eu/info/sites/ info/files/commission-white-paper-artificial-intelligence-feb2020_es.pdf.
• Comisión Europea (2020, sep). Study on the use of innovative technologies in the justice field. Final Report.
• Committee of Experts on Internet Intermediaries (MSI-NET). (2018). Algorithms and Human Rights. Study on the Human Rights Dimensions of Auto-mated Data Processing Techniques and Possible Regulatory Implication (Council of Europe Study DGI(2017)12). https://rm.coe.int/algorithms-and-human-rights-en-rev/ 16807956b5/.
• Convenio para la protección de los derechos humanos y de las libertades fundamentales, hecho en Roma el 4 de noviembre de 1950.
• Decisión Marco 2008/909/JAI del Consejo, de 27 de noviembre de 2008, relativa a la aplicación del principio de reconocimiento mutuo de sentencias en materia penal por las que se imponen penas u otras medidas privativas de libertad a efectos de su ejecución en la Unión Europea. DOUE L 327 (5 de dic. de 2008).
• Decisión Marco 2008/977/JAI del Consejo, de 27 de noviembre de 2008, relativa a la protección de datos personales tratados en el marco de la cooperación policial y judicial en materia penal. DOUE L 350 (30 de dic. de 2008).
• Directiva (UE) 2016/680 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por parte de las autoridades competentes para fines de prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales, y a la libre circulación de dichos datos y por la que se deroga la Decisión Marco 2008/977/JAI del Consejo. DOUE L 119 (4 de may. de 2016).
• Directiva 2011/99/UE del Parlamento Europeo y del Consejo, de 13 de diciembre de 2011, sobre la orden europea de protección. DOUE L 338 (21 de dic. de 2011).
• Directiva 2012/13/UE del Parlamento Europeo y del Consejo, de 22 de mayo de 2012, relativa al derecho a la información en los procesos penales. DOUE L 142 (1 de jun. de 2012).
• Fair Trials (2020, nov.). Regulating AI for Use in Criminal Justice Systems in the EU. https://www.fairtrials.org.
• Grupo de expertos de alto nivel sobre inteligencia artificial. (2019). Directrices para una IA fiable. https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top.
• Grupo de Expertos en datos FAIR de la Comisión. (2018). Turning FAIR into reality. Final report and action plan from the European Commission expert group on FAIR data https://ec.europa.eu/info/sites/info/files/turning_fair_into_reality_1.pdf.
• Loomis v. Wisconsin (2017) 137 S.Ct.2290. Pretrial Justice Institute. (2020, 7 feb). Updated Position on Pretrial Risk Assessment Tools. https://www.pretrial.org/wp-content/uploads/Risk-Statement-PJI-2020.pdf. Reglamento (CE) núm. 1/2005 del Consejo, de 22 de diciembre de 2004, relativo a la protección de los animales durante el transporte y las operaciones conexas y por el que se modifican las Directivas 64/432/CEE y 93/119/CE y el Reglamento (CE) núm. 1255/97. DOUE L 3 (5 de ene. De 2005).
• Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos). DOUE L 119 (4 de may. De 2016).
• Reglamento (UE) 2018/1725 del Parlamento Europeo y del Consejo, de 23 de octubre de 2018, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por las instituciones, órganos y organismos de la Unión, y a la libre circulación de esos datos, y por el que se derogan el Reglamento (CE) núm. 45/2001 y la Decisión núm. 1247/2002/CE. DOUE L 295 (21 de nov. de 2018).
• Reglamento (UE) núm. 606/2013 del Parlamento Europeo y del Consejo, de 12 de junio de 2013, relativo al reconocimiento mutuo de medidas de protección en materia civil. DOUE L 181 (29 de jun. de 2013).
• State v. Loomis, 881 N.W.2d 749 (Wis. 2016). The Law Society (2019, jun). Algorithms in the Criminal Justice System. file:///C:/Users/user/AppData/Local/Temp/algorithms-in-criminal-justice-system-report-2019.pdf Tratado de Funcionamiento de la Unión Europea (versión consolidada). DOUE C 202 (7 de jun. de 2016).