Transparência algorítmica como garantia da dignidade humana: uma proposta convergente para a governança da IA no Chile e na Colômbia
pdf (Español (España))
FLIP
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
Aquellos autores/as que tengan publicaciones con esta revista, aceptan los términos siguientes:
- Los autores/as conservarán sus derechos de autor y garantizarán a la revista el derecho de primera publicación de su obra, el cuál estará simultáneamente sujeto a la Licencia de reconocimiento no comercial de Creative Commons que permite a terceros compartir la obra siempre que se indique su autor y su primera publicación esta revista.
- Los autores/as podrán adoptar otros acuerdos de licencia no exclusiva de distribución de la versión de la obra publicada (p. ej.: depositarla en un archivo telemático institucional o publicarla en un volumen monográfico) siempre que se indique la publicación inicial en esta revista.
- Se permite y recomienda a los autores/as difundir su obra a través de Internet (p. ej.: en archivos telemáticos institucionales o en su página web) antes y durante el proceso de envío, lo cual puede producir intercambios interesantes y aumentar las citas de la obra publicada. (Véase El efecto del acceso abierto).
Resumo
Este artigo visa comparar a evolução política e regulatória da Inteligência Artificial (IA) no Chile e na Colômbia, propondo fundamentos convergentes para a transparência algorítmica como garantia da dignidade humana no setor público. Por meio de uma análise de direito comparado aplicada a instrumentos de políticas públicas que defendem garantias democráticas reforçadas de transparência na tomada de decisões baseada em IA, estabelece-se a tese central de que fundamentos convergentes para a transparência algorítmica são cruciais para garantir a dignidade humana no setor público. As conclusões enfatizam a urgência de cinco princípios fundamentais para a formulação de estratégias que garantam não apenas a inovação, mas também a supervisão humana, a transparência, a responsabilização e a responsabilidade efetiva pilares essenciais para uma transição digital rumo à automação.
Referências
Amnistía Internacional (2025). "La Cumbre de Acción sobre la Inteligencia Artificial (IA) debe poner el foco en establecer reglas vinculantes y exigibles para frenar los daños generados por la IA". https://www.amnesty.org/es/latest/news/2025/02/global-france-ai-action-summit-must-meaningfully-center-binding-and-enforceable-regulation-to-curb-ai-driven-harms/
Aguilar Villanueva, L. (2024). La nueva gobernanza pública: un panorama conceptual, Perfiles Latinoamericanos, FLACSO México,32(63),1-25. dx.doi.org/10.18504/pl3263-001-2024
Arteta, Cristóbal, Eduardo Barrera Bermúdez & José Gabriel Coley. “El pensamiento
filosófico de Pablo Guadarrama González y su relevancia para América Latina”. Cultura
Latinoamericana 41, núm. 1 (2025): 213-218.
Ávila Hernández, Flor María, Lucia Picarella y Victor Rafael Martin Fiorino. Los desafíos éticos-jurídicos de la inteligencia artificial en Europa y Colombia. Clío. Revista de Historia, Ciencias Humanas y Pensamiento Crítico, (9), (2024): 866-907. https://doi.org/10.5281/zenodo.14567185
Barona Villar, Silvia. Algoritmización del derecho y de la justicia: de la inteligencia artificial a la smart justice. Valencia: Tirant lo Blanch, 2021
Barreto Montoya, Johana. “Víctimas y victimarios: la discapacidad como objeto de estudio
en contextos culturales de violencia”. Cultura Latinoamericana 40, núm. 2 (2024): 238-263.
Becerra, Jairo, Lorenzo, Cotino Hueso, Claudia Bibiana, García Vargas, Marco Emilio, Sánchez Acevedo, Jhelison, Torres, Avil. Reseña: la responsabilidad del estado por la utilización de las tecnologías de información y comunicación TIC. Novum Jus Vol. 10, núm. 2, (2016): 119-124
Becerra-Ortiz, Jairo Andrés, Mario Emilio, Sánchez-Acevedo, Jheison, Torres-Ávila, Claudia Bibiana, García-Vargas y Lorenzo Cotino-Hueso. La responsabilidad del Estado por la utilización de las tecnologías de la información y la comunicación (TIC). Bogotá: Editorial Universidad Católica de Colombia, 2015. Disponible en: https://hdl.handle.net/10983/22963
Bojórquez-Pereznieto, J. A. La caja negra del Estado: el reto del Gobierno Abierto. en A. Hofmann, A. Ramírez-Alujas, JA Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto, pp. 165-192. México: Creative Commons, 2013.
Botero Chica, Luis Alfonso, Lady Juliana, Guevara Flórez y Víctor Julián, Moreno Mosquera. El impacto de las tecnologías en el proceso judicial, una mirada a partir de los conceptos de juez digital y debido proceso. Novum Jus. Vol. 18 núm.3 (2024):179-207 https://doi.org/10.14718/NovumJus.2024.18.3.7
Breceda Pérez, Jorge Antonio. La dignidad humana frente a la inteligencia artificial: un análisis ético y normativo en América Latina. Instituto de Ciencias Sociales y Administración. (2024).Disponible en: https://www.unilim.fr/trahs/6367
Burrell, Jenna. “How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms”. Big Data & Society 3, núm. 1 (2016): 1-26. https://doi.org/10.1177/2053951715622512
Calabuig, José, Lorenzo Cotino, Antonia Ferrer & Enrique Sánchez. Guía práctica ¿Cómo abrir los algoritmos públicos? Recomendaciones para la implantación de registros de algoritmos públicos. Universitat Politècnica de València-Universitat de València (2024).
Capdeferro Villagrasa, Oscar. La inteligencia artificial del sector público: desarrollo y regulación de la actuación administrativa inteligente en la cuarta revolución industrial, IDP: revista de Internet, derecho y política, revista d’Internet, dret i política Nro. 30 (2020), 6. http://www.academia.edu/download/62234616/3219-14140-4-PB20200229-84378-1p7ruz4.pdf
Carvajal, Jorge Enrique y Óscar Javier Trujillo Osorio. “Protesta social en América Latina:
análisis desde la divergencia como categoría de la criminología del Sur Global”. Nuevos
Paradigmas de las Ciencias Sociales Latinoamericanas 14, núm. 27 (2023): 185-214.
https://nuevosparadigmas.ilae.edu.co/index.php/IlaeOjs/article/view/282
Castellanos Ballesteros, Inmaculada. “Decisiones automatizadas y transparencia administrativa:
nuevos retos para los derechos fundamentales”. Revista Española de La Transparencia,
núm. 16 (2023):191-215. https://doi.org/10.51915/ret.250
Chakraborty, Swatilekha. “Inteligencia artificial y derechos humanos: ¿son convergentes o
paralelos entre sí?”. Novum Jus 12, núm. 2 (2018): 13-38. https://doi.org/10.14718/
NovumJus.2018.12.2.2
Coglianese, Cary & David Lehr. “Transparency and Algorithmic Governance”. Administrative
Law Review 1, núm. 71 (2019): 18-38.
Consejo Nacional De Política Económica Y Social. Documento CONPES 3975 de 2019. Política nacional para la transformación digital e inteligencia artificial. Bogotá, D.C., 8 de noviembre de 2019
Consejo Nacional de Política Económica y Social (Conpes). Documento Conpes 4070 del
Lineamientos de política para la implementación de un modelo de Estado abierto.
Bogotá, D. C., 20 de diciembre de 2021.
Consejo Nacional De Política Económica Y Social. Documento CONPES 4070 del 2021. Lineamientos de política para la implementación de un modelo de Estado abierto. Bogotá, D.C., 20 de diciembre de 2021.
Consejo Nacional De Política Económica Y Social. Documento CONPES 4144 de 2024. Política nacional de inteligencia artificial. Bogotá, D.C., 14 de febrero de 2025.
Cotino-Hueso, Lorenzo. “Qué concreta transparencia e información de algoritmos e
inteligencia artificial es la debida”. Revista Española de la Transparencia, núm. 16, (2023)
Dahl, Robert (1992), La democracia y sus críticos, editorial Paidós.
David-Gutiérrez, Juan y Castellanos-Sánchez, Michelle. Transparencia algorítmica y Estado Abierto en Colombia. Reflexión Política, Vol. 25. Nro. 52, (2023): 6-21. https://doi.org/10.29375/01240781.4789
Dávila, Luis Felipe. “Cuando dos puntos se alejan: desviación, divergencia y órdenes
sociales amalgamados”. Nuevos Paradigmas de las Ciencias Sociales Latinoamericanas
, núm. 27 (2023): 75-102. https://nuevosparadigmas.ilae.edu.co/index.php/IlaeOjs/article/view/278
Del Percio, Enrique. “Divergencia: inquietantes manifestaciones del amor, el sexo, el derecho
y otras instituciones”. Nuevos Paradigmas de las Ciencias Sociales Latinoamericanas 14,
núm. 27 (2023): 7-36. https://nuevosparadigmas.ilae.edu.co/index.php/IlaeOjs/article/view/276
Departamento Nacional de Planeación. Nace una nueva Política Nacional de Inteligencia Artificial (IA). https://www.dnp.gov.co/Prensa_/Noticias/Paginas/nace-una-nueva-politica-nacional-de-inteligencia-artificial-ia.aspx (acceso mayo 16, 2025)
Español Armando, Guío. Marco ético para la IA. https://www.usergioarboleda.edu.co/wp-content/uploads/2021/11/Marco-etico-para-la-inteligencia-artificial-en-Colombia-Maestria-en-Inteligencia-artificial.pdf (acceso Mayo 16, 2025)
Fernández-Aller, Celia & María Mercedes Serrano Pérez. “¿Es posible una inteligencia
artificial respetuosa con la protección de datos?”. Doxa, núm. 45 (2022): 307.
Finol Romero, Lorayne. Hacia una IA transparente: entre el “efecto Bruselas” y el “enjambre normativo” (12 de septiembre de 2025). https://idealex.press/hacia-una-ia-transparente-entre-el-efecto-bruselas-y-el-enjambre-normativo/
Finol Romero, Lorayne. “Transparencia de la administración del Estado: discusión y análisis desde la perspectiva de la inteligencia artificial”. Revista de Derecho Administrativo, núm. 41 (2025): 129-155.
Finol Romero, Lorayne & Ivette Esis Villarroel. “Transparency of Artificial Intelligence in Public Administration: a Review of International Standards”. Revista de Direito Internacional 21, núm. 1 (2024)
Floridi, Luciano, Josh, Cowls, Monica, Beltrametti, Raja, Chatila, Patrice, Chazerand, Virginia, Dignum, Effy, Vayena, Christoph, Luetge, Robert, Madelin, Ugo, Pagallo, Francesca, Rossi, Burkhard, Schafer y Peggy, Valcke. AI4People - An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, Nro. 28, (2018): 689-707. https://doi.org/10.1007/s11023-018-9482-5.
GARCÍA, Victor y RUVALCABA, Edgar (2021): “Análisis de las estrategias nacionales de inteligencia artificial en América Latina: estudio de los enfoques de ética y de derechos humanos”, Revista de Gestión Pública, Vol. 10, N° 1: pp. 5-32. https://doi.org/10.22370/rgp.2021.10.1.3151
Gómez Quitián, Juan Carlos, Víctor Martín-Fiorino y Armando Rojas Claros. “Violencia, comunidad y ciudadanía solidaria: convergencias y divergencias teórico-metodológicas a partir de la experiencia de Colombia”. Cultura Latinoamericana 40, núm. 2 (2024): 42-61.
González-Monguí, Pablo Elías. “Divergencia social, selectividad e inmunidad en la aplicación
del derecho penal”. Nuevos Paradigmas de las Ciencias Sociales Latinoamericanas 14, núm. 27 (2023): 37-74. https://nuevosparadigmas.ilae.edu.co/index.php/IlaeOjs/article/view/277
Goodman, Bryce y Seth, Flaxman. European Union regulations on algorithmic decision-making and a “right to explanation.” AI Magazine, Vol. 38 Nro. 3, (2017): 50-57. https:// doi.org/10.1609/aimag.v38i3.2741
Guadarrama González, Pablo. “Cultura e ideologías en el pensamiento latinoamericano”.
Cultura Latinoamericana 40, núm. 2 (2024): 64-87.
Guío Español, Armando, Elena, Tamayo Uribe, Pablo, Gómez Ayerbe, y María Paula, Mujica. Marco ético para la inteligencia artificial en Colombia. Departamento Administrativo de la Presidencia de la República. (2021)
Jaramillo Durango, Jorge Orlando. El marco jurídico para la regulación de la inteligencia artificial en Colombia: Retos y perspectivas en la creación de un régimen normativo. Tesis de pregrado. Facultad de Derecho. Universidad Cooperativa de Colombia. https://repository.ucc.edu.co/server/api/core/bitstreams/1f7766ea-aa98-4e91-b391 59ac4bdbc32b/content (acceso mayo 16, 2025)
Kaminski, M. (2019). The right to explanation explained. Berkeley Technology Law Journal, 34 (1), 189-217. https://doi.org/10.15779/Z38TD9N83H
Larsson, S. & Heintz, F. (2020). Transparency in artificial intelligence. Internet Policy Review, 9(2). https://doi.org/10.14763/2020.2.1469
Lepri, Bruno, Nuria Oliver & Alex Pentland. “Ethical Machines: the Human-Centric Use of
Artificial Intelligence”. iScience 24, núm. 3 (2021): 1-17. https://doi.org/10.1016/j.
isci.2021.102249
Llano-Franco, Jairo Vladimir. “Diversidad, pluralismo, divergencia y multiculturalismo:
el movimiento indígena por el reconocimiento en Colombia”. Nuevos Paradigmas de las Ciencias Sociales Latinoamericanas 14, núm. 27 (2023): 243-272. https://www. researchgate.net/publication/375582987_Diversidad_pluralismo_divergencia_y_multiculturalismo_el_movimiento_indigena_por_el_reconocimiento_en_Colombia_Diversity_pluralism_divergence_and_multiculturalism_the_indigenous_movement_for_recognit
López Maya, Alexander. Nace una nueva Política Nacional de Inteligencia Artificial (IA). https://www.dnp.gov.co/Prensa_/Noticias/Paginas/nace-una-nueva-politica-nacional-de-inteligencia-artificial-ia.aspx (acceso mayo 16, 2025)
Martín Fiorino, Víctor, (2014). Biopolis : políticas de la vida y ciudades de supervivencia en américa latina. Cultura Latinoamericana, 20 (2), 271–284. Recuperado a partir de https://editorial.ucatolica.edu.co/index.php/RevClat/article/view/1655
Martínez Pulido, Diego Alexander. La inteligencia artificial en la sociedad y el derecho colombiano: modernización y retos éticos. https://dspace.tdea.edu.co/bitstream/handle/tdea/7219/La%20inteligencia%20artificial%20en%20la%20sociedad%20y%20el%20derecho%20colombiano%20%20modernizacio%CC%81n%20y%20retos%20e%CC%81ticos.pdf?sequence=1&isAllowed=y (acceso mayo 16, 2025)
Melo Rodríguez, Sergio Daniel. Inteligencia artificial en el sector público en América del Sur: Opciones para su desarrollo en Colombia. Trabajo de grado. Programa de Ciencias Políticas, Facultad de Ciencias Jurídicas y Políticas. Universidad del Bosque. Bogotá, Colombia (2023).https://repositorio.unbosque.edu.co/items/3a514109-355b-4ea0-a83f-954fa12a5ceb
Melo Rubiano, Edilberto. La transparencia algorítmica como derecho fundamental: análisis de la sentencia t-067/2025 de la Corte Constitucional de Colombia. https://agoramercatorum.uexternado.edu.co/la-transparencia-algoritmica-como-derecho-fundamental-analisis-de-la-sentencia-t-067-2025-de-la-corte-constitucional-de-colombia/ (acceso mayo 16, 2025)
Mökander, J., & Floridi, L. (2023). Correction: Operationalising AI governance through ethics-based auditing: an industry case study. AI and Ethics, 3(2), 659–659. https://doi.org/10.1007/s43681-022-00191-3
Organización para la Cooperación y el Desarrollo Económicos (OCDE). Principios de IA de la OCDE promueven el uso de una IA innovadora y fiable, que respete los derechos humanos y los valores democráticos. Adoptados en mayo de 2019. (2019), https://www.oecd.org/en/topics/science technology-and-innovation.html
Ortega Ruiz, Luis Germán & Jairo Becerra. “La inteligencia artificial en la decisión jurídica
y política”. Araucaria 24, núm. 49 (2022): 217-238. https://doi.org/10.12795/araucaria.2022.i49.10
Ortiz De Zárate Alcarazo, Lucía. “Explicabilidad (de la inteligencia artificial)”. EUNOMÍA. Revista en Cultura de la Legalidad 22 (2022): 328-344. https://doi.org/10.20318/eunomia.2022.6819
Palma, Eric Eduardo y Elgueta, María Francisca. “Inteligencia artificial y nuevo orden social: desafíos para la enseñanza-aprendizaje del derecho”. Novum Jus 19, núm. 2 (2025): 329-353.
Palma, Eric Eduardo & María Francisca Elgueta. “Inteligencia artificial y nuevo orden social: desafíos para la enseñanza-aprendizaje del Derecho”. Novum Jus 19, núm. 2 (2025): 329-353.
Pasquale, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Publicado por: Harvard University Press. USA: JSTOR, 2015
Peñuela Jiménez, Laura Camila. Polic(IA): Un desafío para la política criminal de Colombia. Informática y Derecho. Revista Iberoamericana de Derecho Informático (segunda época), Nro. 15, (2024): 171-181
Pérez-Salazar, Bernardo. “El régimen político y el control de la conflictividad social en Colombia”. Cultura Latinoamericana 40, núm. 2 (2024): 194-213.
Ponce, Solé. “Derecho Público, derechos y transparencia ante el uso de algoritmos, inteligencia
artificial y big data” (coordinado por Andrés Boix Palop & Lorenzo Cotino Hueso). Revista General de Derecho Administrativo, núm. 50 (2019): 2.
Quiroz Vitale, Marco Alberto. “Divergencia y desviación como categorías del pensamiento
criminológico”. Nuevos Paradigmas de las Ciencias Sociales Latinoamericanas 14, núm. 27 (2023): 215-242. https://nuevosparadigmas.ilae.edu.co/index.php/IlaeOjs/article/view/283
Ramírez Alujas, Alvaro. Gobierno Abierto. Eunomía Revista en Cultura de la Legalidad, ISSN-e 2253-6655, Nro. 5, (2013): 201-216
Ramírez Sierra, Juan Carlos. “Sobre la justicia en la filosofía política de Leopoldo Zea”. Cultura Latinoamericana 40, núm. 2 (2024): 140-154.
Rico Barrera, Susana. Política Nacional de Inteligencia Artificial – CONPES 4144. Https://consultorsalud.com/co-politica-nacional-de-inteligencia artificial/#:~:text=La%20pol%C3%ADtica%20propone%20fortalecer%20la,almacenamiento%20y%20procesamiento%20de%20informaci%C3%B3n. (acceso mayo 16, 2025)
Roberts, Huw, Emmie Hine, Mariarosaria Taddeo & Luciano Floridi. “Gobernanza global de la IA: barreras y caminos hacia adelante”. International Affairs 100, núm. 3 (mayo de 2024): 1275-1286.
Sierra-Zamora, Paola Alexandra. “Gobernanza en defensa: análisis a la transformación militar para la construcción de paz en Colombia”. Cultura Latinoamericana 40, núm. 2 (2024): 214-236.
Silva-García, Germán. “Crisis y transformaciones en el control social penal en el contexto de la cultura jurídica colombiana”. Cultura Latinoamericana 39, núm. 1 (2024): 156-192.
Silva-García, Germán & Angélica Vizcaíno Solano. “‘El baile de los que sobran’. Profesión jurídica: poder político y exclusión en Colombia”. Via Inveniendi et Iudicandi 19, núm. 1, (2024): 25-51.
Silva-García, Germán & Angélica Vizcaíno Solano. “Profissão jurídica: poder político e exclusão social. ‘A dança dos que sobraram’”. Revista Eletrônica de Direito e Sociedade REDES 12, núm. 1, (2024): 1-23.
Silva-García, Germán & Bernardo Pérez-Salazar. “Evaluación de la investigación jurídica publicada en libros e impacto en la educación superior colombiana”. Revista de Pedagogía Universitaria y Didáctica del Derecho 10, núm. 2 (2023): 101-120.
Silva-García, Germán & Diana Marcela Bonilla Uyaban. “La sostenibilidad en el análisis criminológico. El caso de la minería carbonífera en Boyacá”. Via Inveniendi et Iudicandi18, núm. 2 (2023): 270-292.
Silva-García, Germán, Angélica Vizcaíno Solano & Bernardo Pérez-Salazar. “The Debate Concerning Deviance and Divergence. A New Theoretical Proposal”. Oñati Socio-Legal Series 14, núm. 2 (2024): 505-529.
Simón-Castellano, Pere. “Las evaluaciones de impacto algorítmico en los derechos fundamentales: hacia una efectiva minimización de riesgos”. En Lorenzo, C. H. & Jorge Claramaunt Castellanos (eds.), Algoritmos abiertos y que no discriminen en el sector público (pp. 27-56) (2023). Tirant lo Blanch.
Valencia Moreno, William Alfredo, Iván Manuel Sánchez Fontalvo & Ómar Huertas Díaz. “Pedagogía del diálogo en clave intercultural en la escuela. Una apuesta por visibilizar la cultura afrocolombiana a través de la enseñanza de la historia de África”. Cultura Latinoamericana 37, núm. 1 (2023): 108-124.
Vanegas, Witt Jay, Martha Gineth Padilla Santamaría & Milys Karina Rodelo Molina. “Políticas públicas ante la revolución de la inteligencia artificial en Colombia”. Revista Venezolana de Gerencia RVG 29,núm. 106 (2024): 865-883. https://doi.org/10.52080/rvgluz.29.106.26
Vestri, Gabrielle. “La inteligencia artificial ante el desafío de la transparencia algorítmica. una aproximación desde la perspectiva jurídico- administrativa”. Revista Aragonesa de Administración Pública, núm. 56 (2021): 368-398. https://doi.org/10.71296/raap.62
Zlata Drnas de Clément. “Artificial Intelligence in International Law, United Nations and European Union”, Revista de Estudios Jurídicos, núm. 22 (2022): 1-25.
