Código: 2110589243
Autor: istockphoto.com
Santiago A. Bello Paredes 1
1 Doctor en derecho por la Universidad de Burgos (España).
Licenciado en derecho por la Universidad de Valladolid (España).
Graduado Social por la Universidad de Salamanca (España).
Estudios de posgrado Universidad Católica de Lovaina la Nueva (Bélgica).
Catedrático de Derecho Administrativo, Universidad de Burgos, Burgos (España).
sbello@ubu.es.
0000-0002-1324-0965.
* El presente trabajo ha sido redactado sin hacer uso de modelos de lenguaje de inteligencia artificial (IA) generativa para la creación de contenido textual o ideativo.
Recibido: 1 de noviembre de 2024
Evaluado: 30 de marzo de 2025
Aceptado: 1 de abril de 2025
Cómo citar este articulo [Chicago]: Bello Paredes, Santiago A. 2025. "La situación paradigmática de la IA en Colombia (Hispanoamérica) y España (Unión Europea)". Novum Jus 19, núm. 3: 227-251. https://doi.org/10.14718/NovumJus.2025.19.3.8
Resumen
El objeto de este trabajo se centra en evaluar dos espacios territoriales y dos sistemas jurídicos, Colombia (Hispanoamérica) y España (UE), en los que está impactando la Inteligencia Artificial (IA) de una forma diversa en lo que respecta a su regulación jurídica. En el ámbito de las Tecnologías de la Información y las Comunicaciones (en adelante, TIC), la IA ha supuesto un salto cualitativo exponencial en la capacidad de los programas de ordenador para ofrecer respuestas autónomas a las cuestiones que se les plantean. Con la aparición de la IA, el mundo que hemos conocido se está viendo radicalmente modificado, lo que sugiere que asistimos a una de las revoluciones más grandes acontecidas en la historia de la humanidad.
Palabras Clave: inteligencia artificial (IA), España, Unión Europea, Colombia, Hispanoamérica, derechos humanos, tecnologías de la información y las comunicaciones (TIC).
Abstract
The purpose of this work focuses on evaluating two territorial spaces and two legal systems, Colombia (Spanish America) and Spain (EU) and in which Artificial Intelligence (AI) is impacting in a diverse way about its legal regulation. In the field of Information and Communications Technologies (ICT), AI has represented an exponential qualitative leap in the ability of computer programs to offer autonomous answers to the questions posed to them. With the appearance of AI, the world we have known is being radically modified, making this revolution the largest that has occurred in the history of humanity.
Keywords: Artificial Intelligence (AI), Spain, European Union, Colombia, Spanish America, Human Rights, Information and Communications Technologies (ICT).
La era de la IA en el entorno de las TIC
La situación tecnológica actual, dada la irrupción de la tipología de herramientas informáticas que se conocen como Inteligencia Artificial (IA), dentro del entorno de la denominada como cuarta revolución de la sociedad humana, debe obligarnos a valorar su impacto en las sociedades modernas y su anclaje en los respectivos ordenamientos jurídicos1.
En un breve apunte histórico de la IA, sus primeros pasos se dieron con la finalidad de descifrar un programa de encriptación alemán durante la II Guerra Mundial Este proyecto fue realizado por Alan Turing2, quien lideró un equipo de trabajo que diseñó una máquina que mecanizaba el descifrado de los códigos utilizados por los alemanes a través de las máquinas encriptadoras denominadas "Enigmas". Así, Turing sostuvo la hipótesis, en un artículo titulado "Computing Machinery and Intelligence"3, de la creación de una inteligencia no natural, a través de una máquina que pudiera alcanzar ciertos estados de procesamiento que el ser humano no fuese capaz de realizar4.
Con el transcurso del tiempo, y tras un progreso con grandes altibajos en la evolución de los programas de ordenador que operaban en este ámbito de uso masivo de datos e información, actualmente se puede considerar que se ha configurado una realidad tecnológica5, integrada por un software que compite ya en razonamientos con el ser humano y que supone, en definitiva, uno de los integrantes tecnológicos de la denominada cuarta revolución industrial6.
En este momento de desarrollo tecnológico, se ha iniciado una carrera en la que países como EE. UU. y China (según el índice Tortoise 2023) tratan de llevar la delantera, alentados por y alentando a sus grandes empresas tecnológicas o a sus propias estructuras estatales para monopolizar la IA. Un excelente ejemplo de esta lucha por liderar la investigación y el desarrollo de las aplicaciones de la IA lo encontramos en el nuevo Gobierno de Trump, quien pretende destinar 500 000 millones de dólares, en colaboración con empresas tecnológicas y bancarias, en el denominado proyecto Stargate.
Además, la IA ha evolucionado de meros algoritmos que dan respuestas parciales a preguntas concretas, a una situación en la que se generan textos, imágenes o vídeos, simulando los patrones del razonamiento humano, en lo que se denomina IA generativa, que tiene como paradigmas más conocidos, que no únicos, programas como ChatGPT.
Las notas caracterizadoras de la IA, dentro de los variados sistemas que se engloban en esta expresión, se pueden identificar en los siguientes: herramientas informáticas razonando como personas físicas; herramientas informáticas con actividad racional; herramientas informáticas que operan como personas y, por último, herramientas informáticas que simulan el raciocinio humano7.
A la par de esta revolución de la IA, las administraciones públicas habían venido desempeñando un papel fundamental en la regulación de las denominadas Tecnologías de la Información y las Comunicaciones (TIC), ora fuese en un plano de normación del sector de las telecomunicaciones, ora como herramienta para la prestación de su propia actividad pública. Nos centraremos fundamentalmente en la regulación jurídica de las TIC.
Dentro de la panoplia de acciones de la Unión Europea (UE), las TIC, y fundamentalmente la utilización de internet como instrumento canalizador de aquellas y exponente diferencial de las herramientas que configuran la cuarta revolución industrial, resulta evidente que han quedado integradas en la definición legal del servicio universal de telecomunicaciones8, conclusión alcanzada en el año 2002 con la aprobación de la Directiva 2002/22/CE del Parlamento y del Consejo, de 7 de marzo, relativa al servicio universal y los derechos de los usuarios en relación con las redes y los servidores de comunicaciones electrónicas (Directiva servicio universal), modificada últimamente a través de la Directiva 2018/1972 del Parlamento Europeo y del Consejo de 11 de diciembre de 2018, por la que se establece el Código Europeo de las Comunicaciones Electrónicas.
Este concepto jurídico de servicio universal de telecomunicaciones viene a determinar que los operadores privados del ámbito de las TIC deben garantizar un elenco de prestaciones tecnológicas comunes a todos sus usuarios, más allá de su lugar de residencia, que se convierten en auténticos derechos subjetivos, de naturaleza tecnológica, para los ciudadanos, y que, en consecuencia, las autoridades deben velar por su realización de forma funcional.
Se consigue así satisfacer un servicio público, calificado como universal9, por la dimensión que representa para la satisfacción de las necesidades de las personas, por medio de la actividad privada en un mercado caracterizado por la libertad de empresa y la libre concurrencia entre sus diversos operadores.
No podemos olvidar que la UE surge de la actividad convencional de, actualmente, 27 Estados nacionales ubicados en Europa, que engloba casi a 450 millones de personas, y abarca una extensión territorial cercana a los 4,3 millones de kilómetros cuadrados. Sin ostentar la condición de Estado federal, pues cada Estado miembro goza de su propia soberanía que le permite abandonar esta organización internacional de forma voluntaria, como realizó en el año 2020 Reino Unido (Brexit) invocando el artículo 50 del Tratado fundacional de la UE, la amplitud de las competencias cedidas por los Estados a esta organización internacional la convierten en un operador público de una enorme magnitud en todos los ámbitos de actuación de las sociedades que se ubican en su territorio.
Además, en su frontispicio, la UE se declara defensora de valores tan importantes para la realización de las personas como su dignidad, su intimidad y, en general, la defensa de sus derechos humanos (DDHH). Tampoco debe olvidarse una finalidad fundamental para la UE, y que fue el origen de la Comunidad Económica Europea que la antecedió: la consecución del mercado interior (mercado común europeo en su denominación inicial), bajo principios tales como la eliminación de las barreras aduaneras entre sus Estados miembros, la creación de una política comercial común hacia terceros Estados, la libre circulación de personas, servicios y capitales entre los Estados miembros, la creación de una política común en materia de agricultura y transporte y, por último, el aseguramiento de la libre concurrencia10.
La creación de la Comunidad Económica Europea en el año 1957 sirve como ejemplo de colaboración interestatal, paradigma de la fructífera cooperación entre antiguos enemigos de guerras muy recientes y con la finalidad de que estas no pudieran volver a repetirse, según rezaba el Preámbulo de su Tratado de creación.
Por ello, la situación normativa y operacional actual de este mercado interior, en el ámbito de las telecomunicaciones, se fundamenta en los diversos pilares que son consecuencia de la legislación que ha desarrollado los tratados fundacionales de la UE y que se encuentran recogidos en la vigente legislación de España:
a. Garantía de prestación de internet de banda ancha, con una velocidad mínima de bajada en 10 Mbit/seg.11.
b. Garantía de la prestación del servicio a la totalidad del territorio de la UE y, por supuesto, en España. Así, se trata de igualar la situación tecnológica de todos los ciudadanos para el acceso a las TIC12.
c. Garantía de la actuación de un mercado caracterizado por la libre concurrencia, que asegura mejores precios y condiciones a los consumidores en el uso del internet de banda ancha.
d. Posicionamiento de las administraciones públicas como entidades reguladoras y controladores de este sector tecnológico, sin ostentar, generalmente, la condición de prestadoras de este servicio.
Además, en la segunda dimensión antes citada de las TIC, como herramientas para la prestación de su propia actividad, la UE está construyendo una nueva tipología de administración modelada en este ámbito tecnológico, la denominada administración electrónica, la cual deberá ser el paradigma de las administraciones públicas de este siglo XXI.
La importancia de la administración electrónica, como herramienta al servicio de la interacción entre las administraciones públicas y los ciudadanos, fue puesta de relieve en la Declaración ministerial de Malmõ, Suecia, del 18 de noviembre de 2009, como instrumento de acceso de los ciudadanos a la información pública y garantía de una mayor transparencia, con la finalidad de que estos se conviertan en agentes proactivos en el ámbito de la acción política.
Todo ello fue establecido, al considerar las instituciones de la UE que la administración electrónica debiera mejorar la actividad administrativa, tanto en su fase ascendente de formulación de su voluntad, como en la descendente de su ejecución, así como en la prestación de los servicios a los ciudadanos.
Estas actuaciones se han realizado a pesar de no contar las instituciones de la Unión Europea con un título competencial específico en el ámbito de la actividad de las autoridades nacionales en este entorno electrónico13, aunque sí lo tengan en ámbitos materiales relacionados como son las TIC, en los que se han dictado importantes normas jurídicas14.
Por último, no puede pasar inadvertida la estrecha relación de esta situación tecnológica con los derechos humanos de los ciudadanos, que se relaciona con los que bien pudieran ser calificados como derechos de cuarta generación15, debido a que los datos que fluyen por internet (la Red) constituyen un instrumento legitimador para los propios poderes públicos16, pues permiten a los ciudadanos una comunicación interactiva con fuerte capacidad de retroacción17.
Si la Red es ahora un instrumento que garantiza un importante conjunto de derechos para los ciudadanos (libertad de expresión y de información, por ejemplo), resulta necesario que las instituciones políticas se remodelen en este nuevo entorno tecnológico18, que también tiene una indudable capacidad de transformación de los desequilibrios económicos19.
En una dimensión retrospectiva en la historia de la humanidad, podemos describir la información como un nexo social de esta, pero no se debe incurrir en la ingenuidad de considerar que toda la información queda acompañada de veracidad de forma indisoluble. Si se analiza la historia de la información desde la Edad de Piedra hasta la era del Silicio20, se constata que el incremento exponencial de la capacidad de transmisión de la información no ha estado acompañado, siempre, de un aumento de la verdad que se transmite. Este dato convierte a la IA en una herramienta formidable para construir una realidad paralela en la que seres humanos puedan interactuar sin conciencia propia y verse arrastrados por erradas convicciones falsamente entendidas como personales. Por desgracia, en otros momentos históricos ya padecidos por la humanidad en sociedades tecnológicamente desarrolladas, como la Alemania nazi y la Unión Soviética, se crearon informaciones ilusorias capaces de hacer que millones de personas marcharan juntas al unísono hacia un mundo apocalíptico21.
La situación de la IA en Colombia e Hispanoamérica22
En este ámbito de análisis del alcance de la IA, resulta un caso especialmente paradigmático el que ha acontecido en Colombia, y a buen seguro este será precursor de otros muchos en el ámbito judicial23, cuando su Corte Constitucional24 ha sentado las bases y límites para la posible utilización de la IA, en concreto del programa denominado ChatGPT 3.525, en la actuación de los órganos judiciales de ese país, al considerar que esta posible utilización debe respetar los principios de transparencia, responsabilidad, privacidad, no desplazamiento de la racionalidad humana en la toma de decisiones jurisdiccionales, prevención de los riesgos, igualdad y equidad y aplicación de estándares éticos en la función jurisdiccional, entre otros26.
Con lo anterior, esta Corte Constitucional respondió a la actuación tecnológica realizada por el titular del Juzgado 1° de Laboral de Circuito de Cartagena, quien en su sentencia de fecha 30 de enero de 2023, en aplicación de la Ley 2213 del año 202227, había realizado una serie de preguntas a una de las herramientas de IA generativas, con la intención declarada por este órgano judicial de ampliar la argumentación contenida en su sentencia.
Las cuestiones formuladas a la IA ChatGPT 3.5 se refirieron a temas tales como si los menores autistas se encontraban en la legislación colombiana exonerados de abonar cuotas moderadas en sus terapias; las acciones de tutela en estos supuestos, y la doctrina jurisprudencial habida sobre estas posibles exoneraciones.
Sobre esta utilización de la IA, el titular del Juzgado de Circuito explicó que su propósito no era sustituir su propia decisión como titular de este órgano judicial, sino resultar más eficiente en la actividad jurisdiccional de elaboración de las resoluciones judiciales, una vez corroborados los datos extraídos de la herramienta informática. Así, este juzgador concluye que utilizó esta herramienta tras haber sopesado previamente, y de forma personal y autónoma, el contenido jurídico y fáctico de este procedimiento, y aclara que la consulta a la herramienta de IA ChatGPT fue solo para complementar su decisión, la cual ya había adoptado con base en el razonamiento tradicional en el ámbito judicial28.
Pero lo que resulta evidente, a la vista de lo relatado, y como conclusión general, es que el razonamiento judicial del ser humano coincidió con el realizado por un programa de IA, pues la resolución judicial suscrita por el juzgador hubiese sido similar, en su parte dispositiva, tanto si hubiese sido realizada por una persona como por ChatGPT. Esta es la gran cuestión.
Además, sirva este relevante ejemplo jurisprudencial para evidenciar que la situación tecnológica actual permite concluir positivamente a la pregunta formulada en 1950 por Turing sobre la IA: "the Machines can think!".
Actualmente en Colombia se está trabajando en la elaboración de un cuerpo normativo que regule la IA y son múltiples las iniciativas legislativas que se están comenzando a elaborar29. Así, en relación con el PL 154/2024, se puede comprobar cómo la visión de los proponentes, centrada en defender los DDHH de los ciudadanos de una utilización abusiva de la IA, se encuentra confrontada con la visión del Gobierno de Colombia, a través de su Ministerio de Ciencia, Tecnología e Innovación que, alegando al contenido de este proyecto de ley, manifiesta que la IA es un campo abonado a la investigación, y que los controles y limitaciones que se contienen en este pueden retrasar su desarrollo y restar competitividad "frente a otros países con enfoques más flexibles"30.
Se evidencia aquí, de forma inequívoca, la tensión que existe en la regulación de la IA, entre la tendencia a garantizar los DDHH y la de apoyar la investigación y el desarrollo de estas herramientas en la búsqueda de una competitividad frente al resto de los operadores tecnológicos. Todo ello, sin embargo, acontece después de que en este país haya existido un interesante conjunto de acciones públicas dirigidas en esta materia. Así, se pueden citar la siguientes31:
a. en noviembre de 2021, Colombia se unió a las Recomendaciones de la UNESCO sobre la ética en la IA;
b. el Ministerio de Tecnologías de la Información y las Comunicaciones (Mintic) lanzó en septiembre de 2023 la estrategia "Colombia PotencIA Digital", que tiene como objetivo acelerar los ecosistemas de innovación y transformación digital en todas las regiones del país;
c. el Ministerio de Ciencia, Tecnología e Innovación (Minciencias) lanzó, en febrero de 2024, "La Hoja de Ruta de la Inteligencia Artificial (IA)", que tiene como objetivo garantizar la adopción ética y sostenible de la IA;
d. el Departamento de Planeación Nacional (DNP) trabaja en la expedición del CONPES de IA, que tiene como objetivo avanzar en la dimensión democratizadora de la IA, de conformidad con los valores universales de los derechos humanos;
e. el 20 de septiembre de 2024, se suscribió un memorando de entendimiento, entre la Comisión Accidental de la Comisión Sexta del Senado de la República de Colombia, el Ministerio de Tecnologías de la Información y las Comunicaciones, el Ministerio de Ciencia, Tecnología e Innovación, un grupo de expertos y la ciudadanía interesada, con el objetivo de proveer acompañamiento técnico en el análisis de regulaciones y políticas en materia de Inteligencia Artificial.
Pero mientras actúa el poder legislativo, la acción de la Corte Constitucional colombiana representa un ejemplo paradigmático del "case law" orientador y regulador del resto de actores en este mundo de la IA.
Tampoco puede desconocerse que, en el ámbito de la interpretación judicial de las normas jurídicas, que vienen realizando de forma permanente los diversos operadores jurídicos, si dicha interpretación se realizara por uno solo (es decir, por la IA), nos encontraríamos ante una y única voluntad32, que bien pudiera someter a control al razonamiento y voluntad de las personas.
La cuestión se debe centrar, en definitiva, en evaluar los límites y el impacto en la utilización de la IA, esto es, en su regulación jurídica, evitando actuaciones que limiten o perjudiquen los valores consagrados a nivel internacional de los DDHH. Además, se debe impedir el acceso de esta tecnología a ámbitos materiales en los que el razonamiento humano no puede verse desplazado por la IA. Este es el reto formidable y desconocido hasta ahora en la historia de la humanidad, ante el arrollador avance tecnológico de la IA. Por ello, la cuestión que ahora debatimos se centra en exigir una intervención de las autoridades, nacionales e internacionales, en la regulación y utilización de la IA (gobernanza)33.
En este ámbito, y tras diversos procesos en búsqueda de un consenso entre las autoridades públicas, las empresas privadas del sector de las telecomunicaciones y las organizaciones civiles, se ha llegado a la conclusión de que tal gobernanza, en el caso particular de internet, no se incardine en ninguna entidad concreta, sino que funcione como un proceso participativo de todos los agentes que intervienen en este sector, a través del cual se planteen y se solucionen las diversas cuestiones que afectan a internet como bien público global34, y cuya denominación es Foro para la Gobernanza de Internet (en adelante, IGF)35.
Así, la IGF, en el año 2023, ha propuesto realizar medidas tales como incluir la perspectiva de género en las políticas nacionales de IA, integrar un enfoque sensible al género en el desarrollo, revisión e implementación de las leyes, las políticas y los programas relevantes de la era digital para combatir nuevos riesgos, estereotipos de género y sesgos en los campos de la IA, la predicción de algoritmos y la robótica. Además, los sistemas de inteligencia artificial deberán auditarse periódicamente para detectar cualquier sesgo que pueda haberse deslizado y para garantizar que funcionen de manera justa y equitativa. En definitiva, cualquier marco de IA que aspire a ser justo, responsable, transparente y ético debe incorporar teorías y perspectivas de personas marginadas y comunidades subrepresentadas en todas las etapas del ciclo de vida de la IA.
No obstante, ahora debemos evaluar si se debe actuar de manera semejante para el ámbito de la IA a nivel global y local. La opinión que se defiende en este trabajo es que resulta necesario y urgente la actuación de los poderes legislativos nacionales y supranacionales para la creación y armonización de un cuerpo legislativo que regule la IA con altos estándares de calidad en los instrumentos que preserven los derechos humanos, siendo uno de esos instrumentos el que trata de diferenciar los diversos niveles de riesgo en el uso de esta tecnología, como ha sido reconocido por la normativa de la UE.
A la sugerente pregunta de si la tecnología que se integra en la IA resulta ingobernable, por la propia naturaleza que la integra y por su capacidad evolutiva y disruptiva, debemos responder con contundencia que nos encontramos ante un gran reto para el derecho, los poderes públicos y todos los operadores jurídicos, con la intención de alcanzar una conclusión negativa a este formidable interrogante.
La IA en España y en la UE
Resulta evidente que los ciudadanos, a nivel mundial, han asumido una imparable tendencia al uso de las TIC en su comportamiento privado y público36, por lo cual puede considerárseles como "ciudadanos tecnológicos" integrados plenamente en el ámbito de la cuarta revolución industrial.
La cuestión fundamental, ante esta realidad incuestionable, es la de determinar su estatuto jurídico con la entrada en escena de un nuevo paradigma tecnológico integrado por la IA, mucho más poderoso y apto para modificar de forma sustancial su estatuto jurídico y su propia forma de vida, pues está integrado por un conjunto de programas de ordenador capaces de actuar con tal posibilidad de almacenamiento y tratamiento de la información y velocidad de procesamiento que puede competir con el razonamiento humano.
En una dimensión no gubernamental, y fuera de los parámetros de la actuación de los Estados, los propios operadores en el sector de las TIC, como los de Internet y ahora de la IA, han tratado de reflejar una regulación propia y por su propia iniciativa (autorregulación).
El paradigma de esta actuación de gobernanza es la red de redes, Internet, a través del IGF, que incorpora a sectores de los poderes públicos, el sector privado, la sociedad civil y los operadores tecnológicos, para establecer los principios, normas y reglas para el uso de la Red.
En el ámbito de la IA, y a modo ejemplificador, hay cuestiones abiertas tales como la soberanía de los Estados ante esta revolución digital, la introducción de los principios éticos en la elaboración y ejecución de la programación de la IA, la protección de los DDHH ante la irrupción de la IA o la inclusión multilingue a través de la IA.
Se trataría así de limitar los problemas derivados del sesgo algorítmico y la exclusión que afectan a los DDHH en la era digital. A medida que los algoritmos son la causa eficiente más decisoria para la configuración de diversos aspectos de nuestras vidas, se deriva una creciente preocupación de que estos algoritmos puedan perpetuar, si no incrementar, las desigualdades sociales ya existentes.
En el centro de esta cuestión se encuentra el concepto de sesgo algorítmico, que se refiere al trato sistemático e injusto de ciertos grupos o individuos en función de su raza, género, estatus socioeconómico, discapacidad u otras características protegidas. El sesgo algorítmico puede manifestarse de diversas formas, incluido el acceso desigual a las prestaciones sanitarias o a los productos financieros, a las disparidades en los resultados de los motores de búsqueda y a la segmentación discriminatoria en la publicidad, entre otras.
Además, muchos algoritmos funcionan como auténticas "cajas negras", cuyo funcionamiento interno queda oculto a su necesaria verificación, lo que dificulta la identificación y la rectificación de casos de sesgo o exclusión. Sin transparencia, las personas afectadas por decisiones algorítmicas pueden quedar sin recursos ni comprensión de por qué se las trata injustamente37.
Para paliar esta situación tecnológica, resulta necesario una completa regulación normativa que permita un desarrollo de la IA y un control exhaustivo para que esta no lamine los DDHH de las personas. Esto está sucediendo en el ámbito de la UE con la elaboración de una legislación propia para el uso de la IA. También ha sucedido de alguna forma, y con una metodología anglosajona (case law), en la sentencia de la Corte Constitucional de Colombia, ya citada, cuya parte dispositiva establece la obligación de regular en el plazo de cuatro meses el código de funcionamiento por parte del poder judicial de las herramientas de la IA38.
Por ello, parece necesario que se generen espacios de regulación normativa de la IA a nivel transfronterizo. El ejemplo actual, y seguramente precursor y ejemplificador, se ha dado en la Europa de la Unión Europea, que se ha posicionado fomentando la digitalización de las estructuras públicas y privadas39, así como elaborando un marco jurídico preventivo para que el uso de la IA no interfiera el espacio de actuación de los derechos humanos. Es aquí donde se encuentra el nudo gordiano de esta cuarta revolución industrial, pues esta debe estar alineada a las necesidades de las personas y debe ser respetuosa con su marco jurídico protector40. En este sentido, se ha aprobado el Reglamento de Inteligencia Artificial (IA)41, que debe ser considerado, a nivel internacional, como la norma precursora y más completa de regulación de la utilización de la IA.
La primera cuestión que debe abordarse es que esta norma contiene una definición legal de la IA en su artículo 3, cuando literalmente establece que esta será un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.
A la vista de esta determinación legal, el legislador de la UE pretende prohibir aquellas prácticas de la IA que resulten especialmente nocivas para la situación jurídica de los ciudadanos, pues enumera, entre otros, los siguientes comportamientos prohibidos que afectan al núcleo esencial de sus derechos humanos, en su artículo 5. Entre toda la tipología de prohibiciones, destacamos las siguientes prácticas:
a. aquellas que pretendan manipular deliberadamente el comportamiento de las personas;
b. las que pretendan beneficiarse de alguna limitación o situación de vulnerabilidad;
c. las que pretendan evaluar o clasificar personas;
d. las derivadas de bases de reconocimiento facial y aquellas que tomen información, para conocer las emociones de las personas, en sus lugares de trabajo o en los centros educativos;
e. las que usen datos de identificación biométrica remota en tiempo real en lugares públicos, salvo que sea para la resolución de delitos concretos o la prevención de estos.
Este amplio listado de prácticas prohibidas se refiere a un conjunto de riesgos inaceptables que engloba todos aquellos sistemas de IA cuyo uso se considera que contraviene los valores de la UE, que principalmente constituyen una transgresión de derechos humanos o fundamentales42.
Además, el artículo 6 se refiere a los sistemas de alto riesgo, porque pueden vulnerar los derechos de los ciudadanos. Estos se integran por un amplio conjunto de actividades y uso de datos por los sistemas de IA, contenidos en el Anexo III de esta norma jurídica43, y comprenden los datos biométricos, las infraestructuras críticas, la educación y formación profesional, las actividades de las fuerzas y cuerpos de seguridad, la emigración o la Administración de Justicia, entre otros.
Esta norma también establece la necesaria evaluación del impacto que tiene que tener la IA en los derechos fundamentales previamente a su comercialización, en el artículo 9.2. De esta forma se establece un sistema de gestión de riesgos derivado de la aplicación de la IA, que requerirá la realización de revisiones con periodicidad constando de diversas fases para el aseguramiento de que los algoritmos incluidos en la IA no vulneren las prohibiciones establecidas, ni afecten de forma inasumible a los valores de la salud, la seguridad o los DDHH.
Conclusiones
La cuestión central de la gobernanza de la IA se refiere a la ausencia actual de una acción transfronteriza de carácter normativo que armonice y unifique su regulación a nivel global. El esfuerzo normativo de la UE puede ser atractivo como paradigma regulatorio, pero puede resultar ineficaz si esta regulación no se traslada a todos los territorios donde opera la IA.
La espera en la actuación de las organizaciones internacionales no puede acabar en una fallida ilusión44, debido a los valores y principios que están ahora en juego y en manos de las poderosas empresas tecnológicas que operan a nivel internacional y con visión global, no nacional o local.
Nos encontramos, en definitiva, con una necesidad ineludible de los poderes públicos; la de controlar el funcionamiento de la IA (gobernar la IA) para evitar una violación masiva, y nunca vista, de los DDHH.
En un plano normativo se ha producido un incremento exponencial de las regulaciones normativas de la IA, hasta el punto de que su mención, en los procedimientos legislativos de todo el mundo, casi se han duplicado, pasando de 1247 referencias en 2022 a 2175 en 2023. Además, la expresión IA se mencionó en los procedimientos legislativos de 49 países en 202345.
Dada la especial configuración de la ONU, este organismo puede proporcionar el lugar adecuado para un trabajo inclusivo y multilateral que ofrezca una solución global a la gobernanza de la IA. Se podrían por este medio alcanzar acuerdos de mínimos para su regulación jurídica, que por supuesto podrán ser mejorados en favor de una mayor garantía de los DDHH a través de otras organizaciones supranacionales, como la UE, pero en todo caso esto significaría el comienzo de una regulación a nivel global, de la cual hoy se carece. Esta solución ya ha tenido precedentes en ámbitos de regulación compleja como la aviación civil o la regulación del uso civil de la energía nuclear.
Y es que la IA, a diferencia de otros medios tecnológicos, puede llegar a pasar de ser una herramienta a ser un agente independiente46, que podría llegar a actuar de forma autónoma e incontrolable. El futuro de la humanidad pasa por dar respuesta a estos interrogantes de la IA, pues si la manejamos inadecuadamente esta podría extinguir no solo el dominio humano sobre la Tierra, sino la propia luz de la consciencia, poniendo en peligro no solo a nuestra especie, sino a otros incontables seres vivos, por lo que es responsabilidad de esta generación impedirlo para poder corregir sus peligros. Estamos ante la disyuntiva de que la IA sea un error terminal o el inicio de un nuevo y esperanzador capítulo en la evolución de la vida47.
No hacerlo así supone modificar el paradigma del Estado social y democrático de derecho48, para convertir a nuestras sociedades en ámbitos de actuación de la maquinización no humana (inteligencia no orgánica), lo que terminaría convirtiendo a las personas de protagonistas a simples espectadores de esta revolución industrial. El camino por recorrer es complejo e inexplorado, no se puede negar la oportunidad de la IA, pero nunca al precio de limitar, menoscabar o negar los derechos humanos de los ciudadanos49 o, en último extremo, sustituir a estos como centros de la actividad de los agentes públicos y privados, produciendo la transhumanidad y la creación de una aún desconocida fusión entre lo tecnológico y lo biológico50, como siguiente paso en la evolución de la especie humana.
Pese a las reflexiones de Francis Bacon a principios del siglo XVII, cuando señalaba que el entendimiento humano era móvil y no era capaz de pausa y reposo, sino que pretendía ir siempre más lejos51, existen momentos temporales y circunstancias tecnológicas que nos deben hacer reflexionar antes de dar nuevos pasos.
El ser humano calificado como Homo sapiens, capaz de lograr grandes descubrimientos, inventos y conquistas, puede quedar ahora abocado a un colapso ecológico, consecuencia de una falta de control de su propia actividad industrial y existencial derivada de la IA, pues esta puede acabar con la raza humana, a través de una inicial transformación o una futura aniquilación52.
Notas
1 Santiago A. Bello Paredes, "De descifrando enigma a la IA: el relevante papel de los poderes públicos para garantizar los derechos humanos en la revolución tecnológica de la Sociedad de la Información (4a revolución industrial)", Derechos humanos e inteligencia artificial : amenazas y desafíos, coordinado por Marta Méndez Juez y Santiago A. Bello Paredes (Las Rozas: Aranzadi, 2024), 102.
2 Se puede entender a Alan Turing como el padre de la IA, aunque este nunca llegó a utilizar esta expresión, pues fue John McCarthy y un grupo de investigadores quienes, durante un encuentro en Darmouth (USA) en 1956, la utilizaron como una de las propuestas a incluir en la agenda de los objetivos a desarrollar. Gustavo Esparza Uzúa, "Alan Turing: Bases, forma y crítica a la inteligencia artificial", Cuadernos salmantinos de filosofía, núm. 48 (2021): 50.
3 Alan Turing, "Computing Machinery and Intelligence", Mind, New Series 59, núm. 236, (1950): 433-460.
4 Esparza Uzúa, "Alan Turing", 73.
5 Resulta complejo datar cuándo se produjo el salto cualitativo para que la IA se haya convertido en un campo pujante de la tecnología. En este sentido, en el año 2016 The Economist publicó un artículo titulado "From Not Working to Neural networking" en el que se interrogaba sobre ello y ponía como fecha de este resurgimiento el año 2012 cuando, en un concurso en línea llamado "ImageNet Challenge" que tenía por objeto el reconocimiento visual a gran escala, los algoritmos de determinados programas de ordenador llegaron a superar al ser humano, lo cual condujo a su utilización en ámbitos tan sensibles como la creación por Israel de programas para identificar a posibles integrantes de Hamas entre la población civil de Palestina o la actuación de Irán en la generación de programas para identificar a las mujeres que no utilizaban el velo https://www.economist.com/special-report^2016/06/23/from-not-working-to-neural-networking.
6 Silvia Barona Vilar, "Inteligencia Artificial o la algoritmización de la vida y de la Justicia: ¿solución o problema?", Rev. Boliv. de Derecho, núm. 28 (2019): 21.
7 Stuart Rusell & Peter Norvig, Inteligencia Artificial. Un enfoque moderno (Madrid: Pearson Educación, 2008): 2.
8 Bello Paredes, "De descifrando enigma", 21.
9 De esta forma, el art. 37.1 de la ley española 11/2022, General de Telecomunicaciones, en transposición de la normativa de la UE, establece que el concepto legal de servicio universal se integra por el conjunto de servicios cuya prestación se garantiza para todos los consumidores con independencia de su localización geográfica, en condiciones de neutralidad tecnológica, con una calidad determinada y a un precio asequible.
10 Como establece el artículo 3 del Tratado de creación de la Comunidad Económica Europea de 25 de marzo de 1957, suscrito inicialmente por Alemania, Países Bajos, Bélgica, Francia, Luxemburgo e Italia.
11 Contenido el artículo 37.1.a de la precitada ley 11/2022. En igual sentido, el art. 1.2 de la Directiva 2018/1972.
12 Unión Europea, Parlamento Europeo y Consejo de la Unión Europea, Directiva (UE) 2018/1972 del 11 de diciembre de 2018, por la que se establece el Código Europeo de las Comunicaciones Electrónicas.
13 Antonio Alabau, La Unión europea y su política para el desarrollo de la Administración electrónica. Tras los objetivos de la estrategia de Lisboa (Madrid: Fundación Vodafone España, 2004), 28. En este sentido, Eduardo Gamero Casado, "Introducción. El Derecho Administrativo ante la Era de la Información" en La Ley de Administración electrónica. Comentario sistemático a la Ley 11/2007, de 22 de junio, de Acceso electrónico de los ciudadanos a los servicios públicos, coordinado por Eduardo Gamero Casado, Eduardo y Julián Valero Torrijos (Cizur Menor: Thomson-Aranzadi, 2008): 29-56.
14 Se pueden citar: la Directiva 2000/31/CE del Parlamento europeo y del Consejo de fecha 8 de junio de 2000, relativa a determinados aspectos jurídicos de los servicios de la sociedad de la información; la Directiva 1999/93/CE del Parlamento europeo y del Consejo, de 13 de diciembre de 1999, por la que se establece un marco comunitario para la firma electrónica; las Directivas relacionadas con la regulación del marco jurídico de las redes y de los servicios de comunicación del año 2002 (Directiva marco, Directiva servicio universal y Directiva de acceso).
15 Miriam Salvador García, "Derechos humanos y tecnologías de la información y la comunicación", Novum Jus 18, núm 2 (2024): 246, quien entiende que resulta imprescindible una regulación normativa en este escenario actual de la cuarta revolución industrial que garantice los DDHH de los ciudadanos. Hay que resaltar que quien enunció estas generaciones en primer lugar fue Karel Vasak, Las dimensiones internacionalesde los derechos humanos, (Barcelona: Serbal, 1984), 25-32.
16 Javier Bustamante, "Hacia la cuarta generación de derechos humanos: repensando la condición humana en la sociedad tecnológica", Revista Iberoamericana de Ciencia, Tecnología, Sociedad e Innovación, núm. 1 (2001): 3.
17 Manuel Castells, "Internet, libertad y sociedad: una perspectiva analítica", Polis: Revista Latinoamericana, núm. 4 (2003): 1.
18 En Colombia se puede citar el ejemplo paradigmático del software "Navega Seguro", destinado para su utilización en diversos puertos de Colombia, a través del cual las autoridades portuarias acceden a información que puede ser utilizada posteriormente en navegaciones ulteriores por estas zonas, mediante el uso conjunto de herramientas de IA. Jairo Becerra et al., "Implicaciones jurídicas en el entorno del big data: el caso del APP Navega Seguro", Novum Jus 17, núm. 1 (2023): 361.
19 Manuel Castells, "Tecnologías de la información y la comunicación y desarrollo global", Revista de economía mundial, núm. 7 (2002): 105, quien llega a requerir un "Plan Marshall" en la era de la información, que ayudaría a la reconstrucción del mundo y a las propias empresas tecnológicas de los países donantes, en el marco de un nuevo ejemplo de keynesianismo internacional.
20 Yuval Noah Harari, Nexus: Una breve historia de las redes de la información desde la edad de piedra hasta la IA (Barcelona: Debate, 2024), 51.
21 Noah Harari, Nexus: una breve historia, 52.
22 Apartado del trabajo presentado en el III Congreso Hispanoamericano de Derechos Humanos desarrollado en las ciudades de La Serena y Chillán (Chile) los pasados días 7 a 11 de octubre de 2024.
23 En este ámbito ya se manifestaron Luis Germán Ortega Ruíz & Jairo Becerra, "La inteligencia artificial en la decisión jurídica y política", Araucaria. Revista Iberoamericana de Filosofía, Política, Humanidades y Relaciones Internacionales 24, núm. 49 (2022): 225-228.
24 En concreto la Sala Segunda de Revisión, en sentencia T-323 de fecha 2 de agosto de 2024, ha acordado en el apartado cuarto de su parte dispositiva: "EXHORTAR a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial IA, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia. En consecuencia, los funcionarios y empleados de la Rama Judicial aplicarán los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad".
25 Y también, mucho más recientemente, en Argentina se ha anulado una sentencia por la Cámara de lo Penal de Esquel (provincia de Chubut), en fecha 15/10/2025, como consecuencia del uso indebido de la inteligencia artificial (IA) generativa por parte del juez que condenó en primera instancia, al considerar que es Condición esencial de todo sistema judicial que sus decisiones sean comprensibles, motivadas y sujetas a impugnación y que las IA generativa vulnera estos principios al funcionar sobre algoritmos que no pueden ser conocidos ni comprendidos por los justiciables ni siquiera por los jueces.
26 Fundamento jurídico 243 de la meritada sentencia.
27 En este sentido esta Ley, denominada "por medio de la cual se establece la vigencia permanente del decreto legislativo 806 de 2020 y se adoptan medidas para implementar las tecnologías de la información y las comunicaciones en las actuaciones judiciales, agilizar los procesos judiciales y flexibilizar la atención a los usuarios del servicio de justicia y se dictan otras disposiciones", establece en su artículo 2 que se fomentará el uso de medios tecnológicos en las diversas actuaciones judiciales.
28 Fundamento jurídico 22 de la ya citada sentencia de la Corte Constitucional.
29 En este sentido, se podría citar el PL 154/2024, en la Cámara de Representantes de los HR Alirio Uribe y Karyme Cotes, por el cual se define y regula la Inteligencia Artificial, se ajusta a estándares de derechos humanos, se establecen límites frente a su desarrollo, uso e implementación, se modifica parcialmente la ley 1581 de 2012 y se dictan otras disposiciones, o el PL 293/24, en el Senado con rúbrica por medio del cual se establecen lineamientos para el entrenamiento de modelos o sistemas de inteligencia artificial (IA) y se define la gestión colectiva obligatoria de algunas formas de uso de obras protegidas por derecho de autor y se dictan otras disposiciones, de los senadores Julio Alberto Elías y Pedro Hernando Flórez. No podemos obviar cómo, en Chile, se viene trabajando en el proyecto de Ley que regula los sistemas de IA, entre otros ámbitos regulatorios, presentado por el H. Diputado de la República D. Tomás Lagomarsino.
30 Contenido de las alegaciones realizadas al documento del PL 154/2024 por este Ministerio en fecha 4 de diciembre de 2024, pues se considera que la necesidad de autorización previa para desarrollar herramientas de IA contenida en el proyecto de ley puede entorpecer la innovación en este sector, "generando un cuello de botella".
31 Como se concreta en Cámara de Representantes, Comisión de Regulación de Comunicaciones. "Comentarios al Proyecto de Ley núm 154 de 2024 Cámara. Ponencia para primer debate" de 1 de julio de 2024, pp. 2-3. Directora Lina María Duque del Vechio.
32 Jairo Becerra, Paula Pérez & Marco Sánchez, "El derecho, el Big Data y la Inteligencia Artificial, en la cuarta revolución industrial", en Colombia 4.0. Retos y perspectivas sobre el desarrollo de la cuarta revolución industrial (Bogotá: Tirant lo Blanch, 2020): 133.
33 Definición establecida en el punto 34 de la Agenda para la Sociedad de la Información aprobada en la segunda fase de la Cumbre Mundial de la Sociedad de la Información, celebrada en Túnez en noviembre de 2005. En este sentido, Francisco Manuel García Acosta, "El Gobierno de Internet como reto del Derecho Constitucional", Anales de Derecho, Universidad de Murcia, núm. 24 (2006): 269-270.
34 García Acosta, "El Gobierno de Internet", 280.
35 Internet Governance Forum (en adelante, IGF) https://www.intgovforum.org/es, (acceso enero 31, 2025).
36 Santiago Agustín Bello Paredes, "Modernización tecnológica y simplificación administrativa: retos de las Administraciones Públicas en la Sociedad de la Información", en La Administración electrónica y la protección de datos: Encuentro nacional sobre la transparencia en la gestión universitaria, dirigido por Santiago Agustín Bello Paredes y Ana Isabel Caro Muñoz (Burgos: Universidad de Burgos, 2009), 20. Igualmente este autor, " La administración electrónica en España, entre la necesidad y el escepticismo", en E-juristas : más allá de la tecnología legal, coordinado por Ana Isabel Caro Muñoz y Carlos Gómez Otero (Cizur Menor: Thomson Reuters/Aranzadi, 2017), 107.
37 IGF, "Ensuring Human Rights and Inclusion: An Algorithmic Strategy", IGF 2024 WS #236. https://intgovforum.org/en/content/igf-2024-ws-236-ensuring-human-rights-and-inclusion-an-algorithmic-strategy (acceso enero 31, 2025).
38 Apartado quinto de su parte dispositiva.
39 A través de la aprobación del programa de financiación Europa Digital, en Reglamento (UE) 2021/694 del Parlamento Europeo y del Consejo de 29 de abril de 2021, por el que se establece el Programa Europa Digital, para el periodo presupuestario que va de 2021-2027, con una dotación de 7.500 millones de euros para el desarrollo de actuaciones en el ámbito de la supercomputación, la inteligencia artificial, la ciberseguridad, las competencias digitales avanzadas y la garantía de un amplio uso de las tecnologías digitales en toda la economía y la sociedad, también a través de los centros de innovación digital. En Unión Europea, Comisión Europea, "El Programa Europa Digital", Web oficial de la Comisión Europea, 26 de septiembre de 2025.
40 Nuria Belloso Martín, "Sobre fairness y marchine learning: el algoritmo ¿puede (y debe) ser justo?", Anales de la Cátedra Francisco Suarez, núm. 55 (2003): 32.
41 Unión Europea, "Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial)". 12 de julio de 2024. Serie L 2024/1689.
42 Mantenemos así una tesis que sostiene la pronta equiparación de ambos conceptos, pues la globalización de la sociedad conduce a que los ciudadanos estén amparados simultáneamente por normas internas (derechos fundamentales) y normas internacionales (derechos humanos). En este sentido se vienen expresando ya declaraciones jurisprudenciales como la de Corte Interamericana de Derechos Humanos (en adelante, Corte IDH), "Caso Tristán Donoso vs. Panamá", excepción preliminar, fondo, reparaciones y costas, sentencia de 27 de enero de 2009, serie C, núm. 193, par. 112, p. 33. También, la Corte Europea de Derechos Humanos hace referencia a derechos humanos y derechos fundamentales como dos conceptos intercambiables, "Case of Nachova and Others vs. Bulgaria (Applications nos. 43577/98 and 43579/98)", Sentencia de 6 de julio de 2005, nota 105, par. 158: 32.
43 Estos sistemas no están prohibidos, pero se sujetan a una serie de restricciones y a mecanismos de control ex ante y ex post por medio de los cuales han de garantizar la aplicación efectiva del Reglamento. Eduardo Gamero Casado, "El enfoque europeo de Inteligencia Artificial", Revista de Derecho Administrativo - CDA, núm. 20, (2021): 279. Respecto a esta tipología de IA generativa, la Comisión Europea ha propuesto, en noviembre de este año, que la entra en vigor de Reglamento de la IA se realice no para el año 2026, sino para diciembre de 2027, y ello como consecuencia de las quejas planteadas por las grandes tecnológicas estadounidenses y europeas.
44 Debiendo destacarse los continuos trabajos y recomendaciones que desde el año 2021 se vienen elaborando en el seno del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH), sirva por todas referencias su último Informe, de fecha 20 de agosto de 2024, sobre los derechos humanos y las tecnologías digitales nuevas y emergentes. Y ello hasta el punto de haberse creado el Órgano Asesor de Alto Nivel sobre IA que ha elaborado, en septiembre de 2024, un documento sobre Gobernanza de la IA en beneficio de la humanidad: Informe final, https://www.un.org/en/ai-advisory-body, (acceso enero 31,2025), en el que se concluye la posibilidad de que la ONU sea el instrumento para generar un nuevo contrato social para la IA que sea aceptado por la comunidad internacional como modelo de gobernanza de esta. Naciones Unidas, "Gobernanza de la Inteligencia Artificial en beneficio de la Humanidad: Informe final", septiembre de 2024. https://www.un.org/sites/un2.un.org/files/goveming_ai_for_humanity_final_report_es.pdf
45 Ray Perrault & Jack Clark, AI Index Report 2024 del HAI Human-Centered Artificial Intelligence (Stanford: Universidad de Stanford, 2024).
46 Noah Harari, Nexus: una breve historia, 461, quien considera que la IA es la primera tecnología de la historia que puede tomar decisiones y generar nuevas ideas de forma autónoma. También Ricard Martínez Martínez, "Inteligencia artificial, derecho y derechos fundamentales", en Sociedad digital y derecho, dirigido por Tomás de la Quadra Salcedo y José Luis Piñar Maña (Madrid: BOE, 2018), 259, ha resumido que la inteligencia artificial puede ser un espacio abierto a la utopía, pero también la puerta de entrada a un mundo distópico.
47 Harari, Nexus: una breve historia, 466-467.
48 Miguel Ángel Presno Linera, "Derechos fundamentales e inteligencia artificial en el Estado social, democrático y digital de Derecho", El cronista del Estado social y democrático de Derecho, núm. 100 (2022): 51.
49 Bello Paredes, "De descifrando enigma", 123.
50 Eudald Carbonell, De la caverna al cosmos. Nous horitzons per a Vespècie humana, 1a ed. (Barcelona: Arallibres, 2024), 7.
51 Francis Bacon, La Gran Restauración (Novum Organum), traducido por Miguel A. Granada (Madrid: Tecnos, 2011), 75.
52 Noah Harari, Nexus: una breve historia, 11.
Referencias
Alabau Muñoz, Antonio. La Unión europea y su política para el desarrollo de la Administración electrónica. Tras los objetivos de la estrategia de Lisboa. Madrid: Fundación Vodafone España, 2004.
Bacon, Francis. La Gran Restauración (Novum Organum), traducido por Miguel A. Granada. Madrid: Tecnos, 2011.
Barona Vilar, Silvia. "Inteligencia Artificial o la algoritmización de la vida y de la Justicia: ¿solución o problema?". Rev. Boliv. de Derecho, núm. 28 (2019): 18-49.
Becerra, Jairo, Paula Pérez & Marco Sánchez. "El derecho, el Big Data y la Inteligencia Artificial, en la cuarta revolución industrial". En Colombia 4.0. Retos y perspectivas sobre el desarrollo de la cuarta revolución industrial, 125-148. Bogotá: Tirant lo Blanch, 2020.
Becerra, Jairo, Luz Clara, Bibiana Beatriz, John Grover Dorado, John Velandia, José Araoz Fleming & Marco Emilio Sánchez Acevedo. "Implicaciones jurídicas en el entorno del big data: el caso del APP Navega Seguro". Novum Jus 17, núm. 1 (2023): 357-388.
Bello Paredes, Santiago Agustín. "De descifrando enigma a la IA: el relevante papel de los poderes públicos para garantizar los derechos humanos en la revolución tecnológica de la Sociedad de la Información (4a revolución industrial)". En Derechos humanos e inteligencia artificial: amenazas y desafíos, coordinado por Marta Méndez Juez y dirigido por Santiago Agustín Bello Paredes, 101-1123. Las Rozas: Aranzadi, 2024.
Bello Pareces, Santiago Agustín. "Modernización tecnológica y simplificación administrativa: retos de las Administraciones Pública en la Sociedad de la Información". En La Administración electrónica y la protección de datos: Encuentro nacional sobre la transparencia en la gestión universitaria, dirigido por Santiago Agustín Bello Paredes y Ana Isabel Caro Muñoz, 15-34. Burgos: Universidad de Burgos, 2009.
Bello Pareces, Santiago Agustín. " La administración electrónica en España, entre la necesidad y el escepticismo ". En E-juristas: más allá de la tecnología legal, coordinado por Ana Isabel Caro Muñoz y Carlos Gómez Otero, 99-121. Cizur Menor: Thomson Reuters/Aranzadi, 2017.
Belloso Martín, Nuria. "Sobre fairness y marchine learning: el algoritmo ¿puede (y debe) ser justo?". Anales de la Cátedra Francisco Suárez, núm. 55, (2023): 7-38.
Bustamante, Javier. "Hacia la cuarta generación de derechos humanos: repensando la condición humana en la sociedad tecnológica". Revista Iberoamericana de Ciencia, Tecnología, Sociedad e Innovación, núm. 1 (2001): 1-21.
Carbonell, Eudald, De la caverna al cosmos. Nous horitzons per a Vespècie humana, Barcelona: Arallibres, 2024.
Castells, Manuel. "Internet, libertad y sociedad: una perspectiva analítica". Polis: Revista Latinoamericana, núm. 4 (2003): 1.
Castells, Manuel. "Tecnologías de la información y la comunicación y desarrollo global", Revista de economía mundial, núm. 7 (2002): 91-107.
Colombia, Cámara de Representantes, Comisión de Regulación de Comunicaciones. "Comentarios al Proyecto de Ley núm 154 de 2024 Cámara. Ponencia para primer debate" de 1 de julio de 2024. Directora Lina María Duque del Vechio.
Colombia, Congreso de la República. Ley 2213 del 13 de junio de 2022, "Por medio de la cual se establece la vigencia permanente del decreto legislativo 806 de 2020 y se adoptan medidas para implementar las tecnologías de la información y las comunicaciones en las actuaciones judiciales, agilizar los procesos judiciales y flexibilizar la atención a los usuarios del servicio de justicia y se dictan otras disposiciones". https://www.funcionpublica.gov.co/eva/gestornormativo/norma.php?i=187626
Colombia, Corte Constitucional. Sentencia T-323 del 2 de agosto de 2024. "Derecho al debido proceso. Criterios orientadores para el adecuado uso de la inteligencia artificial (IA)". Magistrado Sustanciador Juan Carlos Cortés González. Expediente: T-9.301.656.
Colombia, Juzgado 1° Laboral del Circuito de Cartagena. Sentencia 032 del 30 de enero de 2023. Juez Juan Manuel Padilla García. https://forogpp.com/wp-content/uploads/2023/01/sentencia-tutela-segunda-instancia-rad.-13001410500420220045901.pdf
Corte Europea de Derechos Humanos. "Case of Nachova and Others vs. Bulgaria (Applications nos. 43577/98 and 43579/98)". Judgment of the Grand Chamber, Sentencia de 6 de julio de 2005, ECHR, nota 105, par. 158: 32.
Corte Interamericana de Derechos Humanos. "Caso Tristán Donoso vs. Panamá". Excepción preliminar, fondo, reparaciones y costas. Sentencia de 27 de enero de 2009, serie C, núm. 193, par. 112.
Cumbre Mundial de la Sociedad de la Información, Agenda para la sociedad de la Información. Túnez, 16-18 de noviembre de 2005. https://www.itu.int/net/wsis/documents/doc_multi.asp?lang=es&id=2266|2267
Esparza Uzúa, Gustavo. "Alan Turing: Bases, forma y crítica a la inteligencia artificial". Cuadernos salmantinos de filosofía, núm. 48 (2021): 49-75.
"From Not Working to Neural networking". The Economist, 23 de junio de 2016. https://www.economist.com/special-report/2016/06/23/from-not-working-to-neural-networking.
Gamero Casado, Eduardo. "El enfoque europeo de Inteligencia Artificial". Revista de Derecho Administrativo -CDA, núm. 20 (2021): 268-289.
Gamero Casado, Eduardo. "Introducción. El Derecho Administrativo ante la Era de la Información". En La Ley de Administración electrónica. Comentario sistemático a la Ley 11/2007, de 22 de junio, de Acceso electrónico de los ciudadanos a los servicios públicos, coordinado por Eduardo Gamero Casado y Julián Valero Torrijos, 29-56. Cizur Menor: Thomson-Aranzadi, 2008.
García Acosta, Francisco Manuel. "El Gobierno de Internet como reto del Derecho Constitucional". Anales de Derecho, Universidad de Murcia, núm. 24 (2006): 267-289.
Harari, Yuval Noah. Nexus: Una breve historia de las redes de la información desde la edad de piedra hasta la IA. Barcelona: Debate, 2024.
Internet Governance Forum (IGF) https://www.intgovforum.org/es, (acceso enero 31, 2025)
Internet Governance Forum. "Ensuring Human Rights and Inclusion: An Algorithmic Strategy". IGF 2024 WS #236. https://intgovforum.org/en/content/igf-2024-ws-236-ensuring-human-rights-and-inclusion-an-algorithmic-strategy
Martínez Martínez, Ricard. "Inteligencia artificial, derecho y derechos fundamentales". En Sociedad digital y derecho, dirigido por Tomás de la Quadra Salcedo y José Luis Piñar Maña, 259-278. Madrid: BOE, 2018.
Naciones Unidas. "Gobernanza de la Inteligencia Artificial en beneficio de la Humanidad: Informe final". Septiembre de 2024. https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_es.pdf
OpenAI. Términos de uso. https://openai.com/es-ES/policies/terms-of-use/ (acceso enero 31, 2025).
Ortega Ruiz, Luis Germán & Jairo Becerra. "La Inteligencia artificial en la decisión jurídica y política". Araucaria. Revista Iberoamericana de Filosofía, Política, Humanidades y Relaciones Internacionales 24, núm. 49 (2022): 225-228. https://dx.doi.org/10.12795/araucaria.2022.i49
Perrault, Ray & Jack Clark. AI Index Report 2024 del HAI (Human-Centered Artificial Intelligence. Stanford: Universidad de Stanford, 2024, https://aiindex.stanford.edu/report/#individual-chapters (acceso enero 31, 2025).
Presno Linera, Miguel Ángel. "Derechos fundamentales e inteligencia artificial en el Estado social, democrático y digital de Derecho". El cronista del Estado social y democrático de Derecho, núm. 100 (2022): 48-57.
Rusell, Stuart & Peter Norvig. Inteligencia Artificial. Un enfoque moderno. Madrid: Pearson Educación, 2008.
Salvador García, Miriam. "Derechos humanos y tecnologías de la información y la comunicación". Novum Jus 18, núm 2 (2024): 225-248. https://doi.org/10.14718/NovumJus.2024.18.2.9
Turing, Alan. "Computing Machinery and Intelligence". Mind, New Series 59, núm. 236 (1950): 433-460.
Unión Europea. "Reglamento (UE) 2021/694 del Parlamento Europeo y del Consejo de 29 de abril de 2021 por el que se establece el programa Europa Digital y por el que se deroga la decisión (UE) 2015/2240". D.O. L 166/1. https://eur-lex.europa.eu/legal-content/ES/ALL/?uri=CELEX%3A32021R0694
Unión Europea, Comisión Europea. "El programa Europa Digital". Web oficial de la Comisión Europea, 26 de septiembre de 2025. https://digital-strategy.ec.europa.eu/es/activities/digital-programme
Unión Europea, Parlamento Europeo y Consejo de la Unión Europea, Directiva (UE) 2018/1972 del 11 de diciembre de 2018, por la que se establece el Código Europeo de las Comunicaciones Electrónicas. https://www.boe.es/doue/2018/321/L00036-00214.pdf
Unión Europea. "Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial)". 12 de julio de 2024. Serie L 2024/1689. http://data.europa.eu/eli/reg/2024/1689/oj
Vasak, Karel, Las dimensiones internacionales de los derechos humanos. Barcelona: Serbal, 1984.