Derechos digitales

Planteamiento

El Problema:
Cuando la Tecnología Supera la Ética

En la actualidad, la tecnología tiene una gran influencia en la vida de las personas. El uso de redes sociales, inteligencia artificial, plataformas digitales y sistemas automatizados ha transformado la forma en que nos comunicamos, estudiamos, trabajamos y tomamos decisiones.

El problema principal es cómo proteger los derechos de las personas cuando usan internet y nuevas tecnologías como la Inteligencia Artificial. A veces la tecnología avanza muy rápido y no está claro qué límites deben existir para que no se afecten los datos personales o la privacidad.

Este tema se relaciona con la filosofía política y la ética porque permite reflexionar sobre la libertad, la privacidad, la dignidad humana y la responsabilidad en el uso de herramientas tecnológicas. También permite pensar en el papel del Estado, las empresas y la sociedad frente a los cambios tecnológicos actuales.

Pregunta guía:

¿Qué derechos se ven afectados por la IA y qué normas se necesitan para controlarla?

          Dimensiones del problema
          Filosófica: ¿La tecnología es neutral? ¿Quién decide cómo se diseña?
Política: ¿Quién regula la IA y bajo qué intereses?
Ética: ¿Qué debería poder hacer la tecnología?
Jurídica: ¿Qué marcos normativos existen o se necesitan?

        

Esquema Argumentativo Inicial

La tecnología trae beneficios para la sociedad, pero también puede generar problemas cuando no existe un control adecuado sobre su uso. Aunque la inteligencia artificial y las plataformas digitales facilitan muchas actividades, también pueden poner en riesgo la privacidad de las personas o generar desigualdades.

Las grandes empresas digitales y algunas instituciones tienen la capacidad de influir en la información, en las decisiones e incluso en el comportamiento de las personas. Esto genera una preocupación sobre quién controla la tecnología y bajo qué intereses se utiliza, lo que pone en juego principios fundamentales como la libertad, la autonomía y la igualdad.

Recogida de Evidencias

Fuentes y Evidencias Documentales

Las siguientes doce fichas de lectura y evidencias documentales conforman el corpus de investigación que soporta el análisis crítico de este trabajo.

Fichas de Lectura

Ficha 01

Ética de la Inteligencia Artificial

UNESCO (2021). La IA no puede desarrollarse solo bajo criterios técnicos o económicos; debe estar guiada por principios éticos que garanticen la dignidad humana. Los Estados tienen la responsabilidad de regular estas tecnologías.

Internacional · Normativo

Ficha 02

Acuerdo PCSJA24-12243 – IA en la Rama Judicial

Consejo Superior de la Judicatura (2024). Establece principios de transparencia y responsabilidad. La IA es un auxiliar, no un juzgador: la decisión judicial debe ser un acto humano de prudencia, no un resultado estadístico.

Nacional · Jurídico

Ficha 03

La Prudencia como Fundamento de la Justicia

Santo Tomás de Aquino (1274). La prudencia es la «madre de las virtudes». Requiere memoria de la experiencia, entendimiento del presente y previsión del futuro. No hay justicia sin prudencia.

Filosófico · Clásico

Ficha 04

Subjetividades e Inteligencia Artificial

Barrios Tao et al. (2025). La gobernanza algorítmica puede erosionar la capacidad crítica. Es necesario un enfoque hermenéutico analógico que equilibre el optimismo tecnológico con cautela ética.

Académico · Filosofía

Ficha 05

Sentencia T-323 de 2024

Corte Constitucional de Colombia. Un juez utilizó ChatGPT en una decisión judicial. La Corte estableció que la IA no puede reemplazar el razonamiento jurídico ni la responsabilidad del juez.

Nacional · Jurisprudencia

Ficha 06

Principios sobre IA – OCDE (2019)

Marco internacional para el desarrollo responsable de la IA: bienestar humano, transparencia, seguridad y rendición de cuentas. Muchas recomendaciones no son obligatorias, lo que limita su aplicación.

Internacional · Soft-law

Ficha 07

MinTIC – Transformación Digital Colombia

El enfoque gubernamental está más orientado al desarrollo tecnológico que a la regulación de riesgos. Esto puede generar vacíos en la protección de los derechos digitales.

Nacional · Política pública

Ficha 08

Ley 1581 de 2012 – Protección de Datos

Regula la recolección, almacenamiento y uso de información personal. Muchas personas no conocen estas herramientas legales o no saben cómo hacerlas valer en la práctica.

Nacional · Legislativo

Ficha 09

AI Act – Unión Europea (2024)

Primera ley integral del mundo que clasifica la IA por niveles de riesgo. Modelo avanzado de regulación que podría servir como referencia para Colombia y otros países de América Latina.

Internacional · Legislativo

Ficha 10

Privacidad Digital – Casos Periodísticos

Casos reales donde empresas tecnológicas han recopilado o compartido datos sin consentimiento claro. Refleja falta de educación digital y de control sobre las corporaciones tecnológicas.

Periodístico · Casos

Ficha 11

Ciudadanía Digital

El uso responsable de la tecnología depende de la formación ciudadana. La educación digital puede ayudar a prevenir la desinformación, la pérdida de privacidad y el mal uso de redes sociales.

Educativo · Formación

Ficha 12

Desinformación en Redes – CIDH (2024)

La desinformación en entornos digitales representa un riesgo para la democracia. Las plataformas amplifican contenidos mediante algoritmos. Se requiere equilibrio entre regulación y libertad de expresión.

Internacional · Derechos

Evidencias Documentales Adicionales

Fuente	Tipo	Aporte al trabajo
CONPES 3975 de 2019 – DNP Colombia	Política nacional	Define la estrategia de Colombia para la adopción de IA en el sector público
Ley 2489 de 2025 – Entornos digitales sanos	Legislación reciente	Protege a menores de edad frente a discriminación algorítmica y ciberacoso
Digital News Report 2024 – Reuters Institute	Investigación empírica	Datos sobre consumo de noticias y baja confianza ciudadana en información digital
Marco Ético para la IA en Colombia (2021)	Soft-law / BID	Orienta a entidades públicas en el uso transparente y explicable de algoritmos
Estrategia Nacional Digital 2023-2026 – MinTIC	Política pública	Prioriza la seguridad y confianza digital como motor de transformación social

Fase 3 — Análisis de Caso

Caso Central:
Sentencia T-323 de 2024

Análisis de Caso Principal

Hecho y acontecimiento

El día que un juez colombiano delegó su razón a una máquina

En el año 2023, un juez de la República de Colombia utilizó la herramienta de inteligencia artificial generativa ChatGPT como apoyo directo en la redacción y fundamentación de una decisión judicial. El caso llegó a la Corte Constitucional, que en su Sentencia T-323 de 2024 estableció límites claros y contundentes sobre el uso de la IA en el sistema judicial colombiano.

La Corte determinó que si bien la IA puede ser una herramienta de apoyo válida, no puede bajo ninguna circunstancia reemplazar el razonamiento jurídico, la valoración de pruebas ni la responsabilidad personal del juez. La toma de decisiones judiciales debe mantenerse bajo control humano para garantizar el debido proceso y los derechos fundamentales de las partes.

Profundización del Caso: Tres Dimensiones Analíticas

Dimensión Filosófica — Santo Tomás y la Prudencia

¿Puede un algoritmo ser «prudente»?

Desde la perspectiva de la Suma Teológica (II-II, Q.47-56), la prudencia exige tres operaciones que ningún sistema de IA puede replicar genuinamente: memoria de la experiencia vivida, entendimiento del presente en su singularidad y previsión de las consecuencias futuras desde una perspectiva moral. El «juez prudente» es aquel que ve más allá del algoritmo y prevé las consecuencias sociales y humanas de su decisión. Un modelo de lenguaje genera respuestas estadísticamente probables, no juicios morales. Delegar la decisión judicial a la IA es, en términos tomistas, una abdicación de la virtud.

Dimensión Ética — UNESCO y la OCDE

La tecnología no es neutral: decisiones de diseño y poder

La Recomendación UNESCO (2021) y los Principios OCDE (2019) coinciden en que la IA incorpora en su diseño los valores, sesgos y prioridades de quienes la crean. Cuando un juez utiliza ChatGPT —desarrollado por una corporación privada estadounidense, entrenado con corpus que reflejan una cosmovisión específica— introduce en el proceso judicial un sistema cuya lógica interna no ha sido auditada por el Estado colombiano, cuyas fuentes no son verificables, y cuya «certeza» es en realidad una probabilidad estadística. Esto vulnera los principios de transparencia, responsabilidad y respeto a los derechos humanos que tanto la UNESCO como la OCDE consideran irrenunciables.

Dimensión Político-Jurídica — El vacío regulatorio colombiano

Entre el CONPES 3975 y el AI Act europeo: Colombia a mitad de camino

El caso de la T-323 revela una brecha estructural: Colombia tiene políticas de transformación digital (CONPES 3975, Estrategia Digital 2023-2026) orientadas al desarrollo económico y la eficiencia, pero carece de una ley integral de regulación de IA comparable al AI Act europeo. El Marco Ético de 2021 y el Acuerdo del Consejo Superior de la Judicatura son instrumentos valiosos, pero su carácter de soft-law —sin fuerza sancionatoria robusta— los hace insuficientes cuando enfrentamos casos reales de uso indebido que afectan derechos fundamentales. La Ley 2489 de 2025 avanza en la protección de menores, pero el vacío en el ámbito judicial y administrativo persiste.

Dimensión Subjetiva — Barrios Tao et al. (2025)

La erosión de la autonomía inteligente del operador judicial

El artículo de Barrios Tao et al. advierte que la gobernanza algorítmica puede erosionar la capacidad crítica y manipular conductas a nivel profundo. En el caso del juez, la «comodidad» de obtener una respuesta rápida y formalmente coherente de la IA puede crear una dependencia que paulatinamente debilita la capacidad de deliberación autónoma. Este proceso de deshumanización por automatización es especialmente peligroso en el sistema judicial, donde la autonomía intelectual del juez es la garantía última de la justicia.

La decisión judicial debe ser un acto humano de prudencia y valoración de pruebas, no un resultado estadístico.

Acuerdo PCSJA24-12243 — Consejo Superior de la Judicatura, 2024

Comparativa: Colombia vs. Unión Europea en Regulación de IA

Aspecto	Colombia (2024-2025)	Unión Europea (AI Act 2024)
Tipo de instrumento	Soft-law, jurisprudencia constitucional	Reglamento vinculante (hard-law)
Clasificación por riesgo	No existe formalmente	Cuatro niveles (inaceptable, alto, limitado, mínimo)
Uso judicial de IA	Regulado por Acuerdo CSJ + T-323/24	Clasificado como "alto riesgo", sujeto a auditoría
Sanciones	Procedimientos disciplinarios internos	Hasta 35M EUR o 7% facturación global
Protección de menores	Ley 2489 de 2025	Integrada en el AI Act
Transparencia algorítmica	Marco Ético 2021 (no vinculante)	Obligatoria para sistemas de alto riesgo

Fase 3 — Propuesta desde la Carrera

Estrategias y Acciones desde
la Filosofía Política

Desde la disciplina de la Filosofía Política y tomando como eje el método prudencial, se proponen las siguientes estrategias para abordar la problemática identificada en el caso de la Sentencia T-323 y el contexto de derechos digitales en Colombia.

Regulación escalonada inspirada en el modelo europeo

Proponer al Congreso colombiano una ley integral de IA que clasifique los sistemas por nivel de riesgo. Las aplicaciones en contextos judiciales, médicos y de seguridad deben ser clasificadas como "alto riesgo" y sujetas a auditoría independiente antes de su despliegue en instituciones públicas.

Formación en ética tecnológica para operadores judiciales

Diseñar un programa curricular obligatorio de ética de la IA para jueces, fiscales y defensores públicos, fundamentado en el método prudencial tomista: deliberación, juicio y mando. El operador debe saber qué puede pedirle a la IA y qué nunca puede delegarle.

Creación de una Defensoría Digital ciudadana

Establecer un organismo con autonomía técnica y filosófica que reciba quejas sobre vulneraciones de derechos digitales, incluyendo el uso indebido de IA en decisiones que afecten a ciudadanos. Inspirado en el modelo de los Ombudsman digitales europeos.

Educación digital crítica en la escuela pública

Integrar la "ciudadanía digital crítica" como competencia transversal en los Proyectos Educativos Institucionales (PEI), enseñando no solo el manejo técnico sino la reflexión ética sobre el impacto de la tecnología en la autonomía y la democracia.

Auditoría filosófica de algoritmos públicos

Crear una metodología de "auditoría ética" (no solo técnica) para los sistemas de IA usados por el Estado colombiano, evaluando si sus criterios de decisión son compatibles con los principios de dignidad, igualdad y no discriminación consagrados en la Constitución de 1991.

Diálogo interinstitucional e internacional

Promover desde la academia y la sociedad civil una agenda de gobernanza digital para América Latina, articulando los marcos normativos de la CIDH, la OCDE y la UNESCO con las realidades específicas de los países de la región, evitando la simple trasplantación del modelo europeo.

Síntesis del argumento central desde la Filosofía Política

El caso de la Sentencia T-323 demuestra que el problema de la IA en la justicia no es primariamente técnico sino político y ético: ¿quién decide cómo se gobierna la tecnología? ¿Bajo qué valores? La respuesta desde la filosofía política es clara: la gobernanza tecnológica debe estar fundamentada en la deliberación democrática, el respeto a la dignidad humana y el principio de que ningún sistema automatizado puede suplantar la responsabilidad moral de las personas e instituciones que ejercen poder sobre la vida de los ciudadanos.

Reflexión Final — Proceso en evolución

Síntesis Reflexiva del
Proceso Investigativo

El avance tecnológico como cuestión de poder

A partir de la revisión de las diferentes fuentes, se puede comprender que el desarrollo tecnológico no solo ha transformado la manera en que vivimos, sino que también ha generado nuevos desafíos éticos y políticos que no pueden ser ignorados. En particular, el tema de los derechos digitales y el uso de la inteligencia artificial evidencia que el avance tecnológico va más rápido que la capacidad de la sociedad para regularlo.

Al relacionar estas ideas con la filosofía política, se puede observar que el problema no es únicamente tecnológico, sino también una cuestión de poder. Las grandes empresas digitales y algunas instituciones tienen la capacidad de influir en la información, en las decisiones e incluso en el comportamiento de las personas.

La ética como condición del desarrollo tecnológico

Desde la ética, el problema se profundiza aún más, ya que no basta con preguntarse qué puede hacer la tecnología, sino qué debería hacer. En este sentido, las fuentes revisadas coinciden en que el desarrollo tecnológico debe estar guiado por principios éticos que prioricen la dignidad humana. Sin estos principios, la tecnología puede convertirse en una herramienta que amplíe desigualdades o afecte derechos fundamentales.

El análisis del caso colombiano permite ver con mayor claridad esta situación: el uso de inteligencia artificial en el sistema judicial ya es una realidad, y evidencia que siempre debe existir un control humano en el uso de estas herramientas.

La tecnología al servicio del ser humano, no al contrario

En conclusión, las evidencias permiten afirmar que el desarrollo tecnológico debe ir acompañado de una reflexión ética constante y de normas claras que protejan a las personas. Más allá de los avances técnicos, lo realmente importante es garantizar que la tecnología esté al servicio del ser humano y no al contrario.

Este proceso de investigación no solo permite comprender mejor el problema, sino también desarrollar una postura crítica frente a la tecnología, reconociendo que su impacto depende de las decisiones humanas y de la responsabilidad con la que se utilice. Este blog es, precisamente, una constancia de que se trata de un proceso en constante evolución.

Referencias

Bibliografía

Barrios Tao, H., et al. (2025). Subjetividades e inteligencia artificial: desafíos para 'lo humano'. Revista Veritas/Redalyc.
Comisión Interamericana de Derechos Humanos (CIDH). (2024). Inclusión digital y gobernanza de contenidos en Internet (OEA/Ser.L/V/II. CIDH/RELE/INF. 28/24). Relatoría Especial para la Libertad de Expresión. https://www.oas.org/es/cidh/expresion/informes/Inclusion_digital_esp.pdf
Consejo Nacional de Política Económica y Social (CONPES). (2019). Política Nacional para la Transformación Digital e Inteligencia Artificial (Documento CONPES 3975). Departamento Nacional de Planeación. https://colaboracion.dnp.gov.co/CDT/Conpes/Econ%C3%B3micos/3975.pdf
Consejo Superior de la Judicatura. (2024, 16 de diciembre). Acuerdo PCSJA24-12243: Por el cual se adoptan lineamientos para el uso y aprovechamiento respetuoso, responsable, seguro y ético de la inteligencia artificial en la Rama Judicial. https://rm.coe.int/colombia-guidelines-for-the-use-of-artificial-intelligence-in-the-judi/1680b53483
Corte Constitucional de Colombia. (2024). Sentencia T-323 de 2024 (M. P. Juan Carlos Cortés González). https://www.corteconstitucional.gov.co/Relatoria/2024/T-323-24.htm
De Aquino, T. (1274). Suma Teológica. Secunda Secundae (II-II), Cuestiones 47-56.
Ley 1581 de 2012. Congreso de Colombia. Ley de Protección de Datos Personales.
Ley 2489 de 2025. (2025, 17 de julio). Por medio de la cual se establecen disposiciones para el desarrollo de entornos digitales sanos y seguros para los niños, niñas y adolescentes del país. Congreso de la República de Colombia. https://www.funcionpublica.gov.co/eva/gestornormativo/norma.php?i=260756
Ministerio de Tecnologías de la Información y las Comunicaciones (MinTIC). (2023). Estrategia Nacional Digital Colombia 2023-2026. https://www.mintic.gov.co/portal/715/articles-334120_recurso_1.pdf
OCDE. (2019). Principios sobre Inteligencia Artificial.
Parlamento Europeo y Consejo de la Unión Europea. (2024, 13 de junio). Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial (RIA). https://www.boe.es/buscar/doc.php?id=DOUE-L-2024-81079
Presidencia de la República de Colombia. (2021). Marco Ético para la Inteligencia Artificial en Colombia: Guía de soft law para entidades públicas. https://dapre.presidencia.gov.co/TD/MARCO-ETICO-PARA-LA-INTELIGENCIA-ARTIFICIAL-EN-COLOMBIA-2021.pdf
Reuters Institute. (2024). Digital News Report 2024: Colombia analysis. University of Oxford. https://reutersinstitute.politics.ox.ac.uk/es/digital-news-report/2024/colombia
UNESCO. (2021, 23 de noviembre). Recomendación sobre la Ética de la Inteligencia Artificial. https://www.unesco.org/es/artificial-intelligence/recommendation-ethics