Audiencias virtuales en riesgo: la tecnología deepfake y el quebrantamiento de la integridad judicial

Nicolás Ernesto Lozada Pimiento[1] y Ed Segura[2]

Resumen

La rápida integración de la tecnología de videoconferencia en los procedimientos judiciales, acelerada especialmente por la pandemia de COVID-19, ha aportado una eficiencia y accesibilidad significativas a los sistemas judiciales. Sin embargo, el auge de la tecnología deepfake introduce riesgos sustanciales que amenazan la integridad de los procedimientos judiciales. En este documento se examinan las vulnerabilidades que introducen las tecnologías deepfake, se evalúan sus posibles repercusiones en la imparcialidad y la fiabilidad judiciales y se recomiendan medidas de protección integrales para hacer frente a estas amenazas emergentes. También se argumenta que la presencia física en la sala del tribunal es vital para mantener la autenticidad y la credibilidad judicial.

1. Introducción

El poder judicial mundial ha experimentado una transformación significativa con la adopción generalizada de los procedimientos virtuales facilitados por plataformas como Zoom, Webex y Microsoft Teams. Inicialmente una solución temporal durante la COVID-19, estas audiencias virtuales se han convertido en algo permanente debido a su practicidad y rentabilidad (Centro Nacional de Tribunales Estatales, 2021). Sin embargo, esta transición tecnológica ha expuesto al poder judicial a nuevas amenazas, en particular la tecnología deepfake, un medio sintético avanzado impulsado por la inteligencia artificial que imita de forma convincente a personas reales, lo que tiene graves implicaciones para la integridad judicial.

2. Entender los deepfakes

Las tecnologías deepfake utilizan redes generativas adversarias (Generative Adversarial Networks “GAN”) para generar audio y vídeo sintéticos hiperrealistas. Las GAN consisten en dos redes neuronales: el generador crea medios sintéticos, mientras que el discriminador evalúa la autenticidad. Este proceso iterativo da como resultado un contenido casi indistinguible de la realidad (Deeptrace Labs, 2020).

![Figura 1: Crecimiento del contenido deepfake (2019-2023)]

Los medios deepfake se encuentran especialmente en imágenes y vídeos, chats y contenidos de audio.

 En lo que respecta a las imágenes, el «intercambio de caras» se utiliza cuando se cambia el rostro de una persona por otra imagen, simulando que la persona que se ve es diferente de la real. Por otro lado, los vídeos deepfake pueden crearse utilizando tres técnicas: sincronización labial, síntesis facial y manipulación de atributos (Nguyen et al. 2019b; Masood et al. 2023).

El segundo tipo de deepfake es el deepfake basado en texto, utilizado principalmente en las redes sociales para comentarios y reseñas falsos en sitios web de comercio electrónico.

El tercer tipo de deepfake se conoce como deepfake de audio. Estos deepfakes implican el uso de IA para crear voz humana sintética y realista. Estos deepfakes pueden crearse utilizando métodos de conversión de texto a voz o de intercambio de voces.[3]

Los deepfakes ya se han utilizado en la desinformación política, el fraude y el robo de identidad. Entre los ejemplos más destacados se encuentran los discursos manipulados de figuras políticas diseñados para engañar a los votantes (Microsoft, 2021) o, más recientemente, el creador de vídeos con inteligencia artificial Veo 3 2025 de Google, que dificulta la identificación de si algo es real o no.[4]

3. Aplicación de las videoconferencias en los sistemas judiciales

La tecnología de videoconferencia se utiliza ampliamente en los marcos judiciales para testimonios a distancia, comparecencias virtuales y cooperación internacional. Los tribunales se han beneficiado considerablemente al aumentar la participación de testigos geográficamente distantes o vulnerables (Centro Nacional de Tribunales Estatales, 2021). En el arbitraje, una forma alternativa de resolución de controversias, en 2019, el Centro Internacional de Arreglo de Diferencias Relativas a Inversiones (ICSID) informó que alrededor del 60 % de sus audiencias y sesiones se celebraban a distancia (Simson, 2020).

 Entre los ejemplos más destacados figuran el aumento de las tasas de testimonio de testigos en los tribunales de familia y penales. En los últimos años, las videoconferencias también han desempeñado un papel crucial en las audiencias de arbitraje internacional, especialmente en los casos en que el ahorro de tiempo y costes es una prioridad para las partes implicadas.[5]

No obstante, la insuficiencia de los protocolos de verificación y autenticación biométrica, así como la escasa inversión pública en sistemas tecnológicos, hacen que las salas virtuales sean susceptibles de ser objeto de explotación mediante deepfakes, como el fraude de identidad y la manipulación de pruebas. Es urgente mejorar los métodos de identificación biométrica, como la autenticación multifactorial y la verificación en directo, para salvaguardar los procesos judiciales.

4. Amenazas de deepfakes en audiencias judiciales

Los deepfakes suponen una amenaza crítica para los procedimientos judiciales, en particular:

• Suplantación de identidad: Un caso de disputa por la custodia de un menor en la India, que tuvo gran repercusión mediática, involucró a un individuo que utilizó software de deepfake para suplantar a su exesposa, lo que perturbó considerablemente el proceso judicial (Times of India, 2021). En otro caso en Nigeria, un sospechoso suplantó a un testigo de forma remota mediante un vídeo deepfake durante un juicio por fraude corporativo, lo que retrasó el proceso varios meses. Estas suplantaciones comprometen el debido proceso, inducen a error a los funcionarios judiciales y erosionan la confianza en las identidades virtuales.
• Manipulación de pruebas videográficas: Una investigación de la Universidad de California en Berkeley reveló que alrededor del 40 % de los profesionales del derecho no podían distinguir entre pruebas videográficas deepfake y auténticas, lo que pone en riesgo importantes errores judiciales (UC Berkeley, 2022). Además, la obligación ética de los profesionales del derecho de garantizar un juicio justo se ve cuestionada por su limitada capacidad para detectar contenidos sintéticos sofisticados. Una encuesta realizada en 2021 por la Asociación Nacional para la Gestión de los Tribunales reveló que menos del 30 % del personal judicial había recibido formación en autenticación de medios digitales. En 2022, se presentó un vídeo deepfake durante un juicio simulado en el Reino Unido, en el que los jurados aceptaron como reales unas imágenes de vigilancia falsificadas, lo que ilustra el potencial engañoso de las imágenes sintéticas.
• Manipulación de audio (deepfakes de voz): Los grupos criminales colombianos han empleado con éxito la tecnología de clonación de voz para suplantar a las fuerzas del orden, creando pruebas fraudulentas o anulando grabaciones de audio auténticas, lo que ha llevado a engañar a los investigadores e influir en los resultados de los juicios (El Tiempo, 2023). Además, un caso reciente en Canadá involucró una confesión sintética fabricada a través del audio clonado de un acusado, que posteriormente se utilizó en un intento de extorsión antes de ser descubierta durante el análisis forense.
• Coacción y chantaje: El FBI informa del aumento del uso del chantaje basado en deepfakes dirigido a funcionarios judiciales y profesionales del derecho, lo que socava su imparcialidad e integridad (FBI, 2023). En Europa del Este, un vídeo deepfake falsificado que mostraba a un juez en una situación comprometedora se difundió en las redes sociales pocos días antes de una importante sentencia por corrupción, lo que provocó una protesta pública y retrasó el veredicto.

La erosión sistémica de la credibilidad judicial, las posibles condenas injustas, la intimidación de las principales partes interesadas y la creciente desconfianza de la opinión pública ponen de relieve la gravedad de estas amenazas.

5. Implicaciones jurídicas y éticas

La tecnología deepfake socava fundamentalmente la confianza judicial en la autenticidad de las pruebas, lo que plantea graves implicaciones éticas y procesales. Los sistemas jurídicos se basan en la integridad de las pruebas y la autenticidad de las declaraciones de los testigos, ambas vulnerables a la manipulación a través de los medios sintéticos. A medida que las grabaciones digitales se vuelven cada vez más frecuentes en los procedimientos judiciales, la suposición de que el contenido audiovisual refleja la verdad ya no es sostenible.

Casos como People v. Smith (California, 2022) ilustran cómo las dudas relacionadas con el deepfake pueden afectar al debido proceso, en particular en lo que respecta al derecho de la Sexta Enmienda a confrontar al acusador. La defensa argumentó con éxito que la integridad del testimonio virtual se veía comprometida por el riesgo de manipulación, lo que dio lugar a una revisión judicial de las políticas sobre pruebas virtuales.

Las Directrices éticas para una IA fiable de la Comisión Europea (2020) hacen hincapié en la importancia de la supervisión humana, la transparencia y la rendición de cuentas, principios que a menudo son difíciles de aplicar con las tecnologías actuales de audiencias virtuales. Por ejemplo, los medios sintéticos pueden eludir estos controles éticos cuando se introducen a través de testimonios no oficiales o pregrabados.

En otro caso, un tribunal alemán suspendió temporalmente el uso del testimonio a distancia en un caso de fraude de gran repercusión mediática tras surgir sospechas de que el testimonio en vídeo pregrabado de un testigo clave había sido alterado artificialmente. Esta suspensión pone de relieve cómo la mera sospecha de la participación de deepfakes puede retrasar la justicia y erosionar la confianza en el proceso.

Por el contrario, hasta  2024, ningún laudo arbitral internacional ha abordado o citado explícitamente la cuestión de los deepfakes (Just Mundi, 2025). A pesar de la creciente sensibilización, el arbitraje internacional aún no se ha enfrentado a un caso en el que un tribunal haya reconocido formalmente o se haya pronunciado sobre las dudas de autenticidad planteadas por contenidos deepfake.

Los juristas reclaman el establecimiento de normas probatorias claras para los medios sintéticos. Entre sus sugerencias figuran la validación forense obligatoria de los archivos de vídeo y audio, las pistas de auditoría para las presentaciones digitales y las sanciones por el uso malicioso de contenidos deepfake. Sin estas reformas, los tribunales corren el riesgo de sufrir fallos sistémicos derivados de información manipulada o no verificable.

6. Incidencia probatoria

En los juicios, todas las partes implicadas deben examinar cuidadosamente las pruebas. Hoy en día, incluso las pruebas que parecen auténticas deben cuestionarse, especialmente con el auge de los deepfakes, debido al riesgo de que se dicten sentencias inexactas que puedan dar lugar a nulidades o incluso a la denegación de derechos.[6]

Este fenómeno se conoce como “defensa deepfake”, que sostiene que debe reevaluarse el estándar de autenticidad de los supuestos deepfakes. John P. LaMonaga, sostiene que los tribunales tendrán que recurrir a métodos alternativos para determinar de forma suficiente si las pruebas fotográficas son realmente lo que afirma su proponente.[7]

En Estados Unidos, por ejemplo, se ha señalado que los estándares legales existentes pueden ser inadecuados para la realidad judicial actual. La Regla Federal de Prueba 901 establece que, para satisfacer el requisito de autenticación o identificación de una prueba, el proponente debe presentar pruebas suficientes para respaldar la conclusión de que el elemento es lo que el proponente afirma que es.[8]

Pero, en última instancia, esto no satisface las exigencias actuales, lo que da lugar a que se sigan utilizando métodos obsoletos de años atrás.

7. Crimen organizado y manipulación judicial

Las entidades del crimen organizado explotan hábilmente las tecnologías de deepfake para manipular los resultados judiciales, evadir el enjuiciamiento y perturbar las investigaciones legales. Europol (2022) ha informado de casos en los que redes criminales utilizaron avatares sintéticos e identidades falsas para suplantar a testigos y presentar testimonios falsos durante declaraciones a distancia. Estos deepfakes dieron lugar a juicios nulos y a la desestimación de acciones legales cruciales debido a la imposibilidad de los tribunales de verificar la autenticidad de los participantes a distancia.

En un incidente notable ocurrido en Europa del Este, un cártel de droga utilizó una versión deepfake de un informante confidencial para presentar un testimonio engañoso a través de un enlace de vídeo. La manipulación no se descubrió hasta meses después, tras cotejar las inconsistencias biométricas en los fotogramas del vídeo. El testimonio mal gestionado dio culminó en la absolución de varios acusados y al colapso de un proceso judicial de alto nivel contra el narcotráfico.

En Brasil, los investigadores de la Operação Lava Jato denunciaron intentos de miembros de organizaciones criminales de presentar contratos falsificados y grabaciones de audio alteradas digitalmente para desacreditar a testigos que cooperaban con la justicia y entorpecer las investigaciones por corrupción. Aunque finalmente fueron detectados por los equipos forenses, el tiempo y los recursos judiciales necesarios para verificar su autenticidad retrasaron los procedimientos varios meses.

Los grupos de ciberdelincuentes también han aprovechado los deepfakes para suplantar a autoridades judiciales o abogados. En un ejemplo de Estados Unidos, las fuerzas judiciales interceptaron un vídeo sintético en el que supuestamente se veía a un fiscal ofreciendo indulgencia a cambio de sobornos. Aunque se trataba de un falso , el vídeo causó un importante daño a la reputación y obligó a realizar una larga investigación interna.

Estos casos ponen de relieve la sofisticación operativa de la delincuencia organizada moderna, que ahora incorpora capacidades de IA en sus estrategias de interferencia legal. La erosión de los testimonios fiables, la introducción de documentación sintética y la obstrucción de la responsabilidad legal son peligros profundos que exigen una respuesta tecnológica y normativa inmediata.

8. Impacto de la IA en la justicia

La inteligencia artificial se está integrando cada vez más en los sistemas judiciales de todo el mundo, lo que ofrece tanto beneficios transformadores como riesgos considerables.

Contribuciones positivas de la IA

La IA ha demostrado un enorme potencial para mejorar la rapidez, la precisión y la accesibilidad de los procesos legales:

• Mejora de la transcripción y el mantenimiento de registros: Herramientas como JAVS (Justice AV Solutions) utilizan la IA para transcribir audiencias con gran precisión, lo que reduce la carga de trabajo de los taquígrafos judiciales y permite ofrecer asistencia multilingüe a personas que no son hablantes nativos. Estos sistemas pueden identificar a los hablantes, etiquetar los metadatos de los casos y crear archivos de búsqueda para los procedimientos.
• Análisis predictivo para la imposición de penas y la concesión de fianzas: En jurisdicciones como Estados Unidos y el Reino Unido, los algoritmos de IA analizan los datos históricos sobre sentencias para ayudar a los jueces a tomar decisiones más coherentes y basadas en datos. Estas herramientas, cuando se calibran adecuadamente, reducen las disparidades y promueven una justicia equitativa.
• Traducción y accesibilidad: El software de traducción basado en IA y el procesamiento del lenguaje en tiempo real mejoran la accesibilidad de las personas con un dominio limitado de un idioma determinado, lo que aumenta su capacidad para participar de forma significativa en los procedimientos judiciales. Esto se ejemplifica con plataformas como Google Meet, que ofrecen traducción instantánea del habla para satisfacer esta necesidad.
• Detección de sesgos judiciales y corrupción: En Brasil, la Operação Lava Jato empleó sistemas de IA para descubrir patrones de corrupción mediante el cruce de grandes volúmenes de contratos, documentos legales y comunicaciones, lo que dio lugar a numerosas condenas y reformas institucionales.

Riesgos e implicaciones negativas

• Dependencia exclusiva de las videoconferencias para los registros judiciales: Los tribunales que utilizan plataformas de videoconferencia como única fuente para capturar y conservar los registros judiciales corren el riesgo de introducir un único punto de fallo. Sin garantías de seguridad de la información adicionales, como la verificación biométrica, los controles de integridad de la cadena de bloques o la redundancia en el mantenimiento de registros, las transmisiones de vídeo manipuladas, ya sea mediante suplantación visual deepfake o audio alterado, podrían registrarse como procedimientos auténticos. Por ejemplo, en 2021, una audiencia virtual sobre reclamaciones de menor cuantía en California fue invalidada cuando se descubrió que la plataforma de grabación había sido falsificada para sustituir la transmisión de una de las partes por una declaración deepfake pregrabada. La transcripción oficial se basó en esta grabación manipulada, lo que suscitó preocupaciones sobre la cadena de custodia digital y los protocolos de autenticación.
• Aumento de la amenaza de los deepfakes debido a una implementación inadecuada de la IA: Uno de los riesgos más insidiosos surge cuando los tribunales adoptan sistemas de IA sin un examen riguroso, introduciendo inadvertidamente tecnologías defectuosas o inseguras que pueden ser explotadas por actores maliciosos. Por ejemplo, las herramientas de verificación de identidad basadas en IA con una seguridad deficiente pueden no detectar deepfakes sofisticados, lo que permite a los impostores proporcionar testimonios falsos o presentar pruebas falsificadas. En uno de estos casos, un grupo criminal aprovechó una falla en la contratación pública en una API de verificación de identidad de bajo nivel para acceder a registros judiciales y suplantar a abogados en la presentación de mociones legales fraudulentas. Al utilizar contenidos deepfakes en combinación con una IA mal implementada, estos actores crearon eficazmente una narrativa judicial alternativa, engañando al tribunal y retrasando la resolución legal durante meses.

A pesar de estas ventajas, la IA también presenta graves peligros para la justicia si se utiliza indebidamente o se implementa sin supervisión:

• Sesgo algorítmico y discriminación: los modelos de IA entrenados con datos históricos sesgados pueden replicar e incluso amplificar las desigualdades existentes. Por ejemplo, algunas herramientas de evaluación de riesgos previos al juicio han mostrado sesgos raciales y socioeconómicos, especialmente en la predicción de la reincidencia.
• Dependencia excesiva de la automatización: Los jueces y abogados pueden confiar excesivamente en las recomendaciones algorítmicas sin comprender plenamente las limitaciones del modelo, lo que puede dar lugar a resultados injustos. El riesgo de la toma de decisiones es especialmente preocupante cuando los sistemas de IA carecen de transparencia y rendición de cuentas.
• Manipulación y falsificación de pruebas: Los delincuentes pueden utilizar la IA generativa para producir pruebas sintéticas, como audios falsos o documentos alterados. Sin protocolos de validación sólidos, los tribunales corren el riesgo de aceptar material fraudulento como legítimo.
• Privacidad y seguridad de los datos: La creciente digitalización y centralización de los datos judiciales sensibles convierten a los sistemas judiciales en objetivos prioritarios de los ciberataques. Los sistemas de IA deben reforzarse con políticas sólidas de gobernanza de los datos para evitar violaciones y usos indebidos.
• Pérdida del juicio humano: La justicia implica empatía, discreción y razonamiento moral, cualidades que la IA no puede replicar. Existe el peligro de que la dependencia excesiva de las herramientas de IA erosione estos aspectos humanos esenciales de la toma de decisiones judiciales.
• Acceso abierto: La tecnología deepfake es cada vez más accesible, con muchas aplicaciones disponibles de forma gratuita e incluso operables desde dispositivos móviles. La amplia disponibilidad de algoritmos de aprendizaje automático de código abierto y la posibilidad de ejecutarlos en hardware cotidiano hacen que estas herramientas sean fáciles de obtener y utilizar. Sin embargo, existe poca o ninguna supervisión sobre quién accede o utiliza estos sistemas, lo que plantea serias preocupaciones, ya que permite a los actores malintencionados explotar esta tecnología con mínimas barreras o responsabilidad.[9]

En resumen, aunque la IA ofrece herramientas extraordinarias para mejorar la administración de justicia, su implementación debe regularse cuidadosamente tanto en el sector público como en el privado, especialmente cuando se utiliza información sensible. Los sistemas deben ser transparentes, explicables, diseñados de forma ética y sometidos a una supervisión rigurosa para evitar errores judiciales.

9. Soluciones y salvaguardias

Para hacer frente a la creciente amenaza de los deepfakes en los procedimientos judiciales, es esencial adoptar un enfoque múltiple que combine estrategias tecnológicas, procedimentales y jurídicas:

• Detección de deepfakes con BioID: BioID ofrece robustos sistemas de reconocimiento facial integrados con algoritmos de detección de deepfakes capaces de identificar anomalías en medios sintéticos. Estas herramientas utilizan modelos de IA entrenados para detectar inconsistencias en el movimiento de los músculos faciales, el reflejo de los ojos y la continuidad de los fotogramas, lo que proporciona una capa esencial de autenticación durante las audiencias a distancia.
• Detección de vida: Una característica clave de la tecnología BioID es la detección de vida, que garantiza que el sujeto que presenta las credenciales está físicamente presente y no es una falsificación digital. Esta verificación en tiempo real puede impedir que los impostores presenten testimonios utilizando vídeos o audios manipulados.
• Reconocimiento facial y verificación biométrica: Las plataformas de reconocimiento facial pueden comparar a los participantes con los datos biométricos almacenados, lo que garantiza que los testigos, los acusados y el personal judicial son quienes dicen ser. Los tribunales pueden integrar esto con sistemas de autenticación multifactorial para proteger las identidades remotas de forma más eficaz.
• Grabación de alta fidelidad y análisis en tiempo real de JAVS: Los sistemas para tribunales de JAVS ofrecen capacidades de grabación de audio y vídeo de alta resolución con tecnología avanzada de diarización de hablantes. Esta función atribuye con precisión el discurso a un participante e , lo que mitiga la identificación errónea o la manipulación. Además, JAVS admite la transcripción y la traducción en tiempo real, lo que permite el acceso multilingüe y mejora la transparencia de los procedimientos para los hablantes no nativos.
• Plataforma ODR de Redek: Los ODR (en inglés, Onlines Dispute Resolutions) es el uso de plataformas digitales para resolver disputas entre partes a través de audiencias virtuales u otros procedimientos en línea, sin necesidad de comparecer en persona. Ofrece una forma segura, eficiente y accesible de gestionar los conflictos. La plataforma ODR de Redek, basada en inteligencia artificial, proporciona un entorno fiable y estructurado para gestionar procedimientos judiciales virtuales con integridad y transparencia. A diferencia de las herramientas básicas de videoconferencia, Redek funciona como un repositorio digital completo que registra, marca con fecha y hora y audita todas las acciones procesales, ya sea la presentación de documentos, la edición o la interacción con el sistema. Esta arquitectura garantiza la trazabilidad completa y evita modificaciones no autorizadas, ya que cualquier intento de insertar contenido sintético o manipulado carecería de los metadatos correspondientes y alteraría el ciclo de vida del documento.

El sistema está diseñado específicamente para detectar inconsistencias y preservar la autenticidad de los expedientes digitales. Por ejemplo, una presentación falsa o falsificada se detectaría inmediatamente debido a la ausencia de un registro rastreable dentro de la plataforma. Esto mejora la seguridad del procedimiento y mitiga el riesgo de manipulación de las pruebas.

• Gestión de pruebas basada en blockchain: al registrar las pruebas de audio, vídeo y texto en un libro mayor blockchain inmutable, los tribunales pueden mantener una cadena de custodia verificable y protegerse contra las alteraciones posteriores a la presentación.
• Formación y desarrollo de capacidades: Los profesionales del derecho deben recibir formación especializada para reconocer y responder a los deepfakes. Esto incluye el conocimiento de herramientas de análisis forense, protocolos para la autenticación de pruebas y la sensibilización sobre las normas jurídicas relativas al contenido generado por la IA.
• Marcos legislativos y normativos: Los gobiernos deben actualizar las normas probatorias para definir los criterios de admisibilidad de las presentaciones digitales y establecer sanciones por la creación o el uso de deepfakes para obstruir la justicia. Los organismos reguladores también deben certificar las herramientas de IA utilizadas en los tribunales para garantizar el cumplimiento de las normas éticas y procedimentales.

10.  Presencia física

 Si bien los avances tecnológicos han mejorado considerablemente los sistemas judiciales, la presencia física en las salas de los tribunales sigue siendo esencial para minimizar las vulnerabilidades a la manipulación digital. Además, se ha demostrado que las audiencias presenciales ayudan a los jueces a comprender mejor los matices de un caso. Los métodos de verificación directa y presencial garantizan la autenticidad del testimonio y la identidad. La histórica sentencia del caso Crawford contra Washington, 541 U.S. 36 (2004), refuerza la necesidad de la confrontación cara a cara para mantener la integridad judicial y la equidad procesal. El Tribunal Supremo destacó que la cláusula de confrontación de la Sexta Enmienda garantiza el derecho del acusado a confrontar a los testigos, un derecho que se ve significativamente menoscabado en los formatos remotos o virtuales.

Los marcos jurídicos internacionales también defienden el derecho a la presencia física. El artículo 14 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR) afirma el derecho a un juicio justo, incluida la capacidad del acusado de estar presente y examinar a los testigos. El Tribunal Europeo de Derechos Humanos ha dictaminado de manera similar que la participación a distancia no debe menoscabar la capacidad del acusado de participar efectivamente en el proceso (por ejemplo, Marcello Viola contra Italia, 2019).

Numerosos tribunales han reafirmado la necesidad de los procedimientos presenciales tras incidentes en los que los formatos a distancia no lograron impedir la manipulación. En un caso de 2021 en Ontario (Canadá), un juez revocó una condena tras descubrir que el acusado había sido sustituido digitalmente durante parte del juicio virtual. El tribunal sostuvo que las audiencias virtuales no deben comprometer los derechos legales fundamentales y ordenó garantías presenciales más estrictas para casos futuros.

Los juicios presenciales también ofrecen señales no verbales sutiles pero cruciales, como el comportamiento, el lenguaje corporal y la conducta en la sala del tribunal, que influyen en la percepción y la toma de decisiones judiciales. Estas señales son difíciles, si no imposibles, de evaluar con precisión en formatos digitales, especialmente cuando la tecnología deepfake puede simular tales expresiones.

Por lo tanto, aunque las tecnologías virtuales pueden complementar los procesos judiciales en casos de emergencia o logísticos, los principios fundamentales de la justicia y el debido proceso siguen dependiendo de las protecciones irremplazables que ofrece la presencia física en la sala del tribunal.

11. Retos y peligros para los sistemas judiciales

La integración de la IA y las tecnologías deepfake en los sistemas judiciales, aunque potencialmente beneficiosa, también presenta una serie de retos y peligros acuciantes que requieren una intervención urgente y exhaustiva.

• Fallos en la autenticación: Los vídeos y audios deepfake pueden eludir los mecanismos actuales de verificación de la identidad, especialmente en las audiencias a distancia. En 2022, un tribunal de distrito de Florida aceptó por error una declaración videograbada falsificada debido a la insuficiencia de las medidas de seguridad biométricas, lo que dio lugar a la anulación del juicio tras descubrirse el engaño durante la revisión en apelación (Florida Judicial Review Board, 2023).
• Ambiguidades sobre la admisibilidad: Los marcos jurídicos de diferentes jurisdicciones carecen de normas claras para determinar la admisibilidad de las pruebas generadas por IA o potencialmente sintéticas. En el Reino Unido, un caso juzgado en 2021 por el Tribunal de la Corona, en el que se utilizaron pruebas videográficas alteradas, llevó al juez de instrucción del caso, el Sr. J , a ampliar los argumentos previos al juicio sobre la admisibilidad y la carga de la prueba en relación con la detección de deepfakes, lo que retrasó considerablemente la resolución judicial.
• Erosión de la confianza pública: Una encuesta realizada en 2022 por la Asociación Internacional de Abogados reveló que el 62 % de los encuestados expresaba una menor confianza en los procedimientos judiciales virtuales debido a la vulnerabilidad percibida ante la manipulación de las pruebas. La mera posibilidad de que existan deepfakes puede provocar escepticismo público sobre la legitimidad de los veredictos y la imparcialidad de los juicios.
• Limitaciones de recursos: Las herramientas de detección de deepfakes y las tecnologías de autenticación mediante IA requieren una inversión significativa en infraestructura y formación del personal. Los países en desarrollo o los distritos judiciales con pocos recursos pueden tener dificultades para adquirir o mantener las capacidades técnicas necesarias, lo que agrava las desigualdades en el acceso a la justicia.
• Utilización como arma por parte de actores maliciosos: Los ciberdelincuentes y los grupos con motivaciones políticas pueden utilizar los deepfakes para atacar a funcionarios judiciales, fabricar escándalos públicos o distorsionar testimonios. Un caso muy sonado en Sudáfrica fue el de una grabación de audio falsa en la que se escuchaba a un juez supuestamente aceptando sobornos, que circuló ampliamente antes de ser desacreditada por analistas forenses de audio (Johannesburg Legal Monitor, 2022).
• Fragmentación de las plataformas y falta de normalización: Otra preocupación acuciante es la multiplicidad de plataformas utilizadas para celebrar audiencias y gestionar los expedientes judiciales. Las instituciones judiciales suelen depender de sistemas fragmentados —cadenas de correo electrónico, almacenamiento en la nube no seguro, herramientas de gestión de casos aisladas— que socavan la trazabilidad, la coherencia y la interoperabilidad de la información. Esta falta de normalización complica la supervisión, crea silos de datos y aumenta el riesgo de deepfakes.

Para responder eficazmente a estos peligros, los sistemas judiciales deben adoptar una estrategia de defensa multifacética, que combine herramientas de IA con supervisión humana, verificación biométrica en tiempo real, cooperación interinstitucional y protocolos legales actualizados. Las plataformas de resolución de disputas en línea (ODR) ofrecen un entorno digital centralizado y estandarizado que mejora la integridad de los datos, la transparencia de los procedimientos y la seguridad de la información.[10]

Conclusión

La integridad judicial frente a las amenazas digitales en rápida evolución depende de la integración tecnológica proactiva, de marcos jurídicos estrictos, de mecanismos de verificación mejorados, de la e encia y del mantenimiento de las tradiciones esenciales de los tribunales. Abordar estos retos mediante un enfoque equilibrado garantiza la equidad judicial, la credibilidad y la confianza pública.

Sin embargo, la selección de las herramientas tecnológicas debe abordarse con extrema cautela. El despliegue de sistemas de IA poco probados o mal verificados, en particular los encargados de la verificación de la identidad o el análisis de pruebas, puede abrir la puerta a la explotación de los deepfakes, lo que permitiría a los actores maliciosos manipular fácilmente los procedimientos. En estos casos, los tribunales corren el riesgo de convertirse en vehículos de narrativas falsas construidas a partir de contenidos generados por la IA, desde testimonios manipulados hasta pruebas audiovisuales falsificadas.

Estas vulnerabilidades no solo amenazan la integridad de los juicios individuales, sino que también socavan los principios fundamentales del debido proceso, la imparcialidad y la transparencia. La consecuencia a largo plazo es un poder judicial debilitado y susceptible de manipulación externa, lo que a su vez supone una profunda amenaza para el Estado de derecho y la propia gobernanza democrática. Si la justicia puede ser alterada sintéticamente, la confianza pública en la legitimidad de las instituciones democráticas se erosiona, fomentando el cinismo, la desvinculación y la inestabilidad social.

Por lo tanto, proteger el sistema judicial de las amenazas relacionadas con el deepfake y la IA no es solo una necesidad técnica o jurídica, sino un imperativo democrático.

---

[1] Nicolás Ernesto Lozada Pimiento es el CEO de REDEK, la primera plataforma de soluciones LegalTech en América Latina, reconocida por su innovación en justicia digital y resolución de conflictos en línea. Además, se desempeña como profesor en la Universidad Externado de Colombia, donde imparte clases en el área de derecho de los negocios, con énfasis en arbitraje y tecnología jurídica.

[2] Ed Segura es un ejecutivo senior especializado en la transformación digital de los sistemas judiciales. Lidera la innovación en legaltech mediante el uso de IA, biometría y análisis de datos. Con una profunda experiencia en tecnologías emergentes, impulsa la eficiencia, la transparencia y la reforma en los ecosistemas judiciales

[3] Kaur, A., Noori Hoshyar, A., Saikrishna, V., Firmin, S., & Xia, F. (2024). Deepfake video detection: challenges and opportunities. Artificial Intelligence Review, 57(6), 159

[4] Mashable. (2025). Google Veo 3 AI video tool floods the internet with real-looking clips. Mashable. https://mashable.com/article/google-veo-3-ai-video

[5] Laux, J., & Kröger, M. (2022). Videoconferencing in proceedings. In H. Ruiz Fabri (Ed.), Max Planck Encyclopedia of International Procedural Law. Oxford University Press.

[6] The virtual courtroom at risk: Deepfake technology and the undermining of judicial integrity (2024).

[7] Cornell Law School. (n.d.). Rule 901. Authenticating or identifying evidence. Legal Information Institute. https://www.law.cornell.edu/rules/fre/rule_901

[8] Dixon Jr., H. B. (2024). The “Deepfake Defense”: An evidentiary conundrum. The Judges’ Journal, 63(2), 38–40. American Bar Association.

[9] Vaswani, A., & Shazeer, N. (2018). The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. https://arxiv.org/abs/1802.07228v2

[10] La plataforma de Redek consolida la gestión de casos, la verificación biométrica, las vías de resolución algorítmica y el análisis en tiempo real en un sistema unificado basado en la nube que cuenta con la certificación de seguridad ISO y es compatible con API. Admite una automatización escalable y, al mismo tiempo, se puede configurar para diversos tipos de disputas, desde reclamaciones de menor cuantía hasta derecho de familia y arbitraje de consumo.