Garrigues Digital_

La expansión de la IA generativa no solo amplia los horizontes delictivos, sino que cuestiona los límites del Código Penal español y cuestiona la fiabilidad de la prueba digital, obligando a replantear tanto la persecución del delito como los estándares de autenticidad en el proceso judicial. Lo analizamos en esta segunda entrega sobre cómo combatir ‘deepfakes’ y otros contenidos sintéticos (lee aquí el primer artículo de la serie).

La inteligencia artificial (IA) generativa ha convertido la manipulación de imagen, voz y vídeo en una herramienta al alcance de delincuentes de todo orden. Los “deepfakes” ya no son un fenómeno de laboratorio: se emplean para estafas millonarias, ciberataques automatizados o suplantaciones de identidad e incluso pueden emplearse para la manipulación de pruebas en procedimientos judiciales. Analizamos los principales fenómenos delictivos, las dificultades que enfrentan los operadores jurídicos para perseguir estas conductas y los retos que plantea la obtención, autenticación y valoración de la prueba digital en un contexto de contenidos sintéticos cada vez más indistinguibles de la realidad.

La respuesta a los deepfakes desde el derecho penal español

A la espera de reformas legislativas que adapten el actual marco jurídico-penal, tanto en su aspecto sustantivo como procesal, a las nuevas modalidades delictivas nacidas a consecuencia del lanzamiento de la inteligencia artificial generativa y, en concreto, de los deepfakes, resulta clave, para delimitar qué conductas pueden quedar eventualmente sujetas a responsabilidad penal, partir del estándar comunitario fijado en la definición que el artículo 3.(60) del Reglamento de Inteligencia Artificial (RIA) hace del “deepfake” o ultrasuplantación como “una imagen o contenido de audio o vídeo generado o manipulado por IA que se asemeja a personas, objetos, lugares, entidades o sucesos existentes y que puede parecer falsamente auténtico o veraz”.

Desde una perspectiva técnico-criminal, la IA generativa ha reducido drásticamente las barreras de entrada para la comisión de delitos muy diversos: delitos informáticos y ciberataques, estafas y fraudes, falsificación y usurpaciones de identidad, o incluso posible manipulación de pruebas en procesos judiciales. Estas conductas, hasta hace poco reservadas a delincuentes con capacidades técnicas avanzadas, están ahora al alcance de cualquier usuario gracias al modelo de Crime-as-a-Service (CaaS), que ofrece al delincuente, a través de mercados clandestinos como la deep web o internet profunda, bien el acceso a herramientas informáticas para la generación de contenidos sintéticos o bien directamente el producto final, diseñado a la medida de su concreta modalidad delictiva o plan criminal. De este modo, se incrementa exponencialmente la capacidad y sofisticación de las conductas ilícitas tanto en lo que afecta a su comisión como a su potencial persecución y prueba en juicio.

La evolución técnica ha sido vertiginosa. Los deepfakes actuales ya no presentan los defectos visibles que caracterizaban a las primeras generaciones de contenidos sintéticos. Fotografía, vídeo, audio, avatares completos e incluso videollamadas en directo pueden resultar indistinguibles para el observador medio. La clonación de voz ha alcanzado un nivel de sofisticación que permite reproducir entonación, ritmo, pausas e incluso patrones de respiración a partir de muy poco material de audio original (en algunos casos, apenas unos segundos). Esta realidad técnica tiene consecuencias jurídicas directas: cuanto más perfecta es la simulación, más difícil será detectar la falsedad y, por ende, mayor potencial lesivo tendrá la conducta.

Ciberataques, fraudes y estafas: la IA como multiplicador del delito patrimonial

La inteligencia artificial no solo sirve para generar contenidos falsos con apariencia de realidad, sino que se ha convertido en un poderoso instrumento de automatización de ciberataques y fraudes a gran escala. Herramientas específicamente diseñadas para fines ilícitos, permiten a delincuentes sin conocimientos técnicos avanzados adquirir kits específicamente diseñados para lanzar campañas masivas y automatizadas de phishing o el envío indiscriminado de mensajes (correo electrónico, WhatsApp, etc.) con la finalidad de infectar un equipo o sistema informático y exigir posteriormente una recompensa económica para poder recuperar dichos equipos o sistemas informáticos (ransomware). La irrupción de la inteligencia artificial generativa ha derivado en la reducción de costes y accesibilidad a delincuentes sin conocimientos técnicos. La principal e inmediata consecuencia de ello está siendo el lanzamiento de campañas masivas contra empresas de toda índole, con un grado de sofisticación antes reservado a grupos de crimen organizado.

En el ámbito específico de la criminalidad, la IA generativa está redefiniendo y disparando la comisión de delitos patrimoniales (principalmente estafas) mediante tres métodos principales: la suplantación de identidad con deepfakes de voz o vídeo, las falsedades generadas algorítmicamente y los chatbots de manipulación que explotan la confianza de las víctimas con técnicas de ingeniería social perfeccionadas por IA.

En los últimos meses, hemos sido testigos de esta sofisticación e incremento de las ciberestafas que mencionamos a continuación:

Fraude al CEO. El conocido como “fraude al CEO” ꟷen el que los delincuentes tratan de llevar a error a un empleado de una compañía con acceso a realizar disposiciones de dinero para realizar una transferencia a una cuenta controlada por el delincuente bajo una supuesta instrucción de un superiorꟷ es con diferencia el fraude más habitual en las empresas. No obstante, nos enfrentamos ya a casos en los que el engaño no se queda ya en el envío de un correo electrónico desde una cuenta con un dominio similar a un dominio corporativo legítimo, sino que incluyen notas de voz o llamadas telefónicas en las que los delincuentes clonan la voz del directivo en cuestión, o incluso videollamadas en las que el supuesto directivo era en realidad un avatar sintético generado en tiempo real mediante IA, un deepfake.

Ransomware. El segundo ataque que con mayor frecuencia sufren las compañías ꟷla infección de un equipo o sistema informático con un malware o software malicioso a fin de exigir posteriormente una recompensa económica para poder recuperar dichos equipos o sistemas informáticosꟷ también está siendo objeto de sofisticación, principalmente en cuanto a la vía de acceso al sistema informático de la compañía, mediante el empleo de comunicaciones que, en ocasiones, están incluyendo falsedades generadas algorítmicamente de muy difícil detección, y que están diseñadas a medida para su destinatario a partir de la información tanto personal como profesional del empleado disponible en fuentes públicas u obtenida mediante un previo ataque de phishing y la posterior aplicación de técnicas de ingeniería social perfeccionadas por IA.

Estos fenómenos delictivos, junto con tanto otros de los denominados “ciberdelitos” en los que el uso de IA generativa y, en concreto, los deepfakes puede tener particular incidencia, no siempre resultan fácilmente subsumibles en los actuales tipos del Código Penal español (CP) como las distintas modalidades de estafa, la estafa común (art. 248 del CP), estafa informática (arts. 249 y 251 bis CP) o la estafa procesal (art. 250.1.7º del CP), la usurpación de identidad (art. 401 del CP), falsedades documentales (art. 390 del CP) y falsificación informática (art. 400 del CP) o daños (arts. 264 a 264 quater del CP);

Ello compromete tanto la respuesta que el sistema de justicia penal puede dar a estas conductas delictivas como la protección que puede ofrecer a quienes resulten víctimas del empleo de tecnologías que incrementan exponencialmente la escala del fraude, la credibilidad del engaño, la automatización de la ejecución y la dificultad de su detección y posterior persecución.

Estafa procesal, usurpación de identidad y manipulación de pruebas mediante ‘deepfakes’

Uno de los riesgos más graves que plantean los deepfakes para nuestro sistema de justicia en su conjunto es su potencial utilización como prueba falsa en juicio, con capacidad de inducir a error al juez o tribunal. Documentos, vídeos, audios e imágenes generados por IA pueden presentarse ante un órgano judicial con apariencia de autenticidad, comprometiendo con ello la integridad del proceso y, en última instancia, el ajuste a Derecho de la resolución del procedimiento judicial.

El fraude procesal mediante deepfakes constituye una modalidad agravada de manipulación del proceso: el sujeto activo no solo engaña a la parte contraria, sino que instrumentaliza al propio órgano judicial como medio para obtener una resolución injusta y lo hace, además, valiéndose de un artificio, el deepfake, que por su grado de realismo resulta particularmente eficaz para lograr el engaño pretendido. Este mayor desvalor del ataque a la recta administración de justicia de quien comete una estafa procesal mediante el empleo de técnicas de deepfake debería encontrar un proporcional reflejo en el ámbito penológico, bien sea a través de la tipificación específica de esta conducta o de la introducción de un subtipo agravado.

El aumento de la celebración de vistas y comparecencias de testigos, peritos y acusados de manera telemática, en detrimento de la comparecencia personal, impulsado por las últimas reformas legislativas, tiene importantes ventajes desde el ámbito logístico y de agilidad procesal, pero conlleva asimismo importantes riesgos asociados al uso de IA o deepfakes y es solo cuestión de tiempo que comencemos a ser testigos de casos que lleven a la necesidad de verificar sistemáticamente la autenticidad de toda prueba audiovisual.

El riesgo probatorio se agrava porque hoy cualquier sistema de IA generativa accesible al público puede crear imagen, vídeo alterado, documento o factura indistinguible de uno real. Esto obliga a jueces, fiscales y abogados a preguntarse sistemáticamente si la evidencia presentada es auténtica, ha sido modificada o es directamente una fabricación algorítmica. La tradicional presunción práctica de autenticidad de los soportes audiovisuales ha dejado de ser sostenible.

‘Deepfakes’ en videoconferencias judiciales. En España, el objetivo marcado por el Ministerio de Justicia es que las comparecencias telemáticas aumenten progresivamente, en detrimento de las presenciales. Esta apuesta decidida por la comparecencia telemática amplía el riesgo de fraude y precisa de controles. Los deepfakes en videoconferencia y en tiempo real permiten que un sujeto suplante la identidad de otro durante una declaración o una vista oral. ¿Cómo garantizar que quien comparece telemáticamente es realmente quien dice ser? ¿Cómo detectar un avatar sintético durante una declaración judicial por videoconferencia?

Para mitigar estos riesgos, existen numerosas propuestas a partir de sistemas de verificación ya existentes y empleados en otros ámbitos como la doble autenticación, el uso de certificado electrónico cualificado o el reconocimiento biométrico dinámico (que solicite gestos o movimientos aleatorios al compareciente) e incluso resultaría deseable la implementación de sistemas automatizados de detección de contenido sintético en tiempo real, a fin de garantizar la identidad de quienes comparecen ante los tribunales.

Dificultades de obtención y valoración de la prueba. La cadena de custodia de la evidencia digital se ve comprometida cuando los metadatos pueden eliminarse o falsificarse con facilidad. Las marcas de agua (watermarks) implementadas por algunas plataformas son vulnerables y no constituyen garantía suficiente. La preservación temprana de la evidencia, mediante sellos de tiempo cualificados, registros de acceso y huellas digitales criptográficas, resulta crítica.

La prueba pericial informática será cada vez más necesaria, pero presenta limitaciones inherentes: los detectores automatizados de contenido sintético arrojan tasas significativas de falsos positivos (contenido auténtico identificado erróneamente como falso) y falsos negativos (deepfakes no detectados). Esta incertidumbre técnica se traslada al proceso como incertidumbre probatoria.

El “dividendo del mentiroso”. Otro efecto igualmente pernicioso de la aparición de los deepfakes se encuentra en que cualquier parte procesal puede negar la autenticidad de pruebas audiovisuales legítimas alegando que se trata de contenido generado por IA. Esta posibilidad, tan real como, cada vez, más frecuente, erosiona la confianza general en la prueba audiovisual y puede dificultar gravemente la formación de la convicción judicial. Los tribunales deberán desarrollar criterios robustos de valoración que conjuguen el derecho a la defensa con la necesidad de preservar la eficacia probatoria de los soportes digitales.

Usurpación de identidad digital. Más allá de la estafa procesal en sentido estricto, los deepfakes permiten la usurpación completa de la identidad de un tercero en el entorno digital. Un sujeto puede hacerse pasar por un funcionario público, un profesional colegiado o incluso una parte procesal mediante un avatar sintético indistinguible del original.

La convergencia de todos estos riesgos (fraude procesal, manipulación probatoria, suplantación en vistas telemáticas y usurpación de identidad) configura un panorama en el que la integridad del proceso judicial resulta vulnerable a ataques tecnológicamente sofisticados y difíciles de detectar con los mecanismos actuales. La respuesta debe ser necesariamente multidimensional: normativa, tecnológica y formativa.

Dificultades en la persecución penal: un delito sin fronteras

La persecución de delitos cometidos mediante deepfakes se enfrenta a un conjunto de obstáculos estructurales que dificultan gravemente la acción de la justicia penal. La siguiente tabla sintetiza los principales:

A estos obstáculos se suma la dificultad de obtener la cooperación efectiva de plataformas tecnológicas que alojan los contenidos o prestan los servicios utilizados para la comisión del delito. Los plazos de respuesta a requerimientos judiciales frecuentemente superan la ventana temporal útil para la preservación de la evidencia, y las diferencias normativas entre jurisdicciones complican la ejecución de las resoluciones.

Propuestas: hacia un marco penal adaptado a la era sintética

A la luz de las carencias detectadas, resulta imprescindible avanzar en las siguientes líneas de actuación:

1. Tipos penales específicos. Crear figuras delictivas específicas para deepfakes sexuales no consentidos y para la suplantación de identidad mediante contenidos sintéticos, evitando las actuales fricciones de subsunción en tipos no diseñados para esta realidad.

2. Agravante genérica por uso de IA. Incorporar una circunstancia agravante por la utilización de inteligencia artificial o deepfakes para la comisión de delitos, particularmente fraudes y estafas procesales, que permita incrementar la penalidad cuando el uso de tecnología sintética eleve el desvalor de la acción o del resultado.

3. Responsabilidad por herramientas de finalidad ilícita. Establecer responsabilidad penal para quienes desarrollen, distribuyan o comercialicen herramientas cuya finalidad exclusiva o principal sea la producción de contenidos sintéticos ilícitos, diferenciándolas de las herramientas de propósito general.

4. Obligaciones reforzadas para plataformas. Imponer obligaciones efectivas de preservación de evidencia digital, cooperación proactiva con las autoridades judiciales y retirada inmediata de contenidos sintéticos ilícitos, con sanciones proporcionales en caso de incumplimiento.

5. Mecanismos robustos de autenticación judicial. Implantar sistemas de verificación de identidad en el entorno judicial digital que combinen autenticación multifactor, biometría dinámica y detección automatizada de contenido sintético en tiempo real, protegiendo la integridad de las vistas telemáticas.

6. Cooperación internacional. Impulsar un instrumento internacional vinculante sobre IA y derecho penal que aborde la obtención transfronteriza de datos de sistemas de IA con fines probatorios, mecanismos de extradición adaptados, asistencia judicial mutua ágil, armonización de sanciones, criterios de autoría y complicidad en el entorno digital, y salvaguardas de derechos fundamentales.

La dimensión procesal: protocolos para la valoración de la prueba sintética

La irrupción de los deepfakes exige replantear los criterios de admisibilidad y valoración de la prueba audiovisual en el proceso penal. La tradicional presunción de autenticidad que acompañaba a los soportes audiovisuales ha quedado superada por la realidad tecnológica. Los tribunales necesitan nuevos protocolos adaptados a esta nueva realidad.

En primer lugar, resulta aconsejable que toda prueba audiovisual de relevancia para el proceso se someta a un screening previo de autenticidad cuando cualquiera de las partes cuestione su origen. Este análisis puede realizarse mediante herramientas forenses de detección de manipulación digital, verificación de metadatos y examen de la cadena de custodia desde el momento de la captación hasta su incorporación a los autos.

En segundo lugar, la formación judicial en materia de evidencia digital debe intensificarse y en particular acerca de qué es un deepfake, cómo se genera, cuáles son sus limitaciones técnicas y qué indicios pueden alertar sobre su presencia. Sin esta formación, existe el riesgo de que se admitan y valoren pruebas falsas o, en el extremo opuesto, de que se rechacen pruebas legítimas por una desconfianza generalizada e infundada.

En tercer lugar, conviene explorar la implementación de sistemas de certificación de origen para contenidos audiovisuales relevantes que permitan incorporar metadatos verificables de procedencia en el momento de la creación del contenido. Si estos estándares se generalizan, podrán ofrecer una capa adicional de confianza sobre la autenticidad de las pruebas digitales.

Finalmente, es preciso desarrollar protocolos específicos para la impugnación y contradicción de la prueba audiovisual. La defensa debe tener acceso efectivo a peritos independientes capaces de analizar contenidos sospechosos, y los plazos procesales deben adaptarse a la complejidad técnica que requiere el análisis forense de contenidos potencialmente sintéticos.

Una necesaria respuesta tecnológicamente informada y coordinada a nivel internacional

La sofisticación creciente de los deepfakes supone una importante amenaza para la sociedad, en general, y para las empresas, en particular, como principales destinatarias de los ciberataques e intentos de fraude. Ello exige, no solo la implementación de medidas de protección y la formación y asesoramiento en estas materias por parte de las empresas, sino que debe involucrar también al legislador y a todos los operadores jurídicos para actuar, no solo mediante la tipificación de nuevas conductas, sin duda necesario, sino de repensar los mecanismos probatorios y de persecución de los delitos cometidos a través del empleo de la IA generativa en general, y de los deepfakes en particular.

La frontera entre lo real y lo sintético se ha desdibujado, y con ella las certezas sobre las que se construye la confianza en las pruebas, en la identidad y en la verdad procesal. La respuesta debe ser integral, proporcionada, tecnológicamente informada y coordinada a nivel europeo e internacional e impulsora de una cultura de verificación que permee todo el sistema de justicia, si queremos preservar las garantías fundamentales del proceso penal en la era de la inteligencia artificial generativa.