Por Gustavo Eduardo Aboso^[1]

1. Introducción

Entre las incorporaciones más novedosas previstas en el Anteproyecto de Código Penal (en adelante APCP) se cuenta la previsión de la utilización de la Inteligencia Artificial (IA) en la comisión de delitos.[2] A la par de la autonomización de los delitos informáticos en un apartado especial lo que refuerza la idea de la distinción en su clasificación de delitos propios e impropios vinculados con el medio informático utilizado como vía para la comisión de delitos en general, y de manera más apropiada cuando la conducta disvaliosa está orientada hacia el menoscabo de la integridad, la confidencialidad y el funcionamiento de los sistemas cibernéticos.

El APCP prioriza un enfoque integral de la problemática del uso de las nuevas tecnologías emergentes, en especial, la IA, como herramienta peculiar para la comisión de delitos en la sociedad de la información y las comunicaciones.  La sociedad hipertecnológica en la que vivimos ofrece un campo de acción muy extenso para la comisión de delitos en los que el uso de las tecnologías se ha vuelto un hábito. El anonimato, la accesibilidad y la asequibilidad como propiedades comunes en el uso de las redes sociales han permitido que la cibercriminalidad alcance cotas que son imposibles de ignorar.

En adelante nos habremos de abocar al tratamiento dispensado al uso de la IA para la comisión de delitos que presenta una forma peculiar en su regulación.

2. La IA en la comisión de delitos en el APCP

Comenzando con la regulación especial en el empleo de la IA, el artículo 71 establece entre su extensa enumeración de circunstancias que agravan el contenido de lo injusto típico el inciso s) que se redacta en los siguientes términos: “si el hecho fuere realizado mediante la utilización de inteligencia artificial, sin perjuicio de los delitos que lo prevean como medio de comisión.”La propia tipificación de este agravante no está exenta de problemas originados de manera particular en la imposibilidad de su aplicación a las figuras penales que ya prevén el uso de la IA como medio comisivo. Por aplicación del principio non bis in idem o prohibición de doble punición por el mismo hecho esta forma agravada no debe aplicarse cuando la materia de prohibición haya contemplado esta circunstancia. Al final del citado artículo se introduce esta advertencia cuando se dice “Cuando las circunstancias mencionadas ya se encuentren contempladas como elemento constitutivo o calificante del delito de que se trate, no podrá agravarse la pena por aplicación de estas pautas de mensuración.”

La técnica legislativa empleada en el APCP se decantó luego por la regulación especial del uso de la IA como medio comisivo del delito. En el ámbito de la protección de la vida familiar vinculada con la intimidad, el artículo 157 regula el hostigamiento de una familia por cualquier medio, en especial, mediante el uso de la IA. Acá es imaginable la implementación de la IA para la elaboración de textos, audios o vídeos en el que aparecen algunos o todos los integrantes de una misma familia en situaciones propias de las fake news. Por ejemplo, un archivo audiovisual en el que los integrantes de la familia realizan manifestaciones discriminantes o discursos de odio, admitiendo la comisión de delitos o cualquier otro tipo de forma de ciberacoso.

Otra figura que tutela la vida familiar y que prevé el uso de la IA es el delito de injerencias arbitrarias (artículo 158). Esta hipótesis es una modalidad de la anterior disposición, pero se agrava cuando el “[…] hecho se cometiere mediante el empleo de tecnología digital, inteligencia artificial o un medio de difusión masiva.” La injerencia punible debe tener por objeto la intimidad familiar, por lo tanto, el uso de un dron para obtener imágenes de los integrantes de la familia en un lugar de acceso restringido o realizando sus labores cotidianas pueden ser considerados comportamientos punibles. Si bien no queda suficientemente aclarado el empleo de la IA en la comisión de este ilícito, ya que resulta lógico suponer que entre las figuras previstas en el artículo 158 y éste existe un grado de solapamiento normativo significativo.

Frente al abuso de personas mayores, menores y vulnerables, el artículo 172 se ocupa de sancionar al que “al que, por cualquier medio hostigare, maltratare, humillare, aplicare violencia moral, discriminare, abusare laboralmente, afectare la dignidad, vida libre, privada o integridad moral o mental, o ejerciere tratos crueles o degradantes a una persona menor de dieciséis (16) años, mayor de sesenta y cinco (65) o vulnerable, que produzca o represente un ataque reiterado y grave a la dignidad o genere un estado de sufrimiento prolongado.” En este contexto normativo, el uso de la IA aparece como una modalidad agravada siguiendo los mismos parámetros de acción que las analizadas disposiciones anteriores. El ciberacoso de menores de edad, adultos mayores o demás personas vulnerables mediante el empleo de la herramienta IA agrava el contenido de injusto del tipo básico, pero hace al mismo tiempo inaplicable la circunstancia de agravación de la pena prevista en el citado artículo 71. El cyberbullying en el ámbito escolar aparece como una de las manifestaciones más comunes de esta conducta disvaliosa.

Entre los delitos contra el honor aparece el uso de la IA para la comisión de injurias graves. En efecto, el artículo 179 reprime al que “por medios anónimos, identidad simulada, inteligencia artificial o cualquier otro medio tecnológico, difundiere información falsa que provoque daño en el honor, crédito o reputación personal, negocios o vida familiar a una persona humana o jurídica determinada.” Más allá de las críticas que pueden ensayarse contra la necesidad político criminal de la protección del honor de la persona jurídica y el retorno de la pena de prisión, el delito en cuestión contempla de manera acertada el uso de las tecnologías emergentes para la afectación del honor, en especial, cuando se emplea la IA para la difusión de imágenes o vídeos generados de manera sintética para lesionar la reputación ajena.

Uno de los ámbitos en lo que argüía la punición de los contenidos sintéticos generados a partir de la IA es en el de la protección de los menores de edad contra el abuso y la explotación sexual. El artículo 196 del APCP regula la figura de la tenencia, difusión y distribución de material de abuso sexual de menores de edad. La actual regulación del artículo 128 del Código Penal no prevé esta modalidad de creación de imágenes sintéticas ya que el campo de tutela de este delito está limitado a las reproducciones de abusos sexuales de menores de edad auténticas. Más allá de la necesidad político criminal de su regulación, la misma intensidad en la sanción entre un archivo de imagen real de otro creado de manera sintética sin la intermediación de un menor edad nos parece inadecuada, debiéndose requerir mayor reproche para el abuso sexual de un menor de edad. Si se pretende que la conminación punitiva en abstracto tenga alguna función disuasoria para el sujeto criminógeno de este delito será necesario ofrecer una sanción disminuida cuando se tratare de contenidos sintéticos generados por IA, ya que esta solución punitiva se muestra acorde con elmayor grado de tutela requerido para los menores de edad contra el abuso y la explotación sexual(ver el capítulo en particular en esta obra).

En el marco de la protección de la libertad personal, el artículo 242 del APCP prevé la figura de hostigamiento por cualquier medio, entre ellos, el uso de la IA. Más allá de que esta regulación exhibe puntos de contacto con la citada figura de ciberacoso prevista en el artículo 172, el hostigamiento acá sancionada no presenta las mismas limitaciones en razón de la condición etaria del sujeto pasivo ni de su mayor grado de vulnerabilidad, que acá juegan como circunstancias agravantes de la pena. El contenido de lo injusto típico está constituido por el que “por cualquier medio, inclusive mediante inteligencia artificial o violencia digital, hostigue, perturbe, vigile, acose, aceche o persiga en forma grave y reiterada a otro.” Este comportamiento disvalioso se identifica con la estructura normativa del stalking en el derecho comparado. El acecho puede manifestarse en la vida física como en la digital mediante la creación de contenido sintético que revela la intención de acechar a la víctima.

En el catálogo de conductas delictivas que afectan la intimidad individual se cuenta la figura de publicación indebida. El artículo 247 del APCP castiga al que “hallándose en posesión de una comunicación electrónica de cualquier naturaleza, una carta, un pliego cerrado, un papel privado, imágenes privadas o un despacho telegráfico o de otra naturaleza, los registros de tráfico telefónico o digital o cualquier otra comunicación que no le esté dirigida, no destinados a la difusión, publicidad o acceso a terceros, lo publicare o hiciere publicar indebidamente, si el hecho causare o pudiere causar perjuicio a terceros.”

Esta conducta disvaliosa está regulada en el artículo 155 del Código Penal, pero el APCP propuso una versión más amplia de los objetos vinculados con la privacidad personal, en especial, las imágenes y registros digitales cuya difusión está prohibida.

En realidad la nota de color está dada por el inciso segundo que reprime al que “reprodujere públicamente registros de una persona en audio o video obtenido en forma clandestina o subrepticia, o reprodujere públicamente el registro en audio o video de una persona creado a través de inteligencia artificial o por cualquier otro medio, si el hecho causare o pudiera causar perjuicio.”En este apartado se castiga la producción de contenido sintético a partir de la IA en el que el afectado aparece representado sin su autorización. Este caso de “fake news” procura evitar que una persona sea caricaturizada en una situación impropia o expresando una opinión vergonzosa o humillante. La capacidad de perjuicio de este tipo de material deberá ser acreditado en cada caso concreto, ya que no se tutela acá el honor o la reputación de una persona, por lo tanto, se deberá requerir que el contexto de la creación sintética haya estado vinculada a aspectos de la vida privada del ofendido.

Dentro del marco de las defraudaciones, el inciso 3° del artículo 290 regula como circunstancia de agravación de la pena cuando la modalidad fraudulenta empleare “medios o comunicaciones electrónicas, inteligencia artificial, plataformas digitales, aplicaciones, redes sociales o cualquier otro medio de comunicación, radicado en el país o en el extranjero.”El uso de la IA debe estar orientado hacia la creación de contenido sintético como mensajes de audio, archivos audiovisuales o cualquier otra forma de alteración de la realidad que sea idónea para engañar de manera suficiente al titular o representante del patrimonio protegido.

Una de las innovaciones introducidas por el APCP se refiere a la tutela de los integrantes de un jurado dentro del ámbito de protección de la Administración de Justicia como objeto de tutela penal. El artículo 431 reprime como modalidad especial de hostigamiento al que “por cualquier medio, inclusive mediante inteligencia artificial o violencia digital, hostigue, perturbe, vigile, aceche o persiga en forma grave y reiterada a quien hubiera actuado como miembro de un jurado, por razón de su intervención.”

Dentro de los delitos contra el proceso electoral, el artículo 873 replica el artículo 140 del Código Nacional Electoral que sanciona al que “indujere con engaños a otro a sufragar en determinada forma o a abstenerse de hacerlo.” La novedad viene dada por la inclusión de la IA como medio para la comisión de este delito. La reforma atiende de modo prioritario uno de los problemas más frecuentes que se presentan con las “fakes news” y el uso de los sistemas asistidos por IA para crear contenido sintético falso de reproducciones de candidatos en los que aparecen haciendo declaraciones falsas o en situaciones provocativas (ver el capítulo en particular en esta obra).

La citada disposición introducida en el APCP incluye de manera puntual este medio tecnológico cuando: a) Se utilizare inteligencia artificial o herramientas digitales avanzadas para crear o difundir el contenido falso, manipulado o engañoso; b) Si la conducta se ejecuta de manera masiva mediante plataformas digitales, aplicaciones, redes sociales o cualquier otro medio de comunicación, radicado en el país o en el extranjero, y, por último; c) Si el autor oculta su identidad o actúa mediante mecanismos que impidan su trazabilidad digital.

Por lo general suele presentarse de manera concurrente las tres circunstancias apuntadas en la difusión de material alterado con el objeto de inducir a engaño al electorado. Como ocurrió en nuestro país en uno de los últimos procesos electorales, la difusión de contenido sintético alterado de uno de los principales políticos haciendo una manifestación falaz y exhortando a votar al candidato opositor expuso con toda su crudeza el uso de la IA para provocar error en el elector. Si bien no pudo medirse en ese caso puntual cuál fue el impacto de ese vídeo alterado, ya que cualquier espectador podía apreciar lo rudimentario de su elaboración mediante el intercalación de imágenes y audio del citado político para conformar un relato creíble, lo cierto es que esta situación alertó a las autoridades sobre el peligro creciente de la IA generativa para crear material alterado.

El Título XXIX del APCP que regula los delitos de discriminación y discursos de odio incorporó en su arsenal punitivo el empleo de la IA como medio técnico para su comisión.[3] Así pues, el artículo 879, en su inciso 2°,que recepta el delito de incitación al odio, discriminación o violencia por motivos raciales, religiosos, étnicos u otros previstos en este Código, introduce al que “[p]úblicamente difunda, fomente, promueva o incite, directa o indirectamente, ya sea mediante la divulgación de contenido en redes sociales, sitios web, inteligencia artificial u otros medios electrónicos, o por cualquier otro medio, al odio, ciberodio, hostilidad, prejuicio, discriminación, violencia o persecución o por los motivos enunciados en el artículo precedente contra un grupo o asociación, una parte del mismo o contra una persona humana o jurídica.”

También el inciso 3° de este artículo sanciona al que “[p]roduzca, elabore, facilite, distribuya o tenga en su poder escritos, grabaciones, imágenes o sus copias o cualquier otra clase de material, soporte informático o de inteligencia artificial que por su contenido sea idóneo para difundir, fomentar, promover o incitar públicamente al odio, hostilidad, prejuicio, discriminación, persecución o violencia contra un grupo, asociación, parte del mismo o contra una persona humana o jurídica, por los motivos indicados en el artículo precedente.”

Ambos preceptos incluyen el uso de la IA como medio comisivo de los delitos de discriminación y discursos de odio. La posibilidad de concurso entre los delitos de hostigamiento digital precedentemente analizado y estas infracciones puede suceder cuando el hostigamiento individual se centra en aspectos vinculados con la religión, la raza o la condición de migrante del afectado.

Los comportamientos punibles enumerados en los citados incisos tienen una proyección en el uso de las redes sociales porque abarca desde la producción, puesta a disposición o difusión de material con contenido sintético discriminante o incitante al odio de otro (inciso 3°); hasta la aprobación de este material mediante el sistema de reenvío del contenido. Una conducta habitual en el uso de las redes sociales es la de reenviar el contenido del mensaje a otros usuarios o directamente el “like” (“me gusta”) significa en el entorno digital la aprobación del contenido o interés en su difusión. Es cierto que este dispositivo puede tener una aplicación extensiva en la interacción en las redes sociales y que en términos prácticos la sustanciación de un proceso penal en cada situación representa una tarea titánica que exige de manera irremediable la cooperación de la gobernanza digital.

Al respecto, y más allá de cualquier forma de regulación punitiva, las mismas empresas digitales han asumido el compromiso de eliminar o amortiguar los efectos perniciosos en el uso de las redes sociales como lo demuestra la eliminación de “likes” de modo público adoptado por X (exTwitter), quedando esa opción técnica únicamente para el autor de la publicación para evitar el ciberacoso.

En contraste un campo fértil para la aplicación de la circunstancia que agrava la pena en razón del medio tecnológico utilizado (sistema asistido por IA) es el Título XXVI dedicado a los delitos informáticos(ver el capítulo en particular en esta obra). El uso de IA para provocar error en el usuario sobre la identidad, la calidad o condición del interlocutor, por ejemplo, la creación sintética de un operador humano sintético que se presente como empleado de la entidad bancaria bajo la excusa de verificar o actualizar datos personales de acceso al sistema. La creación de perfiles falsos en las redes sociales, la generación de archivos audiovisuales sintéticos en los que aparece la víctima solicitando dinero a sus contactos o a terceros; la falsificación de voces, la suplantación de identidad o cualquier otra forma de engaño informático son posibles gracias a la asistencia de la IA.

En consecuencia, desde el acceso ilegítimo a datos personales, la suplantación de identidad, el uso para la detección de brechas de seguridad en los sistemas informáticos, o la implementación de un agente artificial que pueda operar de manera automatizada para provocar daños informáticos, todos y cada uno de ellos pueden ser potenciados mediante la asistencia de la IA.

3. Palabras finales

El APCP ofrece un modelo alternativo de punición para el empleo de los sistemas computacionales asistidos por la IA aplicados en la criminalidad informática. Sobre este aspecto, el Anteproyecto prioriza la modernización de la regulación de los tipos penales al establecer como una circunstancia de agravación de la pena el empleo de las tecnologías emergentes asistidas por la IA para la ingeniería delictiva. El auge de los delitos informáticos requería la adopción de una regulación autónoma como ocurrió con la introducción del citado Capítulo XXVI que predica la necesidad de replantear cuál es el bien jurídico tutelado, ya que el menoscabo de intereses individuales resulta insuficiente para explicar en toda su correcta dimensión social que estamos frente a delitos pluriofensivos en los que la integridad, la seguridad, la privacidad y el funcionamiento de la estructura conformada por los sistemas informáticos en la sociedad de la tecnología como medios de comunicación, almacenamiento y tratamientos de datos son aspectos trascendentes en la tutela brindada por el derecho represivo.

La previsión de los sistemas algorítmicos sobre los que se basa el funcionamiento de la IA generativa como instrumentos para la comisión de delitos refleja sin duda un avance en la regulación de una realidad social que descansa en gran parte sobre el desarrollo de entornos digitales que potencian la interacción humana, pero también extienden al mismo tiempo las fronteras de los delitos convencionales.

Notas

[1] Doctor en Derecho (UNED- Madrid). Defensor de Casación y Cámara en lo Penal, Contravencional y de Faltas del Poder Judicial de la Ciudad Autónoma de Buenos Aires. Profesor de posgrado de Derecho Penal (UBA, Universidad Austral, Belgrano, Nacional de Mar del Plata, Universidad de Mendoza, Universidad Nacional del Nordeste y Universidad del Salvador). Profesor invitado de distintas universidades extranjeras. Autor del Código Penal de la República Argentina comentado y concordado, 7.^a ed., BdeF, Montevideo/Buenos Aires, 2025; Derecho penal cibernético. La cibercriminalidad y el Derecho penal en la moderna sociedad de la información y la tecnología de la comunicación, BdeF, Montevideo/Buenos Aires, 2017,Evidencia Digital en el Proceso Penal. La investigación forense en el entorno digital y la validez de las garantías judiciales,BdeF, Montevideo/Buenos Aires, 2023; entre otras obras. Director del Suplemento de Derecho Penal y Procesal Penal de ElDial. Miembro Fundador de la Academia Argentina de Ciencias Penales.

[2]Al respecto, Sueiro, Ciberdelitos cometidos mediante códigos QR, «Bluetooth» e Inteligencia Artificial, Hammurabi, Ciudad Autónoma de Buenos Aires, 2023, pp. 126 y ss.

[3]Riquert, “Discursos de odio, Inteligencia Artificial e intervención penal”, Sistema penal e informática, Vol. 6, Marcelo A. Riquert (dirección), Carlos Christian Sueiro (coordinación), Hammurabi, Ciudad Autónoma de Buenos Aires, 2023,pp. 112 y ss.