Ley Batres: Quieren cárcel para quien modifique audios de voz con IA

Jijo, mano. Recientemente en la Cámara de Diputados presentaron la bautizada como Ley Batres, una iniciativa que propone cárcel para quien modifique audios de voz con IA.

¿Pero por qué se llama así? Seguro se acuerdan que hace unos días apareció un audio en el que supuestamente Martí Batres, jefe de Gobierno de la CDMX, le tiraba duro a Omar García Harfuch. Bueno pues acá está la venganza respuesta.

¿De qué va la Ley Batres, que pide cárcel por audios hechos con IA?

Este 14 de noviembres diputado Miguel Torruco presentó una iniciativa en la Cámara baja para modificar el Código Penal Federal en “materia de mal uso de la tecnología señalada como inteligencia artificial”. 

Para empezar el texto propone que se contemple el “uso delictivo de la tecnología señalada como inteligencia artificial” y se agregue un capítulo para hablar al respecto. 

Entonces, define la inteligencia artificial como un software que se desarrolla usando estrategias de aprendizaje automático (supervisado y no), basadas en la lógica y el conocimiento, estrategias estadísticas, métodos de búsqueda, optimización, etc. 

Propone de 2 a 8 años de prisión, así como de 100 a 800 días de multa, para quien cometa los siguientes delitos usando IA:

• Modifique videos, audios, rostro de personas, grabaciones de voz y/o escenarios ficticios, con la intención de hacerlos pasar como reales, para afectar las actividades profesionales y personales de una persona o empresa. 
• Generen daño o perjuicio a la imagen o reputación pública de las personas 
• Cometan fraude contra una persona o empresa.
• Las penas aumentarán hasta un quinto cuando la víctima sea menor de edad, personas con discapacidad o en estado de vulnerabilidad.
• Falsificar documentos oficiales para provocar un daño patrimonial.
• Crear, exponer, distribuir, reproducir, transmitir, comercializar, intercambiar imágenes, audios o videos de índole sexual íntimo de una persona o grupo de personas sin su consentimiento, ya sea por medio impreso, correo electrónico, redes sociales o cualquier medio tecnológico.

Ojo, esto no significa que ya es una realidad. Apenas fue presentada en la Cámara de Diputados, así que toca pasar por las comisiones correspondientes, el Pleno y luego el Senado.

El audio de Martí Batres

Pero ¿de qué audio están hablando? Hace algunos días en redes sociales apareció un audio en el que se escucha la voz de Martí Batres, jefe de Gobierno de la CDMX, hablando de la maquinaria para afectar a Omar García Harfuch, quien era aspirante a la candidatura de Morena en la CDMX.

Batres afirmó que el audio fue creado con IA, que clonaron su voz y que no tiene ningún plan macabro entre manos.

Si bien en todo el mundo se habla de que es necesario regular la inteligencia artificial, la idea es hacerlo desde el fondo. Por ejemplo, 8 años de prisión para quien use IA para modificar audios pero ¿cómo se comprobará de manera oficial que se usó IA? ¿cómo se investigará el rastro de la persona que usó IA para estos fines? ¿los MP están capacitados para hacerlo?