Antes de que se implementara la clonación de voz con IA, la única manera en que se podía utilizar la voz de alguien famoso en un material audiovisual era contratando los servicios de la persona en cuestión o recurriendo a los servicios de alguien que pudiera imitar las características particulares de su voz.
Fue con la llegada de la inteligencia artificial que surgieron programas para clonar la voz, los cuales gracias a sus potentes capacidades permiten recrear casi a la perfección la voz de cualquier persona.
Pero los problemas no se hicieron esperar, ya que de la misma manera en que ha pasado con las imágenes, muchos artistas han mostrado su descontento en que su voz este siendo replicada por terceros con IA para diferentes fines.
Sin embargo, parece que México está en proceso de implementar una solución a esta problemática.
¿Qué es la Clonación de Voz con IA?
Qué es la Clonación de Voz con IA
Clonar una voz con IA es un proceso en el que intervienen modelos algorítmicos para generar una réplica del habla de una persona, imitando su timbre, ritmo y emociones.
Cabe mencionar que esta técnica pertenece a una rama de la inteligencia artificial conocida como síntesis de voz, la cual permite que puedas convertir texto en audio y dotar a la voz generada de un alto nivel de realismo.
Gracias a las redes neuronales profundas y técnicas avanzadas de interpolación de sonidos, la síntesis de voz puede recrear voces personalizadas con una increíble fidelidad.
Con este resultado no es de extrañar que los programas de clonación de voz con IA estén provocando una revolución en el sector audiovisual, pudiendo también ser usados para automatizar narraciones, crear asistentes virtuales, dotar voces sintéticas de características humanas y traducir doblajes.
Clonación de Voz con IA Podría ser un Delito en México
Tomando en cuenta todo lo que puede hacerse con esta herramienta de IA para generar una reproducción fiel de la voz de una persona, era cuestión de tiempo para que este componente del ser humano comenzará a considerarse como un dato biométrico sensible.
De ahí que México sería uno de los primeros países en hacer algo al respecto para proteger su integridad.
Se trata de una iniciativa de carácter legislativo que estaría enfocada en regular el uso de sistemas de inteligencia artificial en tareas de locución, animación, doblaje, comerciales, series, entre otros contenidos que incluyan voz.
A través de esta propuesta se buscaría prevenir que alguien se tome la atribución de clonar la voz de otra persona de forma no autorizada con IA. De hacerlo la persona estaría incumpliendo derechos de propiedad intelectual.
Beatriz Mojica Morga, presidenta de la Comisión de Cultura es la responsable de este proyecto, el cual ya se estudia en las Comisiones Unidas de Cultura y de Estudios Legislativos.
Dentro de los puntos que plantea este decreto está el de reformar los artículos 21 y 27 correspondientes a la Ley Federal del Derecho de Autor (LFDA).
Respecto a esto Mojica expresó que esta medida buscaría ampliar los derechos morales y patrimoniales de los autores de voz al otorgarles la posibilidad de negarse a que otra persona pueda realizar la clonación de su voz con IA sin su autorización.
De igual forma la encargada de la Comisión de Cultura buscaría la reforma del artículo 117 a fin de permitir que los artistas de voz puedan apelar a ella para rechazar cualquier acción que se lleve a cabo con las grabaciones que contengan su voz, bien sea de forma parcial o total.
Cómo Funciona la Clonación de Voz con IA
Todo inicia con el proceso de recopilación de muestras, las cuales son analizadas para encontrar en ellas patrones acústicos y fonéticos con ayuda de algoritmos de interpolación de sonidos.
Programas de clonación de voz con IA como VITS y WaveNet son entrenados con este tipo de muestras, de modo que luego puedan generar una voz natural y usarla en cualquier proyecto audiovisual que requiera narración, locución o doblaje.
Todo esto en cuestión de segundos, reduciendo así los costos y potenciando la eficiencia de este procedimiento.
Aun así, aunque las herramientas de IA para clonar la voz te brinden la oportunidad de recrear voces famosas del mundo del doblaje, videojuegos o comerciales, esto puede dar paso a usos no autorizados.
En especial, si estas voces son distribuidas en plataformas digitales que no tengan mecanismos de verificación.
Deepfakes de Voz También Serán Incluidos en la Propuesta
Sumado a todo lo mencionado anteriormente, Beatriz Mojica Morga espera también que con su iniciativa se puedan establecer protocolos para penalizar los deepfakes de audio, así como audios manipulados y tomarlos como una infracción de derechos de autor.
Esto se haría a través de un mecanismo conocido como notice & takedown, el cual brindaría a artistas de voz el amparo legal necesario para solicitar la eliminación de contenidos audiovisuales que contengan sus voces sin autorización en todas las plataformas donde sean publicados.
En el caso del doblaje, Mojica señaló que este tiene una personalidad que vive en el oído del público y esto es lo que le da su valor.
De modo que alguien que utiliza un programa de clonación de voz con IA para replicarla, no solo perjudica el trabajo de la persona dueña de esa voz, sino también vulnera la confianza que soporta todo el sistema.
No solo Penalizar Voces Clonadas
No solo Penalizar Voces Clonadas
El proyecto propuesto por Mojica no solo se enfocaría en criminalizar la clonación de voz con IA, sino también la generación de voces sintéticas que aludan a voces reconocibles.
Las sanciones impuestas por este procedimiento estarían apegadas al mecanismo de reparación mínima del daño establecida en el artículo 216 bis de la LFDA, el cual expresa lo siguiente:
La reparación del daño material y/o moral, así como la indemnización por daños y perjuicios por violación a los derechos que confiere esta Ley, en ningún caso será inferior al 40% del precio de venta al público del producto original o de la prestación original de cualquier tipo de servicios que impliquen violación a alguno de los derechos tutelados por esta Ley.
Vacíos Legales y Retos Regulatorios
Actualmente, las leyes en México solo abordan aspectos generales de derechos de imagen y protección de datos personales, dejando por fuera regulaciones que tomen en cuenta la voz como propiedad intelectual.
Mientras tanto, la Unión Europea cuenta con la Ley de IA que invita al uso responsable de tecnología de voz artificial.
Por su parte, en EEUU están impulsando un decreto conocido como No AI FRAUD Act para penalizar aquellos delitos que involucren la clonación de voz con el fin de reducir el número de fraudes ocurridos por esta causa.
De modo que cada día que pasa en México sin una legislación en materia de clonación de voz con IA, no solo el trabajo de los artistas de voz se ve perjudicado, sino también se incrementan el número de fraudes digitales llevados a cabo con la recreación de voces.
Artistas de Voz en México Hacen un Llamado de Atención
En el mes de julio locutores, músicos, actores de doblaje y productores llevaron a cabo en México una marcha bajo la consigna de «Una sola voz».
En ella denunciaron y expusieron la fragilidad de su trabajo frente a una tecnología que puede clonar, recrear o reemplazar sus voces sin necesidad de tener su consentimiento para hacerlo ni recibir compensación por ello.
También solicitaron que se implemente una regulación que ampare sus derechos laborales y proporcione instrumentos que permitan a las personas afectadas por la clonación de voz con IA realizar denuncias.
Tras estar al tanto de la convocatoria hecha por los artistas de voz, la presidenta de México, Claudia Sheinbaum expresó su respaldo a este gremio.
Además, les hizo saber que se reuniría con la Consejería Jurídica y la Secretaría de Cultura para programar una reunión con miembros de ese sector.
Con esto Sheinbaum espera poder diseñar un esquema que brinde protección a las personas que usan la voz como medio de sustento para que no sea replicada por terceros a través de herramientas de clonación de voz con IA.
Tomando en cuenta que México abarca alrededor de un 65% del mercado de doblaje en América Latina, resulta irónico que el país no cuenta con leyes que regulen el uso de la IA para replicar voces conocidas y que protejan los derechos de este tipo de artistas.
Puntos Clave
- La clonación de voz con IA ejerce su trabajo con ayuda de modelos algorítmicos y redes neuronales profundas que se encargan de imitar timbre, ritmo y emociones para recrear una voz en específico.
- En México se ha propuesto efectuar una reforma en la ley federal del derecho de autor de modo que se protejan las voces de aquellos artistas que utilizan su voz como herramienta de trabajo para evitar que sean replicadas con software de clonación de voz con IA.
- Esta reforma de ley propone también considerar los deepfakes de audio y los audios manipulados como material que infringe el derecho de autor asociado con los artistas de voz.
- El sindicato de artistas, locutores y actores de doblaje marcharon para solicitar al gobierno implemente acciones a nivel legislativo para proteger su voz y evitar que siga siendo aprovechada por terceros con fines comerciales o maliciosos.
