La cuenta gratuita solo deja cambiar 5 voces. El desarrollador invita a que se acceda a la opción con responsabilidad y no para crear estafas.

En la actualidad las personas tienen disponibles recursos digitales que utilizan la tecnología de inteligencia artificial para realizar actividades diversas o ejecutar tareas de manera recurrente. Se cuenta con generadores de imágenes, música, video, texto, además de otras que se dedican a otras actividades como el paso de texto a voces sintéticas que son usadas para crear audiolibros.

Sin embargo, la capacidad de generar una voz falsa a la que se puede dar cualquier guion llegó aun punto en el que posiblemente la herramienta se volvió peligrosa, sobre todo para las celebridades pues se ha creado una inteligencia artificial con la capacidad de clonar la voz de una persona real y a la que se puede obligar a decir cosas que jamás fueron mencionadas por la persona real.

Según algunos reportes de usuario del foro conocido como 4chan, esta inteligencia artificial creada por la compañía ElevenLabs estaba siendo utilizada para realizar deepfakes de audio de famosos para emitir comentarios violentos o pornográficos.

La empresa se encargó de desarrollar el software que permite la generación de este tipo de contenidos y crear un programa abierto de pruebas beta, por lo que cualquier persona que ingrese a su página web tendrá la posibilidad de probar las capacidades de la herramienta. A diferencia de otros programas de creación de voces sintéticas, las que crea ElevenLabs presentan una mayor naturalidad y fluidez en lugar de tener una apariencia robótica.

Pero la posibilidad de crear pistas de audio naturales está siendo aprovechada para hacer un mal uso de esta tecnología que permite sintetizar las voces de grabaciones previas de personas, subirlas al sistema de la inteligencia artificial y hacer que estas digan cosas que jamás fueron mencionadas por los personajes reales. Es por ello que la empresa se pronunció al respecto en su cuenta oficial de Twitter.

“Gracias a todos por probar nuestra plataforma Beta. Si bien vemos que nuestra tecnología se aplica abrumadoramente al uso positivo, también vemos un número creciente de casos de uso indebido de clonación de voz”, indicó ElevenLabs, que también afirmó que tiene la capacidad de rastrear cualquier clip de audio hacia el usuario que lo creó.

Crazy weekend – thank you to everyone for trying out our Beta platform. While we see our tech being overwhelmingly applied to positive use, we also see an increasing number of voice cloning misuse cases. We want to reach out to Twitter community for thoughts and feedback!

— ElevenLabs (@elevenlabsio) January 30, 2023

¿Cómo funciona el sintetizador de voces?

En principio, si bien ElevenLabs ha dado acceso libre a la prueba beta del software desde su página web, no ha liberado todas sus funciones al público. Específicamente la que está destinada a clonar voces, llamada “VoiceLab – Cloning”, requiere de una suscripción de pago, aunque también se puede realizar una prueba gratuita y posteriormente pagar entre 5 y 330 dólares por mes para mantener la herramienta disponible.

Una vez dentro de la web de esta herramienta, los usuario podrán hacer clic en un botón llamado “Añadir una voz instantánea”, que habilitará una ventana adicional en la que se tendrá que subir un archivo de audio con la voz que se busca clonar. El requisito mínimo para esto es que el audio deberá tener al menos un minuto en el que se pueda escuchar claramente la voz del personaje elegido.

Luego de haberla subido al sistema, el software conducirá a los usuarios a una sección de la aplicación que permitirá seleccionar la voz subida, configurar algunas opciones de generación como el acento o la claridad de la voz, y finalmente un área en la que se podrá introducir el texto que la inteligencia artificial leerá con la voz que se desee.

Las personas que tengan una cuenta gratuita solo podrán generar 5 voces personalizadas y crear clips de audio de hasta máximo 10.000 caracteres de texto de manera mensual.