La startup ElevenLabs permite clonar una voz famosa y hacer que diga un texto predeterminado. Una herramienta que ya ha dado lugar a muchos abusos.
¿Conocías los deepfakes, esos vídeos donde se copiaba la cara de un famoso para que dijera cualquier cosa y todo por un imitador? Pues bien, la startup ElevenLabs acaba de lanzar la primera versión de un programa que completará la parafernalia: una inteligencia artificial capaz de reproducir fielmente la voz de una persona.
Basada en el modelo Dall-E o ChatGPT, la herramienta es muy sencilla: basta con teclear un texto que será recitado por el modelo pregrabado, voces sintéticas pero realistas (solo en inglés por el momento). La idea es, por ejemplo, producir fácilmente audiolibros.
Pero la verdadera fuerza de esta startup, fundada por ex empleados de Google y Palantir, es inspirarse en simples fragmentos de audio, en formato MP3, que el usuario puede enviar al algoritmo. En total, es posible hacerlo funcionar en cincuenta extractos para una misma voz.
Aquí, por ejemplo, está lo que el equipo editorial de Tech&Co logró crear utilizando la voz de Donald Trump, quien de repente se convirtió en fanático de Eddy Mitchell.
Y aquí está Barack Obama quejándose del metro de París.
Esta herramienta, que sin embargo descansa sobre una frágil base legal, obviamente fue rápidamente acogida en los foros donde los usuarios multiplicaron las bromas más o menos sesgadas. “A medida que vemos que nuestra tecnología se usa masivamente de manera positiva, también estamos viendo un número creciente de casos de uso indebido de clonación de voz”, tuiteó ElevenLabs.
Según Vice, Se transmitieron clips con voces de celebridades, incluida la actriz británica Emma Watson pronunciando insultos racistas. Por su parte, ElevenLabs ha decidido actualizar sus reglas de uso: primero, haciendo onerosa la opción de copiar voces existentes (esto te permitirá tener la identidad bancaria de la persona), pero también implementando una herramienta que identificará las voces del programa. .
“Escritora típica. Practicante de comida malvada. Genio zombi. Introvertido. Lector. Erudito de Internet. Entusiasta del café incondicional”.
