Esta es la inteligencia artificial que se estaría usando para falsificar las voces de celebridades
En redes sociales se han hecho virales varios videos de algunos usuarios usando inteligencia artificial para poder falsificar las voces de celebridades y hacer, en ocasiones, que un cantante interprete un tema musical de otro artista.
La empresa ElevenLab lanzó ‘VoiceLab’ hace unos días, una versión beta de su plataforma que le permite a los cibernautas crear nuevas voces sintéticas para poder clonar la voz de alguien.
La plataforma de IA reveló por medio de su cuenta de Twitter que desde el lanzamiento de la versión beta se ha visto un incremento de casos de internautas que han usado la inteligencia artificial del clonamiento de voz de manera inapropiada.
ElevenLab señaló que está pensando una forma de “abordar el problema mediante la implementación de salvaguardas adicionales”.
Al inicio, los usuarios hacían uso de la IA para saber cómo sonaría su artista favorito si interpretara la canción de otro cantante.
VEA TAMBIÉN: ¿Un oso en Marte?: Científicos explican la curiosa fotografía captada en la superficie del planeta rojo
Desde Ariana Grande interpretando ‘Moscow Mule’ de Bad Bunny, Selena Gomez cantando ‘Cardigan’ de Taylor Swift o Ava Max cantando el reciente éxito de Miley Cyrus, ‘Flowers’.
No obstante, aunque todo inició para clonar las voces de algunos artistas para escuchar cómo sonarían cantando el tema de alguien más, los usuarios comenzaron a hacer uso de la herramienta para dar mensajes equivocados y maliciosos, según informó ElevenLab.
Por ello, la plataforma de inteligencia artificial aseguró que, para evitar este tipo de comportamientos, ‘VoiceLab’ dejará de ser gratis.
“Esto mantendrá nuestras herramientas accesibles y nos permitirá luchar contra el posible uso indebido. Los detalles de pago no siempre evitarán el abuso, pero hacen que los usuarios de VoiceLab sean menos anónimos y los obligan a pensar dos veces antes de compartir contenido inapropiado”, expresó ElevenLab en su cuenta de Twitter.
Además, informó que están rastreando el contenido dañino “que se nos informa en las cuentas desde las que se originó y estamos prohibiendo esas cuentas por violar nuestra política”.
“Continuaremos monitoreando la situación. Honramos nuestros compromisos con nuestros usuarios y, en caso de que necesitemos eliminar alguna función en el futuro, todas las cuentas afectadas tendrán derecho a un reembolso completo”, añadió.