En un nou avenç tecnològic que barreja innovació amb preocupació, TikTok ha introduït una eina que permet als usuaris clonar la seva pròpia veu utilitzant intel·ligència artificial . Aquesta funció, encara en fase beta per a la versió d’Android, va ser descoberta per l’analista AssembleDebug, que va explorar les actualitzacions recents de codi de la popular xarxa social.
La funció, anomenada ‘ Clonar la teva veu amb IA ‘, promet replicar la veu de qualsevol usuari amb tan sols 10 segons d’enregistrament d’àudio. Segons captures de pantalla filtrades, una finestra emergent informa els usuaris sobre aquest procés, explicant que necessiten gravar un text breu proporcionat per TikTok. Després, la plataforma processa aquest enregistrament i crea una còpia idèntica que els usuaris poden emprar en els seus vídeos.
Tot i això, aquesta innovació no està exempta de riscos. El potencial d’abús d’una veu clonada és considerable i eleva inquietuds sobre la privadesa i l’ús indegut d’aquesta tecnologia. Tot i que TikTok assegura que la informació de la veu es manté privada i que els usuaris la poden eliminar quan ho desitgin, romanen els dubtes sobre la seguretat a llarg termini d’aquestes dades i què podria fer l’empresa amb l’entrenament rebut a través de les veus recol·lectades .
La funció ‘Biblioteca de veu de TikTok’, on hi ha aquesta eina, encara està en construcció i no s’ha anunciat oficialment quan serà accessible per a tots els usuaris, ni tan sols si aquesta característica arribarà a implementar-se plenament.
L’ús d’intel·ligència artificial per crear deepfakes de veu planteja serioses preguntes ètiques i legals, semblants a les preocupacions que han sorgit amb els deepfakes visuals. Aquesta eina de TikTok podria continuar propagant la pràctica de crear continguts falsificats, fet que subratlla la necessitat d’una regulació més estricta i mesures de seguretat robustes a l’era digital.
Ara com ara, la comunitat en línia i els experts en tecnologia i ètica esperen més informació i claredat de TikTok sobre com planeja manejar aquests desafiaments i protegir els seus usuaris de possibles mals usos de la tecnologia.
