TikTok acidentalmente lançou uma versão interna de sua nova ferramenta de avatar digital, permitindo que usuários criassem vídeos com qualquer texto, incluindo discursos de ódio. A falha, descoberta pela CNN, permitiu a geração de vídeos com citações de Hitler e mensagens incitando ações perigosas.

O que aconteceu?

• Lançamento Errado: TikTok postou um link para uma versão interna de seu novo avatar digital sem as devidas restrições.

• Conteúdo Inapropriado: Usuários conseguiram criar vídeos com discursos de ódio e mensagens perigosas, como citação de Hitler e incentivo ao consumo de água sanitária.

• Correção Rápida: TikTok rapidamente retirou a versão problemática do ar. A versão oficial, destinada a anunciantes, permanece disponível.

TikTok Symphony Digital Avatars

A ferramenta Symphony Digital Avatars foi lançada recentemente e permite que empresas criem anúncios usando a imagem de atores pagos, com dublagem impulsionada por IA para fazer os avatares dizerem o que o anunciante quiser, dentro das diretrizes do TikTok. A versão interna descoberta pela CNN, no entanto, permitia o uso por qualquer pessoa com uma conta pessoal.

Declaração do TikTok

Laura Perez, porta-voz do TikTok, afirmou ao The Verge que o "erro técnico" foi resolvido e afetou um número extremamente pequeno de usuários por alguns dias. Segundo Perez, se os vídeos criados pela CNN tivessem sido postados, seriam rejeitados por violar as políticas da plataforma.

Radar Insights:

A falha no lançamento da ferramenta de avatares digitais do TikTok levanta preocupações sobre a capacidade da plataforma de controlar abusos em novas tecnologias. Embora a versão oficial da ferramenta esteja alinhada com as diretrizes da empresa, o incidente mostra como brechas podem ser exploradas, ressaltando a importância de testes rigorosos antes de qualquer lançamento.