TikTok Remove Configuração de Remixagem por IA Após Críticas

O TikTok tomou a decisão de remover a configuração controversa de remixagem por IA, conforme confirmado pela empresa à CNET na última quinta-feira. Este movimento marca uma mudança significativa em relação à trajetória da plataforma, que vinha buscando integrar a inteligência artificial em diversas funcionalidades. Inicialmente, o TikTok introduziu essa configuração como uma experiência para testar um criador de memes impulsionado por IA, inspirado nos vídeos e clipes populares da plataforma. Essa nova funcionalidade, denominada meme remixer, permitia que qualquer usuário que visualizasse seu vídeo no TikTok criasse uma imagem gerada por IA a partir dele, alterando o rosto ou o cenário. O recurso era ativado automaticamente, exceto se o usuário desativasse explicitamente.

Reações dos Criadores e Preocupações com a Privacidade

Criadores de conteúdo que descobriram essa nova configuração no aplicativo expressaram preocupações, especialmente sobre a utilização de seus dados. “Não deveria ser tão difícil nos permitir desativar isso com uma única configuração”, afirmou Sean Szolek-Van Valkenburgh em um de seus vídeos. Embora os criadores entreguem certos direitos ao postar conteúdo em plataformas, eles defendem que deveria haver uma opção clara para limitar a exploração de seu trabalho pela IA.

A Expansão da IA nas Redes Sociais

O TikTok tem introduzido recursos de IA há alguns anos. Um exemplo é o ícone translúcido acima das fotos de perfil, representando Tako, o assistente de IA do TikTok. Apesar disso, a plataforma, assim como outras redes sociais, enfrenta críticas pelo uso de IA, com criadores temendo que seu conteúdo original seja sufocado por produções geradas artificialmente. Além disso, preocupações ambientais, legais e éticas são frequentemente levantadas. Mesmo assim, empresas como TikTok, Snapchat e Meta, que controla Instagram e Facebook, continuam a investir em IA.

Desafios e Políticas de Conteúdo da IA

Se o recurso de remixagem não fosse desativado, um usuário poderia, por exemplo, criar uma imagem de IA de você em uma praia, a partir de um vídeo seu em uma cafeteria, e compartilhar essa imagem nos comentários do vídeo original. O TikTok afirmou que, mesmo permitindo essa remixagem, os vídeos não seriam usados para treinar seus modelos de IA. Além disso, a política geral de IA da empresa exige que qualquer conteúdo editado ou criado inteiramente por IA siga suas diretrizes comunitárias.

Implicações e Riscos dos Conteúdos Editados pela IA

As regras do TikTok proíbem especificamente conteúdo que “induz os usuários a acreditar em algo falso”, especialmente quando isso envolve “fontes autoritativas falsas ou eventos de crise, ou ainda figuras públicas em contextos falsos”. Isso implica que deepfakes são proibidos na plataforma. Conteúdos editados por IA têm uma marca d’água invisível, em conformidade com o padrão C2PA. Contudo, com modelos de imagem e vídeo de IA cada vez mais avançados, fica difícil para os usuários discernir entre o que é real e o que foi gerado artificialmente.

Conclusão

Embora as políticas de IA do TikTok possam parecer adequadas no papel, o verdadeiro teste está em sua aplicação. Criadores como Georgie, conhecido como soupytime, destacam que já é fácil repostar ou roubar vídeos virais, e que a nova ferramenta de IA poderia facilitar ainda mais a criação de deepfakes de criadores conhecidos sem seu consentimento. Isso pode ser perigoso, como demonstrado por incidentes com o Grok AI no X. Sem precauções adequadas, é simples para usuários das redes sociais transformarem fotos e vídeos compartilhados online em conteúdos abusivos e ilegais.