O YouTube anunciou o lançamento de novas ferramentas de detecção de IA, projetadas para identificar deepfakes e outros conteúdos gerados artificialmente em sua plataforma. Essa iniciativa faz parte de um esforço mais amplo da empresa para combater a disseminação de vídeos manipulados, especialmente aqueles que utilizam IA para imitar vozes e rostos de pessoas famosas.
As novas ferramentas são capazes de detectar vídeos criados por IA que simulam performances, como cantores famosos que aparecem “interpretando” músicas que nunca gravaram. Esse tipo de conteúdo tem se tornado um desafio crescente, à medida que deepfakes e tecnologias de IA avançam rapidamente, facilitando a criação de vídeos realistas, mas falsos.
O YouTube está se unindo a especialistas e empresas de tecnologia para aprimorar suas capacidades de detecção, enquanto reforça suas políticas de moderação de conteúdo. Criadores de conteúdo que utilizarem IA de forma enganosa ou sem a devida transparência poderão enfrentar penalidades, incluindo a remoção de vídeos e a suspensão de contas.
A medida foi bem recebida por artistas e criadores de conteúdo, que têm expressado preocupações com o uso indevido de suas imagens e vozes. O YouTube espera que essas novas ferramentas ajudem a preservar a integridade da plataforma e a confiança dos usuários, enquanto equilibra o uso criativo e ético da IA.
