YouTube Amplia Detecção de Deepfakes para Celebridades de Hollywood
O YouTube anunciou o lançamento de uma ferramenta gratuita de detecção de deepfakes, focada em proteger a imagem de celebridades de Hollywood contra o uso indevido de inteligência artificial. Esta nova funcionalidade visa combater a crescente onda de roubos de identidade e conteúdos manipulados.
Inicialmente, a ferramenta de proteção de imagem, capaz de identificar rostos modificados ou gerados por IA, era destinada a políticos e jornalistas. Contudo, a plataforma agora estende essa segurança à indústria do entretenimento, permitindo que atores e músicos, através de seus representantes, possam identificar e solicitar a remoção de deepfakes.
A medida surge em um momento crucial, com a proliferação de vídeos hiper-realistas de figuras públicas criados com tecnologias avançadas. A capacidade de reproduzir a aparência e voz de pessoas sem consentimento levanta sérias preocupações sobre desinformação e danos à reputação. Conforme divulgado pela AFP, Alon Yamin, CEO da Copyleaks, destacou que essa expansão pelo YouTube representa um avanço significativo na proteção da identidade na era da IA generativa.
Combate à Manipulação Digital se Intensifica
A nova ferramenta do YouTube permite que usuários inscritos busquem conteúdos gerados por IA que reproduzam sua aparência, como deepfakes de seus rostos. Uma vez localizados, os artistas têm a possibilidade de solicitar a remoção desses materiais. Essa iniciativa é vista como um passo importante para coibir o uso malicioso de tecnologias de inteligência artificial.
“A tecnologia que permite reproduzir o rosto, a voz e os gestos de uma pessoa avançou mais rápido do que as salvaguardas ao seu redor, criando uma brecha que agentes mal-intencionados já estão explorando”, afirmou Alon Yamin, diretor-executivo e cofundador da plataforma Copyleaks, à AFP. Ele ressalta que a detecção robusta se tornou essencial.
Exemplos Alarmantes de Deepfakes Ganham Destaque
O lançamento da ferramenta ocorre em paralelo a um aumento de vídeos deepfake chocantes. Recentemente, aplicativos como o Sora da OpenAI e ferramentas da ByteDance foram utilizados para criar vídeos de celebridades falecidas ou em situações fictícias, gerando grande apreensão em Hollywood. Um exemplo notório foi um clipe realista de Brad Pitt e Tom Cruise lutando, criado com a ferramenta Seedance 2.0.
A Motion Picture Association (MPA) já havia instado empresas como a ByteDance a cessarem suas atividades de falsificação, alegando violação de direitos autorais. O YouTube, em resposta, informou estar colaborando com agências de talentos para aprimorar a detecção de imagens problemáticas.
Proteção de Patrimônio e Reputação na Era Digital
Jason Newman, da empresa de representação Untitled Entertainment, elogiou a iniciativa do YouTube, afirmando que fornecer essas ferramentas gratuitamente aos talentos é fundamental para a proteção de seu “patrimônio”. A demanda por uma solução mais eficaz surgiu após reclamações sobre a complexidade dos procedimentos para sinalizar e remover deepfakes na plataforma.
Os riscos associados aos deepfakes são múltiplos, incluindo a disseminação de desinformação, manipulação de mercados e danos à reputação. “Uma detecção robusta já não é opcional”, destacou o responsável da Copyleaks. Sistemas de detecção precisos e atualizados, combinados com procedimentos rápidos de remoção, são cruciais para mitigar o alcance e o impacto desses conteúdos manipulados.
Embora a ferramenta não elimine completamente os deepfakes, ela tem o potencial de dificultar significativamente a circulação de conteúdos manipulados sem serem detectados, protegendo assim a integridade e a imagem das personalidades públicas.
