Ator descobre versão gerada por IA de sua voz em cena sugestiva
A voz de Clark foi replicada e manipulada por meio da ferramenta generativa de IA da ElevenLabs
Em um mundo onde a tecnologia avança a passos largos, a atriz Allegra Clark teve uma surpresa desconcertante ao encontrar um personagem, ao qual emprestou sua voz, atuando em uma cena sugestiva no TikTok. Esta cena, fruto da engenhosidade da Inteligência Artificial, foi gerada pela ferramenta ElevenLabs, conforme reportado pela Forbes.
Clark, que já deu vida a diversos personagens, incluindo Beidou, uma capitã de navio do jogo "Genshin Impact", expressou sua preocupação à Forbes, temendo que seus clientes pudessem pensar que ela havia participado voluntariamente daquela cena. A voz de Clark foi replicada e manipulada por meio da ferramenta generativa de IA da ElevenLabs. Em um momento de reflexão e busca por respostas, ela escreveu à empresa, compartilhando suas inquietações. "Não apenas isso pode nos causar problemas se as pessoas pensarem que fomos nós que dissemos [essas coisas], mas também é, francamente, muito violador ouvir a si mesmo falar quando não é realmente você", escreveu ela em um e-mail que foi analisado pela Forbes.
A sensação de impotência diante da falta de propriedade pessoal sobre sua própria voz foi algo que Clark destacou. A ElevenLabs, por sua vez, não respondeu imediatamente ao pedido de comentário do Insider. No entanto, o CEO da empresa, Mati Staniszewski, informou à Forbes que os usuários precisam do consentimento explícito da pessoa se o conteúdo criado em sua voz puder ser "prejudicial ou difamatório".
Em um esforço para abordar tais preocupações, a Forbes relatou que a empresa lançou uma ferramenta chamada "voice captcha", que parece ser projetada como uma medida de segurança. A utilização da IA na mídia tornou-se um tema de crescente tensão entre os atores profissionais. Programas avançados de IA generativa têm sido capazes de imitar vozes e rostos de artistas musicais e figuras políticas com precisão surpreendente. Os riscos que esta tecnologia representa para a carreira profissional dos atores têm sido um dos principais temas da greve contínua dos atores de Hollywood.
Os atores esperam conseguir um novo contrato que limite o uso de novas tecnologias de IA pelos estúdios e lhes dê controle sobre suas réplicas digitais.