Poderiam avisos no Instagram ajudá-lo a identificar influenciadores gerados por IA?
Postagens feitas pela IA terão um rótulo acompanhante explicando que a IA desempenhou um papel na criação da postagem
O Instagram poderia estar trabalhando em um recurso que notificaria os usuários quando a IA criou parcial ou totalmente uma postagem que eles encontram. De acordo com uma postagem do pesquisador de aplicativos Alessandro Paluzzi, as postagens feitas pela IA terão um rótulo acompanhante explicando que a IA desempenhou um papel na criação da postagem.
Mas os rótulos poderiam ajudar as pessoas a identificar quando a IA generativa cria uma conta inteira? Três influenciadores populares no Instagram acumularam mais de oito milhões de seguidores e receberam negócios de marcas no valor de milhões de dólares. No entanto, todos os três são gerados por IA. Lil Miquela, Imma e Shudu são influenciadores do Instagram cujas fotos são geradas por IA.
Cada influenciador digital é o produto de uma empresa de tecnologia que emprega designers gráficos e artistas digitais para criar imagens dos influenciadores com a ajuda da inteligência artificial. Os influenciadores digitais são atraentes para as marcas e empresas de marketing porque reduzem os custos associados às viagens, eliminam as barreiras linguísticas e podem mudar sua aparência para se conformar a qualquer marca num piscar de olhos.
Mais importante ainda, os influenciadores digitais não representam um risco para a marca. Eles não têm opiniões ou valores políticos e não têm tweets questionáveis de dez anos atrás. Não há nada que um influenciador digital possa fazer que colocaria em risco a integridade de uma marca.
Além disso, os influenciadores digitais não podem envelhecer ou fazer algo em sua aparência que não esteja alinhado com os valores de uma marca. Por exemplo, Lil Miquela tem 19 anos desde que criou sua conta no Instagram em 2016. Desde então, ela colaborou com celebridades, apareceu em capas de revistas e arrecadou milhões de dólares.
Mas quando as pessoas passam rapidamente pelas postagens de Lil Miquela, quantas podem dizer imediatamente que ela é gerada por IA? Especialistas dizem que não são muitos. Os jovens são particularmente impressionáveis, e o conteúdo que veem online molda sua visão de si mesmos e do mundo ao seu redor.
E com influenciadores digitais, eles podem parecer perfeitos e viver uma vida ideal em todos os momentos, o que poderia aumentar as pressões e sentimentos desconfortáveis que os adolescentes obtêm ao rolar as redes sociais. Portanto, cabe ao Instagram "denunciar" Lil Miquela como uma influenciadora gerada por IA, seus "proprietários", ou aos usuários do Instagram para melhor julgar o conteúdo que consomem? O governo diz que deveria criar novas agências para manter a Big Tech em padrões mais rigorosos.
A Big Tech diz que tal regulamentação poderia sufocar a inovação, e muitos usuários acreditam que a responsabilidade recai sobre as empresas de tecnologia e mídia social. Os rótulos de conteúdo gerados por IA não seriam a primeira vez que o Instagram tentou ajudar os usuários a entender melhor o conteúdo que encontram. Em 2020, durante os auge da pandemia de COVID-19, o Instagram bloqueou hashtags que espalhavam desinformação sobre vacinas e fornecia aos usuários informações confiáveis sobre COVID-19 e as vacinas.
Mas a IA generativa não é tão simples quanto fornecer links para o Serviço Nacional de Saúde ou os Centros de Controle e Prevenção de Doenças. A IA pode ser mais difícil de detectar e conter, e as empresas de tecnologia devem combater os possíveis perigos da desinformação propagada pela IA generativa.