Como surge uma AI-tocracia
Como surge uma AI-tocracia
O que descobrimos é que em regiões da China onde há mais agitação, isso leva a uma maior aquisição de IA de reconhecimento facial pelo governo
Fonte: https://news.mit.edu/2023/how-ai-tocracy-emerges-0713
Muitos estudiosos, analistas e outros observadores sugeriram que a resistência à inovação é o calcanhar de Aquiles dos regimes autoritários. Tais governos podem falhar em acompanhar as mudanças tecnológicas que ajudam seus oponentes; eles também podem, ao sufocar direitos, inibir a atividade econômica inovadora e enfraquecer a condição de longo prazo do país.
Mas um novo estudo co-liderado por um professor do MIT sugere algo bastante diferente. Na China, a pesquisa descobre, o governo tem implantado cada vez mais tecnologia de reconhecimento facial baseada em IA para suprimir a dissidência; tem sido bem-sucedido em limitar o protesto; e, no processo, estimulou o desenvolvimento de melhores ferramentas de reconhecimento facial baseadas em IA e outras formas de software.
"O que descobrimos é que em regiões da China onde há mais agitação, isso leva a uma maior aquisição de IA de reconhecimento facial pelo governo, subsequentemente, por unidades governamentais locais, como departamentos de polícia municipais", diz o economista do MIT Martin Beraja, que é co-autor de um novo artigo detalhando as descobertas.
O que se segue, como observa o artigo, é que "a inovação em IA consolida o regime, e o investimento do regime em IA para controle político estimula ainda mais a inovação de fronteira".
Os estudiosos chamam esse estado de coisas de "AI-tocracia", descrevendo o ciclo conectado no qual o aumento da implantação da tecnologia baseada em IA reprime a dissidência enquanto também impulsiona a capacidade de inovação do país.
O artigo de acesso aberto, também chamado de "AI-tocracia", aparece na edição de agosto do Quarterly Journal of Economics. Os co-autores são Beraja, que é o Pentti Kouri Career Development Associate Professor of Economics no MIT; Andrew Kao, candidato a doutorado em economia na Universidade de Harvard; David Yang, professor de economia em Harvard; e Noam Yuchtman, professor de gestão na London School of Economics.
Para realizar o estudo, os estudiosos se basearam em vários tipos de evidências que abrangem grande parte da última década. Para catalogar instâncias de agitação política na China, eles usaram dados do Global Database of Events, Language, and Tone (GDELT) Project, que registra feeds de notícias globalmente. A equipe encontrou 9.267 incidentes de agitação entre 2014 e 2020.
Os pesquisadores então examinaram os registros de quase 3 milhões de contratos de aquisição emitidos pelo governo chinês entre 2013 e 2019, de um banco de dados mantido pelo Ministério das Finanças da China. Eles descobriram que a aquisição de serviços de IA de reconhecimento facial e ferramentas de segurança pública complementares - câmeras de vídeo de alta resolução - pelos governos locais saltou significativamente no trimestre seguinte a um episódio de agitação pública naquela área.
Dado que os funcionários do governo chinês estavam claramente respondendo às atividades de dissidência pública ao aumentar a tecnologia de reconhecimento facial, os pesquisadores então examinaram uma questão de acompanhamento: essa abordagem funcionou para suprimir a dissidência?
Os estudiosos acreditam que sim, embora, como observam no artigo, eles "não possam estimar diretamente o efeito" da tecnologia na agitação política. Mas como uma maneira de abordar essa questão, eles estudaram a relação entre o clima e a agitação política em diferentes áreas da China. Certas condições climáticas são propícias à agitação política. Mas em prefeituras na China que já haviam investido pesadamente em tecnologia de reconhecimento facial, tais condições climáticas são menos propícias à agitação em comparação com prefeituras que não fizeram os mesmos investimentos.
Ao fazer isso, os pesquisadores também levaram em conta questões como se ou não maiores níveis de riqueza relativa em algumas áreas poderiam ter produzido maiores investimentos em tecnologias baseadas em IA, independentemente dos padrões de protesto. No entanto, os estudiosos ainda chegaram à mesma conclusão: a tecnologia de reconhecimento facial estava sendo implantada em resposta a protestos passados, e então reduzindo os níveis de protesto futuros.
"Isso sugere que a tecnologia é eficaz em esfriar a agitação", diz Beraja.
Finalmente, a equipe de pesquisa estudou os efeitos do aumento da demanda por IA no setor de tecnologia da China e descobriu que o maior uso de ferramentas de reconhecimento facial pelo governo parece estar impulsionando o setor de tecnologia do país para a frente. Por exemplo, as empresas que recebem contratos de aquisição para tecnologias de reconhecimento facial produzem cerca de 49% mais produtos de software nos dois anos após obterem o contrato do governo do que antes.
"Examinamos se isso leva a uma maior inovação por empresas de IA de reconhecimento facial, e de fato leva", diz Beraja.
Esses dados - do Ministério da Indústria e Tecnologia da Informação da China - também indicam que as ferramentas baseadas em IA não estão necessariamente "sufocando" outros tipos de inovação de alta tecnologia.
Somando tudo, o caso da China indica como os governos autocráticos podem potencialmente alcançar um estado de quase equilíbrio em que seu poder político é aprimorado, em vez de subvertido, quando eles aproveitam os avanços tecnológicos.
"Nesta era da IA, quando as tecnologias não apenas geram crescimento, mas também são tecnologias de repressão, elas podem ser muito úteis" para regimes autoritários, diz Beraja.
A descoberta também tem implicações para questões maiores sobre formas de governo e crescimento econômico. Um corpo significativo de pesquisa acadêmica mostra que as instituições democráticas que concedem direitos geram maior crescimento econômico ao longo do tempo, em parte criando melhores condições para a inovação tecnológica. Beraja observa que o estudo atual não contradiz essas descobertas anteriores, mas ao examinar os efeitos do uso de IA, identifica uma via pela qual os governos autoritários podem gerar mais crescimento do que teriam de outra forma.
"Isso pode levar a casos em que instituições mais autocráticas se desenvolvem lado a lado com o crescimento", acrescenta Beraja.
Outros especialistas nas aplicações sociais da IA dizem que o artigo faz uma valiosa contribuição para o campo.
"Este é um excelente e importante artigo que melhora nosso entendimento da interação entre tecnologia, sucesso econômico e poder político", diz Avi Goldfarb, Rotman Chair in Artificial Intelligence and Healthcare e professor de marketing na Rotman School of Management da Universidade de Toronto. "O artigo documenta um ciclo de feedback positivo entre o uso de tecnologia de reconhecimento facial de IA para monitorar e suprimir a agitação local na China e o desenvolvimento e treinamento de modelos de IA. Esta pesquisa é pioneira na área de IA e economia política. À medida que a IA se difunde, espero que esta área de pesquisa cresça em importância."
Por sua vez, os estudiosos estão continuando a trabalhar em aspectos relacionados a esta questão. Um de seus próximos artigos examina a extensão em que a China está exportando tecnologias avançadas de reconhecimento facial ao redor do mundo - destacando um mecanismo através do qual a repressão governamental poderia crescer globalmente.
O apoio à pesquisa foi fornecido em parte pelo U.S. National Science Foundation Graduate Research Fellowship Program; o Harvard Data Science Initiative; e o programa Global Professorships da British Academy.