A inteligência artificial (IA) pode criar uma "distopia", alerta ministro do governo do Reino Unido
A inteligência artificial (IA) pode criar uma "distopia", alerta ministro do governo do Reino Unido
Matt Clifford disse que mesmo os riscos de curto prazo são "bastante assustadores"
A inteligência artificial (IA) poderia criar uma "distopia", advertiu um ministro do governo, após o conselheiro de Rishi Sunak sobre a tecnologia afirmar que ela poderia se tornar poderosa o suficiente para "matar muitos humanos" em apenas dois anos.
Matt Clifford disse que mesmo os riscos de curto prazo são "bastante assustadores", com a IA tendo o potencial de criar armas cibernéticas e biológicas que poderiam causar muitas mortes. Isso acontece enquanto Sunak se dirige aos EUA, onde ele tentará persuadir o presidente Joe Biden de seu "grande plano" para o Reino Unido estar no centro da regulamentação internacional da IA.
O primeiro-ministro quer que a Grã-Bretanha hospede um órgão de controle para a IA semelhante à Agência Internacional de Energia Atômica e também proporá um novo órgão internacional de pesquisa.
Paul Scully, ministro da tecnologia e economia digital, disse à Conferência de Liderança em Política de Tecnologia da TechUK na terça-feira que não deveria haver apenas um foco em um "cenário ao estilo do Exterminador do Futuro".
Ele disse: "Se errarmos, há um ponto de vista distópico que podemos seguir aqui. Há também um ponto de vista utópico. Ambos podem ser possíveis. Se você está apenas falando sobre o fim da humanidade por causa de algum cenário descontrolado, ao estilo do Exterminador do Futuro, você vai perder todos os benefícios que a IA já está proporcionando - como está mapeando proteínas para nos ajudar com pesquisas médicas, como está nos ajudando com as mudanças climáticas. Todas essas coisas que ela já está fazendo e só vai melhorar. Temos que dar um tempo para garantir que estamos acertando isso para toda a sociedade, bem como para o benefício do setor."
Clifford disse que, a menos que os produtores de IA sejam regulados em escala global, poderia haver sistemas "muito poderosos" que os humanos poderiam ter dificuldade em controlar.
A intervenção de Clifford ocorre após uma carta apoiada por dezenas de especialistas de alto nível - incluindo muitos dos pioneiros da IA - alertar que os riscos da tecnologia deveriam ser tratados com a mesma urgência que pandemias ou guerra nuclear.
Altos executivos do Google DeepMind e Anthropic assinaram a carta junto com o chamado "padrinho da IA", Geoffrey Hinton. Hinton renunciou ao seu cargo no Google no início deste mês - alertando que, nas mãos erradas, a IA poderia significar o fim da humanidade.
Clifford está aconselhando Sunak no desenvolvimento de uma força-tarefa governamental que está investigando modelos de linguagem de IA, como o ChatGPT e o Google Bard, e também é presidente da Advanced Research and Invention Agency (Aria).
Ele disse à TalkTV: "Os riscos de curto prazo são realmente bastante assustadores. Você pode usar a IA hoje para criar novas receitas para armas biológicas ou para lançar ataques cibernéticos em larga escala. Essas são coisas ruins."
O conselheiro do número 10 acrescentou: "O tipo de risco existencial de que acho que os escritores da carta estavam falando é... sobre o que acontece uma vez que efetivamente criamos uma nova espécie, uma inteligência que é maior que os humanos."
Embora admitindo que um prazo de dois anos para os computadores superarem a inteligência humana estava no "final otimista do espectro", Clifford disse que os sistemas de IA estavam se tornando "cada vez mais capazes a uma taxa cada vez maior".
Perguntado sobre qual porcentagem de chance ele daria de que a humanidade poderia ser exterminada pela IA, Clifford disse: "Acho que não é zero."
Ele continuou: "Se voltarmos para coisas como as armas biológicas ou cibernéticas, você pode ter ameaças realmente muito perigosas aos humanos que poderiam matar muitos humanos - não todos os humanos - simplesmente de onde esperaríamos que os modelos estivessem em dois anos. Acho que o foco agora é como garantir que sabemos como controlar esses modelos, porque agora não sabemos."
Os aplicativos de IA se tornaram virais online, com usuários postando imagens falsas de celebridades e políticos, e estudantes usando o ChatGPT e outros "modelos de aprendizado de idiomas" para gerar ensaios de nível universitário.
Mas a IA também pode realizar tarefas que salvam vidas, como algoritmos que analisam imagens médicas, como raios-X, varreduras e ultrassonografias, ajudando os médicos a identificar e diagnosticar doenças como câncer e condições cardíacas de forma mais precisa e rápida.
Clifford disse que a IA, se usada da maneira correta, poderia ser uma força para o bem. "Você pode imaginar a IA curando doenças, tornando a economia mais produtiva, nos ajudando a chegar a uma economia neutra em carbono", disse ele.
Além de um novo regulador global baseado em Londres, Sunak está ansioso para que o Reino Unido sedie uma cúpula internacional de IA neste outono, de acordo com a Politico.
O primeiro-ministro também sugerirá a Biden que um novo órgão internacional de pesquisa, semelhante ao instituto CERN que existe para a física de partículas, seja criado para a IA.
O porta-voz oficial do primeiro-ministro disse que não queria "antecipar" a conversa de Sunak com Biden - mas disse que o Reino Unido poderia se tornar um líder global tanto na nova tecnologia quanto nos sistemas regulatórios para a IA.
"Não somos complacentes sobre os potenciais riscos da IA. Igualmente, ela apresenta oportunidades significativas para o povo do Reino Unido. O Reino Unido está procurando liderar o caminho neste espaço", disse o porta-voz do número 10, acrescentando: "Você não pode procurar avançar com a IA sem ter as devidas salvaguardas em vigor."
O ex-líder conservador William Hague disse que é do interesse de ambos os países cooperar em uma supervisão mais forte. "Se os EUA e o Reino Unido pudessem trabalhar juntos em tal regulamentação, mantendo-se mais ágeis do que as abordagens contrastantes na UE e na China, eles poderiam criar um modelo transatlântico de boa governança", escreveu ele no The Times.
O Partido Trabalhista está pressionando para que os ministros proíbam os desenvolvedores de tecnologia de trabalhar em ferramentas avançadas de IA, a menos que tenham recebido uma licença.
A secretária de cultura sombra, Lucy Powell, que deve falar na conferência da TechUK sobre IA na terça-feira, disse ao The Guardian que a IA deveria ser licenciada de maneira semelhante aos medicamentos ou à energia nuclear. "Esse é o tipo de modelo que deveríamos estar pensando", disse ela.