CEO da Palantir, Alex Karp, se preocupa com o desenvolvimento de armas de IA
Não podemos nos tornar complacentes, disse o CEO
Em março, vários executivos de tecnologia e negócios - incluindo Elon Musk e Steve Wozniak - assinaram uma carta aberta pedindo uma pausa no desenvolvimento avançado de IA, pois o lançamento do GPT-4 da OpenAI causou um grande impacto na indústria. A carta veio como um alerta sobre tudo, desde a capacidade da IA de perturbar empregos até temores mais existenciais em torno da IA causando desinformação generalizada.
Mas Alex Karp, CEO bilionário da Palantir, diz que esses medos são secundários aos benefícios da IA, particularmente quando se trata de usar a tecnologia para proteger os Estados Unidos por meio de aplicações militares. Em um recente artigo de opinião do New York Times, Karp delineou por que acredita que precisamos continuar avançando com o desenvolvimento de IA para integrar adequadamente a tecnologia com as "redes elétricas, de defesa e de inteligência" do país.
"Na ausência de entendimento, a reação coletiva aos primeiros encontros com essa tecnologia inovadora tem sido marcada por uma mistura inquieta de admiração e medo", escreveu ele. "No entanto, não devemos nos esquivar de construir ferramentas afiadas por medo de que possam ser usadas contra nós."
"Nossos adversários não vão parar para se entregar a debates teatrais sobre os méritos do desenvolvimento de tecnologias com aplicações militares e de segurança nacional críticas. Eles vão prosseguir", acrescentou.
Ele disse que o debate atual era semelhante ao "momento Oppenheimer", comparando o desenvolvimento da IA ao das armas nucleares. "Não devemos nos tornar complacentes", escreveu ele. "Teremos novamente que escolher se prosseguimos com o desenvolvimento de uma tecnologia cujo poder e potencial ainda não compreendemos totalmente."
Embora tenha havido alguns esforços para amenizar os medos existentes em torno da IA - sete das maiores empresas de IA, incluindo OpenAI, Google e Amazon, concordaram em fazer "compromissos voluntários" com a administração Biden no que diz respeito a ferramentas de IA mais seguras - outros especialistas ecoaram os sentimentos de Karp de forma mais ampla.
Yann LeCun, cientista-chefe de IA da Meta, referiu-se à ideia de que o desenvolvimento desenfreado da IA poderia ameaçar a humanidade como "absurdamente ridículo", enquanto Bill Gates e Marc Andreessen expressaram a necessidade de continuar avançando com o desenvolvimento.
"Não devemos tentar impedir temporariamente as pessoas de implementar novos desenvolvimentos em IA, como alguns propuseram", escreveu Gates no início deste mês. "Os cibercriminosos não vão parar de criar novas ferramentas. Nem as pessoas que querem usar a IA para projetar armas nucleares e ataques bioterroristas. O esforço para detê-los precisa continuar no mesmo ritmo."
Andreessen, que é investidor em várias startups de IA, disse que o maior risco relacionado à IA agora é que "a China ganhe a dominação global da IA", acrescentando que "os Estados Unidos e o Ocidente devem se inclinar para a IA o máximo que pudermos."
Karp, é claro, tem um interesse particular em implementar a IA no exército. Como ele escreveu no Times, as plataformas de sua empresa são usadas para "seleção de alvos, planejamento de missões e reconhecimento por satélite."
"A profundidade do engajamento com e a demanda por nossa nova Plataforma de Inteligência Artificial é sem precedentes", disse Karp no relatório de ganhos do primeiro trimestre da Palantir, divulgado em maio.
A ação da empresa deve subir 54% no próximo ano, previu Dan Ives, diretor de pesquisa de ações da Wedbush Securities, dizendo que a "fortaleza de IA" da empresa é "inigualável".