O CEO da OpenAI, Sam Altman, frequentemente fala sobre o "ser humano mediano"
O CEO da OpenAI, Sam Altman, frequentemente fala sobre o "ser humano mediano"
AGI ou inteligência artificial geral foi definida como um modelo de IA que supera a inteligência humana média
Fonte: https://www.businessinsider.com/sam-altman-thinks-agi-replaces-median-humans-2023-9
Os "tech bros" nem sempre são conhecidos por sua sensibilidade. Em um perfil recente no New Yorker, o CEO da OpenAI, Sam Altman, comparou sua visão de AGI — inteligência artificial geral — a um "ser humano mediano". Ele disse: "Para mim, AGI... é o equivalente a um ser humano mediano que você poderia contratar como colega de trabalho."
Não é a primeira vez que Altman se refere a um ser humano mediano. Em um podcast de 2022, Altman disse que essa IA poderia "fazer qualquer coisa que você ficaria satisfeito com um colega de trabalho remoto fazendo apenas atrás de um computador, o que inclui aprender a ser médico, aprender a ser um programador muito competente."
A empresa de Altman acontece de ser uma das atuais líderes na corrida para alcançar a AGI. Embora seja um termo contestado, AGI ou inteligência artificial geral foi definida como um modelo de IA que supera a inteligência humana média ou pode alcançar capacidades humanas complexas, como senso comum e consciência.
A comparação com a inteligência humana mediana não é nova. Como a escritora Elizabeth Weil observa em seu perfil sobre Altman, o termo é usado por "muitos na bolha da tecnologia". O termo é usado por insiders de IA no Reddit, Twitter e em blogs. Um relatório de agosto da McKinsey adotou benchmarks semelhantes, incluindo um gráfico de capacidades técnicas onde se espera que a IA generativa alcance o "nível mediano de desempenho humano" até o final da década.
No entanto, o termo, especialmente quando usado por aqueles no comando de modelos poderosos de IA como o GPT-4 da OpenAI, tem causado estranheza. "Comparar a IA à ideia de seres humanos medianos ou médios é um pouco ofensivo", disse Brent Mittelstadt, diretor de pesquisa do Oxford Internet Institute. "Vejo a comparação como preocupante e a terminologia também."
"É interessante usar o termo ser humano mediano — isso é diferente de ser humano médio", disse Henry Shevlin, um eticista de IA e professor da Universidade de Cambridge. "Isso torna a citação mais desconfortável." "Há um argumento para pensar que Sam Altman poderia ser mais sensível em relação a isso", acrescentou.
No entanto, Shevlin disse que o perfil não foi feito para ser um artigo científico e algum nível de quantificação era necessário no campo complexo. "Uma coisa que as atuais arquiteturas e modelos de IA mostraram é que eles podem alcançar basicamente o desempenho típico humano. Isso não é problemático em si", disse ele. "Sinto que quando entramos em coisas como inteligência, as pessoas são mais sensíveis, e há boas razões para isso."
Uma razão é que a prática de tentar quantificar a inteligência foi manchada pelo racismo científico, embora, Shevlin acrescentou, não seja inerentemente problemático em si. Como os "tech bros" estão definindo essa ideia de intelecto humano mediano é uma questão em aberto.
Mittelstadt disse que a ligação raramente era respaldada em termos de uma "comparação mensurável concreta da inteligência humana". Ele disse: "Acho que é um conceito intencionalmente vago em comparação com ter um significado muito específico e fundamentado."
"Há todos esses diferentes benchmarks que são usados para avaliar o desempenho de modelos de linguagem ou AGI", disse ele. "Eles podem estar se referindo ao QI, por exemplo, mas então há todos os tipos de problemas com isso."
Medidas tradicionais para comparar a IA e a inteligência humana tendem a se concentrar em capacidades em vez de intelecto geral. "Muitos dos benchmarks clássicos envolveram coisas como a capacidade de jogar xadrez, a capacidade de produzir um bom código ou a capacidade de passar por um humano", disse Shevlin.
Mas comparar a IA com a inteligência humana de qualquer forma pode ser eticamente duvidoso e potencialmente enganoso, de acordo com Mittelstadt. "O problema é que você está diretamente equiparando o desempenho desses sistemas com capacidades humanas ou com a inteligência humana", disse ele. "Isso é um salto problemático a se fazer porque de repente você está atribuindo agência, compreensão, cognição ou raciocínio a esses modelos mecanicistas."