Chatbots são as redes sociais em esteróides, nos prendendo em uma teia ainda mais emaranhada
Sua produção pode potencialmente dominar ou superar as plataformas em que confiamos para notícias
No início, havia a Internet, que foi ligada pela primeira vez em janeiro de 1983 e projetada desde o início como uma plataforma para o que se tornou conhecido como "inovação sem permissão". Se você tinha uma boa ideia que poderia ser implementada usando a rede - e era inteligente o suficiente para escrever o software para fazê-la funcionar - então a internet faria isso por você, sem fazer perguntas.
No início dos anos 1990, o físico Tim Berners-Lee a usou como base para construir uma nova plataforma para inovação sem permissão chamada "world wide web". O mundo não técnico descobriu essa nova plataforma em 1993 e passou os próximos 30 anos usando-a como base para construir muitas coisas novas - compras online, redes sociais, Amazon, Google, blogs etc. A web também possibilitou a Wikipedia, um improvável projeto para criar uma enciclopédia que qualquer um, mas qualquer um, poderia contribuir e editar, e que agora é uma das maravilhas do mundo conectado.
Em 2023, esse mesmo mundo acordou para descobrir que a web (particularmente as quantidades inimagináveis de dados que produziu) possibilitou a criação de outro novo tipo de plataforma para inovação sem permissão. O nome chique para isso é "IA generativa", um termo que engloba grandes modelos de linguagem (LLMs) e seus chatbots associados, além de outros sistemas que podem gerar imagens, vídeos e outras saídas criativas plausíveis em resposta a prompts textuais.
O mundo não técnico está agora nos estágios iniciais de excitação histérica, angústia e exuberância irracional sobre essa nova plataforma. Há muita filosofia sobre se a tecnologia representa um risco existencial para a humanidade. Provavelmente não; mas pode ser uma séria ameaça à democracia, por razões que abordaremos em breve. A indústria de tecnologia, como sempre indiferente à democracia, agora está dividida por diferentes preocupações, em particular o Fomo agudo. Isso desencadeou uma "explosão cambriana" na qual milhares de startups (incentivadas por seus financiadores de capital de risco) estão correndo para construir coisas novas na base fornecida pelos modelos de IA generativa criados pelas grandes empresas de tecnologia a um custo significativo para o meio ambiente.
Dado que os riscos existenciais estão acima do nível de pagamento dos colunistas de jornais, vamos nos concentrar em problemas mais imediatos apresentados pelos LLMs. O principal deles é o fato de que às vezes eles inventam coisas. Pior ainda, eles sempre soam autoritários, mesmo quando estão completamente errados. Para atores mal-intencionados interessados em enganar pessoas online, isso é um bônus real. Embora muitas pessoas estejam acostumadas a serem bombardeadas com propaganda nas redes sociais, pelo menos parte dela passa pelos filtros que elas usam para separar a verdade da ficção. Mas o que os chatbots oferecem não é bombardeio, mas interação um a um com um bot aparentemente engajado e conhecedor. Em outras palavras, redes sociais em esteróides. E com eleições em pelo menos duas democracias polarizadas no próximo ano, isso pode ser significativo.
A outra coisa sobre os chatbots é que eles permitem a criação sem esforço de grandes quantidades de "conteúdo" em uma escala extraordinária. Como James Vincent, do The Verge, coloca, "Dado dinheiro e computação, os sistemas de IA - particularmente os modelos generativos atualmente em voga - escalam sem esforço. Eles produzem texto e imagens em abundância, e em breve, música e vídeo também. Sua produção pode potencialmente dominar ou superar as plataformas em que confiamos para notícias, informações e entretenimento. Mas a qualidade desses sistemas é frequentemente ruim, e eles são construídos de uma maneira que é parasitária na web de hoje. Esses modelos são treinados em estratos de dados estabelecidos durante a última era da web, que eles recriam imperfeitamente."
Em breve, porém, a web pode consistir não apenas no que estava lá na era pré-AI, mas em todas as coisas criadas pelos chatbots atuais e futuros. Isso levanta a possibilidade intrigante de um mundo online povoado por bots inalando o exaustor textual de seus pares mecânicos, e uma espiral consequente na recursão infinita que os programadores chamam de "overflow de pilha"!
Nessas circunstâncias, o que as instituições que buscam a verdade deveriam fazer? Resposta: olhe o que eles estão fazendo na Wikipedia. Uma das coisas mais incríveis sobre esse projeto é o quão visionária sua comunidade tem sido sobre a tarefa de separar o trigo cognitivo do joio. Em seus primeiros dias, os observadores se perguntavam por que a Wikipedia estava construindo um conjunto tão elaborado de processos e ferramentas para avaliar a qualidade das submissões. Agora sabemos: eles viram o que estava vindo pela frente. Poderíamos aprender uma coisa ou duas com eles agora.