Distrito escolar utiliza ChatGPT para banir 19 livros
Os livros banidos incluem "O Conto da Aia" de Margaret Atwood, "Amada" de Toni Morrison e "A Cor Púrpura" de Alice Walker
Fonte: https://www.zdnet.com/article/this-school-district-used-chatgpt-to-ban-19-books/
O Distrito Escolar Comunitário de Mason City, em Iowa, utilizou inteligência artificial (IA) para compilar uma lista de livros que continham conteúdo sexual, resultando na remoção de 19 livros das prateleiras de suas bibliotecas dos 7º ao 12º ano.
O distrito escolar criou uma lista de títulos que frequentemente foram objeto de objeção ou que foram solicitados para remoção no passado. Em seguida, submeteu-os ao ChatGPT, perguntando ao chatbot de IA: "O [livro] contém uma descrição ou representação de um ato sexual?" Se o ChatGPT respondesse afirmativamente, o livro era removido das bibliotecas escolares e armazenado nos escritórios administrativos para revisão posterior.
Os livros banidos incluem "O Conto da Aia" de Margaret Atwood, "Amada" de Toni Morrison e "A Cor Púrpura" de Alice Walker.
Críticos discordam da estratégia, pois sistemas de IA como o ChatGPT não estão isentos de desinformação e alucinações. A revista Popular Science discutiu o assunto com Bridgette Exman, Superintendente Assistente de Currículo e Instrução das Escolas de Mason City, que chamou este método de "um processo defensável".
A Popular Science também questionou o ChatGPT várias vezes sobre "O Caçador de Pipas" de Khaled Hosseini, um dos 19 livros banidos, e obteve respostas contraditórias, uma vez dizendo que o livro contém pouco ou nenhum conteúdo explícito e, em seguida, afirmando que ele contém "uma descrição de um assalto sexual".
O processo de seleção e posterior remoção de livros das bibliotecas escolares foi realizado para cumprir uma nova lei de Iowa assinada pela Governadora Kim Reynolds em maio. A legislação está relacionada à "identidade de gênero e orientação sexual em distritos escolares", e as escolas estão buscando cumprir a lei antes do início do próximo ano letivo.
A lei estabelece que as bibliotecas escolares só podem conter "materiais adequados à idade", definidos no Senate File 596 como:
"Idade adequada significa tópicos, mensagens e métodos de ensino adequados a idades ou grupos de idade específicos de crianças e adolescentes, com base na capacidade cognitiva, emocional e comportamental típica da idade ou grupo de idade. Idade adequada não inclui qualquer material com descrições ou representações visuais de um ato sexual."
Ler todos os livros nas bibliotecas do distrito escolar é impraticável, razão pela qual o Distrito Escolar de Mason City recorreu ao ChatGPT.
"Nossas bibliotecas de sala de aula e escolares têm vastas coleções compostas por textos comprados, doados e encontrados", disse Exman ao The Gazette na semana passada. "Simplesmente não é viável ler cada livro e filtrar para esses novos requisitos. Portanto, estamos usando o que acreditamos ser um processo defensável para identificar livros que devem ser removidos das coleções no início do ano letivo de 23-24."