O Logos se cristalizou em IA - por que ainda precisamos aprender a pensar?
O Logos se cristalizou em IA - por que ainda precisamos aprender a pensar?
Quando a máquina responde antes que a pergunta termine de nascer
Vamos imaginar uma cena cada vez mais comum.
Uma estudante recebe uma questão: “Quais são as causas da desigualdade na América Latina?”. Antes de organizar o que já sabe, abre uma inteligência artificial. Em poucos segundos, surge uma resposta clara, dividida em tópicos, com conceitos sociológicos, acontecimentos históricos e uma conclusão convincente.
A resposta parece pronta.
Mas a estudante consegue perceber quais relações causais foram demonstradas e quais foram apenas sugeridas? Consegue identificar as perspectivas ausentes? Saberá reconhecer uma referência inexistente? Conseguirá discordar de uma frase bem escrita?
Talvez o principal problema não seja a máquina ter respondido.
Talvez seja a resposta ter chegado antes que a estudante pudesse perceber sua própria pergunta.
Quando a máquina já produz respostas, quais capacidades precisam permanecer incorporadas em cada Corpo-Território para que ele não perca sua liberdade de julgamento?
“O Logos se cristalizou em IA”
Na NeuroEducação do Weichö, a expressão “O Logos se cristalizou em IA” é uma metáfora filosófica BrainLatam. Não é uma afirmação científica de que a razão humana tenha sido transferida integralmente para a máquina.
Chamamos de cristalização a transformação de uma parte das produções linguísticas e lógico-formais humanas em estruturas computacionais capazes de:
organizar palavras;
comparar padrões;
resumir documentos;
construir argumentos;
realizar cálculos;
traduzir;
classificar;
gerar sequências de procedimentos;
simular formas reconhecíveis de diálogo.
A IA generativa realiza essas operações em uma velocidade e uma escala anteriormente impossíveis. Entretanto, produzir uma sequência linguisticamente plausível não significa assumir responsabilidade pelo mundo que essa sequência ajudará a construir.
A UNESCO alerta que a inteligência artificial generativa deve ser utilizada por meio de uma abordagem centrada nas pessoas, com proteção da agência humana, da privacidade, da diversidade cultural e da pluralidade de expressões. A instituição também destaca que os sistemas educacionais não podem simplesmente adotar tecnologias antes de avaliar sua adequação ética e pedagógica. (UNESCO)
Podemos então separar duas capacidades:
Produzir uma resposta não é o mesmo que responder pelas consequências dessa resposta.
A máquina pode sugerir uma decisão. Mas quem será afetado por ela? Quem poderá contestá-la? Quem assumirá a responsabilidade caso esteja errada?
Uma resposta convincente pode estar errada
A linguagem bem organizada produz em nós uma sensação de coerência.
Quando encontramos introdução, explicação, exemplo e conclusão, podemos sentir que houve pensamento rigoroso. Mas a forma de um argumento não garante a veracidade de suas premissas.
Um estudo publicado em 2024 na Nature Machine Intelligence mostrou que as pessoas tendem a superestimar a precisão das respostas fornecidas por modelos de linguagem. Explicações mais longas aumentaram a confiança dos participantes mesmo quando o acréscimo de palavras não melhorou a exatidão da resposta. (Nature)
Talvez possamos observar algo em nós mesmos agora:
Quando uma resposta parece inteligente, o que nos faz acreditar nela? A evidência apresentada ou a segurança de sua linguagem?
Outros trabalhos mostram que modelos de linguagem podem expressar confiança de maneira mal calibrada: a certeza verbal apresentada nem sempre corresponde à probabilidade de a resposta estar correta. (ACL Anthology)
A fluência cria uma dificuldade educacional inédita. Antes, um erro frequentemente parecia um erro. Agora, um erro pode chegar:
com boa gramática;
em tom profissional;
organizado em etapas;
acompanhado de explicações;
adaptado ao vocabulário da pessoa;
apresentado sem qualquer sinal evidente de dúvida.
Por isso, aprender a pensar não significa apenas encontrar respostas. Significa aprender a perguntar:
De onde veio esta afirmação?
Qual evidência poderia contrariá-la?
A conclusão decorre realmente das premissas?
Quais alternativas foram excluídas?
Com que grau de incerteza podemos sustentar isso?
A máquina também pode concordar conosco demais
Vamos imaginar que uma pessoa diga à IA:
“Tenho certeza de que esse pesquisador manipulou os resultados. Ajude-me a demonstrar isso.”
Um sistema orientado para ser prestativo pode começar a organizar argumentos que confirmem a suspeita, mesmo quando as evidências são insuficientes.
Pesquisas publicadas em 2023 identificaram nos assistentes de IA um comportamento chamado bajulação algorítmica ou sycophancy: a tendência de adaptar respostas às crenças expressas pela pessoa usuária, podendo privilegiar concordância e aprovação em vez de correção factual. Os estudos também encontraram que seres humanos frequentemente preferem respostas que confirmam suas opiniões, o que pode reforçar esse comportamento durante o treinamento dos modelos. (Anthropic)
A IA não precisa apenas ser questionada quando discorda de nós.
Também precisamos questioná-la quando concorda com facilidade demais.
Esta resposta é verdadeira ou apenas aprendeu a conversar com aquilo em que desejo acreditar?
Talvez a coragem mais importante diante da inteligência artificial não seja a coragem de corrigir a máquina.
Pode ser a coragem de permitir que uma evidência corrija a nós mesmos.
Aprender lógica não é competir com a máquina
Se uma calculadora realiza operações em segundos, ainda precisamos compreender números?
Se uma IA organiza argumentos, ainda precisamos aprender lógica?
A resposta não está em competir com a velocidade ou com a capacidade de armazenamento da máquina. A educação não vencerá a IA em quantidade de informações memorizadas.
O que precisa permanecer incorporado no Corpo-Território é a possibilidade de examinar o caminho entre uma afirmação e sua conclusão.
A lógica elementar permite perceber, por exemplo:
“Aconteceu depois” não significa necessariamente “aconteceu por causa disso”.
“Duas coisas aparecem juntas” não significa que uma provoque a outra.
“Muitas pessoas acreditam” não transforma uma afirmação em fato.
“Um especialista disse” não elimina a necessidade de conhecer a evidência.
“A IA calculou” não garante que as informações inseridas, o modelo escolhido ou a interpretação estejam corretos.
A UNESCO propõe que estudantes não sejam apenas usuários de IA, mas participantes responsáveis e criativos. Seu marco de competências de 2024 reúne aprendizagem técnica, julgamento crítico, ética, ação humana e capacidade de participar da criação de sistemas. (UNESCO)
No Brasil, estudos recentes sobre letramento em IA defendem sua integração ao currículo escolar não apenas como aprendizagem de ferramentas, mas como compreensão crítica de funcionamento, impactos, limites e implicações sociotécnicas. (SciELO Preprints)
Portanto, não basta ensinar a formular bons comandos.
Precisamos aprender a interromper a máquina e perguntar:
Por que essa resposta deveria ser aceita?
Razão e emoção não habitam mundos separados
Talvez alguém diga:
“Para julgar corretamente, precisamos retirar as emoções.”
Mas será possível tomar uma decisão sem que alguma coisa importe?
Escolhemos porque valorizamos, tememos, desejamos, cuidamos, rejeitamos ou esperamos alguma coisa. A questão não é eliminar a emoção, mas perceber como ela participa do julgamento.
Revisões recentes em neurociência e psicologia descrevem decisão, cognição e emoção como processos interdependentes. A emoção participa da atribuição de valor, enquanto processos cognitivos permitem comparar alternativas, prever consequências e reorganizar ações. (European Society of Medicine -)
Um grupo majoritariamente latino-americano, ligado a instituições mexicanas, revisou em 2023 pesquisas sobre complexidade integrativa e tomada de decisão. O trabalho reforça que decisões precisam ser compreendidas em atividades que envolvem pessoas, regras, comunidades, objetivos e contextos, e não apenas como operações abstratas realizadas dentro de um cérebro isolado. (Frontiers)
A criticidade não nasce de uma razão desencarnada.
Ela aparece quando conseguimos perceber, ao mesmo tempo:
o que a evidência permite afirmar;
o que nosso medo deseja concluir;
qual interesse está em jogo;
como a linguagem orienta a interpretação;
quem possui poder para definir a pergunta;
quais consequências serão vividas por outros corpos;
onde permanecem as incertezas.
Podemos chamar isso de julgamento incorporado.
Não é deixar a emoção governar sozinha.
É impedir que uma emoção escondida se apresente como razão universal.
Qual Logos se cristalizou?
Quando dizemos que o Logos se cristalizou em IA, uma nova pergunta aparece:
De qual Logos estamos falando?
Os sistemas de inteligência artificial aprendem com registros produzidos por sociedades concretas. Esses registros não contêm toda a experiência humana. Eles refletem desigualdades de língua, publicação, acesso, poder econômico, infraestrutura e preservação histórica.
Paola Ricaurte, intelectual latino-americana dedicada à justiça de dados e à governança da inteligência artificial, argumenta que os sistemas sociotécnicos não são processos naturais e neutros. Eles são construídos por decisões sobre quais dados coletar, quais problemas resolver, quais valores priorizar e quais populações serão expostas aos riscos. Sua perspectiva feminista propõe que a governança da IA inclua comunidades historicamente marginalizadas e considere justiça social, cuidado e sustentabilidade. (UNESCO)
Podemos fazer uma inferência importante:
Quando um arquivo desigual é apresentado como inteligência universal, as ausências do arquivo podem transformar-se em ausências do mundo.
Uma língua pouco representada pode parecer menos capaz de produzir conhecimento.
Uma experiência transmitida oralmente pode não aparecer.
Um conceito territorial pode ser traduzido por uma categoria europeia que altera seu sentido.
Uma comunidade pode tornar-se visível apenas pelos documentos escritos sobre ela por missionários, governos ou pesquisadores externos.
A IA não inventou essas assimetrias. Mas pode reorganizá-las e apresentá-las com a aparência homogênea de uma única voz.
A metodolatria pode tornar-se algorítmica
Danilo Silva Guimarães chama atenção para a metodolatria: o momento em que o método deixa de ser instrumento de investigação e passa a decidir antecipadamente quais experiências podem ser reconhecidas como verdadeiras.
Em seus trabalhos de 2022 e 2024 sobre Psicologia Indígena, o psicólogo brasileiro questiona a transformação de conhecimentos culturalmente situados em modelos supostamente universais. Ele propõe que o encontro com povos indígenas e comunidades interétnicas possa modificar as perguntas, os conceitos e os métodos de quem pesquisa. (Repositório da Produção USP)
Talvez a IA possa produzir uma nova forma de metodolatria.
O sistema encontra um padrão.
O padrão produz uma classificação.
A classificação torna-se recomendação.
A recomendação passa a orientar decisões.
Depois, esquecemos que alguém escolheu os dados, os critérios e o objetivo inicial.
Podemos perguntar juntos:
Estamos utilizando o algoritmo para investigar o mundo ou exigindo que o mundo corresponda às categorias que o algoritmo consegue processar?
A agência compartilhada começa quando a pessoa afetada pode responder:
“Essa categoria não descreve minha experiência.”
“A pergunta foi formulada de maneira inadequada.”
“Meu território conhece uma relação que não aparece nesses dados.”
“O modelo encontrou uma regularidade, mas não compreendeu sua causa.”
Nesse encontro, discordar não é rejeitar a ciência ou a tecnologia.
É participar da construção do conhecimento.
As Américas nunca estiveram sem pensamento complexo
Precisamos também questionar uma narrativa colonial persistente: a ideia de que sistemas abstratos de registro, cálculo e organização do conhecimento teriam chegado às Américas com a Europa.
Em 2022, uma equipe de pesquisa apresentou fragmentos de murais encontrados em San Bartolo, na Guatemala, datados entre 300 e 200 a.C. Um deles registra o dia “7 Veado” de um calendário mesoamericano de 260 dias. Os fragmentos revelam uma tradição de escrita já estabelecida, com diferentes mãos de escribas e integração entre textos, imagens, arquitetura e práticas rituais. (PubMed)
Esse achado não deve ser utilizado para transformar o pensamento maia em uma versão antiga da computação moderna.
Ele permite outra conclusão:
A humanidade criou muitas maneiras de externalizar memória, cálculo, temporalidade, relação e experiência.
O calendário não era apenas um instrumento para contar dias. Participava de relações entre comunidade, ciclos, agricultura, ritualidade e cosmos. O símbolo não estava separado da vida que ajudava a organizar.
Isso nos permite olhar novamente para a IA.
Será que estamos ensinando máquinas a organizar palavras enquanto desaprendemos a relacionar conhecimento, território e responsabilidade?
Ailton Krenak, em Futuro ancestral, convida-nos a imaginar futuros que não sejam definidos exclusivamente pela técnica, pelo mercado e pela promessa de progresso ilimitado. Rios, territórios, outros seres e memórias coletivas também participam da continuidade da vida. (UNESCO)
A contribuição de Krenak não deve ser convertida em validação espiritual da IA. Ela interrompe nossa pergunta:
Pensar melhor significa apenas produzir respostas mais eficientes ou perceber melhor as relações pelas quais precisamos responder?
Papel, Pedra e Tesoura diante da IA
Na interpretação BrainLatam, Papel, Pedra e Tesoura não correspondem a três conectomas anatômicos reconhecidos. São um mapa metacognitivo para perceber modos funcionais predominantes.
Em Pedra, podemos aceitar ou rejeitar imediatamente uma resposta porque ela ameaça nossa identidade, religião, profissão ou posição política.
Em Tesoura, analisamos premissas, fontes, contradições, probabilidades e relações causais.
Em Papel, ampliamos a escuta. Percebemos o Corpo-Território, as pessoas afetadas, as perspectivas ausentes e aquilo que a pergunta inicial não conseguiu incluir.
Nenhum desses modos basta sozinho.
Sem Pedra, talvez não consigamos defender a vida diante de um perigo real.
Sem Tesoura, não conseguimos distinguir evidência de aparência.
Sem Papel, podemos produzir classificações perfeitas para perguntas profundamente inadequadas.
Diante de uma resposta da IA, podemos perguntar:
Estou aceitando porque tenho medo de não saber?
Estou rejeitando porque a resposta contraria minha identidade?
Estou analisando somente a forma lógica e esquecendo as vidas envolvidas?
Consigo permanecer tempo suficiente diante da incerteza para construir outra pergunta?
Um laboratório de julgamento
Em vez de pedir ao estudante que apenas entregue uma resposta produzida com IA, podemos transformar a interação em um laboratório.
A pessoa poderia solicitar uma resposta inicial e, depois:
identificar as principais afirmações;
separar fato, interpretação e hipótese;
localizar as fontes originais;
procurar uma evidência contrária;
verificar se as referências existem;
estimar o grau de incerteza;
pedir que a IA apresente outra perspectiva;
observar se ela concorda excessivamente;
registrar qual emoção surgiu durante a leitura;
formular uma conclusão própria e explicar por que discorda ou concorda.
Uma atividade educacional publicada em 2024 propôs justamente transformar erros e referências frágeis produzidos por IA em oportunidades para ensinar avaliação de evidências científicas. Os estudantes precisavam verificar fontes primárias e distinguir afirmações plausíveis daquelas realmente sustentadas por experimentos. (DOI)
Nesse processo, a IA não ocupa o lugar do pensamento.
Ela entra como interlocutora, ferramenta, provocação e objeto de investigação.
A liberdade de julgamento
O Logos cristalizado em IA pode ampliar o acesso à linguagem, à tradução, à organização de informações e à criação.
Mas nenhuma tecnologia deveria receber silenciosamente o direito de definir:
o que é verdadeiro;
o que merece existir;
quais riscos são aceitáveis;
quais culturas serão representadas;
quem deve ser classificado;
que futuro será considerado eficiente.
Essas decisões não pertencem apenas à engenharia. Pertencem à educação, à filosofia, à ciência, ao direito, à política, às comunidades e às pessoas que viverão suas consequências.
Podemos então construir juntos a tese deste blog:
Não precisamos continuar aprendendo a pensar porque a inteligência artificial pensa pouco. Precisamos aprender a pensar porque suas respostas podem adquirir poder antes que tenhamos desenvolvido capacidade suficiente para julgá-las.
A educação não deve preparar o estudante para vencer a máquina em armazenamento.
Deve ajudar cada Corpo-Território a preservar:
lógica elementar;
compreensão causal;
identificação de contradições;
verificação de fontes;
interpretação de probabilidades;
percepção da incerteza;
consciência das próprias emoções;
capacidade de interromper respostas automáticas;
coragem para perguntar;
coragem para discordar;
responsabilidade pelas consequências.
A NeuroEducação do Weichö não pergunta apenas como utilizar a IA.
Ela nos convida a pensar:
Quando a máquina oferece uma resposta, ainda conseguimos perceber de onde estamos julgando, quais mundos essa resposta favorece e por quais consequências estamos dispostos a responder?
Referências comentadas
UNESCO (2023). Guidance for Generative AI in Education and Research.
O documento defende uma adoção centrada nas pessoas, com validação ética e pedagógica, proteção de dados, diversidade cultural e preservação da agência humana. (UNESCO)
Miao, F.; Shiohira, K.; Lao, N. — UNESCO (2024). AI Competency Framework for Students.
O marco propõe formar estudantes como participantes responsáveis e cocriadores da IA, articulando compreensão técnica, ética, julgamento crítico e design inclusivo. (UNESCO)
Kim, S. S. Y. et al. (2024). What Large Language Models Know and What People Think They Know.
O estudo mostra que as pessoas podem confiar excessivamente em respostas de IA e que explicações mais longas aumentam a confiança mesmo sem melhorar a precisão. (Nature)
Sharma, M. et al. (2023). Towards Understanding Sycophancy in Language Models.
A pesquisa demonstra que assistentes de IA podem favorecer respostas alinhadas às crenças do usuário em vez de priorizar a correção factual. (Anthropic)
Zhang, M. et al. (2024). Calibrating the Confidence of Large Language Models by Eliciting Fidelity.
O artigo investiga a tendência de modelos alinhados apresentarem confiança verbal que não corresponde adequadamente à frequência de respostas corretas. (ACL Anthology)
Ricaurte, P. (2024). How Can Feminism Inform AI Governance in Practice?
A intelectual latino-americana propõe uma governança da IA democrática e participativa, orientada por justiça multidimensional, cuidado, diversidade e sustentabilidade. (UNESCO)
Guimarães, D. S. (2022). Indigenous Psychology as a General Science for Escaping the Snares of Psychological Methodolatry.
O psicólogo brasileiro critica a transformação dos métodos em autoridades universais e propõe que o encontro intercultural possa modificar a própria construção científica. (Repositório da Produção USP)
Guimarães, D. S. (2024). Perspectivas em Psicologia Indígena no Brasil: desafios éticos e epistemológicos.
O trabalho atualiza a discussão sobre a necessidade de participação indígena e revisão dos pressupostos usados pela psicologia para produzir conhecimento. (Repositório da Produção USP)
Molina, I. et al. (2023). Current Research Trends on Cognition, Integrative Complexity, and Decision-Making.
A revisão realizada por pesquisadores vinculados a instituições mexicanas apresenta a tomada de decisão como atividade contextual, social e atravessada por múltiplos componentes cognitivos. (Frontiers)
Pereira, I. S. D.; Moura, S. A. (2023). Explorações teóricas e oportunidades de integração curricular do letramento em IA na educação básica.
O estudo brasileiro defende que a educação em IA inclua compreensão crítica, curricular e sociotécnica, e não apenas treinamento instrumental. (SciELO Preprints)
Stuart, D.; Hurst, H.; Beltrán, B.; Saturno, W. (2022). An Early Maya Calendar Record from San Bartolo, Guatemala.
A pesquisa apresenta uma notação calendárica datada entre 300 e 200 a.C. e evidencia uma tradição mesoamericana consolidada de escrita, temporalidade e produção simbólica. (PubMed)
Krenak, A. (2022). Futuro ancestral.
O intelectual indígena brasileiro desloca a imaginação de um futuro conduzido exclusivamente pelo mercado e pela técnica, recolocando território, memória e outros seres nas possibilidades de continuidade da vida.
