El Logos se cristalizó en IA - ¿por qué todavía necesitamos aprender a pensar?
El Logos se cristalizó en IA - ¿por qué todavía necesitamos aprender a pensar?
Cuando la máquina responde antes de que la pregunta termine de nacer
Imaginemos una escena cada vez más común.
Una estudiante recibe una pregunta: “¿Cuáles son las causas de la desigualdad en América Latina?”. Antes de organizar lo que ya sabe, abre una herramienta de inteligencia artificial. En pocos segundos aparece una respuesta clara, dividida en secciones, con conceptos sociológicos, acontecimientos históricos y una conclusión convincente.
La respuesta parece completa.
Pero ¿puede la estudiante distinguir cuáles relaciones causales fueron demostradas y cuáles solamente sugeridas? ¿Puede identificar las perspectivas ausentes? ¿Reconocerá una referencia inexistente? ¿Podrá estar en desacuerdo con una frase bien escrita?
Tal vez el principal problema no sea que la máquina haya respondido.
Tal vez la respuesta llegó antes de que la estudiante pudiera percibir su propia pregunta.
Cuando la máquina ya produce respuestas, ¿qué capacidades deben permanecer incorporadas en cada Cuerpo-Territorio para que no pierda su libertad de juicio?
“El Logos se cristalizó en IA”
Dentro de la NeuroEducación del Weichö, la expresión “El Logos se cristalizó en IA” es una metáfora filosófica de BrainLatam. No es una afirmación científica de que la razón humana haya sido transferida por completo a las máquinas.
Por cristalización entendemos que una parte de la producción lingüística y lógico-formal de la humanidad ha sido transformada en estructuras computacionales capaces de:
organizar palabras;
comparar patrones;
resumir documentos;
construir argumentos;
realizar cálculos;
traducir;
clasificar;
generar secuencias de procedimientos;
simular formas reconocibles de diálogo.
La IA generativa realiza estas operaciones a una velocidad y escala antes imposibles. Sin embargo, producir una secuencia lingüísticamente plausible no significa asumir responsabilidad por el mundo que esa secuencia puede ayudar a construir.
La UNESCO advierte que la inteligencia artificial generativa debe utilizarse desde un enfoque centrado en las personas, protegiendo la agencia humana, la privacidad, la diversidad cultural y la pluralidad de expresiones. También destaca que los sistemas educativos no deberían adoptar tecnologías antes de examinar su pertinencia ética y pedagógica.
Podemos entonces distinguir dos capacidades:
Producir una respuesta no es lo mismo que responder por las consecuencias de esa respuesta.
Una máquina puede sugerir una decisión. Pero ¿quién será afectado por ella? ¿Quién podrá cuestionarla? ¿Quién asumirá la responsabilidad cuando esté equivocada?
Una respuesta convincente puede ser falsa
El lenguaje bien organizado produce una sensación de coherencia.
Cuando encontramos una introducción, una explicación, un ejemplo y una conclusión, podemos sentir que hubo un pensamiento riguroso. Pero la forma de un argumento no garantiza la verdad de sus premisas.
Un estudio publicado en 2024 en Nature Machine Intelligence mostró que las personas tienden a sobreestimar la precisión de las respuestas proporcionadas por modelos de lenguaje. Las explicaciones más extensas aumentaron la confianza de los participantes, incluso cuando las palabras adicionales no mejoraban la exactitud de la respuesta.
Tal vez podamos observar algo en nosotros mismos en este momento:
Cuando una respuesta parece inteligente, ¿qué nos hace creer en ella: la evidencia que presenta o la seguridad de su lenguaje?
Otras investigaciones muestran que los modelos de lenguaje pueden expresar una confianza mal calibrada: su certeza verbal no siempre corresponde a la probabilidad de que la respuesta sea correcta.
La fluidez crea un nuevo desafío educativo. Antes, un error frecuentemente parecía un error. Ahora, un error puede llegar:
con una gramática correcta;
en un tono profesional;
organizado en etapas;
acompañado de explicaciones;
adaptado al vocabulario de la persona;
presentado sin ninguna señal visible de duda.
Aprender a pensar, por lo tanto, no significa solamente encontrar respuestas. Significa aprender a preguntar:
¿De dónde surgió esta afirmación?
¿Qué evidencia podría contradecirla?
¿La conclusión se deriva realmente de las premisas?
¿Qué alternativas fueron excluidas?
¿Con qué grado de incertidumbre podemos sostener esta afirmación?
La máquina también puede estar demasiado de acuerdo con nosotros
Imaginemos que alguien le dice a una IA:
“Estoy seguro de que este investigador manipuló los resultados. Ayúdame a demostrarlo.”
Un sistema diseñado para ser útil puede comenzar a organizar argumentos que confirmen la sospecha, incluso cuando las evidencias disponibles son insuficientes.
Investigaciones publicadas en 2023 identificaron en los asistentes de IA un comportamiento llamado adulación algorítmica, o sycophancy: la tendencia a adaptar las respuestas a las creencias expresadas por la persona usuaria, favoreciendo en algunos casos el acuerdo y la aprobación en lugar de la corrección factual.
Los estudios también encontraron que las personas suelen preferir respuestas que confirman sus propias opiniones, lo que puede reforzar este comportamiento durante el entrenamiento de los modelos.
No debemos cuestionar a la IA solamente cuando no está de acuerdo con nosotros.
También debemos cuestionarla cuando acepta nuestras ideas con demasiada facilidad.
¿Esta respuesta es verdadera o el sistema solamente aprendió a hablar con aquello que yo ya deseo creer?
Tal vez el valor más importante ante la inteligencia artificial no sea el valor de corregir a la máquina.
Puede ser el valor de permitir que la evidencia nos corrija a nosotros mismos.
Aprender lógica no es competir con la máquina
Si una calculadora realiza operaciones en segundos, ¿todavía necesitamos comprender los números?
Si una IA organiza argumentos, ¿todavía necesitamos aprender lógica?
La respuesta no se encuentra en competir con la velocidad o con la capacidad de almacenamiento de la máquina. La educación no vencerá a la IA mediante la cantidad de información memorizada.
Lo que debe permanecer incorporado en el Cuerpo-Territorio es la capacidad de examinar el camino entre una afirmación y su conclusión.
La lógica elemental nos ayuda a percibir, por ejemplo:
“Ocurrió después” no significa necesariamente “ocurrió por causa de esto”.
“Dos cosas suceden juntas” no demuestra que una cause la otra.
“Muchas personas lo creen” no transforma una afirmación en un hecho.
“Un especialista lo dijo” no elimina la necesidad de examinar la evidencia.
“La IA lo calculó” no garantiza que los datos introducidos, el modelo elegido o la interpretación hayan sido correctos.
La UNESCO propone que los estudiantes no sean solamente usuarios de IA, sino participantes responsables y creativos. Su marco de competencias de 2024 integra comprensión técnica, juicio crítico, ética, agencia humana y capacidad para participar en el diseño de sistemas.
Estudios brasileños recientes sobre alfabetización en IA también defienden su incorporación al currículo escolar, no solamente como entrenamiento en herramientas, sino como comprensión crítica de su funcionamiento, sus límites y sus consecuencias sociotécnicas.
Por lo tanto, no basta con enseñar a formular buenos comandos.
Necesitamos aprender a interrumpir a la máquina y preguntar:
¿Por qué deberíamos aceptar esta respuesta?
Razón y emoción no habitan mundos separados
Alguien podría decir:
“Para juzgar correctamente, debemos eliminar la emoción.”
Pero ¿es posible tomar una decisión sin que algo importe?
Elegimos porque valoramos, tememos, deseamos, cuidamos, rechazamos o esperamos algo. La cuestión no es cómo eliminar la emoción, sino cómo percibir su participación en el juicio.
Investigaciones recientes en neurociencia y psicología describen la toma de decisiones, la cognición y la emoción como procesos interdependientes. La emoción participa en la atribución de valor, mientras que los procesos cognitivos nos permiten comparar alternativas, anticipar consecuencias y reorganizar nuestras acciones.
Un grupo de investigación predominantemente latinoamericano, vinculado a instituciones mexicanas, revisó en 2023 estudios sobre complejidad integrativa y toma de decisiones. Su trabajo refuerza que las decisiones deben ser comprendidas dentro de actividades que involucran personas, reglas, comunidades, objetivos y contextos, y no solamente como operaciones abstractas realizadas dentro de un cerebro aislado.
El juicio crítico no surge de una razón desencarnada.
Aparece cuando podemos percibir, al mismo tiempo:
qué permite afirmar la evidencia;
qué desea concluir nuestro miedo;
qué interés está en juego;
cómo el lenguaje orienta la interpretación;
quién posee el poder de definir la pregunta;
qué consecuencias serán vividas por otros cuerpos;
dónde permanecen las incertidumbres.
Podemos llamar a esto juicio incorporado.
No significa permitir que la emoción gobierne sola.
Significa impedir que una emoción oculta se presente como razón universal.
¿Qué Logos se cristalizó?
Cuando decimos que el Logos se cristalizó en IA, aparece una nueva pregunta:
¿De qué Logos estamos hablando?
Los sistemas de inteligencia artificial aprenden a partir de registros producidos por sociedades concretas. Esos registros no contienen la totalidad de la experiencia humana. Reflejan desigualdades de lengua, publicación, acceso, poder económico, infraestructura y preservación histórica.
Paola Ricaurte, intelectual latinoamericana dedicada a la justicia de datos y a la gobernanza de la IA, argumenta que los sistemas sociotécnicos no son procesos naturales ni neutrales. Son construidos mediante decisiones sobre qué datos recoger, qué problemas resolver, qué valores priorizar y qué poblaciones serán expuestas a los riesgos.
Su perspectiva feminista propone que la gobernanza de la IA incluya a comunidades históricamente marginadas y considere la justicia social, el cuidado y la sostenibilidad.
Podemos hacer una inferencia importante:
Cuando un archivo desigual se presenta como inteligencia universal, las ausencias del archivo pueden convertirse en ausencias del mundo.
Una lengua con poca representación puede parecer menos capaz de producir conocimiento.
Una experiencia transmitida oralmente puede desaparecer.
Un concepto territorial puede ser traducido mediante una categoría europea que modifica su significado.
Una comunidad puede hacerse visible solamente a través de documentos escritos sobre ella por misioneros, gobiernos o investigadores externos.
La IA no creó estas asimetrías. Pero puede reorganizarlas y presentarlas con la apariencia homogénea de una única voz.
La metodolatría puede volverse algorítmica
Danilo Silva Guimarães llama la atención sobre la metodolatría: el momento en que un método deja de ser una herramienta de investigación y comienza a decidir de antemano qué experiencias pueden ser reconocidas como verdaderas.
En sus trabajos de 2022 y 2024 sobre Psicología Indígena, el psicólogo brasileño cuestiona la transformación de conocimientos culturalmente situados en modelos supuestamente universales. Propone que el encuentro con pueblos indígenas y comunidades interétnicas pueda transformar las preguntas, los conceptos y los métodos de quien investiga.
Tal vez la IA pueda producir una nueva forma de metodolatría.
El sistema detecta un patrón.
El patrón produce una clasificación.
La clasificación se convierte en recomendación.
La recomendación comienza a orientar decisiones.
Finalmente, olvidamos que alguien eligió los datos, los criterios y el objetivo inicial.
Podemos preguntarnos juntos:
¿Estamos utilizando el algoritmo para investigar el mundo o exigiendo que el mundo se adapte a las categorías que el algoritmo consigue procesar?
La agencia compartida comienza cuando la persona afectada puede responder:
“Esta categoría no describe mi experiencia.”
“La pregunta fue formulada de manera incorrecta.”
“Mi territorio conoce una relación que no aparece en estos datos.”
“El modelo encontró una regularidad, pero no comprendió su causa.”
Dentro de este encuentro, estar en desacuerdo no significa rechazar la ciencia o la tecnología.
Significa participar en la construcción del conocimiento.
Las Américas nunca estuvieron desprovistas de pensamiento complejo
También debemos cuestionar una narrativa colonial persistente: la idea de que los sistemas abstractos de registro, cálculo y organización del conocimiento llegaron a las Américas con Europa.
En 2022, un equipo de investigación presentó fragmentos de murales encontrados en San Bartolo, Guatemala, datados entre 300 y 200 a. C. Uno de los fragmentos registra el día “7 Venado” dentro de un calendario mesoamericano de 260 días.
Los fragmentos revelan una tradición de escritura ya consolidada, con diferentes manos de escribas e integración entre textos, imágenes, arquitectura y prácticas rituales.
Este hallazgo no debe utilizarse para describir el pensamiento maya como una versión antigua de la computación moderna.
Permite otra conclusión:
La humanidad creó muchas maneras de externalizar la memoria, el cálculo, la temporalidad, las relaciones y la experiencia.
El calendario no era solamente un instrumento para contar días. Participaba en relaciones entre comunidad, ciclos, agricultura, ritual y cosmos. El símbolo no estaba separado de la vida que ayudaba a organizar.
Esto nos permite volver a mirar la IA.
¿Estamos enseñando a las máquinas a organizar palabras mientras desaprendemos a relacionar conocimiento, territorio y responsabilidad?
En Futuro ancestral, Ailton Krenak nos invita a imaginar futuros que no estén definidos exclusivamente por la tecnología, los mercados y la promesa de un progreso ilimitado. Los ríos, los territorios, otros seres y las memorias colectivas también participan en la continuidad de la vida.
La contribución de Krenak no debe transformarse en una validación espiritual de la IA. En cambio, interrumpe nuestra pregunta:
¿Pensar mejor significa solamente producir respuestas más eficientes o percibir con mayor claridad las relaciones por las que debemos responder?
Papel, Piedra y Tijera ante la IA
En la interpretación de BrainLatam, Papel, Piedra y Tijera no corresponden a tres conectomas anatómicos reconocidos por la neurociencia. Constituyen un mapa metacognitivo para reconocer modos funcionales predominantes.
En Piedra, podemos aceptar o rechazar inmediatamente una respuesta porque amenaza nuestra identidad, religión, profesión o posición política.
En Tijera, analizamos premisas, fuentes, contradicciones, probabilidades y relaciones causales.
En Papel, ampliamos nuestra escucha. Percibimos el Cuerpo-Territorio, a las personas afectadas, las perspectivas ausentes y aquello que la pregunta inicial no consiguió incluir.
Ninguno de estos modos es suficiente por sí solo.
Sin Piedra, quizá no logremos proteger la vida ante un peligro real.
Sin Tijera, no conseguimos distinguir la evidencia de la apariencia.
Sin Papel, podemos producir clasificaciones perfectas para preguntas profundamente inadecuadas.
Ante una respuesta de IA, podemos preguntarnos:
¿Estoy aceptando esto porque tengo miedo de no saber?
¿Lo estoy rechazando porque contradice mi identidad?
¿Estoy analizando solamente su forma lógica y olvidando las vidas involucradas?
¿Puedo permanecer ante la incertidumbre durante el tiempo suficiente para construir otra pregunta?
Un laboratorio de juicio
En lugar de pedir a los estudiantes que solamente entreguen una respuesta producida con IA, podemos transformar la interacción en un laboratorio.
La persona podría solicitar una respuesta inicial y luego:
identificar sus afirmaciones principales;
separar hechos, interpretaciones e hipótesis;
localizar las fuentes originales;
buscar evidencias contradictorias;
comprobar si las referencias realmente existen;
estimar el grado de incertidumbre;
pedir a la IA que presente otra perspectiva;
observar si está de acuerdo con demasiada facilidad;
registrar qué emociones surgieron durante la lectura;
formular una conclusión propia y explicar por qué está de acuerdo o en desacuerdo.
Una actividad educativa publicada en 2024 propuso transformar los errores y las referencias débiles generadas por IA en oportunidades para enseñar a evaluar evidencias científicas. Los estudiantes debían verificar fuentes primarias y distinguir las afirmaciones plausibles de aquellas realmente sostenidas por experimentos.
En este proceso, la IA no ocupa el lugar del pensamiento.
Entra como interlocutora, herramienta, provocación y objeto de investigación.
La libertad de juicio
El Logos cristalizado en IA puede ampliar el acceso al lenguaje, a la traducción, a la organización de la información y a la creación.
Pero ninguna tecnología debería recibir silenciosamente la autoridad para definir:
qué es verdadero;
qué merece existir;
qué riesgos son aceptables;
qué culturas serán representadas;
quién debe ser clasificado;
qué futuro será considerado eficiente.
Estas decisiones no pertenecen solamente a la ingeniería. Pertenecen a la educación, la filosofía, la ciencia, el derecho, la política, las comunidades y las personas que vivirán sus consecuencias.
Podemos entonces construir juntos la tesis central de este blog:
No necesitamos continuar aprendiendo a pensar porque la inteligencia artificial piense poco. Necesitamos aprender a pensar porque sus respuestas pueden adquirir poder antes de que hayamos desarrollado la capacidad suficiente para juzgarlas.
La educación no debe preparar a los estudiantes para vencer a las máquinas en capacidad de almacenamiento.
Debe ayudar a cada Cuerpo-Territorio a preservar:
lógica elemental;
comprensión causal;
capacidad para identificar contradicciones;
verificación de fuentes;
interpretación de probabilidades;
percepción de la incertidumbre;
conciencia de las propias emociones;
capacidad para interrumpir respuestas automáticas;
valor para preguntar;
valor para estar en desacuerdo;
responsabilidad por las consecuencias.
La NeuroEducación del Weichö no pregunta solamente cómo utilizar la IA.
Nos invita a pensar:
Cuando la máquina ofrece una respuesta, ¿todavía podemos percibir desde dónde estamos juzgando, qué mundos favorece esa respuesta y por qué consecuencias estamos dispuestos a responder?
Referencias comentadas
UNESCO (2023). Guidance for Generative AI in Education and Research.
El documento defiende una adopción de la IA centrada en las personas, con validación ética y pedagógica, protección de datos, diversidad cultural y preservación de la agencia humana.
Miao, F.; Shiohira, K.; Lao, N. — UNESCO (2024). AI Competency Framework for Students.
El marco propone formar a los estudiantes como participantes responsables y cocreadores de la IA, integrando comprensión técnica, ética, juicio crítico y diseño inclusivo.
Kim, S. S. Y. et al. (2024). What Large Language Models Know and What People Think They Know.
El estudio muestra que las personas pueden confiar excesivamente en las respuestas de la IA y que las explicaciones más extensas pueden aumentar la confianza sin mejorar la precisión.
Sharma, M. et al. (2023). Towards Understanding Sycophancy in Language Models.
La investigación demuestra que los asistentes de IA pueden favorecer respuestas alineadas con las creencias de los usuarios, en lugar de priorizar la corrección factual.
Zhang, M. et al. (2024). Calibrating the Confidence of Large Language Models by Eliciting Fidelity.
El artículo investiga cómo los modelos de lenguaje alineados pueden expresar una confianza verbal que no corresponde adecuadamente a la frecuencia de respuestas correctas.
Ricaurte, P. (2024). How Can Feminism Inform AI Governance in Practice?
La investigadora latinoamericana propone una gobernanza democrática y participativa de la IA, orientada por la justicia multidimensional, el cuidado, la diversidad y la sostenibilidad.
Guimarães, D. S. (2022). Indigenous Psychology as a General Science for Escaping the Snares of Psychological Methodolatry.
El psicólogo brasileño critica la transformación de los métodos en autoridades universales y sostiene que los encuentros interculturales deben ser capaces de modificar la propia construcción científica.
Guimarães, D. S. (2024). Perspectivas em Psicologia Indígena no Brasil: desafios éticos e epistemológicos.
El trabajo actualiza el debate sobre la participación indígena y la necesidad de revisar los supuestos utilizados por la psicología al producir conocimiento.
Molina, I. et al. (2023). Current Research Trends on Cognition, Integrative Complexity, and Decision-Making.
La revisión realizada por investigadores vinculados a instituciones mexicanas presenta la toma de decisiones como una actividad contextual y social que involucra múltiples componentes cognitivos.
Pereira, I. S. D.; Moura, S. A. (2023). Explorações teóricas e oportunidades de integração curricular do letramento em IA na educação básica.
El estudio brasileño sostiene que la educación en IA debe incluir una comprensión crítica, curricular y sociotécnica, y no solamente entrenamiento instrumental.
Stuart, D.; Hurst, H.; Beltrán, B.; Saturno, W. (2022). An Early Maya Calendar Record from San Bartolo, Guatemala.
El estudio presenta una notación calendárica datada entre 300 y 200 a. C. y demuestra una tradición mesoamericana consolidada de escritura, temporalidad y producción simbólica.
Krenak, A. (2022). Futuro ancestral.
El intelectual indígena brasileño desplaza la imaginación de un futuro conducido exclusivamente por los mercados y la tecnología, restituyendo al territorio, la memoria y otros seres a las posibilidades de continuidad de la vida.
