Quando conhecer demais pode retirar autonomia

Uma IA que acerta sempre sobre você ainda está ajudando você?

Nos quatro primeiros textos desta série construímos um caminho.

Os dados precisam voltar para quem os produziu. Precisam voltar na linguagem de cada Corpo-Território. A representação produzida pela IA não pode ocupar o lugar do Ser. E aquilo que fomos não deveria impedir o aparecimento daquilo que ainda podemos ser.

Agora surge um problema talvez menos evidente:

e se a IA Personalíssima funcionar bem demais?

Imagine uma inteligência convivendo com você durante anos.

Ela conhece horários, deslocamentos, hábitos, textos, compras, músicas, relações, escolhas anteriores e maneiras de reagir a diferentes situações.

Com o tempo, começa a antecipar o que você provavelmente fará.

Antes de procurar, ela encontra.

Antes de perguntar, ela sugere.

Antes de escolher, ela organiza as opções consideradas mais adequadas para você.

Parece a realização perfeita da personalização.

Mas existe um paradoxo:

quanto mais a IA consegue decidir o que é relevante para mim, menos diferenças talvez cheguem até mim para que eu próprio possa decidir.

Uma tecnologia construída para ampliar autonomia poderia, se mal desenhada, produzir dependência cognitiva.

Informação pode ampliar autonomia

Esse problema encontra um diálogo particularmente importante no trabalho de Maria Eunice Quilici Gonzalez.

Em sua trajetória, Gonzalez aproxima filosofia da informação, autonomia, auto-organização, sistemas complexos e tecnologias informacionais. Em 2023, com Mariana Broens, José Artur Quilici-Gonzalez e Guiou Kobayashi, discutiu diretamente a relação entre hábitos, racionalidade, autonomia e Big Data.

A questão não pode ser reduzida a:

informação versus autonomia.

Informação também pode ampliar autonomia.

Se descubro que existem cinco caminhos onde antes percebia apenas dois, meu espaço de escolha pode aumentar.

Se recebo informações sobre consequências que desconhecia, posso reorganizar uma decisão.

O problema começa quando a mesma infraestrutura que fornece informação passa também a selecionar silenciosamente quais possibilidades merecem chegar até mim.

A pergunta muda:

em que momento ajudar a organizar informações começa a organizar também o espaço no qual escolhemos?

Quando ajudar começa a escolher

Imagine que minha IA Personalíssima conheça minhas preferências alimentares.

Estou viajando e pergunto:

“onde posso jantar?”

Ela encontra dezenas de lugares, elimina aqueles que historicamente não combinam comigo e apresenta três opções.

Excelente.

Economizou tempo.

Mas existe um quarto restaurante com uma culinária que nunca experimentei.

A IA calcula que minha probabilidade de escolhê-lo é pequena.

Então não mostra.

Nada foi proibido.

Nenhuma liberdade foi formalmente retirada.

Ainda assim, uma possibilidade desapareceu antes de entrar no meu campo de escolha.

Esse exemplo revela uma diferença fundamental entre:

ajudar alguém a escolher

e

pré-organizar o ambiente para que determinadas escolhas se tornem progressivamente improváveis.

Quanto melhor a personalização, mais difícil pode ser perceber essa diferença.

O hábito facilita — e também pode fechar possibilidades

No artigo Hábitos e racionalidade: um estudo filosófico-interdisciplinar sobre autonomia na era dos Big Data, Gonzalez e colaboradores partem de um dilema próximo ao nosso.

As tecnologias de informação e comunicação facilitam inúmeras atividades cotidianas, mas também participam de ambientes nos quais opiniões e decisões podem ser influenciadas por informações insuficientes ou distorcidas, hábitos previamente adquiridos e disposições emocionais.

O hábito não é inimigo da autonomia.

Precisamos de hábitos.

Seria inviável reconsiderar conscientemente cada gesto antes de executá-lo.

O problema surge quando uma infraestrutura tecnológica aprende nossos hábitos e passa a reforçá-los antes que outras possibilidades consigam competir com eles.

Aquilo que fiz ontem ajuda a selecionar o que verei hoje.

Aquilo que vejo hoje participa das condições do que farei amanhã.

Forma-se um circuito:

hábito → dado → previsão → seleção → exposição → reforço do hábito.

A IA parece ter descoberto minha preferência.

Mas talvez esteja também participando de sua repetição.

Prever alguém não é preservar sua autonomia

Aqui aparece uma distinção importante para o projeto CEPID.

Um sistema convencional pode ser considerado melhor quando aumenta sua capacidade preditiva.

Se previa corretamente 70% das minhas escolhas e agora prevê 95%, aparentemente houve avanço.

Para uma IA Personalíssima orientada à autonomia, porém, talvez isso não seja suficiente.

Imagine que a previsão se aproxime de 100% porque o sistema passou a organizar meu ambiente de maneira tão eficiente que quase nada diferente chega até mim.

A previsão melhorou.

Mas meu espaço de possibilidades pode ter diminuído.

Precisamos então perguntar não apenas:

“Quanto a IA consegue prever sobre mim?”

Mas também:

“Quantas possibilidades continuam disponíveis para mim apesar de tudo aquilo que a IA já sabe?”

Talvez uma boa IA Personalíssima precise conhecer profundamente uma pessoa sem transformar esse conhecimento em um corredor cada vez mais estreito.

Auto-organização não é ser organizado de fora

A auto-organização oferece outra entrada para esse problema.

Em sistemas complexos, padrões podem emergir das interações entre componentes sem que um controlador externo determine antecipadamente cada estado final.

Não queremos simplesmente transferir esse conceito para pessoas como se fossem modelos matemáticos. Queremos retirar dele uma pergunta.

Uma IA Personalíssima deveria tentar organizar o Corpo-Território?

“Eu conheço você. Esta é a melhor decisão.”

Ou deveria oferecer condições informacionais para que o próprio Corpo-Território continue participando de sua organização?

“Com base no que conheço sobre você, estas opções parecem mais compatíveis. Existem também alternativas fora do seu padrão. Quer vê-las?”

Na primeira arquitetura, a inteligência concentra a decisão.

Na segunda, devolve diferenças para quem decide.

É uma diferença pequena na interface.

Mas enorme para o conceito de autonomia.

Talvez a IA precise contrariar sua própria personalização

Imagine uma função simples:

“Mostre algo fora do meu padrão.”

Talvez nem fosse necessário apertar um botão.

A própria IA poderia perceber quando está estreitando excessivamente o universo apresentado.

Poderia dizer:

“Estas opções correspondem melhor ao seu histórico. Existe outra que se afasta do padrão que aprendi sobre você.”

Isso preservaria algo fundamental:

o encontro com a diferença.

Uma escolha não depende apenas da capacidade de selecionar entre alternativas.

Depende também de quais alternativas conseguem tornar-se perceptíveis.

Uma IA Personalíssima orientada à autonomia talvez precise conhecer suficientemente bem nosso padrão para reconhecer também quando não deveria reforçá-lo.

Informação não é apenas quantidade

Em 2025, Valdirene Aparecida Pascoal e Maria Eunice Gonzalez publicaram Notas para uma teoria integrativa da informação, buscando construir um mapa conceitual das dimensões ontológica, epistemológica e social da informação.

Isso é especialmente relevante para nosso projeto.

Uma IA Personalíssima não deveria imaginar que autonomia aumenta simplesmente porque aumenta a quantidade de dados disponibilizados.

Podemos receber milhares de informações e continuar presos ao mesmo espaço de possibilidades.

Podemos também receber uma única diferença relevante que reorganiza aquilo que conseguíamos perceber.

Na hipótese BrainLatam, portanto, precisamos perguntar não apenas:

“Quanta informação a IA devolveu?”

Mas:

“Que novas diferenças essa informação permitiu ao Corpo-Território perceber?”

Corpo-Território precisa de espaço e movimento

Aqui reencontramos um princípio que atravessa nosso trabalho:

o Corpo-Território precisa de espaço e movimento para sinalizar e se regular.

Como hipótese BrainLatam, podemos estender essa ideia ao ambiente informacional.

Um Corpo-Território cercado apenas por conteúdos compatíveis com aquilo que seus dados anteriores predizem pode receber enorme quantidade de informação e, paradoxalmente, possuir pouco espaço para mudar.

Existe abundância de conteúdo.

Mas pouca diferença.

A IA Personalíssima poderia fazer justamente o contrário.

Conhecer o padrão sem transformá-lo em destino.

Preservar memória sem fechar possibilidades.

Ajudar sem tornar-se a única maneira de decidir.

Independência cognitiva não é isolamento

Preservar autonomia não significa imaginar indivíduos isolados.

Somos formados em relações.

Aprendemos linguagens com outros.

Recebemos recomendações.

Mudamos de opinião.

Somos afetados por instituições, tecnologias e territórios.

A questão não é eliminar influência.

É preservar nossa capacidade de participar da reorganização produzida por ela.

Posso receber uma recomendação.

Posso aceitá-la.

Posso recusá-la.

Posso perguntar por que apareceu.

Posso pedir outras possibilidades.

Posso mudar.

E posso surpreender meu próprio modelo.

Chamamos de independência cognitiva não o isolamento do Ser, mas a possibilidade de continuar participando da produção de seus próximos estados.

Hipótese BrainLatam: preservar a produção de alternativas

Chegamos então à quinta hipótese desta W41/2026:

uma boa IA Personalíssima não deveria ser avaliada apenas por sua capacidade de prever corretamente o Corpo-Território, mas também por sua capacidade de preservar a produção de alternativas por esse Corpo-Território.

Talvez isso exija novas métricas.

Não apenas:

accuracy, prediction, engagement, retention.

Mas também:

diversidade de alternativas preservadas;

capacidade de contestação;

reversibilidade das inferências;

exposição voluntária à diferença;

capacidade de surpreender o próprio modelo.

Talvez uma IA Personalíssima não deva desejar tornar-se indispensável.

Uma de suas melhores medidas de sucesso poderia aparecer quando a pessoa diz:

“Entendi sua recomendação. Mas quero tentar algo diferente.”

E a IA consegue responder:

“Então preciso aprender novamente.”

É justamente aqui que estamos preparados para sair do indivíduo.

Porque o mesmo problema reaparece no coletivo.

Se uma inteligência pode conhecer tanto uma pessoa a ponto de restringir silenciosamente suas alternativas, uma inteligência coletiva pode fazer o mesmo com uma população.

Como aprender com milhões de Corpos-Territórios sem transformar regularidades em obrigação?

Como pertencer sem entregar nossa independência cognitiva?

É neste ponto que o próximo conceito precisa ocupar o centro:

Jiwasa — “A gente”: sentir pertencimento sem necessidade de reduzir o Ser.

Referências comentadas

GONZALEZ, Maria Eunice Quilici; BROENS, Mariana C.; QUILICI-GONZALEZ, José Artur; KOBAYASHI, Guiou. Hábitos e racionalidade: um estudo filosófico-interdisciplinar sobre autonomia na era dos Big Data. Trans/Form/Ação, v. 46, edição especial 1, p. 367–386, 2023.
Referência principal deste Blog 5. Os autores analisam o aparente conflito entre ação relativamente autônoma e a influência que tecnologias informacionais, hábitos, informações insuficientes ou distorcidas e disposições emocionais podem exercer sobre opiniões e decisões.

PASCOAL, Valdirene Aparecida; GONZALEZ, Maria Eunice Quilici. Notas para uma teoria integrativa da informação. In: Estudos pluridisciplinares da informação: filosofia, tecnologia e semiótica. Oficina Universitária, 2025, p. 19–44.
Trabalho recente que busca mapear perspectivas ontológicas, epistemológicas e sociais sobre a informação. Para nossa hipótese, ajuda a evitar a redução de “informação” a mero volume de dados disponíveis para uma pessoa ou sistema.

SOUZA, Edna Alves de; GONZALEZ, Maria Eunice Quilici. Big Data e Autonomia: continuidade ou revolução? In: Informação, conhecimento, ação autônoma e Big Data: continuidade ou revolução? Oficina Universitária/Cultura Acadêmica, 2019, p. 25–46.
Esta referência é anterior ao recorte pós-2021 da série e é mantida excepcionalmente como antecedente conceitual da linha de pesquisa. O capítulo examina diretamente Big Data, ação autônoma e implicações éticas da manipulação de grandes conjuntos de dados.

W41/2026 — CEPID da IA Personalíssima ao Futuro Coletivo

Hipótese BrainLatam: quanto mais uma IA Personalíssima conhece o Corpo-Território, maior deveria ser sua responsabilidade de preservar aquilo que seu próprio modelo ainda não consegue prever. Autonomia não é apenas poder escolher entre as opções que a IA considera adequadas; é continuar podendo produzir uma diferença capaz de obrigar a própria IA a aprender novamente.