"Certa vez, os homens entregaram seu pensamento às máquinas, na esperança de que isso os libertaria. Mas isso apenas permitiu que outros homens, com máquinas, os escravizassem." — Frank Herbert, Dune, 1965
A história da inteligência artificial costuma ser contada como uma sequência de avanços técnicos. Essa narrativa, porém, deixa algo de fora. A capacidade computacional e a compreensão humana nunca avançaram no mesmo ritmo. Dos primeiros experimentos aos modelos generativos atuais, a distância entre o que a máquina produz e o que o operador entende sobre essa produção só se ampliou. Esse descompasso tem nome e a indústria ainda tenta dimensionar seus efeitos.
Uma linha do tempo da assimetria
Em 1956, na conferência de Dartmouth, John McCarthy, Marvin Minsky, Nathaniel Rochester e Claude Shannon propuseram que "cada aspecto da aprendizagem ou qualquer outra característica da inteligência pode, em princípio, ser descrito com tal precisão que uma máquina pode ser construída para simulá-lo". O escopo era ambicioso, mas a capacidade computacional da época impunha limites práticos severos. Os sistemas resultantes eram transparentes quase por definição, compostos por regras simbólicas, árvores de decisão e encadeamentos lógicos auditáveis. O operador humano entendia o que o sistema fazia porque o próprio sistema era pequeno o suficiente para ser compreendido.
Nos anos 1980, os sistemas especialistas ampliaram o alcance da IA sem romper essa transparência. MYCIN diagnosticava infecções bacterianas; XCON configurava computadores VAX. Cada decisão podia ser rastreada até uma regra específica na base de conhecimento. O gargalo continuava sendo a engenharia de aquisição do conhecimento, não a compreensão do resultado.
A virada começou nos anos 1990 com o aprendizado estatístico. Redes neurais, máquinas de vetores de suporte e modelos bayesianos passaram a extrair padrões diretamente dos dados. O ganho de capacidade veio acompanhado de uma perda progressiva de interpretabilidade. O operador já não conseguia explicar por que o modelo tomava determinada decisão, apenas verificar se o resultado parecia correto. Herbert Simon, prêmio Nobel de Economia em 1978, já havia antecipado essa tensão décadas antes: "Em um mundo rico em informação, a riqueza de informação significa escassez de algo mais: uma escassez daquilo que a informação consome. O que a informação consome é bastante óbvio: ela consome a atenção de seus receptores." O problema descrito por Simon se manifestava agora dentro dos próprios sistemas de IA.
A partir de 2012, com a revolução do deep learning iniciada pela AlexNet, a capacidade dos modelos começou a se descolar da compreensão humana. Em 2017, o paper "Attention Is All You Need" introduziu a arquitetura Transformer, acelerando essa divergência. E a partir de 2022, com o lançamento do ChatGPT e a popularização dos LLMs, a capacidade de geração disparou enquanto a compreensão sobre o que é produzido passou a regredir. O volume, a velocidade e a opacidade dos outputs ultrapassaram a capacidade de acompanhamento crítico.
De ferramenta industrial a interface cotidiana
Durante décadas, IA foi predominantemente especializada e invisível. Estava incorporada em motores de recomendação, sistemas antifraude, modelos preditivos baseados em grandes volumes de dados e assistentes limitados por regras e escopos estreitos. Eram sistemas treinados para tarefas específicas, operando dentro de fronteiras bem delimitadas e sob forte controle institucional. A complexidade estava concentrada na engenharia e na infraestrutura. O usuário final raramente sabia que interagia com IA.
Com a consolidação dos modelos fundacionais e dos large language models, houve uma inversão desse paradigma. A IA deixou de ser componente de backend e passou a ser interface direta. Texto, código, planejamento estratégico, documentação técnica e até decisões preliminares de arquitetura passaram a ser gerados sob demanda. O acesso deixou de ser industrial e se tornou cotidiano. A barreira técnica foi drasticamente reduzida e, com ela, a expectativa de que o operador compreendesse os mecanismos internos do que estava sendo produzido.
A indústria reagiu com velocidade. Houve substituição de equipes, reestruturações baseadas em agentes autônomos, automação agressiva de fluxos internos. Profissionais de todas as áreas incorporaram IA ao fluxo diário de trabalho. O ganho de produtividade se manifesta na geração de rascunhos, na exploração de alternativas e na aceleração de tarefas repetitivas.
Conforme o uso se intensificou, começaram a aparecer limitações estruturais. Alucinações factuais, respostas semanticamente sofisticadas mas conceitualmente vazias, código funcional porém arquiteturalmente frágil. Em muitos casos, a saída parece correta à primeira vista, mas não carrega consistência interna quando percebida em profundidade. O problema não se limita a erro factual. Envolve qualidade estrutural, coerência sistêmica e alinhamento com requisitos não explícitos.
Daniel Kahneman descreveu um mecanismo cognitivo que ajuda a explicar por que essa fragilidade passa despercebida: "Esta é a essência das heurísticas intuitivas: quando confrontados com uma questão difícil, frequentemente respondemos uma mais fácil no lugar, geralmente sem notar a substituição." Quando um modelo generativo entrega uma resposta plausível, o sistema cognitivo do operador tende a aceitar essa plausibilidade como substituto da verificação profunda. A pergunta difícil ("este código respeita os invariantes arquiteturais do sistema?") é substituída pela pergunta fácil ("este código parece correto?").
O conceito de dívida cognitiva
Dívida cognitiva é o passivo gerado quando a delegação de uma tarefa complexa reduz o entendimento do profissional sobre o processo decisório que levou ao resultado. A entrega acontece, mas o entendimento de como foi feito não acompanha. O artefato final existe, mas o encadeamento lógico, as premissas adotadas, os trade-offs assumidos e as restrições consideradas não estão completamente internalizados por quem delegou.
Kosmyna e colaboradores do MIT Media Lab, no estudo "Your Brain on ChatGPT" (2025), definiram o fenômeno em termos operacionais: dívida cognitiva é "uma condição na qual a dependência repetida de sistemas externos como LLMs substitui os processos cognitivos esforçados necessários para o pensamento independente. A dívida cognitiva adia o esforço mental no curto prazo, mas resulta em custos de longo prazo, como diminuição da investigação crítica, aumento da vulnerabilidade à manipulação e redução da criatividade."
Diferente da dívida técnica, que se manifesta no código e na arquitetura de forma mensurável (complexidade ciclomática, acoplamento, cobertura de testes), a dívida cognitiva se instala na lacuna de compreensão entre o autor humano e o artefato produzido.
Ela não aparece em métricas de qualidade de código nem dispara alertas em pipelines de CI/CD. Em projetos menores, como PoCs ou experimentações pessoais, essa invisibilidade pode passar despercebida. Mas em ambientes corporativos, cada decisão não documentada, cada ajuste feito sem entendimento completo ou cada escolha de implementação não rastreável amplifica o risco de erros, reduz a confiança na manutenção do sistema e compromete a governança do projeto. A distância entre o que foi gerado e o que foi de fato compreendido se torna mais perigosa à medida que o projeto cresce, impactando segurança, qualidade, escalabilidade e capacidade de evolução.
Margaret-Anne Storey, pesquisadora de engenharia de software na Universidade de Victoria, formalizou essa distinção em fevereiro de 2026: "Dívida cognitiva comunica a noção de que a dívida acumulada por ir rápido demais vive nos cérebros dos desenvolvedores e afeta suas experiências vividas e habilidades de 'ir rápido' ou fazer mudanças." A metáfora da dívida é deliberada. Assim como a dívida técnica, a dívida cognitiva acumula juros compostos. Cada nova funcionalidade construída sobre entendimento parcial amplia o custo futuro de manutenção, evolução e auditoria.
Simon Willison, desenvolvedor e pesquisador de IA, relatou a experiência em primeira pessoa: "Tenho experimentado criar funcionalidades inteiras através de prompts sem revisar suas implementações e, embora funcione surpreendentemente bem, me peguei perdido em meus próprios projetos. Não tenho mais um modelo mental firme do que eles podem fazer e como funcionam, o que significa que cada funcionalidade adicional se torna mais difícil de raciocinar." O relato ilustra o mecanismo central: a produtividade imediata corrói progressivamente a capacidade de raciocinar sobre o próprio sistema.
As ironias da automação aplicadas à IA
Essa dinâmica não é inédita. Em 1983, Lisanne Bainbridge publicou "Ironies of Automation", um paper que se tornou referência em fatores humanos. Bainbridge identificou um paradoxo: quanto mais sofisticada a automação, mais crítica se torna a intervenção humana nos casos em que a automação falha, e menos preparado está o operador humano para realizar essa intervenção. "É irônico treinar operadores para seguir instruções e então colocá-los no sistema para fornecer inteligência." A ironia descrita por Bainbridge em sistemas industriais facilmente se reproduz no contexto da IA generativa. O desenvolvedor que delega sistematicamente a geração de código perde gradualmente a capacidade de avaliar criticamente o código gerado, exatamente no momento em que essa avaliação se torna mais necessária.
Linda Skitka e Kathleen Mosier, pesquisadoras de psicologia cognitiva, documentaram esse fenômeno sob o nome de viés de automação, definido como "erros de omissão e comissão resultantes do uso de pistas automatizadas como substituto heurístico para busca e processamento vigilante de informação." Em termos práticos, o viés de automação faz com que o operador deixe de verificar informações que contradizem a saída automatizada (erro de omissão) e aceite saídas incorretas sem questionamento (erro de comissão). Originalmente estudado em cockpits de aviação, o fenômeno se aplica diretamente ao desenvolvedor que aceita código gerado por IA sem reconstruir mentalmente o raciocínio que o sustenta.
Manifestações no desenvolvimento de software
Em alguns projetos pessoais e implementações de ferramentas, eu estava satisfeito com o resultado final, mas ao tentar entender como tinha sido feito, me batia um desespero. De fato, parte disso vinha de lacunas de ajustes no prompt. O que eu não decidia, a IA preenchia com a opção estatisticamente mais provável. As lacunas que eu deixava por inocência eram justamente onde ela gerava problemas, simplificando demais ou “estragando” trechos do código. Não era raro criar duplicação semântica, soluções repetidas em pacotes diferentes, quebrar padrões que eu tinha definido antes, ou até condensar o projeto inteiro em um único arquivo, dificultando entender o fluxo completo. Inclusive, na hora de fazer refactories, nem ela conseguia resolver o inferno que ela mesma criou.
Modelos generativos tendiam a gerar soluções plausíveis, mas nem sempre respeitavam o contexto arquitetural, e faltavam considerações explícitas sobre segurança e qualidade em certos trechos. Era rápido? Sim, mas o gap de entendimento do como era doloroso. Era aquele mesmo sentimento de pegar um projeto muito ruim e pensar: “bora refazer essa bagarça?”
O custo dessa dinâmica aparece no ciclo de vida do software. Durante revisão, manutenção ou auditoria, a equipe precisa reconstruir o raciocínio que não foi explicitado. A rastreabilidade das decisões fica comprometida. Em domínios regulados, isso impacta compliance e governança. Em sistemas críticos, pode introduzir vulnerabilidades exploráveis decorrentes de suposições implícitas não validadas.
Mesmo quando o resultado está tecnicamente correto, a falta de clareza sobre como e por que determinadas escolhas foram feitas dificulta evolução futura. A cada nova interação não supervisionada, cresce a entropia do sistema. A tendência natural passa a ser confiar na ferramenta para continuar expandindo algo que já não é totalmente compreendido. O acúmulo dessa dependência amplia a dívida cognitiva e reduz a capacidade crítica do time sobre o próprio produto.
Proficiência aparente e profundidade técnica
Um efeito particularmente insidioso surge no nível individual e de equipes com menor profundidade técnica. A IA permite gerar entregáveis sofisticados em tempo reduzido, incluindo códigos funcionais, análises estruturadas, arquiteturas preliminares e documentos técnicos bem redigidos. O resultado visível transmite maturidade e solidez.
Pesquisadores de educação em computação documentaram essa assimetria empiricamente. James Prather e colaboradores, em estudo publicado no ICER 2024, observaram que "para estudantes que lutaram, a GenAI agravou dificuldades metacognitivas existentes e até introduziu novas. Além disso, estudantes com dificuldades frequentemente expressaram dissonância cognitiva sobre sua capacidade de resolver problemas e terminaram com uma ilusão de competência." A ilusão de competência descrita no contexto acadêmico se reproduz em ambientes corporativos. Profissionais conseguem produzir, mas não necessariamente explicar em profundidade, evoluir com segurança ou defender tecnicamente as decisões envolvidas.
Em 2025, Nataliya Kosmyna e colaboradores do MIT Media Lab conduziram o estudo mais abrangente até o momento sobre o custo cognitivo do uso de LLMs. Ao longo de quatro meses, 54 participantes foram divididos em três grupos (LLM, motor de busca e apenas o cérebro) e submetidos a tarefas de redação com monitoramento por eletroencefalografia (EEG). Na quarta sessão, os grupos foram invertidos. Os resultados foram consistentes em todas as dimensões medidas: neural, linguística e comportamental.
Impacto cognitivo do uso de LLM vs. escrita autônoma (Session 4, crossover)
Dados: Kosmyna et al., MIT Media Lab, 2025 (n=18, p=0.015)
O grupo que usou LLM ao longo das três primeiras sessões apresentou conectividade neural até 55% menor em magnitude total de dDTF comparado ao grupo que escreveu sem ferramentas. Na sessão de crossover, quando os participantes do grupo LLM precisaram escrever sem assistência pela primeira vez, 83% (15 de 18) relataram dificuldade em citar seus próprios textos, e nenhum produziu citações corretas. Os professores que avaliaram os ensaios, sem saber qual grupo os produziu, descreveram os textos gerados com LLM como "soulless" ("sem alma"), com "uso quase perfeito de linguagem e estrutura, mas simultaneamente falhando em oferecer insights pessoais ou afirmações claras."
Em ambientes técnicos, essa assimetria entre entrega aparente e domínio conceitual é estruturalmente perigosa. Sistemas corporativos exigem repertório, compreensão de trade-offs, visão arquitetural e capacidade de antecipar efeitos colaterais. Sem base sólida, cada nova camada adicionada ao sistema se apoia sobre entendimento parcial. Construir sobre areia pode gerar velocidade inicial, mas compromete estabilidade futura.
Nicholas Carr, em "The Glass Cage" (2014), já descrevia esse mecanismo no contexto da automação industrial: "Como você mede o custo de uma erosão de esforço e engajamento, ou um enfraquecimento de agência e autonomia, ou uma deterioração sutil de habilidade? Você não pode. Essas são o tipo de coisas sombrias e intangíveis que raramente apreciamos até depois que se foram." A deterioração descrita por Carr não aparece nos indicadores de produtividade. Ela se manifesta quando o sistema precisa ser auditado, quando uma falha crítica exige investigação de causa raiz, quando um requisito regulatório demanda rastreabilidade completa das decisões técnicas.
Erosão do conhecimento organizacional
Mesmo antes da IA generativa, organizações já enfrentavam desafios recorrentes relacionados a documentação insuficiente, concentração de conhecimento em indivíduos-chave e falhas estruturais na gestão do conhecimento. A dependência de memória tácita, decisões não registradas e racionalidades implícitas sempre representou um risco operacional, especialmente em ambientes de alta complexidade tecnológica.
A introdução massiva de IA acelera esse fenômeno. Quando análises, códigos, relatórios e propostas estratégicas passam a ser parcialmente gerados por modelos, cria-se um artefato final tecnicamente apresentável, mas com menor internalização do raciocínio por parte de quem o solicitou. A documentação tende a registrar o resultado, não necessariamente o processo decisório, as alternativas consideradas ou as restrições avaliadas.
O conhecimento deixa de ser apenas mal documentado. Ele passa a não ser plenamente compreendido desde a origem. Revisões tornam-se mais custosas, auditorias mais complexas e a transferência de conhecimento mais superficial. Em vez de reduzir dependências, o uso indiscriminado de IA pode deslocá-las para um novo eixo, onde a dependência da ferramenta se combina com a redução progressiva de domínio interno.
Storey discutiu a escala do problema da dívida cognitiva, sugerindo que ela pode representar riscos significativos à medida que IA e agentes são adotados. A afirmação é forte, mas a lógica que a sustenta é consistente. Dívida técnica pode ser medida, priorizada e paga com refatoração. Dívida cognitiva, como observou Nataliya Kosmyna do MIT Media Lab, opera sob regras diferentes: "Não existe cartão de crédito cognitivo. Você não pode pagar essa dívida." O conhecimento que não foi construído durante o processo de criação não pode ser recuperado integralmente já na primeira leitura do artefato final.
Usando a IA como ferramenta, não como um novo braço biônico
Profissionalmente, é essencial usar a IA como ferramenta, e não como atalho para algo que você ainda não domina. Como qualquer ferramenta, ela funciona melhor quando você conhece técnicas de prompts, topologias de agentes para cenários multi-agentes e outros detalhes importantes. Isso ajuda a tirar o máximo do potencial dela. Vale a pena usá-la em contextos que você já entende, como acelerador do que você já sabe, em vez de esperar que ela resolva algo que você não domina.
Ao usar o modelo que ficou conhecido como "vibe coding" com domínio do que se conhece, já se cria um gap de entendimento e conhecimento, pois você delega tarefas que poderia fazer para acelerar um processo lento. Assim, conseguimos produzir mais rápido, gerar código e estruturar soluções em menos tempo. Alterações simples se tornam difíceis não porque o código esteja ruim, mas porque o contexto mental de como tudo se conecta já não está claro. A velocidade inicial cobra seu preço mais adiante, e quando você atua sem ter as capacidades e o conhecimento do que está pedindo, essa dívida escala para outro patamar.
Quando tentamos deixar a IA preencher lacunas de conhecimento que ainda não dominamos, os riscos aparecem. Ela pode alucinar, gerar problemas inesperados e falar com confiança, e se você não domina o que está pedindo, acabamos aceitando como certo algo que está errado. Por isso faz diferença ter experiência, senso crítico e atenção ao que a ferramenta entrega, mesmo quando parece confiável.
O insight é simples: use a IA para potencializar competências que você já tem, acelerar decisões que entende, aprofundar análises que consegue avaliar e expandir repertório onde já existe base sólida. Quando usada assim, a IA é uma parceira poderosa. Quando usada como muleta, os problemas se acumulam, e a dívida cognitiva vai cobrando mais cedo ou tarde.
No fim das contas, a verdadeira vantagem não está apenas em produzir mais rápido com IA, mas em manter domínio sobre o que está sendo construído. Produtividade sustentável vem do entendimento, prática e acompanhamento, não de atalhos para algo que você ainda não domina.
Earl Wiener, pesquisador de fatores humanos em aviação, formulou uma observação que se aplica diretamente ao cenário atual. "Dispositivos digitais eliminam pequenos erros enquanto criam oportunidades para grandes erros." A IA generativa elimina erros de sintaxe, inconsistências superficiais e esquecimentos triviais. Ao mesmo tempo, cria oportunidades para erros arquiteturais, violações de segurança e inconsistências sistêmicas que são ordens de magnitude mais custosos.
O próximo salto necessário
A IA funciona como amplificador cognitivo, acelerando exploração, execução e prototipação de formas que seriam impraticáveis sem ela. O problema acontece quando essa aceleração opera sem supervisão proporcional à complexidade do que é gerado.
Enquanto modelos não forem capazes de oferecer explicabilidade robusta, justificativa formal de decisões e aderência verificável a constraints arquiteturais, a supervisão técnica continuará sendo indispensável. O próximo salto relevante talvez não esteja na capacidade de gerar mais, mas na capacidade de reduzir a distância entre geração e compreensão.
Carr escreveu que "as escolhas que fazemos, ou deixamos de fazer, sobre quais tarefas delegamos a computadores e quais mantemos para nós mesmos não são apenas escolhas práticas ou econômicas. São escolhas éticas. Elas moldam a substância de nossas vidas e o lugar que fazemos para nós mesmos no mundo." No contexto do desenvolvimento de software, essas escolhas moldam também a sustentabilidade dos sistemas que construímos e a capacidade das equipes que os mantêm.
Sistemas corporativos sustentáveis dependem menos da velocidade de produção e mais da profundidade de entendimento sobre o que foi produzido. A pergunta que fica não é quanto podemos automatizar, mas onde a automação amplia capacidade sem gerar um passivo invisível e indomável que comprometa o futuro do que está sendo construído. Produtividade sustentável exige sabedoria.
Referências
- Herbert, F. (1965). Dune. Chilton Books.
- Simon, H. A. (1971). Designing Organizations for an Information-Rich World. Johns Hopkins University Press.
- Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775-779.
- Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5), 991-1006.
- Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
- Carr, N. (2014). The Glass Cage: How Our Computers Are Changing Us. W. W. Norton.
- Prather, J. et al. (2024). The Widening Gap: The Benefits and Harms of Generative AI for Novice Programmers. ICER '24. arXiv:2405.17739.
- Kosmyna, N., Hauptmann, E., Yuan, Y. T., Situ, J., Liao, X., Beresnitzky, A. V., Braunstein, I. & Maes, P. (2025). Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. arXiv:2506.08872.
- Storey, M.-A. (2026). How Generative and Agentic AI Shift Concern from Technical Debt to Cognitive Debt. margaretstorey.com.
- Willison, S. (2026). Cognitive Debt. simonwillison.net.
- Wiener, E. L. & Curry, R. E. (1980). Flight-deck automation: Promises and problems. Ergonomics, 23(10), 995-1011.
