Memorial de projetos : da análise ética à engenharia de sistemas de inteligência artificial centrados no humano

Abstract

Resumo: Este memorial analisa a atual inflexão no debate sobre Inteligência Artificial (IA), que vem se deslocando de uma discussão predominantemente ética e abstrata para uma abordagem mais pragmática, centrada na engenharia de sistemas e na geração de valor organizacional. Apesar dos avanços técnicos em capacidades de raciocínio dos Grandes Modelos de Linguagem (LLMs), persiste um descompasso entre o potencial desses modelos e o valor efetivamente capturado pelas organizações, de modo que elevados investimentos não se traduzem, necessariamente, em retorno concreto. O texto discute ainda a chamada "ilusão de pensamento" dos LLMs: são ferramentas poderosas, mas que não substituem o julgamento humano em cenários complexos, reforçando a necessidade de supervisão qualificada, desenho cuidadoso de sistemas e governança adequada. No contexto brasileiro, observa-se uma contradição importante: embora a Estratégia Brasileira de Inteligência Artificial estabeleça diretrizes claras para o desenvolvimento ético e soberano da IA, pesquisas recentes indicam que o uso efetivo de IA em empresas e equipamentos culturais ainda é incipiente, concentrando-se sobretudo na digitalização básica de processos. Defendese, assim, que o principal gargalo se encontra na engenharia de requisitos e na falta de práticas específicas para sistemas de IA centrados no humano, propondo-se a adoção de um Modelo de Maturidade em IA Centrada no Humano (Human-Centered AI Maturity Model – HCAI-MM), com ênfase em uma perspectiva de design organizacional que incorpore explicitamente a cognição humana no ciclo de processamento da informação. Conclui-se que o sucesso da IA no Brasil dependerá menos da disponibilidade de novos algoritmos e mais da capacidade de projetar sistemas sociotécnicos nos quais a tecnologia amplie, de fato, as capacidades humanas

Abstract: This paper analyzes the current inflection point in the Artificial Intelligence (AI) debate, which has been shifting from a predominantly ethical and abstract discussion toward a more pragmatic approach focused on systems engineering and organizational value generation. Despite technical advances in the reasoning capabilities of Large Language Models (LLMs), a persistent gap remains between the potential of these models and the value effectively captured by organizations, such that substantial investments do not necessarily translate into concrete returns. The text further discusses the so-called "illusion of thinking" in LLMs: they are powerful tools, yet they do not replace human judgment in complex scenarios, reinforcing the need for qualified oversight, careful system design, and adequate governance. In the Brazilian context, an important contradiction emerges: although the Brazilian Artificial Intelligence Strategy establishes clear guidelines for the ethical and sovereign development of AI, recent research indicates that the effective use of AI in businesses and cultural institutions remains incipient, concentrated mainly in the basic digitalization of processes. It is argued that the main bottleneck lies in requirements engineering and the lack of specific practices for human-centered AI systems, with the adoption of a Human-Centered AI Maturity Model (HCAI-MM) being proposed, emphasizing an organizational design perspective that explicitly incorporates human cognition into the information processing cycle. It is concluded that the success of AI in Brazil will depend less on the availability of new algorithms and more on the capacity to design sociotechnical systems in which technology genuinely enhances human capabilities