Memorial de projetos : considerações sobre ética no uso da inteligência artificial

Abstract

Resumo: O avanço acelerado da Inteligência Artificial (IA) traz consigo uma série de dilemas éticos e sociais que ultrapassam o campo técnico. Muito além do temor de uma IA Geral (AGI) hostil, os problemas mais urgentes já se manifestam nas tecnologias atuais, por meio de algoritmos que reforçam desigualdades, violam a privacidade e exploram o trabalho humano de forma precarizada. A chamada justiça algorítmica, baseada em modelos opacos e de difícil auditoria, ameaça a transparência e o direito à explicação. Além disso, a IA reproduz preconceitos de gênero, raça e classe, perpetuando exclusões históricas sob uma aparência de neutralidade técnica. A dependência de cadeias produtivas extrativistas e o consumo intensivo de energia contradizem o discurso de uma "tecnologia limpa". A consolidação do capitalismo de vigilância transforma dados pessoais em mercadoria e amplia o controle social. Diante disso, uma IA ética exige não apenas ajustes técnicos, mas a transformação estrutural das relações econômicas e políticas, com regulamentação efetiva e participação democrática na sua governança

Abstract: The rapid advancement of Artificial Intelligence (AI) brings a wide range of ethical and social challenges that go far beyond technical concerns. More than the fear of a hostile Artificial General Intelligence (AGI), the most urgent issues are already visible in current technologies: algorithms that reproduce social inequalities, systems that violate privacy, and infrastructures that exploit precarious labor. Algorithmic justice often functions as an opaque "black box," limiting transparency and the right to explanation. Furthermore, AI reflects and amplifies gender, racial, and class biases, reinforcing historical exclusions under the guise of objectivity. Its dependence on extractive production chains and high energy consumption contradicts the notion of a "clean technology." At the same time, the rise of surveillance capitalism transforms personal data into a commodity, shaping behavior and undermining autonomy. Therefore, building ethical AI requires more than technical fixes; it demands a structural transformation of technological development, with effective regulation, social accountability, and democratic participation in governance