Memorial de projetos : questão ética e regulamentação da inteligência artificial

Abstract

Resumo: O recente desenvolvimento e uso das tecnologias de Inteligência Artificial tem produzido profundas transformações na sociedade e grandes expectativas para o futuro. Ao lado de ganhos positivos estão os riscos e potenciais impactos negativos que podem ser causados pela IA mediante uso inadvertido ou antiético. Das preocupações emergentes, surgem as propostas para identificar e mitigar esses riscos. O estabelecimento de um marco regulatório para o desenvolvimento e o uso da IA é um passo importante para oferecer proteção aos indivíduos, bem como para garantir o desenvolvimento e a pesquisa de forma segura. No Brasil, está em debate na Câmara Federal o Projeto de Lei 2.338/2023, que regulamenta a Inteligência Artificial no país. Esse projeto trata dos impactos da IA na sociedade e prevê a classificação dos sistemas de IA em níveis de risco. Sistemas classificados como de alto risco devem ter avaliação de impacto algorítmico e verificados os riscos aos direitos fundamentais

Abstract: The recent development and use of Artificial Intelligence technologies has produced profound transformations in society and raised great expectations for the future. Alongside the positive gains are the risks and potential negative impacts that AI can cause through inadvertent or unethical use. Emerging concerns have led to proposals to identify and mitigate these risks. Establishing a regulatory framework for the development and use of AI is an important step toward protecting individuals and ensuring safe development and research. In Brazil, Bill 2.338/2023, which regulates Artificial Intelligence in the country, is currently being debated in the Federal Chamber. This bill addresses the impacts of AI on society and provides for the classification of AI systems according to risk levels. Systems classified as high risk must undergo an algorithmic impact assessment and verify the risks to fundamental rights