Inteligência artificial e a transparência na administração pública brasileira

Abstract

Resumo: A crescente digitalização do poder público e o uso de sistemas automatizados para a tomada de decisões trouxeram agilidade e eficiência à administração pública, mas também trouxeram riscos. Os riscos de conformidade, jurídicos e de segurança, pertinentes a cada contexto em que as tecnologias são aplicadas, podem ser maiores conforme os algoritmos utilizados e o grau de transparência do sistema. Apesar de a Constituição Federal de 88 prever o princípio da transparência, ainda são necessárias diretrizes para estabelecer requisitos que o poder público deve atender e quais informações devem ser fornecidas. O uso da inteligência artificial explicável pode auxiliar a compreender o funcionamento do sistema e tratar parte dos riscos, além de viabilizar o uso responsável e auditável da inteligência artificial. As experiências nacionais e internacionais mostram que a falta de explicação do algoritmo e da finalidade do sistema, aliada à ausência de uma discussão pública prévia, contribuem para os efeitos negativos em grande escala. Apesar de a legislação de proteção de dados abordar o tema da explicabilidade, sua abordagem é insuficiente para assegurar uma transparência, sobretudo no que diz respeito ao uso dentro da administração pública brasileira. Os princípios constitucionais da publicidade, motivação e transparência justificam esforços neste sentido. A principal contribuição deste trabalho foi estabelecer uma ligação entre o dever constitucional de transparência no setor público e a transparência nos sistemas de inteligência artificial, além de estabelecer diretrizes de governança de inteligência artificial para concretizar este princípio.

Abstract: The increasing of digitalization within the State and the use of automated systems for decision making brought agility and efficiency, but also risks to the public administration. Compliance, judicial and security risks could be increased depending on the algorithms and the degree of transparency used in the technologies of those systems. Despite the Brazilian Constitution of 1988 addresses the principle of transparency guidelines are still needed in order to establish requirements the State must met and what kind of information must be provided to citizens. The use of explicable artificial intelligence could help understand how an intelligent system works while dealing with some of those risks, as well allow a responsible and auditable use of artificial intelligence. Previous cases show that the lack of explainability of an algorithm, along with no proper previous public discussions about the system could contribute to the negative impact some of those systems brought to society. Although data protection law addresses the issue about explicability, it's approach could not be enough to ensure the required level of transparency, especially with regard to its use in the Brazilian public administration. The constitutional principles of publicity, motivation and transparency justify these efforts. The main contribution of this work was to establish the connection between the constitutional duty of transparency in the public sector and the level of transparency needed in artificial intelligent systems, as well to help creating AI governance guidelines necessary for that purpose.