Memorial de projetos : segurança e privacidade na era da inteligência artificial

Abstract

Resumo: É notória a popularização das ferramentas de inteligência artificial para os mais variados objetivos tanto no grande público, quanto nas empresas. E devido a lógica de como os modelos utilizam dados, muitas vezes fornecidos pelos usuários, para constantemente se aprimorarem, muitas questões e preocupações quanto a proteção de dados pessoais vem surgindo nos últimos tempos. Vazamento de dados já é uma grande preocupação de muitas empresas desde de que sistemas de informação se tornaram o padrão em nossa sociedade, e muitas já têm restringido o uso interno de ferramentas de inteligência artificial apenas para aquelas devidamente homologadas e testadas. Entretanto ainda existem muitas dúvidas sobre as boas práticas de governança de dados que podem ser usados de forma segura nos treinamentos dos modelos. Outro aspecto relevante no mesmo contexto de privacidade é a constante extração de dados que determinados modelos executam na internet, colocando em risco aspectos como direitos autorais, ou mais especificamente, a violação deles. Sendo assim, é necessário planejar controles e limites para o crawling feito por estas ferramentas. Esses controles podem vir tanto via regulamentação quanto a criação de boas práticas de mercado sobre o desenvolvimento e operação destas ferramentas. Outra relevante preocupação é relacionada a eficiência de técnicas de anonimização que são aplicadas em bases que irão alimentar modelos durante suas fases de treinamento

Abstract: The popularization of artificial intelligence tools for a wide variety of purposes, both among the general public and in companies, is well-known. Due to the logic of how these models use data, often provided by users, to constantly improve themselves, many questions and concerns regarding the protection of personal data have arisen recently. Data leaks have been a major concern for many companies since information systems became the standard in our society, and many have already restricted the internal use of artificial intelligence tools to only those that are properly certified and tested. However, many doubts remain about the best data governance practices that can be used safely in model training. Another relevant aspect in the same context of privacy is the constant extraction of data that certain models perform on the internet, putting aspects such as copyright, or more specifically, its violation, at risk. Therefore, it is necessary to plan controls and limits for the crawling done by these tools. These controls can come from regulation as well as the creation of best market practices regarding the development and operation of these tools. Another relevant concern relates to the efficiency of anonymization techniques applied to databases that will feed models during their training phases