Impactos dos sistemas de inteligência artificial na causalidade penal

Abstract

Resumo: Esta pesquisa investiga os impactos dos sistemas de inteligência artificial sobre a teoria da causalidade penal, examinando em que medida as características técnicas desses algoritmos desafiam os critérios tradicionais de imputação de responsabilidade penal em casos de resultados lesivos. O objetivo central do trabalho consistiu em analisar como os sistemas de inteligência artificial complexos – marcados pela autonomia operacional, a imprevisibilidade de seus resultados, a dispersividade em sua produção e operação e a opacidade de seu funcionamento – afetam a reconstrução do curso causal e o estabelecimento de condutas humanas juridicamente relevantes, bem como se tais características podem gerar uma lacuna de responsabilidade. Para tanto, a pesquisa partiu de uma delimitação conceitual da inteligência artificial juridicamente funcional, aliada a uma análise técnica do funcionamento do aprendizado de máquina, seguida de uma exposição dos fundamentos da causalidade no ordenamento jurídico brasileiro e das teorias que lhe dão origem e, por fim, aplicando essas categorias aos problemas concretos suscitados pelo uso de sistemas de IA, sobretudo no que toca à (im)possibilidade de qualificar as "condutas" desses algoritmos como causas supervenientes relativamente independentes, bem como às dificuldades de averiguação e estabelecimento das condutas determinantes a um evento lesivo. Conclui-se que o comportamento emergente da máquina não é capaz, por si só, de romper o nexo de causalidade em relação às condutas dos fornecedores e operadores desses sistemas, pois se está diante de um fenômeno inerente ao seu próprio funcionamento e assumido em sua criação. Por outro lado, sustenta-se que a opacidade e a dispersividade não são obstáculos insuperáveis à afirmação do nexo causal, já que a prova da causalidade pode se basear em uma prova indiciária robusta, dispensando a compreensão absoluta do mecanismo interno da máquina, conforme demonstraram os casos clássicos de responsabilidade penal pelo produto. Para a coleta desses indícios, a Inteligência Artificial Explicável (XAI) e a imposição de deveres rigorosos de documentação técnica e institucional podem ser ferramentas eficazes, que devem ser levadas em conta para além de soluções exclusivamente dogmáticas

Abstract: This study examines the impact of artificial intelligence systems on the theory of criminal causation, analyzing the extent to which the technical characteristics of such algorithms challenge traditional criteria for attributing criminal liability in cases involving harmful outcomes. The central objective of the research is to assess how the disruptive features of complex artificial intelligence systems – marked by operational autonomy, unpredictability of results, dispersivity in their development and operation, and decisional opacity – affect the reconstruction of the causal chain and the identification of legally relevant human conduct, and whether they may generate a responsibility gap. To this end, the research begins with a conceptually delimited and legally functional definition of artificial intelligence, combined with a technical analysis of machine learning mechanisms, followed by an exposition of the foundations of causation within the Brazilian criminal law framework and the theories underlying it. These categories are then applied to the concrete problems arising from the use of AI systems, particularly with regard to the (im)possibility of qualifying algorithmic "conduct" as a relatively independent supervening cause, as well as to the difficulties involved in identifying and establishing the conduct decisive for a harmful event. The study concludes that the emergent behavior of AI systems is not, in itself, capable of breaking the causal link in relation to the conduct of suppliers and operators, as it constitutes a phenomenon inherent to their functioning and assumed at the moment of their creation. At the same time, it argues that opacity and dispersivity are not insurmountable obstacles to affirming causation, since causal proof may rely on robust circumstantial evidence without requiring full comprehension of the system’s internal mechanisms, as demonstrated by classical cases of criminal product liability. For the collection of such indicia, explainable artificial intelligence (XAI) and the imposition of stringent duties of technical and institutional documentation may serve as effective tools, which should be taken into account beyond exclusively dogmatic solutions