Direito à explicação em inteligência artificial

Página do item simplificado
dc.contributor.advisorPinto, Felipe Chiarello de Souza
dc.contributor.authorSantos, Marcelo Fonseca
dc.date.accessioned2025-04-14T21:10:36Z
dc.date.available2025-04-14T21:10:36Z
dc.date.issued2025-02-10
dc.description.abstractA Inteligência Artificial (IA) é um campo que visa criar sistemas capazes de realizar tarefas que normalmente requerem inteligência humana, como reconhecimento de padrões, raciocínio lógico e tomada de decisão automatizada. A pesquisa analisa como os dados de forma exponencial se correlacionam com as aplicações envolvendo Inteligência Artificial. As decisões automatizadas proferidas por esses sistemas são muitas vezes denominadas e consideradas como caixas pretas, pois não fornecem uma explicação clara e compreensível sobre como chegaram às suas decisões automatizadas, as denominadas Black Box. A pesquisa aborda os sistemas de IA, como eles sã afetados peas decisões humanas e perfilamento de dados de comportamento, e como podem gerar problemas éticos, jurídicos, econômicos e sociais, bem como na economia de mercado. O objetivo é apresentar uma visão geral sobre a Inteligência Artificial, as decisões humanas, e como influenciam as decisões automatizadas, como regulações contemporâneas e ex ante podem auxiliar na concretização do Direito à Explicação em Inteligência Artificial, e melhorar sobremaneira os mecanismos de Explicabilidade. A pesquisa e dissertação utilizam metodologia baseada em leitura e análise bibliográfica e de artigos científicos, ou seja, método Hipotético-Dedutivo: “o pesquisador elege o conjunto de proposições hipotéticas que acredita serem viáveis como estratégia de abordagem para se aproximar de seu objeto”. A análise crítica permite examinar os desafios e as limitações das técnicas existentes, bem como as implicações éticas, jurídicas e sociais do Direito à Explicação em Inteligência Artificial. A pesquisa têm desafios, como: (i) Decisões Automatixadas e relação das Decisões Humanas, discutindo os benefícios e os riscos de delegar ou compartilhar dados pessoais e comportamentais com as máquinas e seus sistemas; (ii) a Neuroeconomia em virtude do Perfilamento de Dados; (iii) Regulamentações Ex Ante e Mecanismos Positivos; (iv) Existência e concretização do Direito à Explicação; (v) Explicabilidade em Inteligência Artificial. Dessa maneira, a pesquisa procurou responder ao problema: Existe Direito à Explicação em Inteligências Artificiais? Os capítulos foram desenvolvidos com o escopo de expor ao leitor compreensão sobre o que são, como funcionam e aprendem os sistemas de Inteligência Artificial, como humanos tomam decisões, e essas Decisões influenciam (Direitos de Personalidade) o Aprendizado e as Decisões da Inteligência Artificial. Como os seres humanos são influenciados pela neuroeconomia, e posteriormente a dissertação trata da importância das regulações Ex Ante como governança de dados, o compliance digital e a governança de inteligência artificial como mitigadores de risco, atuando na prevenção e produção de documentos que permitem maior capacidade de explicar (Direito à Explicação) a automatização decisória, permitindo sua revisão ou confirmação, e também tratando dos sistemas específicos possam atuar na Explicabilidade da Inteligência Artificial, proporcionando maior confiança, ética e transparência para a inteligência artificial, e, também, a Inteligência Artificial Explicável (XAI).
dc.description.sponsorshipCAPES - Coordenação de Aperfeiçoamento de Pessoal de Nível
dc.identifier.urihttps://dspace.mackenzie.br/handle/10899/40483
dc.language.isopt_BR
dc.language.isoen
dc.publisherUniversidade Presbiteriana Mackenzie
dc.subjectinteligência artificial
dc.subjectneurociências
dc.subjectdecisões
dc.subjectexplicação
dc.subjectexplicabilidade
dc.titleDireito à explicação em inteligência artificial
dc.typeDissertação
local.contributor.advisorLatteshttp://lattes.cnpq.br/9554142049617388
local.contributor.advisorOrcidhttps://orcid.org/0000-0002-2834-6324
local.contributor.authorLatteshttp://lattes.cnpq.br/9923895914317734
local.contributor.authorOrcidhttps://orcid.org/0009-0001-3391-6766
local.contributor.board1Moreira, Diogo Rais Rodrigues
local.contributor.board1Latteshttp://lattes.cnpq.br/7309547447201302
local.contributor.board1Orcidhttps://orcid.org/0000-0002-3956-4714
local.contributor.board2Barreto Júnior, Irineu Francisco
local.contributor.board2Latteshttp://lattes.cnpq.br/7560057199454974
local.description.abstractenArtificial Intelligence (AI) is a field that aims to create systems capable of performing tasks that typically require human intelligence, such as pattern recognition, logical reasoning, and automated decision-making. The research analyzes how data exponentially correlates with applications involving Artificial Intelligence. The automated decisions made by these systems are often referred to and considered as black boxes, as they do not provide a clear and understandable explanation of how they arrived at their automated decisions, the so-called Black Box. The research addresses AI systems, how they are affected by human decisions and behavioral data profiling, and how they can generate ethical, legal, economic, and social problems, as well as in the market economy. The objective is to present an overview of Artificial Intelligence, human decisions, and how they influence automated decisions, how contemporary and "ex ante" regulations can assist in the realization of the Right to Explanation in Artificial Intelligence, and significantly improve the mechanisms of Explainability. The research and dissertation utilize a methodology based on reading and analyzing bibliographic sources and scientific articles, that is, the Hypothetico-Deductive method: "the researcher selects the set of hypothetical propositions that they believe are viable as a strategy to approach their object." The critical analysis allows for the examination of the challenges and limitations of existing techniques, as well as the ethical, legal, and social implications of the Right to Explanation in Artificial Intelligence. The research has challenges, such as: (i) Automated Decisions and the relationship with Human Decisions, discussing the benefits and risks of delegating or sharing personal and behavioral data with machines and their systems; (ii) Neuroeconomics due to Data Profiling; (iii) "Ex Ante" Regulations and Positive Mechanisms; (iv) Existence and realization of the Right to Explanation; (v) Explainability in Artificial Intelligence.In this way, the research sought to answer the question: Is there a Right to Explanation in Artificial Intelligences? The chapters were developed with the aim of providing the reader with an understanding of what Artificial Intelligence systems are, how they function and learn, how humans make decisions, and how these decisions influence (Personality Rights) the Learning and Decisions of Artificial Intelligence. As human beings are influenced by neuroeconomics, and subsequently, the dissertation addresses the importance of "Ex Ante" regulations such as data governance, digital compliance, and artificial intelligence governance as risk mitigators, acting in the prevention and production of documents that allow for a greater capacity to explain (Right to Explanation) decision automation, enabling its review or confirmation, and also addressing specific systems that can act on the Explainability of Artificial Intelligence, providing greater trust, ethics, and transparency for artificial intelligence, and also, Explainable Artificial Intelligence (XAI).
local.keywordsartificial intelligence
local.keywordsneurosciences
local.keywordsdecisions
local.keywordsexplanation
local.keywordsexplainability
local.publisher.countryBrasil
local.publisher.departmentFaculdade de Direito (FDIR)
local.publisher.initialsUPM
local.publisher.programDireito Político e Econômico
local.subject.cnpqCNPQ::CIENCIAS SOCIAIS APLICADAS::DIREITO::DIREITO PUBLICO::DIREITO CONSTITUCIONAL
Arquivos
Pacote Original
Agora exibindo 1 - 1 de 1
Imagem de Miniatura
Nome:
MARCELO FONSECA SANTOS....pdf
Tamanho:
993.83 KB
Formato:
Adobe Portable Document Format
Descrição:
Baixar
Licença do Pacote
Agora exibindo 1 - 1 de 1
Imagem de Miniatura
Nome:
license.txt
Tamanho:
2.22 KB
Formato:
Item-specific license agreed upon to submission
Descrição:
Baixar
Coleções
Direito Político e Econômico - Dissertações - Direito Higienópolis