O problema do enviesamento racial nas tecnologias de reconhecimento facial de segurança pública
Carregando...
Tipo
TCC
Data de publicação
2024-06
Periódico
Citações (Scopus)
Autores
Oliveira, Marina Brito Angrisani Alves de
Orientador
Genghini, Marco Aurélio Barberato
Título da Revista
ISSN da Revista
Título de Volume
Membros da banca
Programa
Resumo
Este estudo tem como propósito investigar a implementação de tecnologias de
reconhecimento facial na segurança pública no Brasil. Levando em consideração a longa e
marcada história pelo racismo e discriminação no sistema penal brasileiro, há uma indagação
principal: nesse contexto, até que ponto a adoção de sistemas de reconhecimento facial pode
contribuir para a perpetuação do racismo estrutural e a violação de princípios fundamentais? A
análise revela que os erros e falhas da tecnologia afetam desproporcionalmente homens e
mulheres negras não só no Brasil como no mundo. Assim, torna-se crucial que a legislação
garanta níveis mínimos de transparência na utilização desses sistemas, bem como mecanismos
para evitar a perpetuação de discursos racistas pelos algoritmos de aprendizagem. Inicialmente,
realizou-se uma revisão bibliográfica sobre inteligência artificial, algoritmos, big data e
reconhecimento facial, a fim de esclarecer conceitos para auxiliar na compreensão do tema. Em
seguida, foram analisados os principais projetos de lei e legislações vigentes relacionadas à
inteligência artificial e reconhecimento facial, tanto no Brasil, como na União Europeia. Então,
buscou-se examinar os desafios enfrentados pelo legislador na formulação de um modelo
regulatório para as tecnologias de reconhecimento facial no Brasil, constatando que a maioria
dos projetos tem uma abordagem autorizativa em relação ao uso dessas tecnologias, sem
estabelecer direitos e responsabilidades claras.
This study aims to investigate the implementation of facial recognition technologies in public security in Brazil. Considering the long history of racism and discrimination in the brazilian penal system, there is a key question: in this context, to what extent can the adoption of facial recognition systems contribute to the perpetuation of structural racism and the violation of fundamental principles? The analysis reveals that technology errors and failures disproportionately affect black men and women not only in Brazil but worldwide. Therefore, it becomes crucial for legislation to ensure minimum levels of transparency in the use of these systems, as well as mechanisms to prevent the perpetuation of racist discourses by learning algorithms. Initially, a literature review was conducted on artificial intelligence, algorithms, big data, and facial recognition to clarify concepts to aid in understanding the topic. Then, the main draft laws and current legislation related to artificial intelligence and facial recognition were analyzed, both in Brazil and the European Union. Next, the challenges faced by lawmakers in formulating a regulatory model for facial recognition technologies in Brazil were examined, finding that most projects take an authorizing approach to the use of these technologies, without establishing clear rights and responsibilities.
This study aims to investigate the implementation of facial recognition technologies in public security in Brazil. Considering the long history of racism and discrimination in the brazilian penal system, there is a key question: in this context, to what extent can the adoption of facial recognition systems contribute to the perpetuation of structural racism and the violation of fundamental principles? The analysis reveals that technology errors and failures disproportionately affect black men and women not only in Brazil but worldwide. Therefore, it becomes crucial for legislation to ensure minimum levels of transparency in the use of these systems, as well as mechanisms to prevent the perpetuation of racist discourses by learning algorithms. Initially, a literature review was conducted on artificial intelligence, algorithms, big data, and facial recognition to clarify concepts to aid in understanding the topic. Then, the main draft laws and current legislation related to artificial intelligence and facial recognition were analyzed, both in Brazil and the European Union. Next, the challenges faced by lawmakers in formulating a regulatory model for facial recognition technologies in Brazil were examined, finding that most projects take an authorizing approach to the use of these technologies, without establishing clear rights and responsibilities.
Descrição
Palavras-chave
reconhecimento facial , segurança pública , regulamentação , discriminação , facial recognition , public security , regulation , discrimination