Da black box à transparência
proteção de dados e ética na era da inteligência artificial
Palavras-chave:
Inteligência artificial, Black box, Transparência, ÉticaResumo
O presente trabalho tem como pergunta principal: Como convergir para a aliança entre o princípio da transparência e a proteção de dados no desenho industrial das novas tecnologias de Inteligência Artificial e Aprendizado de Máquina? Na tentativa de dirimir o dilema, parte-se de uma pesquisa bibliográfica e do método hipotético-dedutivo, dividindo-se em três partes, além de introdução e considerações finais. Em um primeiro momento, relata-se a história da Inteligência Artificial e da técnica de Aprendizado de Máquina para então apresentar o conceito de Black Box. Após, narram-se determinados eventos atinentes à falta de transparência nos processos decisórios algorítmicos, organizando-os entre os que envolvam empresas privadas e entes públicos. Ainda, analisa-se a legislação pátria, com ênfase na Lei Geral de Proteção de Dados, para aferir a existência, ou não, de mecanismos jurídicos capazes de proteger o usuário das práticas obscuras das corporações de tecnologia. Ao final, propõem-se expedientes para o emprego da Inteligência Artificial de forma ética e responsável.
Downloads
Não há dados estatísticos.
Referências
AIKEMU, Batuer et al. Artificial intelligence in decision-making for colorectal cancer treatment strategy: an observational study of implementing Watson for Oncology in a 250-case cohort. Frontiers in Oncology, v. 10, p. 594182, 2021.
BASTOS, Elísio Augusto Velloso; SOUZA, Jozeh Julyo Queiroz Jatene; DA SILVA, Natalia Gemaque. O direito ao esquecimento enquanto ferramenta jurídica de autodeterminação informativa em face das violações à privacidade decorrentes do capitalismo de vigilância. 1ª Edição, Santa Catarina-2021, p. 523.
BRASIL. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Diário Oficial da União, 11 fev. 2022. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/Emendas/Emc/emc115.htm#:~:text=EMENDA%20CONSTITUCIONAL%20N%C2%BA%20115%2C%20DE,e%20tratamento%20de%20dados%20pessoais. Acesso em: 12 set. 2024.
BRASIL. Lei nº 13.853, de 08 de julho de 2019. Diário Oficial da União, 09 jul. 2019. Disponível em: https://www.planalto.gov.br/ccivil_03/_Ato2019-2022/2019/Lei/L13853.htm#art1. Acesso em: 12 set. 2024.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Diário Oficial da União, 15 ago. 1018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Aceso em: 12 set. 2024.
BRASIL. Lei nº 12.964, de 23 de abril de 2014. Diário Oficial da União, 24 abr. 2014. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 12 set. 2024.
BRASIL. Lei nº 8.078, de 11 de setembro de 1990. Diário Oficial da União, 12 set. 1990. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm. Acesso em: 12 set. 2024.
BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Brasília: Senado, 1988.
DA SILVA, Dandara Ramos Silvestre; CÉSAR, Daniel. 3. Discriminação algorítmica: estudo sobre hipóteses causadoras e soluções regulatórias. Título: Direitos humanos, ética e democracia na sociedade da informação. III–Discurso de Ódio na Sociedade em Rede Formato: Livro Digital, p. 47. 2022.
DA SILVA, Tarcízio. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores/as Negros/as (ABPN), v. 12, n. 31, 2020.
DE CASTRO BARBOSA, Xênia. Breve introdução à história da Inteligência Artificial. Jamaxi, v. 4, n. 1, 2020.
DOURADO, Daniel de Araujo; AITH, Fernando Mussa Abujamra. A regulação da inteligência artificial na saúde no Brasil começa com a Lei Geral de Proteção de Dados Pessoais. Revista de Saúde Pública, v. 56, 2022.
LAZCOZ MORATINOS, Guillermo; CASTILLO PARRILLA, José Antonio. Valoración algorítmica ante los derechos humanos y el Reglamento General de Protección de Datos: el caso SyRI. Revista chilena de derecho y tecnología, v. 9, n. 1, p. 207-225, 2020.
LEMES, Marcellle Martins et al. O uso da inteligência artificial na saúde pela Administração Pública brasileira. Cadernos Ibero-Americanos de Direito Sanitário, v. 9, n. 3, p. 88, 2020.
LUDERMIR, Teresa Bernarda. Inteligência Artificial e Aprendizado de Máquina: estado atual e tendências. Estudos Avançados, v. 35, 2021.
FRADKOV, Alexander L. Early history of machine learning. IFAC-PapersOnLine, v. 53, n. 2, 2020.
FRAZÃO, Ana. Capitalismo de vigilância e Black Box Society. JOTA, 2019. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/capitalismo-de-vigilancia-e-black-box-society-28022019. Acesso em: 24 jun. 2023.
MALDONADO, Viviane Nóbrega; BLUM, Renato Ópice. LGPD: Lei geral de proteção de dados comentada. São Paulo: Revista dos Tribunais, 2019.
MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação algorítmica: conceito, fundamento legal e tipologia. Direito Público, v. 16, n. 90, 2019.
MENDOZA, Daniela. Racismo y roles de género, conductas perpetuadas en algoritmos de inteligencia artificial. Coloquio, n. 65, p. 131-135, 2020.
NYLAND, Joana Josiane Andriotte Oliveira Lima. Racismo algorítmico: uma revisão de literatura. Research, Society and Development, v. 12, n. 2, 2023.
ONODY, Roberto Nicolau. Teste de Turing e inteligência artificial. 2021.
PARLAMENTO EUROPEU. A Lei dos Mercados Digitais e da Lei dos Serviços Digitais da UE em detalhe. 2022. Disponível em: https://www.europarl.europa.eu/topics/pt/article/20211209STO19124/a-lei-dos-mercados-digitais-e-da-lei-dos-servicos-digitais-da-ue-explicadas. Acesso em: 12 set. 2024.
PASQUALE, Frank. The black box society: The secret algorithms that control money and information. Harvard University Press, 2015.
RUEDIGER, Marco Aurélio et al. Regulação de plataformas digitais: uma contribuição para a análise do debate nacional frente a um desafio global. 2022.
SARACCO, R. Congrats Xiaoyi. You are now a medical doctor. IEEE Future Directions. 2017. Disponível em: https://cmte.ieee.org/futuredirections/2017/12/02/congrats-xiaoyi-you-are-now-a-medical-doctor/. Acesso em: 7 fev. 2021.
SENADO FEDERAL. Projeto de Lei nº 2.630/2020. Disponível em:
https://legis.senado.leg.br/sdleg-getter/documento?dm=8110630&ts=1712173889269&disposition=inline. Acesso em : 12 set. 2024.
SICHMAN, Jaime Simão. Inteligência Artificial e sociedade: avanços e riscos. Estudos Avançados, v. 35, p. 37-50, 2021.
SULAIMON, I. A.; GHONEIM, A.; ALRASHOUD, M. Adaptation of machine learning based fairness algorithm for real time decision in autonomous systems. Num. Com. Meth. Sci. Eng. 2, No. 2, 73-77, 2020.
ZUBOFF, Shoshana. Big other: surveillance capitalism and the prospects of an information civilization. Journal of information technology, v. 30, n. 1, p. 75-89, 2015.
BASTOS, Elísio Augusto Velloso; SOUZA, Jozeh Julyo Queiroz Jatene; DA SILVA, Natalia Gemaque. O direito ao esquecimento enquanto ferramenta jurídica de autodeterminação informativa em face das violações à privacidade decorrentes do capitalismo de vigilância. 1ª Edição, Santa Catarina-2021, p. 523.
BRASIL. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Diário Oficial da União, 11 fev. 2022. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/Emendas/Emc/emc115.htm#:~:text=EMENDA%20CONSTITUCIONAL%20N%C2%BA%20115%2C%20DE,e%20tratamento%20de%20dados%20pessoais. Acesso em: 12 set. 2024.
BRASIL. Lei nº 13.853, de 08 de julho de 2019. Diário Oficial da União, 09 jul. 2019. Disponível em: https://www.planalto.gov.br/ccivil_03/_Ato2019-2022/2019/Lei/L13853.htm#art1. Acesso em: 12 set. 2024.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Diário Oficial da União, 15 ago. 1018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Aceso em: 12 set. 2024.
BRASIL. Lei nº 12.964, de 23 de abril de 2014. Diário Oficial da União, 24 abr. 2014. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 12 set. 2024.
BRASIL. Lei nº 8.078, de 11 de setembro de 1990. Diário Oficial da União, 12 set. 1990. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm. Acesso em: 12 set. 2024.
BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Brasília: Senado, 1988.
DA SILVA, Dandara Ramos Silvestre; CÉSAR, Daniel. 3. Discriminação algorítmica: estudo sobre hipóteses causadoras e soluções regulatórias. Título: Direitos humanos, ética e democracia na sociedade da informação. III–Discurso de Ódio na Sociedade em Rede Formato: Livro Digital, p. 47. 2022.
DA SILVA, Tarcízio. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores/as Negros/as (ABPN), v. 12, n. 31, 2020.
DE CASTRO BARBOSA, Xênia. Breve introdução à história da Inteligência Artificial. Jamaxi, v. 4, n. 1, 2020.
DOURADO, Daniel de Araujo; AITH, Fernando Mussa Abujamra. A regulação da inteligência artificial na saúde no Brasil começa com a Lei Geral de Proteção de Dados Pessoais. Revista de Saúde Pública, v. 56, 2022.
LAZCOZ MORATINOS, Guillermo; CASTILLO PARRILLA, José Antonio. Valoración algorítmica ante los derechos humanos y el Reglamento General de Protección de Datos: el caso SyRI. Revista chilena de derecho y tecnología, v. 9, n. 1, p. 207-225, 2020.
LEMES, Marcellle Martins et al. O uso da inteligência artificial na saúde pela Administração Pública brasileira. Cadernos Ibero-Americanos de Direito Sanitário, v. 9, n. 3, p. 88, 2020.
LUDERMIR, Teresa Bernarda. Inteligência Artificial e Aprendizado de Máquina: estado atual e tendências. Estudos Avançados, v. 35, 2021.
FRADKOV, Alexander L. Early history of machine learning. IFAC-PapersOnLine, v. 53, n. 2, 2020.
FRAZÃO, Ana. Capitalismo de vigilância e Black Box Society. JOTA, 2019. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/capitalismo-de-vigilancia-e-black-box-society-28022019. Acesso em: 24 jun. 2023.
MALDONADO, Viviane Nóbrega; BLUM, Renato Ópice. LGPD: Lei geral de proteção de dados comentada. São Paulo: Revista dos Tribunais, 2019.
MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação algorítmica: conceito, fundamento legal e tipologia. Direito Público, v. 16, n. 90, 2019.
MENDOZA, Daniela. Racismo y roles de género, conductas perpetuadas en algoritmos de inteligencia artificial. Coloquio, n. 65, p. 131-135, 2020.
NYLAND, Joana Josiane Andriotte Oliveira Lima. Racismo algorítmico: uma revisão de literatura. Research, Society and Development, v. 12, n. 2, 2023.
ONODY, Roberto Nicolau. Teste de Turing e inteligência artificial. 2021.
PARLAMENTO EUROPEU. A Lei dos Mercados Digitais e da Lei dos Serviços Digitais da UE em detalhe. 2022. Disponível em: https://www.europarl.europa.eu/topics/pt/article/20211209STO19124/a-lei-dos-mercados-digitais-e-da-lei-dos-servicos-digitais-da-ue-explicadas. Acesso em: 12 set. 2024.
PASQUALE, Frank. The black box society: The secret algorithms that control money and information. Harvard University Press, 2015.
RUEDIGER, Marco Aurélio et al. Regulação de plataformas digitais: uma contribuição para a análise do debate nacional frente a um desafio global. 2022.
SARACCO, R. Congrats Xiaoyi. You are now a medical doctor. IEEE Future Directions. 2017. Disponível em: https://cmte.ieee.org/futuredirections/2017/12/02/congrats-xiaoyi-you-are-now-a-medical-doctor/. Acesso em: 7 fev. 2021.
SENADO FEDERAL. Projeto de Lei nº 2.630/2020. Disponível em:
https://legis.senado.leg.br/sdleg-getter/documento?dm=8110630&ts=1712173889269&disposition=inline. Acesso em : 12 set. 2024.
SICHMAN, Jaime Simão. Inteligência Artificial e sociedade: avanços e riscos. Estudos Avançados, v. 35, p. 37-50, 2021.
SULAIMON, I. A.; GHONEIM, A.; ALRASHOUD, M. Adaptation of machine learning based fairness algorithm for real time decision in autonomous systems. Num. Com. Meth. Sci. Eng. 2, No. 2, 73-77, 2020.
ZUBOFF, Shoshana. Big other: surveillance capitalism and the prospects of an information civilization. Journal of information technology, v. 30, n. 1, p. 75-89, 2015.
Downloads
Publicado
2025-10-23
Como Citar
PIAE, Renata Petreli; FERREIRA, Adriano Fernandes; CRISPIM, Tiago Esashika. Da black box à transparência: proteção de dados e ética na era da inteligência artificial. Virtuajus, Belo Horizonte, v. 10, n. 19, 2025. Disponível em: https://periodicos.pucminas.br/virtuajus/article/view/34235. Acesso em: 12 nov. 2025.
Edição
Seção
Temática Livre
Licença
Copyright (c) 2025 Renata Petreli Piae, Adriano Fernandes Ferreira, Tiago Esashika
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
