INTELIGÊNCIA ARTIFICIAL CENTRADA EM PESSOAS: PROTEÇÃO DE DADOS E DIREITOS FUNDAMENTAIS NO CENÁRIO GLOBAL

Autores

  • Stefani Juliana Vogel Conselho Nacional de Proteção de Dados Pessoais (CNPD)

DOI:

https://doi.org/10.54275/raesmpce.v16i2.415

Palavras-chave:

inteligência artificial, direitos humanos, ética, equidade, justiça

Resumo

Este artigo exploratório investiga a importância dos princípios éticos para o desenvolvimento e uso de sistemas de inteligência artificial (IA), com foco na confiança e no respeito aos direitos fundamentais, especialmente na proteção de dados pessoais. Utilizando método dedutivo e revisão bibliográfica, o estudo apresenta as principais construções teóricas sobre IA centrada no ser humano. São abordados os desafios éticos e os riscos inerentes à IA sugerindo caminhos para uma IA ética e centrada em pessoas, essencial para a democracia e o debate público. Conclui destacando uma nova perspectiva para enfrentar os desafios contemporâneos em proteção de dados e privacidade.

Biografia do Autor

Stefani Juliana Vogel, Conselho Nacional de Proteção de Dados Pessoais (CNPD)

Chefe de Gabinete na Câmara dos Deputados e coordenadora do Grupo de Trabalho Mulheres no Direito Digital e nas Novas Tecnologias do Instituto Empoderar. Foi presidente suplente do Conselho Nacional de Proteção de Dados Pessoais (CNPD). É mestre em Alta Dirección en Seguridad Internacional pelo Centro Universitario de la Guardia Civil e Universidade Carlos III da Espanha. E-mail: dpovogel@gmail.com.

Referências

AGÊNCIA DOS DIREITOS FUNDAMENTAIS DA UNIÃO EUROPEIA. Inteligência artificial e direitos fundamentais: síntese. Luxemburgo: Publicações do Gabinete da União Europeia, 2021. Disponível em: https://fra.europa.eu/sites/default/files/fra_uploads/fra-2021-artificial-intelligence-summary_pt.pdf. Acesso em: 19 out. 2024. ISBN 978-92-9461-234-2. DOI: 10.2811/990836.

ARÃO, Cristian. Por trás da inteligência artificial: uma análise das bases epistemológicas do aprendizado de máquina. Trans/Form/Ação, São Paulo, v. 47, n. 3, 2024. Disponível em: https://doi.org/10.1590/0101-3173.2024.v47.n3.e02400163. Acesso em: 14 out. 2024.

AUTORIDADE NACIONAL DE PROTEÇÃO DE DADOS. Voto nº 11/2024/DIR-MW/CD: Medida preventiva para evitar dano grave e irreparável ou de difícil reparação. Brasília: ANPD, 2024. Disponível em: https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-determina-suspensao-cautelar-do-tratamento-de-dados-pessoais-para-treinamento-da-ia-da-meta. Acesso em: 15 out. 2024.

BAROCAS, Solon; HARDT, Moritz; NARAYANAN, Arvind. Fairness and Machine Learning: Limitations and Opportunities. Disponível em: https://fairmlbook.org/. Acesso em: 15 out. 2024.

BURLE, Caroline. CORTIZ, Diogo. Mapeamento de princípios de inteligência artificial. São Paulo: Comitê Gestor da Internet no Brasil, 2019. Disponível em: https://www.nic.br/publicacao/mapeamento-de-principios-de-inteligencia-artificial/. Acesso em: 21 out. 2024.

COMISSÃO EUROPEIA. Ethics guidelines for trustworthy AI. 2018. Disponível em: https://digital-strategy.ec.europa.eu/pt/library/ethics-guidelines-trustworthy-ai. Acesso em: 24 out.2024.

COMISSÃO EUROPEIA. Livro Branco sobre a inteligência artificial — Uma abordagem europeia virada para a excelência e a confiança. Bruxelas: Comissão Europeia, 2020. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/PDF/?uri=CELEX:52020DC0065. Acesso em: 19 out. 2024.

EUROPEAN GROUP ON ETHICS IN SCIENCE AND NEW TECHNOLOGIES. Statement on artificial intelligence, robotics and ‘autonomous’ systems. Luxembourg: Publications Office of the European Union, 2018. Disponível em: https://doi.org/10.2777/531856. Acesso em: 16 out.2024.

FLORIDI, Luciano.; COWLS, Josh. A unified framework of five principles for AI in society. Harvard Data Science Review, v. 1, n. 1, 2019. Disponível em: https://doi.org/10.1162/99608f92.8cd550d1. Acesso em: 14 out. 2024.

FUTURE OF LIFE INSTITUTE. Asilomar AI Principles. Disponível em: https://futureoflife.org/2017/08/11/ai-principles/ . Acesso em: 08 out. 2024.

HIGH-LEVEL ADVISORY BODY ON ARTIFICIAL INTELLIGENCE. Governing AI for humanity: final report. Setembro de 2024. Disponível em: https://fra.europa.eu/sites/default/files/fra_uploads/fra-2021-artificial-intelligence-summary_pt.pdf. Acesso em: 19 out.2024.

HINE, Emmie; FLORIDI, Luciano. The Blueprint for an AI Bill of Rights: In Search of Enaction, at Risk of Inaction. Minds and Machines, 2023. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4279449. Acesso em: 19 out.2024.

KANTAYYA, Shalini. Coded Bias. Direção de Shalini Kantayya. Produção de 7th Empire Media, 2020. Disponível em: https://www.netflix.com. Acesso em: 14 out. 2024.

ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO (OCDE). Principles on AI. Disponível em: https://www.oecd.org/going-digital/ai/principles/. Acesso em: 21 out. 2024.

PARLAMENTO EUROPEU. Resolução do Parlamento Europeu de 20 de outubro de 2020 que contém recomendações à Comissão sobre o regime relativo aos aspectos éticos da inteligência artificial, da robótica e das tecnologias conexas. 2020/2012(INL). Disponível em: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_PT.html. Acesso em: 16 out. 2024.

PINKER, Steven. O novo iluminismo: em defesa da razão, da ciência e do humanismo. Tradução de Laura Teixeira Mota e Pedro Maia Soares. - 1a ed.- São Paulo: Companhia das Letras, 2018.

RAWLS, J. Uma teoria da justiça. 3. ed. São Paulo: Martins Fontes, 2008.

SCHWAB, Klaus. A quarta revolução industrial. São Paulo: Edipro, 2018.

SOARES, Marcelo Negri; MEDINA, Valéria Julião Silva. Os impactos da inteligência artificial no direito da personalidade do jurisdicionado. Revista de Direito Brasileira, Florianópolis, v. 26, n. 10, p. 277-291, mai./ago. 2020.

SUNSTEIN, Cass R. Republic: Divided Democracy in the Age of Social Media. Princeton: Princeton University Press, 2017.

Downloads

Publicado

2024-12-11

Como Citar

Juliana Vogel, S. (2024). INTELIGÊNCIA ARTIFICIAL CENTRADA EM PESSOAS: PROTEÇÃO DE DADOS E DIREITOS FUNDAMENTAIS NO CENÁRIO GLOBAL. Revista Acadêmica Escola Superior Do Ministério Público Do Ceará, 16(2), 335–350. https://doi.org/10.54275/raesmpce.v16i2.415

Edição

v. 16 n. 2 (2024): Revista Acadêmica Esola Superior do Ministério Público do Ceará

Seção

Artigos Externos Nacionais e Internacionais

Licença

DECLARO, que o artigo a ser publicado é de minha autoria, inédito e produzido dentro das normas específicas (técnicas e éticas) de produção científica. Dessa forma, assumo toda a responsabilidade por seu conteúdo, isentando os organizadores e a própria Escola Superior do Ministério Público do Estado do Ceará – ESMP/CE, de qualquer responsabilidade por plágio ou outras práticas ilícitas.

DECLARO, outrossim, estar ciente de que:

1. A Escola Superior do Ministério Público do Estado do Ceará – ESMP/CE está habilitada a utilizar o trabalho de minha autoria em todos e quaisquer meios de divulgação, bem como em quantas reimpressões forem necessárias;

2. Por meio deste documento, autorizo a Escola Superior do Ministério Público do Estado do Ceará – ESMP/CE, a incluir meu nome, como Colaborador(a)/Articulista, em quaisquer eventuais atividades de lançamento, publicidade, divulgação, promoção e comercialização da obra em questão;

3. Autorizo a publicação e/ou a distribuição em meio impresso ou eletrônico, e a Escola Superior do Ministério Público do Estado do Ceará – ESMP/CE é encarregada de publicá-la, em quaisquer dos meios;

4. Resguardo o direito da Escola Superior do Ministério Público do Estado do Ceará – ESMP/CE e a exonero de todas as reclamações e despesas (incluindo custos e despesas legais) causadas por qualquer ruptura desta e de outras garantias.

DECLARO, para todos os fins, serem verdadeiras as informações por mim prestadas neste documento.