Racismo algorítmico e governança global da IA

Resumo

Este artigo analisa a relação entre racismo algorítmico, inclusão digital e política

externa brasileira no contexto da governança global da Inteligência Artificial. A partir de

abordagem qualitativa, revisão bibliográfica e análise documental, examina-se como

sistemas algorítmicos podem reproduzir desigualdades raciais históricas quando

treinados com dados enviesados, sub-representativos ou produzidos em contextos sociais

assimétricos. Argumenta-se que a justiça algorítmica deve ser compreendida como

dimensão contemporânea dos direitos humanos digitais e, portanto, como tema

estratégico da diplomacia digital brasileira. O texto dialoga com contribuições de Safiya

Umoja Noble, Ruha Benjamin, Cathy O'Neil, Joy Buolamwini, Virginia Eubanks, Silvio

Almeida, Tarcízio Silva, Manuel Castells, Joseph Nye e Anne-Marie Slaughter, além de

documentos normativos da ONU, UNESCO, OCDE, Conselho da Europa, LGPD e

ANPD. Conclui-se que o Brasil pode atuar internacionalmente na defesa de uma agenda

de Inteligência Artificial centrada na dignidade humana, na não discriminação, na

diversidade cultural, na cooperação Sul-Sul e na redução das assimetrias tecnológicas

globais.

Palavras-chave: racismo algorítmico; inclusão digital; governança global da IA;

política externa brasileira; direitos humanos digitais.

Abstract

This article analyzes the relationship between algorithmic racism, digital inclusion

and Brazilian foreign policy within the context of global artificial intelligence

governance. Based on a qualitative approach, bibliographic review and documentary

analysis, it examines how algorithmic systems may reproduce historical racial

inequalities when trained on biased, underrepresentative or socially asymmetric data. It

argues that algorithmic justice should be understood as a contemporary dimension of

digital human rights and, therefore, as a strategic issue for Brazilian digital diplomacy.

The article engages with the works of Safiya Umoja Noble, Ruha Benjamin, Cathy

O'Neil, Joy Buolamwini, Virginia Eubanks, Silvio Almeida, Tarcízio Silva, Manuel

Castells, Joseph Nye and Anne-Marie Slaughter, as well as normative documents from

the ONU, UNESCO, OCDE, Council of Europe, LGPD and ANPD. It concludes that

Brazil can play an international role in advancing an artificial intelligence agenda

grounded in human dignity, non-discrimination, cultural diversity, South-South

cooperation and the reduction of global technological asymmetries.

Keywords: algorithmic racism; digital inclusion; global AI governance; Brazilian

foreign policy; digital human rights.

1. INTRODUÇÃO

A transformação digital constitui um dos fenômenos mais relevantes do século

XXI, impactando profundamente as dinâmicas econômicas, sociais, culturais e políticas

em escala global. O avanço das tecnologias de informação e comunicação, associado à

expansão da conectividade digital, à crescente capacidade de processamento de dados e

ao desenvolvimento da Inteligência Artificial (IA), tem redefinido a forma como Estados,

organizações internacionais, empresas e cidadãos interagem em um ambiente cada vez

mais interdependente.

Nesse contexto, a digitalização deixou de representar apenas um processo

tecnológico para se consolidar como elemento estratégico das relações internacionais

contemporâneas. Questões relacionadas à governança da internet, proteção de dados

pessoais, segurança cibernética, soberania digital, fluxo transfronteiriço de dados e

regulação da Inteligência Artificial passaram a integrar as agendas diplomáticas de

diversos países e organismos multilaterais. A crescente dependência de infraestruturas

digitais evidencia que o desenvolvimento tecnológico não pode ser dissociado dos

debates sobre direitos humanos, desenvolvimento sustentável e cooperação internacional.

Manuel Castells observa que a sociedade em rede reorganiza relações de poder

por meio de fluxos informacionais, conectividade e capacidade de processamento

distribuído. Joseph Nye, ao discutir poder brando e interdependência complexa, oferece

chave relevante para compreender como reputação, valores e capacidade de agenda

influenciam a posição dos Estados. Anne-Marie Slaughter, por sua vez, ressalta a

importância de redes governamentais e não governamentais na formulação de respostas

globais para problemas transnacionais. Esses referenciais permitem compreender a

diplomacia digital como campo no qual normas, infraestrutura, dados e valores

democráticos se articulam.

No plano internacional, a Organização das Nações Unidas (ONU), a Organização

das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO), a Organização

para a Cooperação e Desenvolvimento Econômico (OCDE), o Conselho da Europa e o

G20 têm desenvolvido princípios e recomendações voltados à promoção de uma

Inteligência Artificial ética, transparente e centrada no ser humano. Essas iniciativas

reconhecem que a governança da IA deve incorporar dignidade humana, não

discriminação, diversidade cultural, proteção de direitos fundamentais e redução de

assimetrias tecnológicas globais (OCDE, 2019; UNESCO, 2021; ONU, 2024).

O problema central deste artigo consiste em analisar de que modo o racismo

algorítmico e a exclusão digital devem ser incorporados à política externa brasileira no

contexto da governança global da IA. A hipótese defendida é que o Brasil, por sua

trajetória constitucional, diversidade sociocultural, tradição diplomática multilateral e

experiência regulatória em proteção de dados, possui condições para propor uma agenda

internacional de justiça algorítmica orientada pela inclusão racial, pela cooperação Sul-

Sul e pela defesa dos direitos humanos digitais.

2. EXCLUSÃO RACIAL NA SOCIEDADE DIGITAL

2.1 Desigualdade de acesso

A expansão das tecnologias digitais tem sido frequentemente associada à

democratização do conhecimento, ao fortalecimento da participação cidadã e à ampliação

de oportunidades econômicas e educacionais. Entretanto, os benefícios decorrentes da

transformação digital não são distribuídos de forma homogênea entre os diferentes grupos

sociais. Persistem desigualdades estruturais que condicionam o acesso, o uso e o

aproveitamento das tecnologias da informação, reproduzindo no ambiente digital padrões

históricos de exclusão social e racial.

No Brasil, os efeitos da desigualdade socioeconômica incidem diretamente sobre

a inclusão digital da população negra. Diferenças relacionadas à renda, escolaridade,

localização geográfica, gênero e raça continuam influenciando a forma como indivíduos

e comunidades participam do ambiente digital. Tais desigualdades refletem processos

históricos de exclusão que antecedem a era da informação, mas que encontram novas

formas de manifestação em contextos mediados por plataformas, bancos de dados e

sistemas automatizados.

2.2 Invisibilidade estatística

A exclusão digital não se limita à ausência de conectividade ou de equipamentos.

Ela também se manifesta como invisibilidade estatística. Grupos racializados podem

aparecer de forma incompleta, distorcida ou sub-representada em bases de dados

utilizadas para desenhar políticas públicas, treinar modelos preditivos, direcionar serviços

e avaliar riscos. A ausência ou baixa qualidade de dados sobre determinadas populações

compromete a precisão dos sistemas e dificulta a formulação de políticas reparatórias.

Quando bases de dados incorporam registros históricos de desigualdade, o

algoritmo tende a aprender padrões sociais que já estavam marcados por discriminação.

A promessa de neutralidade técnica, nesse contexto, torna-se insuficiente. O dado não é

uma matéria-prima pura; ele é produzido em condições sociais, institucionais e políticas

específicas. Por isso, a governança da IA precisa considerar não apenas a arquitetura

técnica dos sistemas, mas também as relações de poder que estruturam a coleta, a

classificação e o uso de informações.

2.3 Racismo estrutural e ambiente digital

Silvio Almeida define o racismo estrutural como elemento constitutivo das

relações sociais, econômicas, políticas e institucionais. Essa perspectiva é fundamental

para compreender por que tecnologias digitais podem reproduzir desigualdades mesmo

quando não foram concebidas explicitamente para discriminar. Sistemas algorítmicos

operam sobre dados oriundos de sociedades desiguais; quando esses dados são tratados

sem avaliação crítica, podem converter hierarquias históricas em decisões automatizadas

aparentemente objetivas (ALMEIDA, 2019).

O ambiente digital, portanto, não constitui espaço neutro. Plataformas de busca,

sistemas de recomendação, mecanismos de classificação de crédito, ferramentas de

reconhecimento facial e soluções de recrutamento automatizado podem reforçar

estereótipos, reduzir oportunidades e ampliar assimetrias. A literatura de Safiya Noble,

Ruha Benjamin, Cathy O'Neil, Virginia Eubanks e Tarcízio Silva demonstra que a

desigualdade pode ser codificada em artefatos tecnológicos e naturalizada por métricas

de eficiência, escala e automação (NOBLE, 2018; BENJAMIN, 2019; O'NEIL, 2016;

EUBANKS, 2018; SILVA, 2022).

2.4 Perspectivas brasileiras sobre inclusão racial na sociedade digital

A obra Eu Preto na Era Digital é mobilizada neste artigo não como relato

autobiográfico de submissão, mas como referência brasileira situada no debate sobre

cidadania digital, representatividade e inclusão racial. Sua contribuição consiste em

evidenciar que a experiência de pessoas negras na sociedade digital envolve

simultaneamente acesso, reconhecimento, visibilidade, autoestima, oportunidades e

participação nos processos de inovação. A inserção desse olhar permite aproximar a

discussão acadêmica de realidades sociais concretas, sem abandonar o rigor conceitual

necessário ao debate internacional.

A inserção de perspectivas brasileiras amplia o debate ao considerar desigualdade

racial, periferização e assimetrias educacionais, elementos que influenciam a interação

com sistemas digitais e devem integrar a governança inclusiva da IA.

2.5 Da Pele ao Pixel: uma contribuição brasileira ao debate sobre justiça

algorítmica

A expressão “Da Pele ao Pixel” é empregada neste artigo como síntese conceitual

da transposição de desigualdades historicamente inscritas nos corpos para ambientes

mediados por dados, plataformas e algoritmos. A pele, socialmente racializada, é

convertida em marcador de classificação, vigilância, exclusão ou invisibilidade quando

imagens, cadastros, perfis e rastros digitais alimentam sistemas automatizados. O pixel,

nesse sentido, não representa apenas unidade técnica de uma imagem, mas metáfora da

tradução digital de desigualdades sociais.

Da Pele ao Pixel constitui uma categoria analítica destinada a explicar a

transposição de desigualdades historicamente racializadas para infraestruturas digitais

mediadas por dados.

Ele resulta da migração de hierarquias sociais para infraestruturas digitais que

classificam pessoas, calculam riscos, distribuem oportunidades e produzem visibilidade.

A contribuição brasileira ao debate internacional reside justamente em demonstrar que

justiça algorítmica não pode ser reduzida à correção matemática de modelos; ela exige

leitura histórica, racial, institucional e diplomática das tecnologias. Ao articular pele,

dado e política externa, o conceito conecta inclusão racial, direitos humanos digitais e

governança global da IA. Propõe-se, portanto, que “Da Pele ao Pixel” seja compreendido

como categoria analítica brasileira destinada a interpretar a reprodução digital de

desigualdades raciais e a orientar agendas de justiça algorítmica, inclusão digital e

governança global da Inteligência Artificial. Sua contribuição consiste em conectar

história, tecnologia, direitos humanos e política externa em uma mesma estrutura

interpretativa.

3. RACISMO ALGORÍTMICO COMO DESAFIO INTERNACIONAL

3.1 Sistemas de reconhecimento facial e vieses raciais

Entre os exemplos mais conhecidos de racismo algorítmico encontram-se os

sistemas de reconhecimento facial. Essas tecnologias utilizam algoritmos de visão

computacional para identificar ou verificar a identidade de indivíduos com base em

características biométricas extraídas de imagens ou vídeos. Pesquisas internacionais

demonstraram que determinados sistemas apresentam índices de erro significativamente

mais elevados quando aplicados a pessoas negras, especialmente mulheres negras,

fenômeno associado à composição desigual dos conjuntos de treinamento e à baixa

diversidade nos processos de validação (BUOLAMWINI; GEBRU, 2018).

Os riscos associados a esses erros tornam-se particularmente relevantes quando

tecnologias de reconhecimento facial são utilizadas em contextos de segurança pública.

Identificações equivocadas podem resultar em abordagens indevidas, restrições de

direitos, prisões injustas e reforço de práticas discriminatórias já existentes. Por essa

razão, diversos países passaram a discutir limites regulatórios para o uso dessas

ferramentas, especialmente em ambientes de vigilância estatal e policiamento preditivo.

3.1.1 Colonialidade tecnológica e necropolítica digital

A compreensão do racismo algorítmico pode ser aprofundada a partir das

contribuições de Achille Mbembe. O autor demonstra que estruturas de poder

historicamente associadas ao colonialismo e à racialização dos corpos continuam a

produzir formas diferenciadas de exposição à vulnerabilidade. Na sociedade digital, essas

dinâmicas assumem novas configurações por meio de infraestruturas tecnológicas,

plataformas e sistemas automatizados.

A necropolítica digital manifesta-se quando sistemas algorítmicos ampliam

invisibilidades estatísticas, restringem oportunidades ou intensificam mecanismos

seletivos de vigilância sobre populações historicamente marginalizadas. O problema não

reside apenas na existência de vieses técnicos, mas na reprodução de hierarquias sociais

sedimentadas ao longo do tempo e incorporadas aos processos de coleta, classificação e

utilização de dados.

Nesse contexto, a colonialidade tecnológica refere-se à permanência de relações

assimétricas de poder na produção de conhecimento, infraestrutura computacional e

governança digital. O racismo algorítmico, portanto, não constitui mera falha operacional,

mas expressão contemporânea de estruturas históricas que atravessam a economia política

dos dados e desafiam os princípios democráticos que devem orientar a Inteligência

Artificial.

3.2 Crédito automatizado, recrutamento e discriminação econômica

A expansão da Inteligência Artificial também transformou o setor financeiro e o

mercado de trabalho. Instituições bancárias, plataformas digitais e empresas de recursos

humanos utilizam algoritmos para avaliar risco, conceder crédito, definir limites

financeiros, filtrar currículos e recomendar candidatos. Embora essas aplicações possam

aumentar eficiência operacional, elas também suscitam preocupações relacionadas à

discriminação econômica e à reprodução de desigualdades raciais.

3.3 O reconhecimento internacional do problema

A consolidação do debate sobre racismo algorítmico levou organismos

internacionais a reconhecerem a necessidade de parâmetros éticos para a IA. A UNESCO,

a ONU, a OCDE, o Conselho da Europa e instituições regionais passaram a enfatizar

equidade, diversidade, inclusão, transparência, segurança, supervisão humana e não

discriminação (UNESCO, 2021; OCDE, 2019; CONSELHO DA EUROPA, 2024).

Nesse contexto, o racismo algorítmico assume dimensão internacional, exigindo

respostas coordenadas entre Estados, organismos multilaterais, setor privado,

comunidade científica e sociedade civil. A busca por modelos globais de governança

tecnológica torna-se elemento central para a construção de uma Inteligência Artificial

alinhada a valores democráticos e aos direitos humanos universais.

4. GOVERNANÇA GLOBAL DA INTELIGÊNCIA ARTIFICIAL: PODER,

REDES E REGULAÇÃO

A governança global da IA é marcada pela disputa entre inovação, poder

econômico, segurança, direitos humanos e soberania regulatória. Grandes empresas de

tecnologia concentram infraestruturas de nuvem, modelos fundacionais, bases de dados,

capacidade computacional e cadeias de valor digital. Estados, por sua vez, buscam

preservar autonomia estratégica, proteger cidadãos e disputar influência normativa. Esse

cenário revela que a IA não é apenas tecnologia, mas infraestrutura de poder.

A Recomendação da UNESCO sobre Ética da Inteligência Artificial, adotada em

2021, constitui marco relevante por articular direitos humanos, diversidade cultural,

inclusão, gênero, proteção ambiental, avaliação de impacto e governança democrática.

Os Princípios da OCDE para IA, de 2019, influenciaram o G20 ao enfatizar crescimento

inclusivo, desenvolvimento sustentável, transparência, robustez, segurança e

responsabilização. Em 2024, o Global Digital Compact da ONU reforçou a cooperação

internacional para reduzir desigualdades digitais e orientar tecnologias emergentes por

valores públicos.

O Conselho da Europa aprovou, em 2024, convenção-quadro sobre Inteligência

Artificial, direitos humanos, democracia e Estado de Direito, demonstrando que a

regulação da IA passou a integrar o núcleo das preocupações democráticas. A União

Europeia, com o AI Act, adotou abordagem baseada em riscos, estabelecendo obrigações

proporcionais ao potencial de dano dos sistemas. Esse debate é enriquecido por Shoshana

Zuboff, ao descrever o capitalismo de vigilância como modelo baseado na captura

massiva de dados comportamentais para previsão e influência de condutas futuras. A

concentração de dados em poucas corporações amplia assimetrias informacionais e

desafia mecanismos tradicionais de controle democrático.

Complementarmente, Saskia Sassen demonstra que fluxos transnacionais de

informação, infraestrutura digital e capacidade computacional reconfiguram a circulação

global de poder. A governança da IA passa, assim, a envolver não apenas Estados, mas

também redes corporativas, plataformas digitais e atores transnacionais capazes de

influenciar normas, mercados e processos decisórios. Essas perspectivas reforçam a

necessidade de uma governança multinível orientada por direitos humanos, transparência

e responsabilidade.

Para países do Sul Global, a governança da IA envolve também assimetrias de

infraestrutura, dependência tecnológica, acesso desigual a dados, capacidade limitada de

auditoria e baixa representatividade nos espaços decisórios internacionais. O desafio não

é apenas aderir a padrões produzidos por centros de poder, mas contribuir para sua

formulação com base em experiências nacionais e regionais. Nesse ponto, o Brasil pode

atuar como articulador de uma agenda que combine inovação, inclusão, diversidade e

proteção de direitos.

A partir da perspectiva de redes de Slaughter, a governança da IA depende de

interações entre governos, autoridades reguladoras, universidades, organizações

internacionais, sociedade civil e setor privado. A diplomacia contemporânea não opera

apenas por tratados formais, mas por coalizões, recomendações, padrões técnicos, fóruns

plurissetoriais e mecanismos de cooperação. Assim, justiça algorítmica deve ser inserida

como linguagem comum em arenas multilaterais e transnacionais.

5. O PAPEL DO BRASIL NA DIPLOMACIA DIGITAL

5.1 Proteção de dados como direito fundamental

No Brasil, a crescente relevância das tecnologias digitais alcançou marco

significativo com o reconhecimento da proteção de dados pessoais como direito

fundamental por meio da Emenda Constitucional nº 115, de 2022. A constitucionalização

da proteção de dados fortalece garantias relacionadas à privacidade, autodeterminação

informativa, dignidade da pessoa humana e não discriminação. Mais do que uma questão

técnica, o tratamento de dados pessoais passou a integrar o conjunto de direitos

fundamentais indispensáveis ao exercício da cidadania na sociedade digital (BRASIL,

2022).

A Lei Geral de Proteção de Dados Pessoais (LGPD) oferece base normativa

relevante para enfrentar riscos algorítmicos ao consagrar princípios de finalidade,

adequação, necessidade, transparência, segurança, prevenção, não discriminação e

responsabilização. Embora a LGPD não seja uma lei específica de Inteligência Artificial,

seus princípios estruturam o tratamento de dados utilizado por sistemas automatizados e

podem fundamentar medidas de governança, avaliação de impacto e controle social

(BRASIL, 2018).

5.2 G20, BRICS, CPLP, União Africana e cooperação Sul-Sul

A política externa brasileira pode explorar diferentes espaços de atuação para

promover justiça algorítmica. No G20, o Brasil pode defender princípios de IA

responsável com foco em inclusão, combate à discriminação e redução de desigualdades

digitais. Nos BRICS, pode articular cooperação tecnológica, capacitação e

compartilhamento de capacidades regulatórias. Na CPLP, pode fomentar programas de

letramento digital, proteção de dados e governança de IA em língua portuguesa. Em

diálogo com a União Africana, pode construir pontes entre experiências de países

marcados por colonialidade, desigualdade racial e desafios comuns de infraestrutura.

A cooperação Sul-Sul é especialmente importante porque permite deslocar a

agenda de IA de uma lógica de mera importação de padrões para uma lógica de produção

compartilhada de soluções. Países em desenvolvimento enfrentam desafios semelhantes:

déficit de conectividade, concentração de plataformas, dependência de fornecedores

estrangeiros, baixa capacidade computacional e sub-representação em bases de dados

globais. Uma diplomacia digital inclusiva deve transformar esses desafios em pauta de

cooperação, financiamento, transferência de conhecimento e formação de capacidades.

5.3 O Brasil como defensor da inclusão digital e da justiça algorítmica

A combinação entre diversidade cultural, experiência regulatória e compromisso

constitucional com direitos fundamentais coloca o Brasil em posição relevante para

defender uma agenda internacional voltada à inclusão digital e à justiça algorítmica. A

incorporação de temas relacionados à igualdade racial, diversidade e proteção de grupos

vulnerabilizados à política externa brasileira pode contribuir para ampliar a legitimidade

das iniciativas internacionais de governança digital.

Em cenário global marcado por concentração de poder tecnológico, a promoção

da inclusão torna-se elemento estratégico para o fortalecimento da democracia e da

proteção dos direitos humanos. Dessa forma, a atuação brasileira na diplomacia digital

não deve limitar-se a aspectos técnicos ou econômicos da Inteligência Artificial. A defesa

de uma governança baseada na dignidade humana, na diversidade e na não discriminação

pode representar contribuição relevante do país para uma ordem digital internacional mais

justa, inclusiva e sustentável.

6. PROPOSTAS PARA UMA POLÍTICA EXTERNA DIGITAL INCLUSIVA

6.1 Auditorias algorítmicas, avaliação de impacto e transparência

O Brasil pode defender, em fóruns multilaterais, a adoção de auditorias

independentes e avaliações de impacto para sistemas algorítmicos de alto risco ou alto

impacto social, especialmente aqueles utilizados em segurança pública, reconhecimento

facial, recrutamento, crédito, educação, saúde e serviços governamentais. Tais

mecanismos contribuem para identificar vieses discriminatórios, documentar riscos,

estabelecer responsabilidades e fortalecer a confiança pública nas tecnologias digitais

(O'NEIL, 2016; EUBANKS, 2018; UNESCO, 2021).

A transparência algorítmica não deve ser compreendida apenas como divulgação

genérica de informações técnicas, mas como capacidade efetiva de explicar finalidades,

bases de dados utilizadas, critérios decisórios relevantes, riscos de discriminação,

medidas de mitigação e canais de contestação. Em sistemas que afetam direitos

fundamentais, a opacidade pode impedir o controle social e dificultar a reparação de

danos.

6.2 Diversidade, representatividade e qualidade dos dados

A promoção da diversidade deve ser incorporada aos processos de concepção,

desenvolvimento, treinamento, validação, implementação e monitoramento de sistemas

de IA. Sistemas treinados com bases de dados incompletas, historicamente enviesadas ou

sub-representativas tendem a produzir resultados menos justos e mais suscetíveis à

reprodução de desigualdades estruturais. Esse ponto é central para o enfrentamento do

racismo algorítmico, pois a exclusão estatística de grupos racializados compromete a

precisão dos modelos e amplia riscos de discriminação indireta.

A agenda brasileira pode defender que diversidade não seja tratada como elemento

simbólico, mas como requisito de qualidade, segurança e legitimidade dos sistemas

digitais. Isso envolve equipes técnicas plurais, participação social qualificada, bases de

dados representativas, testes de desempenho desagregados por grupos afetados e

mecanismos permanentes de monitoramento. Ao enfatizar esses elementos, o Brasil

contribui para uma governança internacional que reconheça diversidade racial, cultural,

linguística e territorial como dimensão indispensável da IA confiável.

6.3 Proteção de grupos vulnerabilizados e participação social

A política externa brasileira pode defender que a governança global da IA

incorpore mecanismos de escuta e participação de grupos diretamente afetados por

tecnologias automatizadas. Populações negras, povos indígenas, mulheres, crianças e

adolescentes, pessoas com deficiência, comunidades periféricas e grupos

economicamente vulnerabilizados devem ser considerados não apenas como destinatários

de políticas públicas, mas como sujeitos políticos capazes de influenciar a construção de

normas, salvaguardas e prioridades regulatórias.

A participação social fortalece a legitimidade das políticas de IA e reduz o risco

de que decisões técnicas sejam tomadas de forma distante das realidades sociais que

pretendem regular. Fóruns multilaterais, consultas públicas, avaliações de impacto e

estratégias nacionais de IA devem incorporar critérios de inclusão, acessibilidade,

diversidade linguística e transparência deliberativa.

6.4 Cinco eixos operacionais para a diplomacia digital brasileira

A estratégia brasileira pode ser consolidada em cinco eixos complementares: (i)

liderança normativa no G20 para promover justiça algorítmica; (ii) articulação nos

BRICS para cooperação tecnológica e capacidades em IA; (iii) atuação nos fóruns da

ONU e implementação do Global Digital Compact; (iv) cooperação com países africanos

lusófonos para inclusão digital e governança de dados; e (v) criação de observatório

internacional dedicado ao monitoramento de impactos discriminatórios de sistemas de

IA. Essa agenda reforça o papel do Brasil como ponte entre Norte e Sul Global, alinhando

desenvolvimento tecnológico, direitos humanos digitais e inclusão social.

7. JUSTIÇA ALGORÍTMICA COMO EIXO DA POLÍTICA EXTERNA

BRASILEIRA DO SÉCULO XXI

A principal contribuição do artigo consiste em deslocar o debate sobre racismo

algorítmico de uma esfera exclusivamente técnica para uma esfera político-diplomática.

Essa mudança de enquadramento é relevante porque a produção, circulação e

monetização de dados não se limitam às fronteiras nacionais: plataformas digitais,

sistemas de IA, serviços de nuvem e cadeias globais de valor tecnológico operam em

escala transnacional. Por isso, a discriminação algorítmica deve ser compreendida como

tema de direitos humanos, desenvolvimento sustentável e governança global, e não

apenas como falha de engenharia ou problema interno de conformidade empresarial.

A justiça algorítmica pode tornar-se eixo estruturante da política externa brasileira

do século XXI porque articula três dimensões: proteção de direitos fundamentais, redução

de desigualdades tecnológicas e produção de legitimidade internacional. Ao defender que

sistemas de IA sejam transparentes, auditáveis, inclusivos e compatíveis com a dignidade

humana, o Brasil pode fortalecer sua tradição diplomática de defesa do multilateralismo,

dos direitos humanos e do desenvolvimento sustentável.

No plano normativo, a LGPD, a constitucionalização da proteção de dados e a

atuação da ANPD oferecem base institucional para o diálogo com padrões internacionais

de IA responsável. No plano político, a experiência brasileira com diversidade racial e

desigualdade social permite formular abordagem própria, atenta aos riscos de exclusão.

No plano diplomático, a presença brasileira em fóruns como G20, BRICS, ONU,

UNESCO e CPLP permite projetar essa agenda em espaços de negociação relevantes.

8. CONCLUSÃO

A análise desenvolvida demonstra que o racismo algorítmico não constitui

problema exclusivamente técnico, mas expressão contemporânea de desigualdades

estruturais reproduzidas por sistemas digitais. Quando algoritmos são treinados com

dados enviesados, sub-representativos ou historicamente marcados por exclusões, podem

transformar desigualdades sociais em decisões automatizadas aparentemente neutras. Por

isso, a justiça algorítmica deve ser compreendida como dimensão dos direitos humanos

digitais e como tema estratégico da governança global da Inteligência Artificial. O Brasil

reúne condições para atuar como formulador de uma agenda internacional de justiça

algorítmica orientada pelos direitos humanos digitais, diversidade cultural e inclusão

racial, com atuação em G20, BRICS, CPLP, União Africana e Global Digital Compact.

Conclui-se que uma política externa digital inclusiva deve articular direitos

humanos, proteção de dados, cooperação Sul-Sul, diversidade e participação social. A

partir de Mbembe, o artigo demonstra que a colonialidade tecnológica e a necropolítica

digital ajudam a compreender como exclusões históricas podem ser reproduzidas por

sistemas automatizados. Com Zuboff, evidencia-se que a concentração de dados em

poucas plataformas amplia assimetrias de poder; com Sassen, observa-se que a

governança da IA ocorre em redes multiníveis que transcendem o Estado. Nesse cenário,

'Da Pele ao Pixel' é apresentada como contribuição teórica brasileira para interpretar a

transposição de desigualdades racializadas para infraestruturas digitais e orientar agendas

de justiça algorítmica, inclusão digital e governança global da Inteligência Artificial. A

justiça algorítmica pode constituir, para o século XXI, o equivalente digital da agenda

internacional de direitos humanos construída após 1948, reposicionando o Brasil como

formulador de normas voltadas à inclusão, diversidade e governança democrática da

Inteligência Artificial.

Notas acadêmicas: 1. O termo “racismo algorítmico” designa a reprodução, amplificação ou ocultação de desigualdades raciais por sistemas automatizados, ainda que sem intenção discriminatória explícita. 2. A referência a direitos humanos digitais indica a aplicação de direitos fundamentais já reconhecidos — igualdade, privacidade, liberdade, devido processo, não discriminação e dignidade — aos ambientes mediados por dados, plataformas e sistemas de IA. 3. A Recomendação da UNESCO sobre Ética da IA é útil para o artigo porque combina direitos humanos, diversidade cultural, gênero, inclusão e avaliação de impactos sociais. 4. Os Princípios da OCDE para IA foram adotados em 2019 e influenciaram o G20, fundamentando transparência, robustez, segurança, responsabilização e crescimento inclusivo. 5. No Brasil, a LGPD não é uma lei específica de IA, mas seus princípios estruturam o tratamento de dados utilizado por sistemas automatizados, inclusive quando há risco de discriminação ilícita ou abusiva.

REFERÊNCIAS

ALMEIDA, Silvio Luiz de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019.

AUTORIDADE NACIONAL DE PROTEÇÃO DE DADOS (ANPD). Guia orientativo: tratamento de dados pessoais pelo Poder Público. Brasília: ANPD, 2023.

AUTORIDADE NACIONAL DE PROTEÇÃO DE DADOS (ANPD). Resolução CD/ANPD nº 15, de 24 de abril de 2024. Aprova o Regulamento de Comunicação de Incidente de Segurança. Brasília: ANPD, 2024.

BENJAMIN, Ruha. Race after Technology: abolitionist tools for the New Jim Code. Cambridge: Polity Press, 2019.

BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988.

BRASIL. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Altera a Constituição Federal para incluir a proteção de dados pessoais entre os direitos e garantias fundamentais. Brasília, DF: Presidência da República, 2022.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018.

BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: intersectional accuracy disparities in commercial gender classification. In: PROCEEDINGS OF MACHINE LEARNING RESEARCH, 2018. Proceedings [...]. v. 81, p. 1-15, 2018.

CASTELLS, Manuel. A sociedade em rede. São Paulo: Paz e Terra, 1999.

CONSELHO DA EUROPA. Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. Strasbourg: Conselho da Europa, 2024.

CRAWFORD, Kate. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021.

EUBANKS, Virginia. Automating inequality: how high-tech tools profile, police, and punish the poor. New York: St. Martin's Press, 2018.

MBEMBE, Achille. Necropolítica. São Paulo: n-1 edições, 2018.

NOBLE, Safiya Umoja. Algorithms of Oppression: how search engines reinforce racism. New York: New York University Press, 2018.

NYE, Joseph S. Soft power: the means to success in world politics. New York: PublicAffairs, 2004.

OCDE. Recommendation of the Council on Artificial Intelligence. Paris: OCDE, 2019.

O'NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown, 2016.

ONU. Transforming our world: the 2030 Agenda for Sustainable Development. New York: United Nations, 2015.

ONU. Global Digital Compact. New York: United Nations, 2024.

RAJI, Inioluwa Deborah et al. Closing the AI accountability gap: defining an end-to- end framework for internal algorithmic auditing. In: FAT* 2020: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, Barcelona, Spain, p. 33–44, 2020.

SASSEN, Saskia. Globalization and Its Discontents. New York: The New Press, 1998.

SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Sesc São Paulo, 2022.

SLAUGHTER, Anne-Marie. A New World Order. Princeton: Princeton University Press, 2004.

UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021.

UNIÃO EUROPEIA. Regulation (EU) 2024/1689 of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Bruxelas: Official Journal of the European Union, 2024.

ZUBOFF, Shoshana. The Age of Surveillance Capitalism. New York: PublicAffairs, 2019.