Enable javascript in your browser for better experience. Need to know to enable it? Go here.
Blogs Banner

[Histórias de Transformação Social] Ampliando a conscientização sobre programas discriminatórios de IA no Brasil

Com o passar dos anos, o mundo viu avanços notáveis e velozes na tecnologia, que estão impactando profundamente a sociedade. Apesar disso, continuamos lutando com questões como pobreza, violência e mudanças climáticas. Na Thoughtworks, acreditamos que tecnologistas têm um papel único ao poderem impactar positivamente a sociedade e impulsionar um futuro tecnológico mais justo.

Em nossa série Histórias de Transformação Social, compartilhamos trajetórias de Thoughtworkers de todo o mundo que usam suas habilidades e experiência para criar tecnologia que realmente afeta as pessoas e cria mudanças sociais. Essas histórias mostram que as pessoas tecnologistas estão em uma posição única para impactar o mundo e inspirar ações em outras.

Roselma Mendes Brazil Thoughtworks

Nome: Roselma

Escritório: Thoughtworks Recife

Pronomes de preferência: ela

Na Thoughtworks desde: 2014

O que te atraiu na Thoughtworks?

Minha jornada na Thoughtworks começou na Thoughtworks University (TWU) em Pune, Índia. Mais de cinco anos depois, muita coisa aconteceu. Trabalhei em um projeto de API de cobrança, em uma plataforma de aplicações "shadow IT" para a Thoughtworks e em uma estratégia de plataforma focada em infraestrutura. Hoje, estou trabalhando em uma plataforma de busca para a Thoughtworks.

Todos os dias, aprendo muito e trabalho com pessoas incríveis, dispostas a ver o mundo sob uma lente diferente, mais inclusiva e colaborativa.

Como seu trabalho impactou positivamente o mundo?

No Brasil, a maioria da população negra vive em favelas, ou em comunidades pobres, onde são desproporcionalmente alvo de sistemas de vigilância estatais. As tecnologias de reconhecimento facial são usadas para 'combater o inimigo', no entanto, geralmente o inimigo acaba sendo a população negra brasileira. Então, grupos ativistas notaram um problema: alguns dos programas de IA no Brasil tinham um banco de dados tendencioso e não confiável devido a segmentação discriminatória.

O Brasil e outros países do sul global têm muito a contribuir quando se trata de ética e tecnologia. Infelizmente, a maioria dos debates que vejo são da perspectiva norte global. O que Maíra e eu estamos tentando entender é como a Thoughtworks Brasil, localizada no sul global, pode contribuir quando se trata de tornar a tecnologia mais justa para todas as pessoas.

Temos muito trabalho a fazer no Brasil para garantir que nosso governo respeite e melhore nossa Lei Geral de Privacidade de Dados (LGPD) e aumente a participação da população no debate sobre o uso de tais tecnologias.

Recentemente, no Brasil, Maíra Araújo e eu (ambas da Thoughtworks Recife) começamos a nos envolver na campanha Construindo um futuro tecnológico justo, que incentiva Thoughtworkers a buscar, aprender e construir tecnologia que tenha um impacto positivo no mundo.

Tenho uma apresentação sobre "Como a tecnologia pode ser racista", juntamente com Gabriel Barreto (também da Thoughtworks Recife) e Silvana Bahia, da Olabi (parceira da Thoughtworks). Eu também escrevi sobre o papel das mulheres negras no tema de Ética e Tecnologia e na segurança digital.

Roselma Mendes Brazil Thoughtworks

Atualmente, como parte da campanha, estamos tendo conversas introdutórias com grupos locais para possíveis parcerias, ouvindo suas histórias e conversando sobre nossa campanha. Entendemos que muito foi feito fora de nossos muros e há pessoas trabalhando nas linhas de frente para aumentar a conscientização sobre os problemas que estamos discutindo aqui. Nesse cenário, como usamos nosso conhecimento, essas tecnologistas incríveis e lugar de privilégio para unir forças nessa luta?

Como é criar tecnologia que tem um impacto tão positivo nas pessoas?

Além do trabalho que faço, que abrange as questões discutidas aqui, também há o aspecto de que é a coisa certa a ser feita para todas as pessoas. Contribuir para um debate tão importante me faz sentir útil. Sou realmente motivada pelo fato de poder usar minhas habilidades e qualidades para fazer a diferença na vida das pessoas.

O que despertou sua curiosidade ao fazer este trabalho?

Ter um esforço conjunto com as comunidades locais para discutir o impacto que a tecnologia tem ou terá em suas vidas; especificamente no contexto brasileiro, onde 55,8% da população é autodeclarada negra (considerando pessoas negras e pardas de acordo com o Movimento Negro Brasileiro). O Brasil tem um histórico profundo de racismo em relação a pessoas negras: somos aquelas que estão no pior lado da distribuição de renda, acesso à educação, saúde, serviços de saneamento, etc. Enquanto isso, a população negra é encarcerada em uma taxa mais alta e carrega maior probabilidade de ser morta pela polícia.

É importante discutirmos o uso recente de tecnologias como as de reconhecimento facial usadas para vigilância urbana no Brasil. Muito se discutiu nos EUA sobre IA e racismo, citando alguns exemplos temos Joy Buolamwini com AJL, Safyia Noble com seu livro Algorithms of Oppression e Ruha Benjamin com o livro Race after Technology. 

Recentemente, Tarcizio Silva, um estudioso brasileiro e especialista em monitoramento e pesquisa em mídias sociais, lançou o livro "Comunidades, Algoritmos e Ativismos: olhares afrodiaspóricos", uma curadoria de artigos de vários outros estudiosos sobre o assunto.

Roselma Mendes Brazil Thoughtworks

Como as pessoas dentro e fora da Thoughtworks podem se envolver ou contribuir para este trabalho?

Como tecnologistas, estamos em uma posição privilegiada para influenciar a direção do nosso futuro com a tecnologia digital. Sugiro ler mais sobre o uso e as implicações de IA e big data. Não só questões que podem afetar você individualmente, mas também as que afetam outros grupos minorizados.

Algumas organizações que também se concentram nessas questões no Brasil e/ou na América Latina são IP.rec, data_labe, Olabi, Rede de Observatório de Segurança, Coding Rights e Lavits.

Não se contente com os explicitados benefícios de uma determinada tecnologia; investigue quais outras implicações esta pode ter em grupos vulneráveis. Quando nos dispomos a ouvir outras perspectivas além da nossa, obtemos uma compreensão muito mais profunda do mundo e como as coisas podem ser feitas de forma justa.

Sempre faça a pergunta: quem mais se beneficia com essa tecnologia?

Aviso: As afirmações e opiniões expressas neste artigo são de responsabilidade de quem o assina, e não necessariamente refletem as posições da Thoughtworks.

Atualize-se com nossos insights mais recentes