ThoughtWorks
  • Contacto
  • Português
  • Deutsch
  • English
  • 中文
Visión general
  • Cultura de ingeniería, mentalidad de entrega

    Adopta un enfoque moderno para el desarrollo de software y entrega valor más rápido.

    Toma de desiciones Inteligentes

    Aprovecha los resultados de tus datos para descubrir nuevas fuentes de valor

  • Modelo Operativo sin Frincción

    Mejora la habilidad de tu empresa para adaptarse al cambio

    Estrategia de Plataforma

    Crea plataformas tecnológicas que de adapten a su estrategia de negocio

  • Experience Design y Product Capabilities

    Diseña, entrega y evoluciona rápidamente productos y experiencias excepcionales

    Asociaciones

    Aprovechar nuestra red de socios confiables para ampliar los resultados que brindamos a nuestros clientes

Visión general
  • Sector Automotriz
  • Cleantech y Servicios Públicos
  • Servicios Financieros y Aseguradoras
  • Servicios Médicos
  • Medios y Publicidad
  • Organizaciones sin fines de lucro
  • Sector Público
  • E-commerce y Retail
  • Viajes y Transporte
Visión general

Destacados

  • Tecnología

    Una exploración profunda de tecnología empresarial y excelencia en ingeniería

  • Negocios

    Mantenerse actualizado con los últimos insights empresariales y de industria para líderes digitales

  • Cultura

    El espacio para encontrar contenido y tips de desarrollo profesional, y nuestra visión sobre la justicia social y la inclusión

Publicaciones Digitales y Herramientas

  • Radar Tecnológico

    Nuestra guía de tendencias tecnológicas actuales

  • Opiniones

    Una publicación para líderes digitales

  • Digital Fluency Model

    Un modelo para priorizar las capacidad digitales necesarias para navegar en la incertidumbre

  • Decoder

    Una guía tecnológica de la A a la Z para líderes de negocio

Todos los Insights

  • Artículos

    Opiniones profesionales que ayudarán al crecimiento de tu negocio

  • Blogs

    Opiniones personales de ThoughtWorkers de todo del mundo

  • Libros

    Navega a través de nuestra extensa biblioteca

  • Podcasts

    Emocionantes charlas sobre las últimas tendencias en negocios y tecnología

Visión general
  • Proceso de Aplicación

    Descubre lo que te espera durante nuestro proceso de selección

  • Graduados y cambio de carreras

    Empieza tu carrera en tecnología con el pie derecho

  • Ofertas de trabajo

    Encuentra puestos vacantes en tu región

  • Mantente conectado

    Suscríbete a nuestro boletín mensual

Visión general
  • Conferencias y eventos
  • Diversidad e Inclusión
  • Noticias
  • Código abierto
  • Nuestros líderes
  • Cambio Social
  • Português
  • Deutsch
  • English
  • 中文
ThoughtWorksMenú
  • Cerrar   ✕
  • Nuestros Servicios
  • ¿Con quién trabajamos?
  • Insights
  • Carreras
  • Acerca de Nosotros
  • Contacto
  • Regresar
  • Cerrar   ✕
  • Visión general
  • Cultura de ingeniería, mentalidad de entrega

    Adopta un enfoque moderno para el desarrollo de software y entrega valor más rápido.

  • Experience Design y Product Capabilities

    Diseña, entrega y evoluciona rápidamente productos y experiencias excepcionales

  • Modelo Operativo sin Frincción

    Mejora la habilidad de tu empresa para adaptarse al cambio

  • Toma de desiciones Inteligentes

    Aprovecha los resultados de tus datos para descubrir nuevas fuentes de valor

  • Asociaciones

    Aprovechar nuestra red de socios confiables para ampliar los resultados que brindamos a nuestros clientes

  • Estrategia de Plataforma

    Crea plataformas tecnológicas que de adapten a su estrategia de negocio

  • Regresar
  • Cerrar   ✕
  • Visión general
  • Sector Automotriz
  • Cleantech y Servicios Públicos
  • Servicios Financieros y Aseguradoras
  • Servicios Médicos
  • Medios y Publicidad
  • Organizaciones sin fines de lucro
  • Sector Público
  • E-commerce y Retail
  • Viajes y Transporte
  • Regresar
  • Cerrar   ✕
  • Visión general
  • Destacados

  • Tecnología

    Una exploración profunda de tecnología empresarial y excelencia en ingeniería

  • Negocios

    Mantenerse actualizado con los últimos insights empresariales y de industria para líderes digitales

  • Cultura

    El espacio para encontrar contenido y tips de desarrollo profesional, y nuestra visión sobre la justicia social y la inclusión

  • Publicaciones Digitales y Herramientas

  • Radar Tecnológico

    Nuestra guía de tendencias tecnológicas actuales

  • Opiniones

    Una publicación para líderes digitales

  • Digital Fluency Model

    Un modelo para priorizar las capacidad digitales necesarias para navegar en la incertidumbre

  • Decoder

    Una guía tecnológica de la A a la Z para líderes de negocio

  • Todos los Insights

  • Artículos

    Opiniones profesionales que ayudarán al crecimiento de tu negocio

  • Blogs

    Opiniones personales de ThoughtWorkers de todo del mundo

  • Libros

    Navega a través de nuestra extensa biblioteca

  • Podcasts

    Emocionantes charlas sobre las últimas tendencias en negocios y tecnología

  • Regresar
  • Cerrar   ✕
  • Visión general
  • Proceso de Aplicación

    Descubre lo que te espera durante nuestro proceso de selección

  • Graduados y cambio de carreras

    Empieza tu carrera en tecnología con el pie derecho

  • Ofertas de trabajo

    Encuentra puestos vacantes en tu región

  • Mantente conectado

    Suscríbete a nuestro boletín mensual

  • Regresar
  • Cerrar   ✕
  • Visión general
  • Conferencias y eventos
  • Diversidad e Inclusión
  • Noticias
  • Código abierto
  • Nuestros líderes
  • Cambio Social
Blogs
Selecciona un tema
Ver todos los temasCerrar
Tecnología 
Gestión de Proyectos Agiles La Nube Entrega Continua Ciencia e Ingenieria de Datos Defendiendo el Internet Libre Arquitectura Evolutiva Experiencia de Usuario IoT  Lenguajes, Herramientas y Frameworks Modernización de sistemas heredados Machine Learning & Artificial Intelligence Microservicios Plataformas Seguridad Pruebas de Software Estrategia Digital 
Negocio 
Servicios Financieros Salud Global Innovación Ventas  Transformación 
Carreras 
Hacks Para Tu Carrera Diversidad e Inclusión Cambio Social 
Blogs

Temas

Elegir tema
  • Tecnología
    Tecnología
  • Tecnología Visión General
  • Gestión de Proyectos Agiles
  • La Nube
  • Entrega Continua
  • Ciencia e Ingenieria de Datos
  • Defendiendo el Internet Libre
  • Arquitectura Evolutiva
  • Experiencia de Usuario
  • IoT
  • Lenguajes, Herramientas y Frameworks
  • Modernización de sistemas heredados
  • Machine Learning & Artificial Intelligence
  • Microservicios
  • Plataformas
  • Seguridad
  • Pruebas de Software
  • Estrategia Digital
  • Negocio
    Negocio
  • Negocio Visión General
  • Servicios Financieros
  • Salud Global
  • Innovación
  • Ventas
  • Transformación
  • Carreras
    Carreras
  • Carreras Visión General
  • Hacks Para Tu Carrera
  • Diversidad e Inclusión
  • Cambio Social
Hacks Para Tu CarreraCambio SocialDiversidad e InclusiónCarreras

[Stories of Social Change] Raising awareness for discriminatory AI programs in Brazil

Roselma Mendes Roselma Mendes

Published: Mar 30, 2020

Over the years, the world has seen remarkable and rapid advancements in technology which are deeply impacting society. Despite this, we continue to struggle with issues such as poverty, violence, and climate change. At ThoughtWorks, we believe that technologists have a unique role to play in how we can positively impact society and push for a more equitable tech future.

In our Stories of Social Change series, we are sharing stories from ThoughtWorkers around the world who have leveraged their skills and experience to build technology that truly impacts people and effects social change. These stories show that technologists are in a unique position to change the world and inspire action in others.

Roselma Mendes Brazil ThoughtWorks

Name: Roselma

ThoughtWorks home: Brazil

Preferred pronouns: she/her/ela

Joined ThoughtWorks: 2014

What brought you to ThoughtWorks?

My journey at ThoughtWorks began at ThoughtWorks University (TWU) in Pune, India. More than five years later, a lot has happened. I’ve worked on a billing API project, a shadow apps platform for ThoughtWorks, and a platform strategy focused on infrastructure. Today, I’m working on a search platform for ThoughtWorks.

Every day, I learn a lot and get to work with amazing people; people who are willing to view the world from a different lens, one that is more inclusive and collaborative.

How has your work made a positive impact on the world?

In Brazil, most black people live in favelas, or other poor neighborhoods, where they’re disproportionately targeted by state-run surveillance systems. Facial-recognition technologies are used to ‘fight the enemy,’ however the enemy generally ends up being black Brazilians. So activists noticed a problem: some of the AI programs in Brazil had an unreliable, biased database due to discriminatory targeting.

Brazil and other countries in the global south have a lot to contribute when it comes to ethics and technology. Unfortunately, most of the debates I see are from a global north perspective. What Maíra and I are trying to understand is how ThoughtWorks’ global south can contribute more when it comes to making tech more equitable for all. 

We have a lot of work to do in Brazil to make sure our government respects and improves our Privacy Data Law (LGPD) and increases the population participation in the debate about the use of such technologies. Recently in Brazil, Maíra Araújo and I (both ThoughtWorkers based in Recife) have started to engage with building an equitable tech future, which encourages ThoughtWorkers to pursue, learn, and build technology that makes a positive impact on the world.

I have a presentation about "How Technology Can be Racist" along with Gabriel Barreto (ThoughtWorker) and Silvana Bahia from Olabi (ThoughtWorks partner). I have also written about the role of Black women on Ethics and Technology and Digital Security.

Roselma Mendes Brazil ThoughtWorks

Currently with the campaign, we’re having introductory conversations with local groups for possible partnerships, listening to their stories, and talking about our campaign. We understand that a lot has been done outside of our walls and there are people working on the frontlines to raise awareness about the issues we are talking about here. In this scenario, how do we use our knowledge, such amazing minds, and place of privilege to join forces to this fight?

How does it feel to create technology that makes such a positive impact on people?

Aside from the work I do that impacts the issues discussed here, there’s also the aspect that it’s the right thing to do for everyone. Contributing to such an important debate makes me feel useful. I’m really motivated by the fact that I can use my skills and strengths to make a difference in peoples’ lives. 

What has sparked your curiosity while doing this work?

Having a joint effort with local communities to discuss the impact that technology has or will have on their lives; specifically in the Brazilian context, where 55,8% of the population is self-declared Black (considered Negros and Pardos according Brazilian Black Movement). Brazil has a deep history of racism in regards to Black people: we are the ones who are on the worst side of income distribution, access to education, health, sanitation services, etc. Meanwhile, Black people are incarcerated at a higher rate and are more likely to be killed by the police. 

It’s important that we discuss the recent use of technologies like facial recognition used for urban surveillance in Brazil. A lot has been discussed in the US about AI and racism, taking some examples we have Joy Buolamwini with AJL or Safyia Noble with her book Algorithms of Oppression or Ruha Benjamin with the book Race after Technology. 

Recently, Tarcizio Silva, a Brazilian scholar and specialist in monitoring and researching social media released the book, "Comunidades, Algoritmos e Ativismos: olhares afrodiaspóricos"  (Communities, Algorithms and Activism: afro diasporic views) where he curated articles from several other scholars on the subject.

Roselma Mendes Brazil ThoughtWorks

How can folks inside and outside of ThoughtWorks get involved or contribute to this work?

As technologists, we are in a privileged position to influence the direction of our future with digital technology. I would suggest to read more about the use and implications of AI and big data. Not only are they issues that can possibly affect you, but they are also ones that affect other minority groups. 

Some organizations that are also focused on these issues in Brazil and/or Latin America include, IP.rec, Data_labe, Olabi, Rede de Observatorio de Seguranca, Coding Rights, and Lavits. Don't be satisfied with the ‘positive’ explanation of a particular technology; investigate what other implications the technology may have on vulnerable groups. When we are keen to listen to other perspectives aside from our own, we get a much more profound understanding of the world and how things can be done right.

Always ask the question: who benefits most from this technology?

Free to be yourself

Learn more about inclusivity at ThoughtWorks.

Find out more
Blogs relacionados
Cambio Social

[Historias de cambio social] Creando una aplicación para empoderar a las trabajadoras domésticas

AJ Iniguez
Eduardo Meneses
Aprende más
Hacks Para Tu Carrera

[Stories of Social Change] Christin and mTomady - when success is safe babies

AJ Iniguez
Christin Westermann
Aprende más
Machine Learning & Artificial Intelligence

How artificial intelligence is transforming the criminal justice system

Stephanie Weber
Aprende más
  • Nuestros Servicios
  • ¿Con quién trabajamos?
  • Insights
  • Carreras
  • Acerca de Nosotros
  • Contacto

WeChat

×
QR code to ThoughtWorks China WeChat subscription account

Relaciones con medios de comunicación y analistas | Política de Privacidad | Modern Slavery statement ThoughtWorks| Accesibilidad | © 2021 ThoughtWorks, Inc.