Menu
Perspectives #11 banner
Perspectives #11 banner

Ética na tecnologia: do objetivo à prática  


30 de julho de 2020


Uma responsabilidade crescente e coletiva   


Em muitos aspectos, é um sinal de progresso que as considerações éticas não sejam mais uma preocupação ocasional, mas fundamental, na maneira como fazemos negócios. A pandemia de Covid-19, as demandas crescentes por justiça social, a aceleração da transformação digital e a consequente negação de oportunidades para alguns segmentos da população colocaram a ética entre as prioridades das empresas pelo mundo como nunca antes havia se visto. Melhor ainda, as organizações estão tomando uma série de atitudes positivas como resposta, de apoio a causas sociais ao anúncio de medidas para a promoção da diversidade.

 

A maioria das lideranças de negócios reconhece que a tecnologia tem implicações éticas, mas apesar de se tornar cada vez mais central para o que as empresas fazem, nem sempre é evidente como usar a tecnologia de maneira ética. “As pessoas tecnologistas, por muito tempo, trabalharam com uma mentalidade utópica”, afirma Rebecca Parsons, diretora de tecnologia da ThoughtWorks. “Supõe-se que a tecnologia pode resolver os problemas do mundo e que não há tecnologia ruim, mas que algumas vezes ela é usada de maneira ruim.”

 

A verdade é que, para produzir resultados éticos positivos e minimizar os riscos, a tecnologia tem que ser administrada e monitorada tão ativamente quanto qualquer outro aspecto do negócio – talvez até mais. Esta edição da Perspectives vai explorar as estratégias e modelos específicos que podem proporcionar às empresas de tecnologia bases éticas mais sólidas.

Por que devemos nos importar

Com muitas empresas ainda em modo de sobrevivência, é fácil concluir que a ética na tecnologia não precisa ser uma prioridade, ou pode ser agrupada com outros aspectos “triviais” da responsabilidade social corporativa. Mas há muitas razões pelas quais a ética se tornou crítica para os negócios, e ela pode ter um impacto enorme na capacidade de uma empresa de gerar valor no futuro.

 

Primeiramente, o significado de “tecnologia” no contexto empresarial mudou radicalmente. Algumas décadas atrás, quando era limitada a sistemas de folha de pagamento e afins, “ou funcionava bem ou não funcionava”, diz Parsons. “Havia muito pouco que poderia dar errado sob um ponto de vista ético. Se o software estivesse funcionando adequadamente e não houvesse nenhuma fraude envolvida, então não havia nenhuma implicação ética. Era mais fácil saber se algo estava funcionando como deveria.”

 

Compare isso com os dias de hoje, em que a tecnologia está incorporada a áreas sensíveis, como assistência à saúde, justiça criminal e acesso a serviços financeiros. “Todas essas são áreas em que o impacto ético de fazer algo errado é bem maior”, diz Parsons. “Em alguns casos, é até difícil definir o que é a resposta correta.”

 

Em segundo lugar, o processo de conscientização e sensibilização de clientes a questões éticas é inquestionável em qualquer época – e muitas pessoas estão dispostas a condicionar suas carteiras à postura ética de uma empresa. Uma pesquisa recente nos EUA, por exemplo, revelou que uma maioria significativa (68%) do público consumidor vê a sustentabilidade como sendo muito importante quando fazem uma compra, e 49% pagariam mais por produtos sustentáveis


Lapsos éticos movidos pela tecnologia, como o sistema de pontuação de crédito da Apple supostamente tomando decisões sexistas, ou vieses raciais não-intencionais em um algoritmo usado pela provedora de seguro de saúde UnitedHealth, podem rapidamente entrar em uma espiral de escândalos, prejudicando relações com clientes e entidades reguladoras, e pressionando a margem inferior. Revelações recentes da Microsoft e do Google para grupos investidores advertiram sobre o potencial estrago que uma Inteligência Artificial “ruim” pode causar em suas respectivas marcas.

Laura Paterson, Principal Consultant, ThoughtWorks
Há evidências sólidas para justificar por que as empresas devem fazer a coisa certa para além do fator de risco. Há benefícios tangíveis em se ter uma abordagem ética da tecnologia e ser um negócio orientado por propósito.”


Laura Paterson

Principal Consultant, ThoughtWorks

Há evidências sólidas para justificar por que as empresas devem fazer a coisa certa para além do fator de risco,” afirma Laura Paterson, Principal Consultant na ThoughtWorks. “Há benefícios tangíveis em se ter uma abordagem ética da tecnologia e ser um negócio orientado por propósito.”


Uma consideração importante é que a maneira como uma empresa usa a tecnologia tem um efeito direto em sua capacidade de atrair e reter futuros talentos. Pesquisas mostram que os talentos millennials e da geração Z almejam trabalhar para empresas éticas e estão altamente preocupados sobre as consequências da adoção de tecnologias como Inteligência Artificial em suas organizações. Um estudo feito pelo Doteveryone, uma referência de tecnologia responsável para pessoas que trabalham em tecnologia no Reino Unido, constatou que 28% viram ser tomadas decisões de tecnologia, as quais acreditam potencialmente ter consequências éticas negativas; e que 18% acabaram deixando suas organizações em razão disso.

Proporção de profissionais de tecnologia que experimentaram decisões que podem levar a consequências negativas para as pessoas e a sociedade



Fonte: Doteveryone

Para empresas que não conseguem lidar com as ramificações éticas da tecnologia, “se você olhar para os movimentos sociais, o zeitgeist do momento, não há apenas um grande risco reputacional externamente, mas há um enorme risco internamente com as pessoas que trabalham na empresa”, observa Chad Wathington, Chief Strategy Officer na ThoughtWorks. “Em empresas de tecnologia, estamos vendo uma onda de ativismo na força de trabalho. Profissionais estão conscientes do poder dos interesses corporativos nas democracias modernas e estão a postos para se organizar e influenciar as empresas a se posicionarem ética e politicamente.”

Pontos cegos comuns


Qualquer aplicação de tecnologia pode ter efeitos éticos, mas há duas áreas-chave em que essas implicações podem especialmente ser mais significativas e diretas, merecendo, assim mais atenção: Inteligência Artificial e uso de dados de clientes. Ambas estão sendo adotadas massivamente pelas empresas e estão tendo um papel importante em decisões e estratégias que antes eram de domínio exclusivo dos seres humanos.

 

A consciência do viés da IA como um problema – sistemas tomando decisões questionáveis por causa de bases de dados ruins ou suposições introduzidas, consciente ou inconscientemente, pelas pessoas que os projetaram – está crescendo à medida que as ferramentas assumem cada vez mais funções de negócios. Uma pesquisa recente entre pessoas tomadoras de decisões em TI constatou que uma proporção extremamente alta – 94% nos EUA e 86% no Reino Unido – estava planejando aumentar o investimento em medidas de prevenção contra vieses em IA no próximo ano. 


Contudo, muitos dos esforços das organizações para lidar com o problema estão no início ou mal direcionados – e complicados pelo fato de que os vieses na IA são, em muitos aspectos, inimigos invisíveis, propensos a cavar seus caminhos nos sistemas construídos com as melhores intenções. As pessoas que desenvolveram o algoritmo da UnitedHealth, por exemplo, tentaram eliminar os vieses ao não incluir dados de raça em seus modelos, mas efetivamente os introduziram por uma “porta dos fundos”, ao segmentar pacientes com base em seus custos com saúde, que variavam de acordo com seu grupo étnico. 


É difícil para as empresas serem vigilantes, mas uma forma de conscientização sobre os riscos éticos é olhar para artistas que criticam a tecnologia, como a britânica Karen Palmer. O trabalho de Karen de lidar com vieses sistêmicos e de IA, incubado e desenvolvido pela ThoughtWorks Arts, foi exibido no Cooper Hewitt Smithsonian Design Museum e na revista Wired, e será destaque em um aplicativo de Realidade Aumentada que mostra artistas de vanguarda lidando com os impactos de novas tecnologias.

Rebecca Parsons, Chief Technology Officer, ThoughtWorks
Quando falamos sobre aprendizado por reforço, o ponto principal é detectar os padrões que existiam nos dados no passado. E se esses dados vierem de um sistema de alguma forma enviesado, esse viés não será apenas manifestado nos padrões que surgirem, mas também reforçará esses padrões.”


Rebecca Parsons

Chief Technology Officer, ThoughtWorks

Um outro exemplo do que pode dar errado: Parsons cita o caso de um hospital de pesquisa que usou a IA para decidir se pacientes deveriam passar por internação no CTI depois de um procedimento específico, e só perceberam mais tarde que os protocolos-padrão possuíam conjuntos de dados incompletos que não consideravam quadros asmáticos. Omissões ou distorções aparentemente pequenas como essas podem ser muito perigosas, porque são amplificadas à medida que o sistema funciona.

 

Quando falamos sobre aprendizado por reforço, o ponto principal é detectar os padrões que existiam nos dados no passado”, ela explica. “E se esses dados vierem de um sistema de alguma forma enviesado, esse viés não será apenas manifestado nos padrões que surgirem, mas também reforçará esses padrões.”

 

À medida que os dados se tornam a nova força vital dos negócios, as mudanças nas expectativas de clientes e nas regulamentações como a Lei Geral de Proteção de Dados da União Europeia (GDPR) tornou as empresas mais conscientes de como elas coletam, usam e retêm informação – algo positivo, já que clientes têm mostrado disposição para agir contra empresas que não levam a sério as políticas de dados.

O segmento das pessoas atuantes em relação à privacidade



Fonte: Cisco.com

Contudo, “ainda temos um longo caminho para percorrer”, diz Wathington. “A maneira como coletamos quantidades massivas de dados sobre as pessoas, online e em todos os seus dispositivos, para criar perfis não diminuiu muito. Mesmo havendo esforços para dificultar o rastreamento, é como uma corrida armamentista, e os meios de monitoramento estão ficando cada vez mais sofisticados.”

 

A realidade é que há, muitas vezes, um imperativo comercial para implantar a tecnologia de maneira antiética. Incorporar design comportamental ou mensagens subliminares para “fisgar” clientes em um jogo ou aplicativo pode, por exemplo, ser a coisa “certa” a se fazer na busca por lucro ou valor para acionistas. “Ao definir a receita como sua medida de sucesso, é nisso que você se concentrará”, diz Paterson. “E enquanto isso for visto como o indicador de sucesso da sociedade – e dos grupos investidores – será difícil para as organizações escapar dessa mentalidade.

Laura Paterson, Principal Consultant, ThoughtWorks
Ao definir a receita como sua medida de sucesso, é nisso que você se concentrará. E enquanto isso for visto como o indicador de sucesso da sociedade – e dos grupos investidores – será difícil para as organizações escapar dessa mentalidade.”


Laura Paterson

Principal Consultant, ThoughtWorks

Dito isso, as percepções estão mudando e organizações progressistas estão cada vez mais buscando medir valor de outras formas. “Há um mito de que corporações precisam se preocupar apenas com valor para acionistas, que era uma teoria promovida por Milton Friedman e economistas da Escola de Chicago”, observa Wathington. “Mesmo assim, se você analisar as leis acerca de incorporação, a maioria delas permite balancear preocupações e diferentes partes interessadas – acionistas, profissionais, as comunidades locais em que a empresa opera, clientes e concorrentes. É de seu interesse também pensar sobre todos os outros pontos de contato.”

 

No fim das contas, afirma Parsons, todo negócio tem que lidar individualmente com essas questões – “É melhor lucrar mais ou prezar pela ética? E até que ponto? Você abriria mão de parte do seu lucro para aumentar o nível de ética no seu negócio? Qual é o ponto de equilíbrio? Não há necessariamente uma resposta certa que se aplique em todos os lugares e situações, por isso é importante que toda organização tenha essa discussão – para definir qual é sua posição, o que será ou não será feito e onde traçar a linha.

Os elementos da ética na tecnologia

A complexidade e amplitude das considerações que a maioria das empresas enfrenta ao praticar tecnologia significa que a ética deve ser um foco organizacional consistente, em vez de uma iniciativa pontual ou lista de princípios publicada em um mural. Uma abordagem abrangente envolve ações em várias frentes, desde o desenvolvimento do produto até a maneira como líderes interagem com suas equipes.

Os elementos da ética na tecnologia


Fonte: ThoughtWorks

Diversidade (certifique-se de que existam vários pontos de vista na sala)


As questões ou implicações éticas dos produtos que uma empresa cria só podem ser totalmente analisadas quando são examinadas por diferentes pontos de vista – e isso requer a participação de vários times.

 

É muito difícil que as pessoas pensem e visualizem um problema da perspectiva de outra pessoa”, diz Parsons. “Nós tentamos o nosso melhor – na verdade, é um dos princípios em nosso próprio manifesto de transformação social, tentar ver o mundo pelos olhos das pessoas oprimidas – mas nem sempre temos êxito. É muito mais fácil se você tem alguém na sala que pode representar essa perspectiva, porque é uma experiência própria.

 

Idealmente, a diversidade deve se estender para além das linhas de gênero, experiência, etnia ou orientação sexual, sendo pensada por áreas funcionais. “Você certamente precisa que pessoas do design sejam representadas porque elas são as responsáveis pela forma como clientes interagem com a tecnologia”, observa Wathington. “Mas isso vale também para pessoas de finanças, porque elas podem precisar examinar ou equilibrar as motivações pelo lucro. E gente do jurídico, compliance e segurança, para que estes processos não sejam verificados apenas no final, mas criados desde o começo com as preocupações certas em mente.”

 

A diversidade e a inclusão também precisam ser reavaliadas à medida que os produtos são desenvolvidos, uma vez que avanços aparentemente bem-vindos podem ter consequências negativas em relação ao acesso e acessibilidade. “Começamos com formulários de papel e fomos para o online, depois mobile e agora estamos vendo maneiras de interagir com a tecnologia que vai além disso”, afirma Paterson. “O desafio é que, à medida que você percorre o continuum, você está potencialmente perdendo sua capacidade de alcançar todas as pessoas usuárias. Se você desenvolve uma funcionalidade para a Alexa, o que isso significa para as pessoas que não conseguem ouvir ou falar? A diversidade tem que incluir essa intersecção de pessoas que têm a tecnologia e pessoas que podem ou não usá-la.”

Rebecca Parsons, Chief Technology Officer, ThoughtWorks
É muito difícil que as pessoas pensem e visualizem um problema da perspectiva de outra pessoa. Nós tentamos o nosso melhor – na verdade, é um dos princípios em nosso próprio manifesto de transformação social, tentar ver o mundo pelos olhos das pessoas oprimidas – mas nem sempre temos êxito. É muito mais fácil se você tem alguém na sala que pode representar essa perspectiva, porque é uma experiência própria.”


Rebecca Parsons

Chief Technology Officer, ThoughtWorks

Investigação (faça perguntas difíceis, sistematicamente)


Conectando-se à diversidade, como aponta Parsons, “a não ser que o grupo certo de pessoas esteja fazendo as perguntas certas, você não vai ter as respostas que refletem precisamente as implicações éticas do que você está criando – especialmente para grupos que não estão sendo representados”.

 

Para garantir que as "perguntas certas" apareçam, pode ser útil o uso de ferramentas e modelos formais para orientar os times em processos estruturados de investigação – e vários métodos têm sido projetados e ajustados justamente para este objetivo (veja o levantamento de ferramentas abaixo).

 

De acordo com Wathington, esses exercícios não devem ser vistos como um dever, mas como “parte de uma abordagem holística para o design e para a experiência de cliente” – uma boa oportunidade para sinalizar aspectos problemáticos que podem voltar para assombrar a empresa mais tarde, e para apresentar pontos e contrapontos adequados.


Ferramentas para adoção de práticas éticas



Ethical OS


O que é?

  • Conjunto de ferramentas para moldar a estratégia e os valores de uma empresa e seus produtos
  • Inclui checklist de zonas de risco/cenários futuros e instruções sobre seu uso em um contexto de workshop

Quando / como / por que usar?

  • Para se preparar para um projeto (em qualquer fase), para destacar preocupações e ilustrar cenários futuros desfavoráveis
  • Para entender melhor os riscos de produtos / soluções existentes


Consequence Scanning


O que é?

  • Conjunto completo de materiais de workshop com guias e cartões para orientação
  • Base para uma sessão estruturada para exploração de consequências esperadas / não-esperadas de um produto ou funcionalidade

Quando / como / por que usar?

  • Estágio de desenvolvimento de visão / ideação / roadmap do produto
  • Também pode ser usado como uma retrospectiva ou cada vez que uma nova funcionalidade for introduzida


Tarot Cards of Tech


O que é?

  • Deck de cartas com questões provocativas feitas para ajudar pessoas da criação a visualizar consequências éticas inesperadas
  • Pode ser usado para guiar sessões de brainstorming

Quando / como / por que usar?

  • Nos estágios iniciais da ideação do produto, para ampliar as reflexões e discussões sobre impactos
  • No processo de design, para sinalizar possíveis consequências negativas


Facets and Facets Dive


O que é?

  • Conjunto de ferramentas de visualização para a investigação de dados de IA/ML
  • Ajuda a identificar distorções no treinamento e na validação de conjuntos de dados 

Quando / como / por que usar?

  • Ao criar conjuntos de dados para treinar algoritmos de IA/ML
  • Pode também ser usado para visualizar outros conjuntos de dados 


Agile Threat Modeling


O que é?

  • Abordagem baseada em risco para desenvolvimento de software seguro
  • Une os times para pensar sobre ameaças antes que elas se materializem

Quando / como / por que usar?

  • Deve ser conduzida para cada iteração de produto 
  • O grupo de participantes deve incluir analistas de negócio, gerentes de produto e times de segurança para conscientização e variedade de perspectivas de riscos

Partes interessadas (certifique-se de que diferentes stakeholders sejam consideradas)


No fim das contas, as pessoas que criam produtos não serão capazes de responder todas as questões éticas ou considerar todos os impactos individualmente. Para qualquer inovação com consequências potencialmente drásticas para a sociedade ou para o meio ambiente, deve haver um esforço para assegurar um consenso mais amplo sobre o que está sendo criado. “Quando você começa a fazer perguntas como "o que os carros autônomos devem fazer diante do dilema de priorizar a vida quem está dirigindo ou de quem está atravessando a rua, não é mais algo que uma pessoa desenvolvedora ou um grupo de analistas em uma sala devem decidir”, diz Parsons. “São questões que a sociedade como um todo precisa começar a enfrentar e decidir qual deve ser a resposta ética correta.

 

Ao lançarem uma tecnologia, as empresas devem considerar limitações ou reações em cadeia que podem apenas se aplicar a grupos específicos, como crianças, pessoas menos favorecidas ou mais velhas. “Trata-se de entender todos os possíveis perfis de uso, como vivenciam sua jornada de cliente e usam a tecnologia para interagir com você”, diz Wathington. “Ainda existem enormes lacunas aqui. No caso de dispositivos móveis, muitas pessoas desenvolvedoras ainda pensam no iPhone primeiro porque é a plataforma móvel mais cara. Algumas empresas não ligam se o produto é mais caro de consumir ou se é uma experiência pior para quem é pobre. As empresas precisam se perguntar se estão apenas comercializando para pessoas ricas – e se isso é ok.”

 

Mostrando como as organizações podem, algumas vezes, negligenciar esse processo, Paterson dá o exemplo de ferramentas colaborativas – Zoom, G Suite e similares – que se provaram cruciais para permitir que o trabalho continuasse durante os períodos de quarentena na pandemia. Em muitas organizações, elas foram adotadas sem muito se pensar sobre os vários níveis de acessibilidade.

 

“Aumentou o abismo digital em muitos aspectos, porque ninguém realmente parou para se perguntar se as pessoas podem acessar esses serviços”, ela afirma. “Eu fiquei surpresa em descobrir que, mesmo dentro de nossa própria organização, havia algumas pessoas que não tinham banda larga, e tivemos que achar uma maneira de providenciar isso. Tínhamos pontos cegos em nosso conhecimento sobre o tipo de acesso que as pessoas têm, e também que a qualidade de acesso pode ser um problema. Talvez a conexão de alguém não seja ótima. Talvez haja cinco pessoas na casa tentando fazer videochamadas de uma vez só. É importante entender que decisões tecnológicas não vão impactar todo mundo da mesma maneira.”

Quote from Rebecca Parsons, Chief Technology Officer, ThoughtWorks
Quando você começa a fazer perguntas como "o que os carros autônomos devem fazer diante do dilema de priorizar a vida quem está dirigindo ou de quem está atravessando a rua, não é mais algo que uma pessoa desenvolvedora ou um grupo de analistas em uma sala devem decidir. Essas são questões que a sociedade como um todo precisa começar a enfrentar e decidir qual deve ser a resposta ética correta.”


Rebecca Parsons

Chief Technology Officer, ThoughtWorks

Metodologia (formalize processos éticos sempre que possível)


Embora as orientações éticas sejam difíceis de serem formalizadas, é importante que haja uma estimativa básica do que a organização aspira ser e representar, definir um norte que possa ser usado para guiar decisões de tecnologia.

 

“O primeiro passo é ser transparente sobre sua missão, e isso muito raramente se trata de tecnologia – é sempre algo mais que isso”, explica Paterson. “O próximo é definir valores para que todo mundo saiba os parâmetros dentro dos quais estão trabalhando e tomando decisões. Depois disso, é criar canais para comunicação e abri-los para a diversidade de opiniões.”

 

Uma vez que os padrões ou objetivos éticos estão definidos, podem ser formalizados e incutidos com o estabelecimento de modelos ou diretrizes para processos específicos, como os estágios iniciais de desenvolvimento de produto ou o uso e retenção de dados de clientes. Em vez de códigos de conduta rígidos – que podem ser difíceis de se impor ou até mesmo podem permitir que a liderança da empresa “lave as mãos” da responsabilidade ética ao passar o fardo para profissionais da linha de frente –, eles devem incluir “definições para pessoas desenvolvedoras que são baseadas em sua missão e princípios, mostrando como são na prática”, diz Paterson.

 

Há oportunidades que aparecem neste processo. Primeiramente, aponta Parsons, formalizar alguns aspectos da tomada de decisão ética pavimenta o caminho para usar a tecnologia a uma causa. “Uma vez que você tem definido o que é bom, muitas dessas coisas podem ser automatizadas”, ela afirma. “Há ferramentas bem estabelecidas pra monitorar coisas como roubo de dados e abordagens bem compreendidas para observar vários tipos de vulnerabilidades de código.”

 

Em segundo lugar, posiciona a empresa para avaliar as fornecedoras e parceiras de tecnologia com as quais ela escolhe trabalhar, e as mantém em padrões semelhantes. A prática do que é conhecido como processo de aquisição ético está criando círculos virtuosos, de acordo com Wathington.

 

“Isso tem múltiplas facetas para uma empresa como a nossa – seja se o software que estamos comprando está funcionando de maneira ética ou se a fornecedora em si o é”, ele afirma. “Muitas empresas estão adotando tecnologia de outros fornecedoras, então se torna um processo de mão dupla, mutuamente fortalecido. Quem compra começa a pensar sobre a ética do que está adquirindo e a empresa criando o software começa a pensar sobre a ética do que está fazendo.”

Capacidade (esforce-se para evoluir constantemente a organização e seus produtos)


Uma abordagem de tecnologia ética tem que ser aperfeiçoada pela organização como qualquer outra habilidade. É um foco que a liderança pode e deve apresentar e incentivar, mas que também deve vir da parte de baixo, já que profissionais nas linhas de frente do desenvolvimento de produto e interação com clientes finais estarão, em muitos casos, enfrentando escolhas éticas diretamente.

 

Sem uma comunicação eficaz, a ética não se tornará parte do ethos geral”, afirma Wathington. Mas o que você deve tentar fazer com a comunicação é provocar uma mudança no coração e na mente das pessoas, para que elas desenvolvam senso de propriedade sobre essa mudança. Não é sobre você, como líder, decretar uma mudança. Você quer incentivar as pessoas a inovar, para que elas continuem pensando no que elas podem fazer e realizar suas próprias contribuições.

Chad Wathington, Chief Strategy Officer, ThoughtWorks
Sem uma comunicação eficaz, a ética não se tornará parte do ethos geral. Mas o que você deve tentar fazer com a comunicação é provocar uma mudança no coração e na mente das pessoas, para que elas desenvolvam senso de propriedade sobre essa mudança. Não é sobre você, como líder, decretar uma mudança. Você quer incentivar as pessoas a inovar, para que elas continuem pensando no que elas podem fazer e realizar suas próprias contribuições.”


Chad Wathington

Chief Strategy Officer, ThoughtWorks 

Em algumas empresas, estruturas internas evitam isso. "A maioria das organizações ainda não está configurada para ter um fluxo de informações e feedback", diz Paterson. "Como uma pessoa tecnologista influenciando um sistema de uso externo que envolve alto risco, você provavelmente está na melhor posição para saber onde estão os pontos vulneráveis. Se sua opinião não está sendo solicitada ou ouvida, a empresa não sabe o que corrigir e você também não consegue apontar oportunidades." 


A respeito disso, ser um negócio ético tem mais a ver com eficácia. “Há muitos paralelos entre formas ágeis de trabalho e formas éticas de trabalho”, observa Paterson. Os mesmos loops de feedback que orientam um desenvolvimento de produto eficaz e uma melhoria gradual e regular podem ser usados para apoiar escolhas éticas melhores.

 

Para empresas procurando criar esses recursos, Wathington tem uma recomendação principal: comece pequeno, talvez com um grupo central trabalhando em um único produto, para estabelecer os mecanismos, e depois aprenda com a experiência e amplie.

 

“Uma vez que você tenha a massa crítica, você chega ao conhecimento institucional, em que você não precisa das mesmas 10-15 pessoas para liderar tudo, pois resolveu isso”, ele afirma. “Você tem as histórias, os templates e os frameworks que permitem que você lide com o que quer que seja importante em seu contexto.”

Laura Paterson, Principal Consultant, ThoughtWorks
A maioria das organizações ainda não está configurada para ter um fluxo de informações, de feedback. Como uma pessoa tecnologista influenciando um sistema de uso externo que envolve alto risco, você provavelmente está na melhor posição para saber onde estão os pontos vulneráveis. Se sua opinião não está sendo solicitada ou ouvida, a empresa não sabe o que corrigir e você também não consegue apontar oportunidades.”


Laura Paterson

Principal Consultant, ThoughtWorks


Razões para acreditar 


Manchetes recentes sobre tópicos como privacidade de dados e rastreamento de veículos e carros autônomos mostram que a tecnologia provavelmente vai continuar sendo um campo minado para a ética. No entanto, muitas vezes silenciosamente e atrás das câmeras, tendências encorajadoras estão tomando forma. Ecossistemas inteiros de estruturas e soluções estão tomando forma em torno de pontos de atenção, como IA e privacidade de dados. Mais modelos e soluções estão se tornando disponíveis para empresas que tem como objetivo tornar a ética parte do desenvolvimento de produtos e interação com clientes.

 

Talvez mais importante, pessoas tecnologistas estão cada vez mais determinadas a pesar as consequências éticas do que fazem – e corrigir o curso onde for preciso.

 

“O fato de que essas conversas estão acontecendo nos dá esperança”, diz Parsons. “Há mais pessoas dizendo: nós, como tecnologistas, temos que assumir a responsabilidade pelas escolhas que fazemos e pelos produtos que desenvolvemos. Não podemos apenas atender a pedidos. Se alguém nos pedir para construir algo que não achamos certo, temos a responsabilidade de recusar.”

Rebecca Parsons, Chief Technology Officer, ThoughtWorks
Há mais pessoas dizendo: nós, como tecnologistas, temos que assumir a responsabilidade pelas escolhas que fazemos e pelos produtos que desenvolvemos. Não podemos apenas atender a pedidos. Se alguém nos pedir para construir algo que não achamos certo, temos a responsabilidade de recusar.”


Rebecca Parsons

Chief Technology Officer, ThoughtWorks

“Há uma crescente conscientização em torno de muitas dessas questões que é realmente positiva”, concorda Wathington. “Conheço muitas pessoas tecnologistas que querem fazer melhor e que tem paixão por áreas como clima ou acessibilidade. Há um reconhecimento crescente de que precisamos lidar com essas considerações por padrão – o que é incrível, pois, há 10 anos, a maioria das empresas nem pensaria em falar sobre essas coisas.”

 

Outra razão para se ter esperança é a conscientização crescente de que o desempenho do negócio e a ética não são prioridades paralelas ou concorrentes, mas estão intimamente conectadas. Como aponta Paterson, as empresas que obtêm um progresso significativo na ética também são mais responsivas. Ao praticarem a abertura e a transparência, e priorizarem relações de longo prazo mais do que ganhos a curto prazo, elas estão mais conectadas à sua base de clientes e outras partes interessadas, e mais bem posicionadas para antecipar tendências regulatórias e de mercado. Ser um negócio ético, em outras palavras, significa estar na vanguarda.

 

“A tecnologia cria problemas complexos, que aumentam sua complexidade com cada progressão global”, afirma Paterson. “Você não pode prever exatamente o que acontecerá a seguir e também não pode definir com antecedência sua abordagem para todos esses problemas complexos. Mas se você colocar valores e princípios como prioridade, poderá começar a tomar boas decisões em diferentes circunstâncias. É uma das únicas maneiras pelas quais as organizações podem de fato se preparar para o futuro.”

Laura Paterson, Principal Consultant, ThoughtWorks
A tecnologia cria problemas complexos, que aumentam sua complexidade com cada progressão global. Você não pode prever exatamente o que acontecerá a seguir e também não pode definir com antecedência sua abordagem para todos esses problemas complexos. Mas se você colocar valores e princípios como prioridade, poderá começar a tomar boas decisões em diferentes circunstâncias. É uma das únicas maneiras pelas quais as organizações podem de fato se preparar para o futuro.” 


Laura Paterson

Principal Consultant, ThoughtWorks

Perspectives na sua

caixa de entrada

Insights de tecnologia e negócios para líderes digitais.

Inscreva-se para receber artigos, podcasts, vídeos e convites para eventos e webinars com os pontos de vista de especialistas da ThoughtWorks sobre temas relevantes.

Conheça também a Coragem, uma revista sobre negócios, cultura e tecnologia no Brasil