Neste capítulo discutimos como garantir que riscos e implicações sociais da tecnologia sejam avaliados adequadamente e incorporar valores de privacidade, empatia, equidade e inclusão em soluções de tecnologia.
Princípios: uma abordagem consciente para mudanças impulsionadas pela tecnologia
A tecnologia responsável começa com o reconhecimento de que a tecnologia não é inerentemente neutra. As soluções não estão separadas da sociedade e não são criadas no vácuo. Elas são o resultado e, muitas vezes, servem à mesma dinâmica de poder causadora de muitas das desigualdades e tensões com as quais lutamos hoje.
Chegamos a um ponto em que, intencionalmente ou não, as tecnologias digitais estão cada vez mais politizadas. Há uma pressão crescente e justificável para que tecnologistas e empresas de tecnologia sejam responsabilizados pelos impactos daquilo que criam. Em nossa opinião, significa criar de uma forma deliberada que permita a devida consideração dos efeitos, diretos e indiretos, de cada solução. Além disso, dialogar com um escopo mais amplo de stakeholders do que apenas tecnologistas.
Nós nos concentramos na construção de um futuro tecnológico equitativo, o que significa que o sistema social por trás da construção das tecnologias digitais precisa incluir vozes que foram historicamente excluídas e internalizar os efeitos sociais dessas inovações, em vez de vê-los como algo externo.
Nós nos concentramos na construção de um futuro tecnológico equitativo, o que significa que o sistema social por trás da construção das tecnologias digitais precisa incluir vozes que foram historicamente excluídas e internalizar os efeitos sociais dessas inovações, em vez de vê-los como algo externo.
Formar equipes inclusivas nos permite trazer diferentes perspectivas para tudo que criamos, além de pensar criticamente sobre as implicações econômicas e sociais. Essa diversidade de pontos de vista é fundamental para a capacidade de inovar e criar uma tecnologia que apoie, e não prejudique, a transformação positiva da sociedade.
A tecnologia responsável não é apenas sobre soluções e produtos criados pelas empresas. A questão se estende a como os negócios gerenciam e protegem dados e bens tecnológicos - seus próprios e de seus clientes. Nós trabalhamos em estreita colaboração com clientes e organizações parceiras para reforçar a resistência de sua infraestrutura contra violações de privacidade e segurança, assim como a novas ameaças e implicações negativas emergentes das fronteiras em expansão da tecnologia hostil. O objetivo é tornar a segurança e a ética não apenas uma resposta, mas um princípio evidente em tudo o que a empresa faz.
A segurança e a ética estão incorporadas na matriz de materialidade do Sustainability Accounting Standards Board (SASB) para software e serviços de TI, que nos fornece recomendações para padrões específicos da indústria e metas de sustentabilidade. A Thoughtworks, há muito tempo, está focada em incorporar esses padrões em suas operações e na base de clientes, além de trabalhar para medi-los e relatá-los.
O compromisso com uma tecnologia responsável e equitativa é a base das nossas conversas com clientes, da nossa estratégia global e dos projetos dos quais participamos em todo o mundo. Também garante que, junto a nossas parcerias, estejamos contribuindo para o Objetivo do Desenvolvimento Sustentável da ONU (9) de criar infraestrutura e inovações que não são apenas funcionais e eficazes, mas inclusivas e sustentáveis.
A tecnologia está nos impactando de maneiras que têm a capacidade de transformar nossas vidas, tanto positiva quanto negativamente. Como tecnologistas, temos a responsabilidade de considerar cada parte interessada, mesmo aquelas que ficam invisíveis, quando desenvolvemos soluções de tecnologia.
A tecnologia está nos impactando de maneiras que têm a capacidade de transformar nossas vidas, tanto positiva quanto negativamente. Como tecnologistas, temos a responsabilidade de considerar cada parte interessada, mesmo aquelas que ficam invisíveis, quando desenvolvemos soluções de tecnologia.
Na prática
Trabalhamos em projetos de tecnologia responsável que incidem em tudo, desde a privacidade de dados até a exploração das fronteiras compartilhadas entre a tecnologia e a arte, e desde o viés da IA à análise da crescente influência da tecnologia hostil. Os exemplos a seguir foram selecionados para mostrar um pouco dessa amplitude.
Aumentar a conscientização e fortalecer os direitos digitais
Os esforços para direcionar ou manipular indivíduos com base em seus dados pessoais estão, cada vez mais, difundidos. É imprescindível ampliar o acesso público a ferramentas, competências e recursos que possam garantir que esses dados não sejam acessados ou usados sem conhecimento ou consentimento. A Austrália é um mercado onde temos estado particularmente ativos nesta frente porque o regime de privacidade está passando por mudanças significativas que podem ter consequências negativas para a segurança e questões sociais.
Mantemos diálogo com o poder legislativo para impulsionar melhorias nas leis de privacidade e proteção de dados, além de apontar possíveis retrocessos. Também trabalhamos com organizações da sociedade civil, como a Digital Rights Watch, para construir consciência e capacidades no nível das comunidades de base.
Por exemplo, Thoughtworkers organizaram workshops para mostrar a jornalistas como aumentar a segurança de seus dispositivos digitais. A iniciativa foi motivada pela visão de que os direitos só podem ser protegidos quando são ativamente defendidos com base em uma compreensão mútua e na solidariedade. Uma vez que o uso de dados de maneira segura e respeitosa é visto como uma parte, cada vez mais, essencial do contrato social de qualquer empresa, os direitos digitais também se tornaram uma prioridade em nosso trabalho com clientes. Na Queensland University of Technology, trabalhamos com equipes de pesquisa na definição de como as cidades inteligentes podem usar os dados pessoais de forma orientada pelos seus direitos.
Muitas vezes a tecnologia não serve às pessoas - mas deveria servir. Estamos tentando capturar ideias sobre como usar menos dados, promovendo o conceito de austeridade de dados, de coletar apenas o necessário, não o que puder.
Muitas vezes a tecnologia não serve às pessoas - mas deveria servir. Estamos tentando capturar ideias sobre como usar menos dados, promovendo o conceito de austeridade de dados, de coletar apenas o necessário, não o que puder.
A tecnologia impacta a sociedade de inúmeras maneiras complexas, embora seu direcionamento seja frequentemente definido por um sub-grupo. É, portanto, essencial facilitar diálogos provocativos e abrangentes entre os setores da sociedade, além de permitir pesquisas exploratórias, provocantes e abrangentes em tecnologias emergentes.
Thoughtworks Arts é um laboratório de pesquisa global que incuba colaborações entre artistas, tecnologistas e especialistas em problemas e domínios. Esses projetos são multidisciplinares e investigam várias tecnologias, sendo dirigidos por artistas que vão além das fronteiras tradicionais, formando novas conexões e criando obras de arte que apontam para visões alternativas de futuro. A partir desses projetos, um novo olhar passou a ser destinado aos impactos das tecnologias emergentes na indústria, cultura e sociedade, apoiado pela experiência prática de especialistas em tecnologia da indústria.
Vários projetos recentes ilustram os resultados dessas interações. A dançarina e coreógrafa Catie Cuan dançou com um robô industrial de 5 metros como parte de uma investigação sobre o movimento humano e mecânico e as percepções de automação e robótica, um projeto apresentado no New York Times. Em “Dancedemic”, o festival a distância durante o início do verão da pandemia de covid-19 usou dispositivos biométricos para ajudar imigrantes a expressarem suas experiências de conflito e isolamento. Durante a aula inicial do Baltan Labs, outra iniciativa colaborativa, participantes pesquisaram a aplicação da técnica de deepfakes em contextos criativos como parte da narrativa algorítmica e de uma análise da confiança na mídia digital. Em "A Father’s Lullaby", a artista Rashin Fahandej usou técnicas de produção de vídeos volumétricos para ajudar pessoas anteriormente encarceradas a compartilhar histórias de separação de suas famílias de maneiras novas e envolventes.
A inovação é frequentemente vista como domínio exclusivo de tecnologistas e projetada para atender a resultados comerciais. Ainda assim, em sociedades que enfrentam riscos desproporcionais relacionados ao clima e à saúde, a necessidade mais urgente de inovação está na construção de capacidade para lidar com desastres. E são as comunidades locais que estão mais bem preparadas para liderar transformações significativas.
Os laboratórios de inovação do Disasters and Emergencies Preparedness Programme (DEPP), administrados pela Start Network e CDAC Network, são projetados para reunir pessoas de diferentes origens - de representantes de comunidades a ONGs, médicos, designers e engenheiros - para criar novos recursos para países com maior tendência a desastres. Eles adotam uma abordagem semelhante para incubadoras de empreendimentos, concentrando-se nos desafios mais graves e colaborando para soluções-piloto, com apenas as mais viáveis sendo selecionadas para financiamento.
Durante nosso trabalho no DEPP, adaptamos uma série de ferramentas-chave para o uso de laboratórios em Bangladesh, Filipinas, Quênia e Jordânia que ajudaram participantes a medir o progresso em relação aos objetivos e colocar as melhores inovações a serviço da expansão e da sustentabilidade. A forma como essas ferramentas foram modificadas e eficazmente alocadas de forma a alcançar resultados, tais como bancos de medicamentos de baixo custo e fontes de alimentos resistentes à seca, assinalam como soluções provenientes das próprias comunidades contribuem ao máximo para o aumento da resiliência da sociedade.
Resposible Tech Playbook
Hoje, muitas organizações procuram avaliar as implicações éticas de suas práticas. Mas, como a tecnologia responsável é um campo relativamente novo, muitos times podem não saber sobre como adotar ou quais princípios seguir
O Responsible Tech Playbook é uma coleção de ferramentas, práticas e frameworks para ajudar tecnologistas a construir modelos e mitigar riscos ao criar software.
Nosso objetivo é implementar essas práticas de forma estruturada em todos os nossos compromissos. Vemos isso como uma área que nos impulsiona a evoluir e a fazer perguntas cada vez mais difíceis, mas necessárias.
Relatório de impacto social: continue lendo
