Para qualquer pessoa profundamente envolvida em tecnologia e entusiasmada com as possibilidades, pode ser fácil esquecer que, mesmo quando construído com as melhores intenções, pode haver consequências não intencionais. Tecnologistas às vezes lutam para prever esses resultados e, para a grande maioria das pessoas menos familiarizadas com a dinâmica envolvida, a tecnologia continua sendo uma "caixa preta" hermeticamente fechada. desenvolvimento e pouca visibilidade de seus impactos – mesmo quando estão entre as mais afetadas.
A tecnologia responsável como abordagem reconhece esse desequilíbrio fundamental e se esforça para tornar o processo de design e desenvolvimento mais transparente e inclusivo. Nossa determinação de promover uma força de trabalho mais diversificada internamente e construir pontes com os movimentos sociais externamente está enraizada, em parte, na tentativa de abrir a caixa preta e integrar os pontos de vista dos grupos tipicamente excluídos do processo de desenvolvimento. Essa é a única maneira de minimizar os danos e garantir que esses grupos possam aproveitar a tecnologia para atender às suas necessidades.
Envolvimentos com vozes excluídas podem lançar uma nova luz sobre as implicações da tecnologia para a cultura e a sociedade, bem como para os negócios. Testemunhamos isso em iniciativas em andamento como Migracode e Thoughtworks Arts e em uma colaboração em evolução com a Mozilla Foundation, com esta última criando um ecossistema e caminhos para aprender sobre como as populações marginalizadas veem e interagem com a tecnologia. Nossa intenção não é simplesmente mudar nossas próprias práticas, mas estimular uma avaliação de toda a indústria sobre as estruturas de poder implícitas na tecnologia e para onde a tecnologia nos leva – para melhor e para pior. Colocamos nosso propósito em ação incentivando clientes a considerar as dimensões éticas de suas transformações impulsionadas pela tecnologia e desenvolvemos o Responsible tech playbook para compartilhar e incutir as melhores práticas.
Também estamos tentando lidar com um dos legados mais perniciosos da tecnologia – a rápida proliferação de desinformação – nos unindo a organizações que o enfrentam de frente. Nossas parceiras incluem a Full Fact, uma instituição de caridade de verificação de fatos que organiza uma rede de voluntariado para combater a disseminação de informações falsas online, e a Tattle. Apoiamos a Tattle para melhorar a eficiência de arquivos pesquisáveis de conteúdo verificado por fatos para uso de pesquisadores e organizações de mídia. Nossa abordagem à tecnologia responsável continuará a evoluir, mas os objetivos permanecerão os mesmos: criar um futuro tecnológico mais justo e explorar como os princípios da tecnologia responsável podem ser estendidos para criar sociedades mais responsáveis.
"Nosso objetivo é integrar a perspectiva de tecnologia responsável não apenas nos padrões de desenvolvimento de tecnologia, mas na estratégia e na cultura de negócios, porque todos os negócios estão se tornando tecnologia em sua essência. Nosso mundo cada vez mais digital exige que as próprias empresas se tornem profissionais de tecnologia responsáveis."
Dr Rebecca Parsons
Chief Technology Officer, Thoughtworks
Questionando e abordando a dinâmica de poder da tecnologia
A criação de tecnologia requer conhecimento e recursos especializados. Isso significa que a tecnologia é muitas vezes construída por aqueles com poder, influência e meios – e projetada para se adequar a esse mesmo grupo. Ao mesmo tempo, a tecnologia tem um claro potencial para conectar e capacitar grupos tradicionalmente marginalizados ou excluídos e ajudar as pessoas a identificar e entender melhor as estruturas de poder arraigadas.
Estamos profundamente envolvidos em várias iniciativas na interseção de inovação, poder e ética com o objetivo de garantir que a tecnologia contribua para a igualdade em vez de concentrar o poder nas mãos de poucos. Uma forma de conseguir isso é abrir o processo de desenvolvimento e inovação a diferentes pontos de vista e áreas de atuação. Estamos buscando isso por meio da Thoughtworks Arts, uma iniciativa de uma década que incuba colaborações entre nossos funcionários e artistas para investigar os impactos das tecnologias emergentes na sociedade.
Ao longo do ano passado, essas colaborações produziram uma série de trabalhos interativos destacando a urgência da emergência climática global; explorar como os sistemas de Inteligência Artificial (IA) moldam e às vezes prejudicam os esforços para entender a identidade e a linguagem; e encorajando as pessoas a repensarem suas relações com privacidade e vigilância. Essas colaborações continuarão a desenvolver, surpreender e aprimorar a compreensão das maneiras pelas quais a tecnologia moldará a sociedade e a cultura no futuro.
"(Na Thoughtworks Arts) as pessoas desenvolvedores estão aprendendo sobre expressão criativa, mas também estão experimentando as implicações éticas dessas tecnologias, que não necessariamente aprendem através de seu trabalho."
Nouf Aljowaysir
Thoughtworks Arts Resident
O projeto de Nouf Aljowaysir سلف (Salaf, ancestral) explora a transmissão de visões de mundo coloniais através de gerações humanas e em conjuntos de dados contemporâneos que alimentam a IA. A equipe de desenvolvimento ilustrou como os sistemas de Visão Computacional rotulam erroneamente fotografias históricas de retratos do deserto do Oriente Médio como provavelmente contendo conteúdo militar. A obra de Aljowaysir responde usando uma IA de segmentação de imagem para apagar as figuras estereotipicamente “orientais” em retratos históricos, deixando apenas o contexto circundante, significando a erradicação da memória coletiva de seu ancestral.
O trabalho de James Coupe examina o papel que os arquivos desempenham na indexação das visões de mundo coloniais. O projeto “Birds of the British Empire” se concentra em um aviário no Reino Unido que historicamente exibia pássaros de colônias britânicas, agrupando-os e descrevendo-os com base em seu status geopolítico percebido. A equipe trabalhou com James para criar um sistema de IA de várias camadas que examina a literatura histórica para extrair descrições de pássaros, a partir do qual um novo aviário sintético de pássaros imaginários é gerado. O projeto destaca o papel que o colonialismo desempenha na forma como as tecnologias representacionais geram significado e explora o potencial dos sistemas de aprendizado de máquina para dissolver hegemonias culturais aparentemente fixas em novas configurações e novas possibilidades.
A grande maioria da tecnologia usada no Sul Global é planejada e projetada com base no contexto, necessidades e normas dos usuários finais no Norte Global, onde é criada. Isso pode levar a desalinhamentos e impactos negativos que estamos tentando abordar com organizações como a Cuadrante Sur. Juntos, estamos trabalhando em uma iniciativa coletiva de direitos digitais, o projeto Conectadxs. Conectadxs traz profissionais informais para o processo de desenvolvimento de aplicativos que essas comunidades usarão na prática. A experiência sublinhou como colaboração no design e na criação são essenciais para garantir que a inovação atenda a um segmento mais amplo da sociedade globalmente.
Os dados podem ser um dos meios mais precisos e perspicazes para destacar como o poder é distribuído e aplicado. Na Austrália, estamos trabalhando com profissionais de pesquisa e ativistas para mapear e visualizar as complexas relações e interconexões que sustentam indústrias como a de energia, fornecendo mais contexto sobre como funcionam e sobre as partes que detém o controle.
Da mesma forma, com uma organização sediada na Suíça, Women at the Table, construímos uma ferramenta, sustentada por um modelo de IA, que analisa dados para medir como os eventos internacionais se comparam aos seus números de diversidade no nível da superfície – em termos reais. O modelo permite que os organizadores vejam rapidamente quem está falando, influenciando e liderando em quais tópicos nos principais fóruns internacionais. Ao derivar significado de conjuntos de dados complexos, esses projetos fornecem a ativistas, líderes empresariais e outras partes interessadas uma inteligência que pode informar ações futuras, promover uma melhor inclusão de mulheres e outros grupos sub-representados e ir além das noções de representação para participação e influência.
Tornando a tecnologia responsável tangível
Para operacionalizar uma cultura de tecnologia responsável, uma organização deve ter um conjunto de princípios e modelos de governança definidos. Para esse fim, publicamos o playbook de tecnologia responsável em agosto de 2021. Este recurso disponível gratuitamente coleta e resume algumas das principais ferramentas, métodos e frameworks — testados com sucesso por nós e outras partes — que permitem que as organizações avaliem, prevejam e mitiguem de forma abrangente os valores éticos e riscos de projetos de tecnologia. a cultura organizacional pode garantir que as consequências não intencionais dos produtos digitais sejam minimizadas e que decisões estratégicas informadas possam ser tomadas em relação aos componentes adversários.
Em vez de regras rígidas ou códigos de prática, a ênfase do manual está em exercícios interativos e workshops que estimulam conversas abertas e atraem diversas perspectivas para sinalizar questões como viés e consequências negativas no início do processo de desenvolvimento. Juntamente com nossos pares do setor, pretendemos refinar e expandir o manual por meio de sucessivas edições, para que ele sirva como uma referência abrangente para empresas que buscam garantir que seus empreendimentos digitais sigam linhas éticas.
Embora estejamos profundamente comprometidos com esses princípios, também reconhecemos a complexidade das questões que eles levantam. Entendemos que cada organização precisará definir sua própria jornada e forma de abordar as implicações éticas, sociais e ambientais das inovações que adota. É por isso que, além de dar mais passos para incorporar princípios e práticas de tecnologia responsável em nosso próprio processo de construção de soluções tecnológicas, também estamos criando ferramentas, frameworks e ofertas específicas para ajudar clientes a navegar nessa complexidade.
Embora não esperemos mudar o mundo da noite para o dia, estamos avançando por meio de uma combinação de reflexão e defesa direcionada para desenvolver o que consideramos padrões sensatos — padrões em torno da tecnologia que esperamos que sejam integrados como melhores práticas.
Esses padrões incluem coisas como acessibilidade para pessoas com deficiência e neurodiversidades; privacidade e segurança de dados e impacto ambiental. Ao ajudar clientes a entender, visualizar e incluir essas considerações em seus planos e estratégias de tecnologia, conseguimos construir o caso de negócios para cada um e articular o valor de uma abordagem de tecnologia mais responsável. Esperamos levar esse trabalho adiante, solidificando esses padrões e criando ferramentas e técnicas que os tornem mais fáceis de adotar.
Explore os capítulos
Introdução: Sustentabilidade, solidariedade e serviços
Capítulo um: Tecnologia responsável e inovação
Capítulo dois: Além da diversidade
Capítulo três: Inclusão e justiça social
Capítulo quatro: Sustentabilidade e ação climática
Capítulo cinco: A saúde como um direito humano
Capítulo seis: Educação
Capítulo sete: Operando com integridade