Tecnologia responsável: uma consideração crítica
Construindo barreiras éticas
À medida que a tecnologia se entrelaça cada vez mais com o cotidiano, a possibilidade de danos — intencionais ou não — se torna mais grave. O debate contínuo sobre as implicações de longo alcance da inteligência artificial generativa (GenAI) é apenas um exemplo de como o foco nas possíveis consequências negativas das soluções tecnológicas, seja na forma de desinformação, emissões excessivas de carbono ou exclusão de determinados grupos, está aumentando. De acordo com nossa pesquisa sobre o que o público consumidor esperam da IA generativa, 93% dos entrevistados afirmam que empresas que não incorporam o pensamento responsável e ético correm risco de impactos prejudiciais.
As organizações devem estar preparadas para que suas práticas tecnológicas sejam examinadas com mais rigor e refletir sobre as ramificações éticas de suas escolhas tecnológicas — não apenas para as pessoas usuárias finais, mas para a sociedade como um todo.
A tecnologia responsável garante que a consideração por todos os stakeholders, bem como as barreiras em torno de privacidade, segurança e sustentabilidade, estejam firmemente integradas à abordagem tecnológica da organização.
Como liderança, devemos reconhecer que muitas vezes lutamos para antecipar com precisão as consequências de nossas escolhas tecnológicas. Em geral, os efeitos negativos da tecnologia são não intencionais — mas isso não os torna menos prejudiciais. Praticar tecnologia responsável é uma questão de ampliar nossas perspectivas e aproveitar as ferramentas e técnicas emergentes que podem apoiar as empresas em sua jornada de tecnologia responsável, desde o software seguro até o design com foco na privacidade.
Tecnologia responsável não é apenas estar ciente do que pode acontecer a partir de nossas ações bem-intencionadas. É sobre estar totalmente engajado com o presente - reavaliando constantemente quem e o que estamos protegendo e como estamos fazendo isso. É um processo contínuo, nunca um ponto final.
Tecnologia responsável não é apenas estar ciente do que pode acontecer a partir de nossas ações bem-intencionadas. É sobre estar totalmente engajado com o presente - reavaliando constantemente quem e o que estamos protegendo e como estamos fazendo isso. É um processo contínuo, nunca um ponto final.
Sinais
- Novos recursos para definir e educar sobre práticas de tecnologia responsável, como o manual de tecnologia responsável desenvolvido pela Thoughtworks e Nações Unidas, e o currículo "Social and Ethical Responsibilities of Computing" do MIT, disponível na plataforma OpenCourseWare.
Iniciativas regulatórias e políticas desenvolvidas para exigir abordagens mais cuidadosas à tecnologia, como a Ordem Executiva dos EUA sobre desenvolvimento e uso seguro, protegido e confiável de Inteligência Artificial, a Lei de Proteção de Dados Pessoais Digitais da Índia de 2023 e a proposta da União Européia para regulamentação harmonizada de IA e avaliação de impacto.
O surgimento de alianças focadas no desenvolvimento e promoção de práticas sustentáveis de tecnologia. A Green Software Foundation, que desenvolveu treinamentos e código para software e metodologias menos intensivos em carbono para calcular as emissões associadas à tecnologia, é um exemplo relevante.
O nascimento de fundo de investimento focados em organizações e soluções voltadas para a tecnologia responsável, como a Mozilla Ventures, que está direcionando US$ 35 milhões para startups que trabalham com foco em privacidade, descentralização digital e IA ética.
O aumento no número de empresas promovendo princípios e credenciais de tecnologia responsável, incluindo gigantes como IBM, PwC e Salesforce.
Tendências para monitorar
Adote
-
Identidade descentralizada (DiD), também conhecida como identidade auto-soberana, é uma arquitetura de identidade baseada em padrões abertos que utiliza IDs digitais independentes e credenciais verificáveis para transmitir dados confiáveis. Embora não seja dependente de blockchains, muitos exemplos atuais são implementados nelas, bem como em outras formas de tecnologia de registro distribuído e criptografia de chave privada/pública, com o objetivo de proteger a privacidade e garantir a segurança das interações online.
-
Controle de acesso a dados finamente granular (FGAC), incluindo modelos baseados em políticas (PBAC) e baseados em atributos (ABAC), que permitem a consideração de uma gama mais ampla de elementos contextuais na determinação de permissões de acesso, além de papéis e privilégios tradicionais.
Analise
-
Regulamentação e orientação governamental sobre o uso de IA, com o objetivo de garantir o uso responsável e as consequências dos sistemas de IA. Isso inclui monitoramento, conformidade e boas práticas.
-
Combina ferramentas e técnicas de Inteligência Artificial com as ciências comportamentais e da administração para aprimorar e amplificar a tomada de decisão de indivíduos e tomadores de decisão diante de uma ampla gama de problemas complexos, abrangendo desde o planejamento de cenários até a pesquisa operacional.
-
Assistentes virtuais e personagens não-jogáveis (NPCs) impulsionados por IA que recriam a interação humana dentro do metaverso.
-
O design de interfaces e avisos que ajudam a explicar as consequências ambientais das escolhas da pessoa usuária. Exemplos incluem a visualização de emissões de carbono em sites de compra de passagens aéreas ou a indicação do impacto ambiental de diferentes modalidades de transporte em aplicativos de mobilidade urbana.
-
Sistemas que monitoram métricas em sistemas distribuídos complexos e tomam ações corretivas se um problema for detectado. Eles são frequentemente usados para segurança, mas cada vez mais também para resiliência e recuperação em caso de uma interrupção.
-
Tecnologias emergentes que permitem certificar a proveniência de dados e governar seu uso em toda a organização. Isso pode ser transformador no esforço para rastrear e aprimorar o progresso em direção às metas de sustentabilidade.
Antecipe
-
São ataques que visam corromper ou explorar sistemas de aprendizado de máquina (machine learning). Os criminosos podem manipular dados de treinamento ou identificar entradas específicas que um modelo classifica mal para, deliberadamente, gerar resultados indesejados.
-
Um termo coletivo para sistemas e dispositivos capazes de reconhecer, interpretar, processar, simular e responder a emoções humanas.
-
Use of probabilistic states of photons, rather than binary ones and zeros, to run algorithms. Although proven to work in specific problem spaces, quantum computing has yet to scale to broadly useful applications. Utilização de estados probabilísticos de fótons, em vez de bits binários, para executar algoritmos. Apesar de comprovada eficiência em áreas específicas de problemas, a computação quântica ainda não atingiu o nível de escalabilidade necessário para aplicações amplas.
-
Ferramentas e técnicas que estão surgindo para que auxiliar a integração de tecnologia responsável aos processos de desenvolvimento de software, com foco principal na busca ativa pela incorporação de perspectivas sub-representadas. Alguns exemplos incluem Cartas de Tarot da Tecnologia, Varredura de Consequências e Modelagem Ágil de Ameaças.
-
Um sistema econômico fechado onde matérias-primas e produtos são constantemente compartilhados para minimizar a perda de valor. Tecnologias que permitem esse sistema incluem serviços reutilizáveis, rastreabilidade, internet das coisas e mineração de dados.
-
A maioria dos termos de serviço ou contratos de licença de usuário final é redigida em um linguajar jurídico denso e difícil de compreender para pessoas sem formação em direito. O consentimento compreensível busca reverter esse padrão, utilizando linguagem clara e descrições transparentes sobre como os dados dos clientes serão utilizados.
Adote
Analise
Antecipe
-
A Inteligência Artificial Geral (IAG) possui capacidades amplas em diversas tarefas intelectuais, sendo frequentemente comparada à inteligência humana, ao contrário da IA atual, que ainda é restrita a funções específicas, embora algumas sejam bem avançadas.
-
Uma abordagem para arquitetura de dados onde o controle dos dados pessoais reside com os indivíduos, possibilitando a concessão de acesso por finalidade específica e controlada (exemplificado pelos Pods Solid).
-
Formas de criptografia desenvolvidas em resposta a desafios tecnológicos e sociais. Exemplos incluem algoritmos de criptografia resistentes a computação quântica, computação confidencial com enclaves seguros de hardware especializado, criptografia homomórfica que permite a realização de cálculos em dados ainda criptografados e criptografia com baixo consumo de energia.
-
Algoritmos de aprendizado de máquina adaptados e executados em um processador quântico, utilizados principalmente para analisar dados clássicos (não quânticos).
Oportunidades
Ao antecipar essas tendências, as organizações podem:
Prevenir danos à reputação diante de clientes, talentos e investidores quando violações éticas provocadas pela tecnologia ganham repercussão pública. Uma tecnologia responsável mitiga danos e gera dividendos na atração e retenção de talentos e do público consumidor. Uma pesquisa recente com pessoas das gerações Millennials e Z, por exemplo, mostrou que elas priorizam empresas engajadas positivamente na comunidade e que protegem dados.
Evitar sanções e investigações regulatórias, como as enfrentadas pela Apple quando um aparente viés no algoritmo que define os limites de gastos do Apple Card, desencadeou investigações sobre o uso de IA pela empresa.
Reduzir o risco de violações ou uso indevido de dados. Casos como o roubo de dados da varejista Target e as recentes infrações da Meta às regulamentações de dados da União Européia demonstram os altos custos e duração desses incidentes.
Gerar resultados ambientais positivos. Esforços para medir e reduzir a intensidade de carbono da computação e uso da nuvem, por meio de ferramentas como o Cloud Carbon Footprint (CCF) de código aberto da Thoughtworks, abrem a porta para alinhar a tecnologia com a estratégia geral de sustentabilidade da organização e o caminho para o patamar de emissões zero.
O que fizemos:
Manual de Tecnologia Responsável em parceria com a ONU
Alinhado com a Estratégia do Secretário-Geral da ONU sobre Novas Tecnologias, o Secretariado das Nações Unidas trabalhou com a Thoughtworks para fornecer diretrizes que garantam a inclusão, a consciência de vieses, a transparência e a mitigação de consequências negativas não intencionais no exame de tecnologias emergentes, incluindo a inteligência artificial generativa (GenAI). Após uma série de entrevistas e workshops com diversas funcionárias da ONU, a equipe da Thoughtworks e da ONU desenvolveu uma estrutura e conjunto de abordagens para a criação e gerenciamento responsáveis de sistemas e produtos tecnológicos.
Recomendações práticas
O que fazer (Adote)
Considere práticas tecnológicas responsáveis como um requisito transversal. Conforme mencionado no título desta lente, a inclusão de considerações éticas é crucial para todas as organizações.
Atualize de forma contínua o planejamento e os processos tecnológicos para incorporar técnicas e exercícios que ajudem a mapear as consequências mais amplas das soluções que você implementa ou desenvolve. Por exemplo, envolva grupos sub-representados em design e testes, ou simule violações para mostrar como os dados podem ser mal utilizados. Torne essas técnicas parte de todos os processos.
Estabeleça limites e políticas claras para o uso de IA e certifique-se de que elas sejam comunicadas não apenas às pessoas tecnologistas, mas também a outras partes da organização onde mais pessoas estarão experimentando ferramentas de IA em suas funções diárias.
Adote práticas seguras de entrega de software, como uma responsabilidade coletiva o desenvolvimento seguro, produzir código limpo, transparente e de fácil manutenção, e promover testes contínuos.
Analise seus processos e ferramentas de desenvolvimento de software para identificar oportunidades de tomar decisões mais sustentáveis. Compreenda as compensações entre custos e benefícios das técnicas de engenharia de software verde.
- Seja uma pessoa que consome de forma consciente ao identificar as posições de seus parceiros e fornecedores em relação à tecnologia responsável e procure engajar ativamente com organizações que promovem e se comprometem com a utilização ética da tecnologia.
O que considerar (Analise)
Desenvolver fontes de dados confiáveis por meio da análise da procedência da informação; coletando dados, sempre que possível, de fornecedores verificados e construindo parcerias com organizações confiáveis em seu setor que regulamentam o compartilhamento e a troca de dados.
Refletir constantemente sobre as mudanças no que define tecnologia responsável. A tecnologia evolui rapidamente; as atividades problemáticas de amanhã podem nem ser possíveis com a tecnologia de hoje.
Adotar um código de ética para o desenvolvimento de software, seja criando princípios personalizados para sua organização ou baseando-se e promovendo padrões pioneiros como o Código de Engenharia de Software ACM/IEEE-CS.
- Implementar técnicas de desenvolvimento de software verde, como monitoramento de consumo de energia em tempo real para manter as emissões nos níveis mínimos viáveis, otimização de infraestrutura e algoritmos e seleção cuidadosa do local e horário da computação.
O que observar (Antecipe)
Oportunidades e ameaças em evolução decorrentes dos avanços da IA. À medida que as fronteiras do que a IA pode criar - ou manipular - se expandem rapidamente, ela promete fazer contribuições significativas a tudo, desde pesquisas de mercado até desenvolvimento de produtos. No entanto, a escala e o alcance de forças destrutivas como deepfakes e campanhas de desinformação irão acelerar. Assegure-se de que sua organização permaneça atenta e preparada para os novos dilemas que a IA apresentará, mesmo enquanto aproveita suas capacidades.
- Evolução das regulamentações. Esteja preparado para mudanças regulatórias em todas as áreas da tecnologia responsável. Sua equipe de compliance deve se manter informada sobre novos órgãos regulatórios e agências que precisam ser monitorados e, potencialmente, integrados as diversas áreas abordadas neste documento.